Generátor falešných portrétů

Lidé nemají tendenci přemýšlet o tom, jaký vliv mají neuronové sítě na náš život, protože obvykle vidíme výsledek své práce a ne "tvář" neuronové sítě. Možná proto se generátor falešných fotografií stal na konci roku 2020 hlavním tématem diskuse na několik týdnů v médiích věnovaných technologii. Ne každý dokázal odhadnout, že AI může během několika sekund vygenerovat realistickou tvář neexistující osoby. Falešné portréty vypadají velmi realisticky a je to děsivé. Pokud AI dokáže vytvořit tváře pro sebe a může textovat jako skuteční lidé, co se bude dít dál?

Generátor falešných tváří neexistujících lidí

Mluvíme o webových stránkách thispersondoesnotexist.com ("tato osoba neexistuje dot com") a budou vyprávět o historii a oblastech použití. Způsob práce generátoru bude dále vysvětlen.

Generátor AI face je poháněn neuronovou sítí StyleGAN od společnosti Nvidia vyvinutou v roce 2018. GAN se skládá ze 2 konkurenčních neuronových sítí, jedna něco generuje a druhá se snaží zjistit, zda jsou výsledky skutečné nebo generované první. Trénink končí, když první neuronová síť začne neustále klamat druhou.

Zajímavostí je, že tvorba fotografií neexistujících lidí byla vedlejším produktem: hlavním cílem bylo vycvičit AI, aby rozpoznala falešné tváře a tváře obecně. Společnost to potřebovala ke zlepšení výkonu svých grafických karet tím, že automaticky rozpoznává tváře a aplikuje na ně další vykreslovací algoritmy. Nicméně, protože

kód StyleGAN je veřejně dostupný, inženýr v Uberu ho dokázal vzít a vytvořit generátor náhodných tváří, který otřásl internetem.

O generátoru

Pro uživatele vše funguje velmi jednoduše. Jakmile jste na webových stránkách náhodné tvář je generována. Pokud chcete, můžete si obrázek stáhnout. Obnovte stránku, pokud se vám nelíbí osoba, kterou vidíte. Pokud vidíte stejnou tvář, počkejte několik sekund a stránku znovu obnovte. Webové stránky zobrazují výsledky práce generátoru (které jsou aktualizovány každé 2-3 sekundy), nikoli samotný generátor.

Jak rozpoznat obraz falešné osoby

Je téměř nemožné rozpoznat obraz falešné osoby. AI je tak rozvinutá, že 90% padělků není rozpoznáno obyčejnou osobou a 50% není rozpoznáno zkušeným fotografem. Neexistují žádné služby pro uznání. Neuronová síť občas dělá chyby, a proto se objevují artefakty: nesprávně ohnutý vzor, podivná Barva vlasů atd.

Jediné, co musíte udělat, je podívat se blíže: systémy vizuálního zpracování lidí jsou mnohem silnější než počítače, takže je možné rozpoznat padělání detekcí.

Jevin West a Carl Bergstrom vytvořili web s názvem "která tvář je skutečná", který je zaměřen na výuku lidí, aby byli více analytičtí vůči potenciálně falešným portrétům. Před návrhy, že osoba na fotografii existuje, je třeba zvážit několik věcí.

Jedním z nejběžnějších jsou symetrické problémy, zejména brýle a náušnice.

Stejné nerovnoměrné problémy se zuby jsou také docela běžné. Hledejte liché vlastnosti, jako jsou pixely a opakované řezáky. Falešné vlasy se obecně mohou zdát s nějakou záři kolem nich nebo vypadají příliš rovně a pruhované, opět s viditelnou asymetrií.

Pečlivě si prostudujte pozadí. Pokud je to falešné, může to zahrnovat neobvyklé zkreslení tvarů a linií, nebo mají celkově roztrhaný vzhled. Krvácení se vyskytuje v jasných barvách, které vyčnívají z pozadí na hlavu falešné osoby.

Další charakteristický rys NVIDIA "stylegan algoritmus" je lesklý "vodní skvrny".