Vytváření a odhalování fake news s pomocí umělé inteligence

Zajímavou oblastí jsou tzv. deepfake ,což je kombinace slov “deep learning” a “fake”. Co je to vlastně deep learning? Deep learning je jedním z algoritmů strojového učení. Je to neuronová síť , která se dělí na dvě části. První transformuje data, příznaky a druhá vyhodnocuje tyto data. Je to NN invariantní vůči pootočení. Tímto způsobem dokáže rozpoznat objekty v různých polohách (když NN je naučená rozpoznat auto, tak ho rozpozná i když bude střechou dolů).

Systém deep learning je novým názvem pro hluboké neuronové sitě. Přívlastek deep dostal, protože se sestává z několikati úrovní. Každá z vrstev systému zpracovává informace, podobně jako neurony v biologickém nervovém systému. Tento systém se neřídí stanoveným postupem, ale pravidla si určuje sám na základě přejímaných dat.

Systém deep learning slouží například k rozpoznávání obrázků pomocí hlubokých neuronových sítí. Rozpoznávací systémy jsou využívány i ve fyzickém světě například při rozpoznávání reálných objektů v případě samořídících aut.

Tyto neuronové sítě dokáží obraz či video segmentovat a klasifikovat. Dokážou na obrázku, který zvětšíte dokreslit detaily např. pihy, protože vědí jak typické pihy vypadají.

Dokáží s obrázky či videem také manipulovat překrytím či kombinací obrázků nebo videí. Překrytím obličeje či celého těla jiným obličejem nebo tělem tak dojde k naprosto věrohodné záměně osob. Existující programy, které si dokážou poradit i s mimikou a gesty. Toto lze využít například k vytvoření falešných pornografických videí s celebritami. Falešná porno videa, byla zakázána stránkami včetně Reddit, Twitter a Pornhub. Tato falešná videa lze nalézt na webových stránkách pro streamování videa, jako jsou například Youtube nebo Viomeo.

Neuronová síť je nejprve vycvičena s cílovou tváří. Deformované obrazy cílové tváře jsou vedeny algoritmem a učí se, jak je opravit tak, aby se podobaly nezměněné cílové tváři. Když je algoritmus poté použit na obraz jiné osoby, předpokládá, že to jsou zkreslené snímky cílové tváře a pokouší se je opravit. Chcete-li získat video, software Deep Fake pracuje na každém snímku samostatně.

Důvodem proč jsou pro deep fakes často využívání herci, je to, že o nich máme k dispozici mnoho fotek z různých úhlů (potřebujete asi 500 obrázků pro výcvik algoritmu). Výcvik je takto úspěšnější než kdyby se cvičila na obyčejných lidech.

Pomocí techniky syntézy obrazu, lze vytvořit úplně nové lidi.

Techniky vykreslování výrazu obličeje na obličej osoby ve videu, byly představeny v roce 2016 a umožnily téměř v reálném čase padělání výrazů obličeje ve videu. Například tvář argentinského prezidenta Mauricia Macriho byla nahrazena tváří Adolfa Hitlera a tvář Angely Merkelové byla nahrazena Donaldem Trumpem. V dubnu 2018 Jordan Peele a Jonah Peretti vytvořili prohlášení s použitím postavy Baracka Obamy ve kterém Barack Obama nabádá veřejnost, aby nevěřila všemu co vidí nebo slyší na internetu.

V lednu 2018 byla spuštěna počítačová aplikace s názvem FakeApp. Aplikace umožňuje uživatelům snadno vytvářet a sdílet videa ve kterých lze vyměnit tváře. Aplikace používá umělou neuronovou síť a sílu grafického procesoru a tři až čtyři gigabajty úložného prostoru pro generování falešného videa. Pro podrobnější informace program potřebuje od osoby, která má být vložena, hodně vizuálního materiálu, aby se dozvěděl, jaké aspekty obrazu je třeba vyměnit, a to pomocí výše zmíněného algoritmu hlubokého učení založeného na video sekvencích a obrázcích.

Jak poznat deepfake? S tím jak se technologie zlepšují to bude těžší a těžší, ale tady je pár rad. Podivné tváře- pokud vše na obrázku vypadá dobře až na obličej, který je trochu voskovitý, tak se pravděpodobně jedná o deepfake. Blikající- pokud jakoby problikává původní obličej. Různá těla- když nesedí tělesné proporce (je znatelně vyšší , lehčí, tenčí, nižší nebo má tetování, které vy skutečnosti nemá nebo mu naopak chybí tetování, které ve skutečnosti má)- je tu velká šance, že je to falešné.

Krátké klipy. Dalším znakem, že se jedná o deep fake může být to, že je záznam krátký. I když software deep fake funguje dobře, umí to jen na krátkou dobu a potom se projeví jeden z výše uvedených problémů. Žádný zvůk nebo špatná synchronizace. Pokud se díváte na klip bez zvuku a není žádný důvod proč ho nemá, pravděpodobně se díváte na deepfake. Nebo pokud slova neodpovídají pohybům rtů. Neuvěřitelné klipy. Tento druh je samozřejmostí, ale pokud se vám ukáže skutečně neuvěřitelný klip, existuje velká šance, že byste tomu vlastně neměli věřit. Důvěrné zdroje. Stejně jako u článku či obrázků, pokud je video publikováno v New York Times je mnohem pravděpodobnější, že je to pravda, než když video objevíte v Redditu.

V současné době jsou deep fakes spíše menším problémem,protože jsou snadno odhalitelné. Ale vzhledem k tomu, že se technologie zlepšuje, je pravděpodobné, že budou mnohem větší problém. Například přesvědčivé falešné záběry Kim Jong-un o vyhlášení války USA by mohly způsobit velkou paniku.

Vědci jsou ovšem již připraveni se těmto případům bránit a využít umělou inteligenci, která deepfakes rozpozná. Lze kupříkladu možné zvětšit osobu ve videu natolik, že naučený program identifikuje změnu pulsu srdce dané osoby a označí ji za skutečnou. V případě, že pulsování nedetekuje, nahlásí ji jako generovanou počítačem. Odborně se vizualizace lidského pulzu nazývá magnifikace.