Deepfake: ztráta kontroly nad vlastními slovy

Lucie Kurdiovska
May 3, 2019 · 3 min read
Image for post
Image for post

Ztráta soukromí je ve světě digitálních technologií a sociálních sítí bohužel poměrně běžným jevem, a co hůř mnozí se nad tím už ani nepozastaví. Sdílet na internetu různé více či méně důvěrné fotografie nebo videa je většinou rozhodnutím každého z nás. Co se ale stane, když za nás rozhodnou jiní? Ukradená data či nabouraný účet jsou do jisté míry pod naší ochranou. Sdílené informace se však stávají veřejnými a my nad nimi ztrácíme kontrolu. Moderní technologie navíc umožňují zasáhnout do obsahu a zásadně tak . Zkuste si představit, jak budete vysvětlovat, že nic takového jste nikdy neřekli, i když se právě díváte na video, které dokazuje opak.

Nová informační hrozba spočívá především v možnosti . K tomuto účelu je využíván vzorový vizuální materiál, umělá inteligence a zpracování dat neuronovými sítěmi. Technologie se z vzorového videa dokáže naučit, jak konkrétní obličej funguje a co jej tvoří. Označí orientační body a mapuje jejich pohyby i změny, díky čemuž dokáže téměř dokonale synchronizovat tvář a hlas. K dosažení co největší autenticity se sjednocuje obličej, mluvený projev, tělo, a dokonce i stíny na pozadí. Nástroj známý jako , by se nemusel zdát příliš nebezpečným. Například pro oblast dabingu je přímo ideální. Velice snadno se však může dostat do nepovolaných rukou a dopomoci k šíření dezinformací i poplašných zpráv.

Technologie pro záměnu tváří pomocí umělé inteligence se objevila v roce 2017. V úplných začátcích byla využívána především v oblasti pornografie, kde dala vzniknout i několika pohoršujícím videím za účelem msty či veřejného ponížení. S jednodušší technologií založenou na skenování obličeje a se můžeme setkat také v případě filtrů od aplikace Snapchat. Záměna obličejů se ovšem dostala mnohem dál než k psím filtrům a produkci pornografie. Poměrně jednoduše s ní lze totiž pozměnit například projevy světových politiků a vůdců. Což může v křehké době informačních válek zapříčinit nedozírné následky.

Image for post
Image for post
Snapchat

K největšímu rozšíření technologie záměny obličejů pravděpodobně dojde během několika následujících let. Prozatím je většina upravených videí alespoň částečně rozpoznatelná od reality. K tomuto účelu se vyvíjí také nástroje, které pomocí zjišťují konkrétní informace o vzniku videa. FakeApp je ale prozatím stále napřed. Hrozba rozšíření se bohužel často pojí s katastrofickými scénáři obnášejícími nutnost kontrolovat každé video před nahráváním na web, případně úplné informační znehodnocení audiovizuálních materiálů. Čemu tedy budeme moci věřit v době, kdy se nedá věřit ničemu? V boji proti hrozivé budoucnosti plné fakenews a zfalšovaných videí by naštěstí mohla poměrně efektivně pomoci informační a mediální gramotnost, a především .

D. Güera and E. J. Delp, “Deepfake Video Detection Using Recurrent Neural Networks,” 2018 15th IEEE International Conference on Advanced Video and Signal Based Surveillance (AVSS), Auckland, New Zealand, 2018, pp. 1–6.
doi: 10.1109/AVSS.2018.8639163

Deepfake. In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z: https://en.wikipedia.org/wiki/Deepfake

Nová zbraň informační války. ‚Deep fakes mohou napáchat obrovské škody,‘ varuje odbornice [online]. [cit. 2019–05–02]. Dostupné z: https://www.irozhlas.cz/zpravy-domov/dezinformace-fake-news-deep-fakes-petra-vejvodova_1903060633_ogo

COLDEWEY, Devin. Forget DeepFakes, Deep Video Portraits are way better (and worse). TechCrunch [online]. [cit. 2019–05–02]. Dostupné z: https://techcrunch.com/2018/06/04/forget-deepfakes-deep-video-portraits-are-way-better-and-worse/?guccounter=2&guce_referrer_us=aHR0cHM6Ly93d3cuZm9jdXMtYWdlLmN6L20tam91cm5hbC9ha3R1YWxpdHkvbm92YS1kZWVwZmFrZS12aWRlYS1qc291LWstbmVyb3plem5hbmktb2QtcmVhbGl0eV9fczI4OHgxMzc1MC5odG1s&guce_referrer_cs=kEymfXPOCNxV6WrJLIRQIw

EDTECH KISK

Educational Technology, KISK Masaryk University

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch

Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore

Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store