Lenka Hámošová: Je potřeba zvyšovat AI gramotnost. Manipulaci se nevyhneme
Jak rozpoznat originální design ve světě AI? Lenka Hámošová, uznávaná vizuální umělkyně a výzkumnice, se zamýšlí nad současnými trendy v designu, kde umělá inteligence hraje stále větší roli. V našem rozhovoru Lenka, specializující se na syntetická média a AI v umění, diskutuje o výzvách identifikace originální práce v éře AI a nabízí perspektivu, jak se v tomto rychle se vyvíjejícím prostředí orientovat.
Lenko, co vás k práci se syntetickými médií a umělou inteligencí přivedlo?
Můj odborný základ spočívá v kritickém designu. Vždycky jsem se věnovala projektům zkoumajícím různé společenské fenomény, které vedly k tomu, že lidé byli dezorientovaní nebo nerozuměli dané problematice. Tehdy to byly především otázky týkající se vizuální komunikace a transparentnosti, jako jsou například problémy s vizuálním smogem ve městech nebo tzv. “informační bubliny” na internetu. Zabývala jsem se tím, jak neustálé online prostředí ovlivňuje naši schopnost vnímat informace vizuálně a jak se stáváme náchylnými k manipulaci.
Pak v roce 2018 přišly deepfakes, což přímo navazovalo na otázku vizuální transparentnosti. Uvědomila jsem si, že lidé budou mít problém pochopit a správně vyhodnotit, co je skutečnost a co fikce. Tato realizace mě vedla k tomu, že jsem se začala tímto tématem více zabývat a zkoumat ho hlouběji. Zjistila jsem, že se snažit o dosažení absolutní vizuální transparentnosti je beznadějný a marný úkol. Stalo se pro mě klíčové začít informovat veřejnost o existenci nástrojů pro vytváření deepfakes. Vytváření syntetického obsahu má mnohem širší záběr a právě proto je důležité tyto technologie nejenom studovat, ale také je aplikovat v praxi, aby se teoretické znalosti propojily s praktickými dovednostmi. Z tohoto důvodu jsem začala pořádat workshopy a vedle přednášek o umělé inteligenci jsem začala také navrhovat různé pomůcky, aby lidé měli lepší orientaci v tom, co je možné pomocí AI “vyfejkovat”. To byl základ mého zaměření na tuto oblast.
Když zmiňujete pomůcky, všiml jsem si, že na svých workshopech používáte speciální karty. Mohla byste popsat, jak přesně je využíváte a jak se stávají součástí celkového konceptu workshopu?
Původně byl workshop koncipován přímo kolem těchto karet, ale postupně jsem je začala využívat ve všech mých workshopech. Jejich systematické uspořádání do barevně odlišených kategorií pomáhá účastníkům lépe a rychleji pochopit možnosti AI a strojového učení. Toto uspořádání umožňuje snadno rozlišit mezi modely pro tvorbu videí, obrázků, textů a zvuku, nebo modely sloužící jako součást většího celku pro postprodukci existujícího obsahu. V posledním roce a půl přinesl vývoj směrem k multimodálním modelům, což vedlo k tomu, že tradiční kategorizace již není tak přesná. Přesto karty zůstávají cenným zdrojem informací, obsahující názvy specifických modelů a odkazy na akademické články nebo GitHub stránky, pokud jsou modely open source. Momentálně pracuji na kompletním přepracování systému karet, abych přizpůsobila celý koncept a kategorie aktuálním trendům v AI. Je to docela zábavná designová práce, protože je to celé jakousi logickou hádankou dát tomu logickou strukturu.
Jak vás ovlivnily technologie jako deepfakes, běžně vnímané jako hrozby, ve vašem profesním životě a ve vnímání světa kolem nás?
Už mě deepfakes neděsí, protože jsem si uvědomila, že boj proti nim je zbytečný. Je to znepokojující, že ani naši rodiče a možná ani moje generace nedokáží spolehlivě rozpoznat dobře provedený deepfake, nicméně, právě to je jeho účelem. Ještě před pár lety bylo možné na deepfake videích rozeznat drobné nedokonalosti — malé artefakty, které by si zkušenější uživatelé mohli všimnout, jako jsou například rozostřené pixely nebo nesrovnalosti v obraze. Nicméně, jak se technologie vyvíjí, stávají se tyto generativní AI nástroje stále realističtějšími, až je téměř nemožné je odlišit od skutečného záznamu. Proto je klíčové zvyšovat povědomí o AI a učit lidi, že i záznam může být manipulovaný. Historie ukázala, že s každou novou technologií přichází určité období zmatku a dezinformací — stejně jako když se objevila fotografie a lidé začali manipulovat s obrazy, čímž vznikaly zdánlivě nadpřirozené jevy.
V dnešní době, kdy politická scéna a smíšené dezinformační vlny ovlivňují online prostředí, se stávám stále více skeptická. U méně důležitých zpráv nezastavuji příliš dlouho, ale u klíčových informací věnuji čas důkladnému ověření. Nepřikládám důvěru pouze jednomu videu či zdroji; aktivně hledám další informace, aby se potvrdila autentičnost obsahu. Často lidé sklouznou k tomu, že označí pravdivé zprávy za “fake news” nebo “deepfake”, což je podle mého názoru větším problémem. Tento způsob myšlení mě vedl k tomu, že jsem se stala opatrnější a kritičtější k informacím, které přijímám.
Jak se podle vás změnil svět designu díky technologiím jako je umělá inteligence?
Zaznamenala jsem, že mnozí lidé skvěle využívají AI k usnadnění své práce, což je podle mě skvělé. Klíčové je ale, jak jednotlivci tyto nástroje začleňují do svých pracovních postupů. I když nejsou dokonalé, funkce jako Generative Fill ve Photoshopu nebo text-to-vector v Illustratoru mohou výrazně zefektivnit některé úkony. Když je pak spojíme s ChatGPT a dalšími textovými modely, zejména během brainstormingu, dochází k výraznému zvýšení pracovní efektivity. Pozorovala jsem, že designéři často využívají nástroj Midjourney k tvorbě vizuálů, což vyvolává otázku, jak dalece jsou tyto návrhy následně upravovány nebo zda jsou považovány za finální produkt. Spoléhat se pouze na výstupy z Midjourney mi přijde nedostatečné, protože za každým dobrým designem by měl stát dobře promyšlený kreativní proces, což je zvláště důležité v art direction procesu. Zkušení designéři pravděpodobně budou přistupovat k integraci umělé inteligence do své práce s větší opatrností, aby se vyhnuli riziku nedostatečné kvality výsledků. Naproti tomu se ukazuje, že generované vektory jsou velmi užitečné pro běžnější úkoly, jako jsou tvorba stockových obrázků nebo standardních korporátních vektorů. Pokud někdo dosud vytvářel generické vektory a nyní jsou tyto vektory generovány umělou inteligencí, problém může spočívat právě v jejich generické povaze.
Ráda bych také poukázala na nové možnosti pro UX a UI designéry, které se otevírají v souvislosti s AI a interakcemi s lidmi. Ukazuje se, že uživatelé hledají v AI jednoduchá a intuitivní rozhraní, na rozdíl od složitějších interakcí jako Discord server který využívá MidJourney nebo Google Colab Notebook pro open-source modely, které mohou být pro některé obtížné. Slyšela jsem také, že Midjourney pracuje na vývoji uživatelsky přívětivějšího rozhraní, což by mohlo změnit způsob, jakým s AI interagujeme při generování obrazů z textu. Tato změna vyvolává otázky ohledně uživatelské svobody a důležitosti transparentnosti v používání AI, aby rozhraní nebránilo interakci mezi uživatelem a AI, zároveň ale zůstalo transparentní ohledně používaných modelů, jejich tréninku a datasetů.
S nástupem umělé inteligence se mnoho tvůrců rozdělilo do dvou táborů. Někteří mají obavy ohledně budoucnosti své práce, zatímco jiní vidí umělou inteligenci jako praktický nástroj, podobně jako někdo, kdo používá kalkulačku při řešení složitého matematického příkladu. Jak vidíte budoucnost umělé inteligence?
Ano, i já jsem zastáncem kalkulačky. Domnívám se, že ti, kteří se obávají umělé inteligence, si často nedocení svou vlastní hodnotu a kreativitu. Lidská kreativita pramení z naprosto odlišných zkušeností. Máme tělo, kterým vnímáme svět, a prožíváme různé pocity a emoce v reakci na naše okolí. Existují také nevysvětlitelné stavy mysli, které nelze naprogramovat ani vysvětlit prostřednictvím umělé inteligence. Toto představuje zcela odlišnou kvalitu, jistý druh prožité reality, a my vždy budeme přidávat něco nad rámec toho. Když navrhuji pro lidi, oni to budou lépe chápat. Ano, AI se postupně učí získávat určité základy a osvojuje si dobré praxe, například generování wireframů či jiných designových prvků. Přesto si myslím, že lidská kreativita je schopná transcendentně překračovat i tyto dobře zažité praxe, což je vlastně podstata designu. Je důležité zpochybňovat i to, co bylo dříve považováno za správné, a najít nové směry. Neobávám se, že AI někoho nahradí — nahradí pouze ty základní a generické věci. Důležité je, aby ostatní našli svůj vlastní kreativní pracovní postup, který jim bude vyhovovat, a rozhodli se, jak dalece dovolí AI zasahovat do svého procesu. Existuje však riziko, že při využívání vlastních prvků může AI člověka více omezit, než byl původně záměr, protože výsledek může být neočekávaně spektakulární. Je důležité být schopen odstoupit a reflektovat, že výsledek je ovlivněn datasetem, na kterém byl generativní model trénován. Možné je, že model vychází z dat, které nechceme používat, takže je klíčové pracovat s dostatečným povědomím a uvědoměním.
Jaká jsou podle vás hlavní etická dilemata, se kterými se setkáváte?
Největším etickým problémem, se kterým se setkávám při práci s umělou inteligencí, je existence neférových datasetů. Tyto datasety často nedosahují potřebné míry transparentnosti, což vyvolává mé etické obavy. Problematické je, že se v souborech dat objevuje například licencovaný obsah nebo že se do souboru dat promítají stereotypy prostřednictvím textových popisů obrázků vytvořených lidmi. Ideální řešení by bylo, kdyby instituce jako knihovny či univerzity vytvářely vlastní datasety, což by mohlo přispět k řešení mnoha současných problémů.
Dalším problémem jsou pravidla soukromých společností, která nemusí být v souladu s etickými standardy. Je důležité si uvědomit, že využíváme nástroje a technologie, o kterých nemáme plné pochopení, a to může mít neznámé dopady. V oblasti kreativity se tyto etické otázky nemusí jevit tak dramaticky, ale problémy se objevují, když se AI začne používat v jiných oblastech, jako je automatizace náborových procesů nebo v zdravotnictví. Zde se etické dilema stává zásadním. Existuje také otázka autorských práv a uznání, kolik práce bylo skutečně vytvořeno člověkem a kolik bylo generováno AI. Tato problematika je stále nevyřešená a je třeba ji řešit i v akademickém prostředí, například v otázce používání AI studenty při psaní kvalifikačních prací. Jsou zde mnohé nezodpovězené otázky.
Které současné AI projekty nebo výzkumy jsou podle vás klíčové a mají významný vliv na vaši práci?
Hlavní inspirací pro mě je umělecký pohled na práci s umělou inteligencí. Začala jsem pracovat s představou, že vnímám AI jako rovnocenného partnera při tvorbě. Brzy jsem si však uvědomila, že to není reálné, jelikož AI nemůže pochopit můj fyzický stav. Není spravedlivé mít takový předpoklad. Přesto je tento myšlenkový experiment je inspirující, protože rozvíjí další otázky ohledně potenciálního vztahu mezi člověkem a umělou inteligencí. Zároveň představuje zamyšlení nad tím, jak by tento vztah měl být v budoucnosti spravedlivý a vzájemně prospěšný. Toto téma jsem prozkoumávala také na různých odborných workshopech, kde mě velmi bavilo diskutovat s dalšími odborníky zabývající se touto problematikou. Co se týče AI umění, které je běžně vidět online, nemohu říci, že by mě to zvlášť inspirovalo. Přijde mi to poněkud předvídatelné.
Jaké další inovativní projekty nebo výzkumy ve světě AI považujete za zásadní?
V rámci mé práce s AI mě nejvíce inspiruje umělecký přístup z pohledu human-AI co-creation. Fascinující mi přijde projekt Sougwen Chung, které vytvořily robotické rameno DOUG. Tento projekt byl založen na ideji, že robotické rameno bude kopírovat Chungovy tahy při malbě. Avšak v průběhu práce vznikly odchylky a latence, které ovlivnily jejich styl malby. Vzájemná interakce a vliv mezi nimi a robotem vedly k novým cestám v jejich uměleckém projevu, reflektujících vliv AI na kreativitu a interaktivitu.
Ráda bych také zmínila Eryka Salvaggia, multimediálního umělce a kritika z New Yorku, jehož práce je pro mě zdrojem inspirace. Na jeho webových stránkách najdete řadu fascinujících článků zaměřených na AI. Vřele doporučuji přihlásit se k odběru jeho Substack newsletteru, aby vám jeho nejnovější myšlenky a postřehy přicházely přímo do emailu. Salvaggio se zaměřuje na kritickou reflexi současného vývoje v oblasti umělé inteligence a vede výzkumnou skupinu Algorithmic Resistance Research Group (ARRG!). Tato skupina se věnuje etickým a společenským aspektům AI a jejich práce je klíčová pro každého, kdo se zajímá o uměleckou kritiku v této oblasti. Je důležité, aby se více lidí věnovalo takovéto kritice a diskusi o AI.
Co byste doporučila mladým umělcům a designérům, kteří se začínají orientovat na umělou inteligenci a chtějí ji integraci do své praxe?
Mladým umělcům a designérům, kteří se chtějí věnovat umělé inteligenci a zároveň ji využívat ve své praxi, bych doporučila, aby tento proces co nejvíce komplikovali. Neopírejte se jen o to, co AI vygeneruje na základě vašich vstupů, ale věřte svým vlastním představám a buďte aktivními kurátory výstupů. Důležité je rozumět fungování AI a zasahovat do procesu. Zkoušejte různé intervence, experimentujte s chybami a obcházením systému. Přistupujte k AI kriticky. Například na kurzu AI v umělecké praxi na FAMU jsem studenty motivovala k tomu, aby si vytvořili vlastní modulární princip práce s AI. Měli si představit AI jako partnera, se kterým mohou hrát kreativní “ping pong”. Když člověk takto vizualizuje proces typické spolupráce s AI, uvědomí si, že lidská kreativita hraje v něm jen malou roli. Proto je důležité do procesu vložit více lidského. Můžeme přerušit generativní proces, předělat ho ručně, vykreslit ho nebo dokonce do něj vložit něco, co s AI nemá nic společného. Takovéto intervence a zásahy mohou přinést nové a zajímavější výsledky.
