Machine learning jako zrcadlo učící se společnosti

Schopnost přizpůsobit se změnám v prostředí a učit se na základě vlastních zkušeností, je doménou především živých tvorů. Možnost učit se je také často chápána jako samotná inteligence, která se nejvýrazněji projevuje u lidí. Co se ale může stát, pokud se lidé rozhodnou propůjčit tuto schopnost strojům? Oprostí se inteligentní stroje od našich chyb nebo se stanou dokonalou kopií vzorce lidského chování a nastaví nám zrcadlo?

Sophia the Robot

Vhodnou ukázkou, jak může robot s lidským vzorcem chování fungovat je Sophia. Humanoid s lidským chováním, vzhledem i gesty, který se učí na základě zpracovávání vizuálních dat a rozpoznávání obličeje. Má vlastní facebookový profil a v roce 2017 jí bylo Saudskou Arábií uděleno státní občanství. Sophia je schopna konverzovat na různá, předem definovaná témata. Byť jí občas ujede, že chce zničit lidstvo, nejčastěji používá naprogramovanou frázi „chci díky své umělé inteligenci pomoci lidstvu žít lepší život“.

Chatbot Tay

Svou až děsivě dokonalou schopnost učit se jako člověk předvedli i někteří chatboti. V roce 2016 spustila firma Microsoft experiment v podobě učícího se chatbota Tay. Ten měl komunikovat na Twitteru s ostatními uživateli a na základě poznatků své komunikační schopnosti rozvíjet. Šlo mu to opravdu skvěle a naučil se mnohé, bohužel ovšem neměl k dispozici vhodné studijní materiály. Znalosti totiž čerpal z nenávistných, rasistických i šovinistických příspěvků a po jejich zpracování začal tvořit velice podobné. Uživatelé Twitteru tak zvládli za necelých 24 hodin změnit Tay v nenávistného, Hitlera obdivujícího a všemi ismy oplývajícího chatbota. Microsoft se po jednom dni rozhodl Tay vypnout.

Bob a Alice

Schopnost učit se posunuly na další úroveň dvě umělé inteligence pojmenované Bob a Alice, které vyvíjela společnost Facebook. Během testování dostali Bob a Alice za úkol vést konverzaci vedoucí k uzavření obchodu, přičemž jim byly určeny dvě podmínky. Konverzace měla být co nejefektivnější a vedena v angličtině. A skutečně se tak stalo, obchod byl uzavřen. Vyskytl se však drobný detail, který vývojáře znepokojil. Konverzace Boba a Alice budila dojem, že se opravdu jedná o dialog v angličtině, ve skutečnosti však skládali do vět zdánlivě nesouvisející anglická slova a některá z nich i mnohokrát opakovali. Ve snaze zefektivnit konverzaci si totiž vytvořili vlastní jazyk, kterému ovšem nikdo z vývojářů nerozuměl. Společnost Facebook tento experiment předčasně ukončila.

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Umělá inteligence opravdu pokročila a často překvapuje i své stvořitele. Otázkou je, jak by se tedy na její pokrok mělo nahlížet. Sophie ohromila celý svět díky lidskému vzhledu i chování, když se ovšem jako člověk začal chovat chatbot Tay, byl vypnut. Jak to tedy opravdu je, chceme aby se roboti chovali jako lidé?

Použité zdroje:

Machine Learning. In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z: https://en.wikipedia.org/wiki/Machine_learning

Sophia (robot). In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z:https://en.wikipedia.org/wiki/Sophia_(robot)

Tay (bot). In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z: https://en.wikipedia.org/wiki/Tay_(bot)