Machine learning jako zrcadlo učící se společnosti

Lucie Kurdiovska
Apr 11, 2019 · 3 min read
Image for post
Image for post

Schopnost přizpůsobit se změnám v prostředí a učit se na základě vlastních zkušeností, je doménou především živých tvorů. Možnost učit se je také často chápána jako samotná inteligence, která se nejvýrazněji projevuje u lidí. Co se ale může stát, pokud se lidé rozhodnou propůjčit tuto schopnost strojům? Oprostí se inteligentní stroje od našich chyb nebo se stanou dokonalou kopií vzorce lidského chování a nastaví nám zrcadlo?

Sophia the Robot

Vhodnou ukázkou, jak může robot s lidským vzorcem chování fungovat je Sophia. Humanoid s lidským chováním, vzhledem i gesty, který se učí na základě zpracovávání vizuálních dat a rozpoznávání obličeje. Má vlastní facebookový profil a v roce 2017 jí bylo Saudskou Arábií uděleno státní občanství. Sophia je schopna konverzovat na různá, předem definovaná témata. Byť jí občas ujede, že chce zničit lidstvo, nejčastěji používá naprogramovanou frázi „chci díky své umělé inteligenci pomoci lidstvu žít lepší život“.

Chatbot Tay

Svou až děsivě dokonalou schopnost učit se jako člověk předvedli i někteří chatboti. V roce 2016 spustila firma Microsoft experiment v podobě učícího se chatbota Tay. Ten měl komunikovat na Twitteru s ostatními uživateli a na základě poznatků své komunikační schopnosti rozvíjet. Šlo mu to opravdu skvěle a naučil se mnohé, bohužel ovšem neměl k dispozici vhodné studijní materiály. Znalosti totiž čerpal z nenávistných, rasistických i šovinistických příspěvků a po jejich zpracování začal tvořit velice podobné. Uživatelé Twitteru tak zvládli za necelých 24 hodin změnit Tay v nenávistného, Hitlera obdivujícího a všemi ismy oplývajícího chatbota. Microsoft se po jednom dni rozhodl Tay vypnout.

Bob a Alice

Schopnost učit se posunuly na další úroveň dvě umělé inteligence pojmenované Bob a Alice, které vyvíjela společnost Facebook. Během testování dostali Bob a Alice za úkol vést konverzaci vedoucí k uzavření obchodu, přičemž jim byly určeny dvě podmínky. Konverzace měla být co nejefektivnější a vedena v angličtině. A skutečně se tak stalo, obchod byl uzavřen. Vyskytl se však drobný detail, který vývojáře znepokojil. Konverzace Boba a Alice budila dojem, že se opravdu jedná o dialog v angličtině, ve skutečnosti však skládali do vět zdánlivě nesouvisející anglická slova a některá z nich i mnohokrát opakovali. Ve snaze zefektivnit konverzaci si totiž vytvořili vlastní jazyk, kterému ovšem nikdo z vývojářů nerozuměl. Společnost Facebook tento experiment předčasně ukončila.

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Umělá inteligence opravdu pokročila a často překvapuje i své stvořitele. Otázkou je, jak by se tedy na její pokrok mělo nahlížet. Sophie ohromila celý svět díky lidskému vzhledu i chování, když se ovšem jako člověk začal chovat chatbot Tay, byl vypnut. Jak to tedy opravdu je, chceme aby se roboti chovali jako lidé?

Použité zdroje:

Machine Learning. In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z:

Sophia (robot). In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z:

Tay (bot). In: Wikipedia: the free encyclopedia [online]. San Francisco (CA): Wikimedia Foundation, 2001- [cit. 2019–04–10]. Dostupné z:

EDTECH KISK

Educational Technology, KISK Masaryk University

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch

Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore

Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store