Ovládat vs. být ovládán.

Svobodná vůle a manipulace v kyberprostoru.

Natálie Káčová
Jan 31 · 8 min read

Představme si, že jsme právě vystoupili z tramvaje v centru rušného města. Vyrážíme do knihovny, která se nachází jen o pár bloků dál. Stačí ale zajít za první roh a už se zastavujeme, zaujala nás totiž vitrína nově otevřeného obchodu. Zaplouváme dovnitř, po čtvrt hodině jsme ale zpátky na ulici a pokračujeme v cestě. Budovu knihovny už vidíme před sebou, když v tom narazíme na kamaráda, kterého jsme pár let neviděli. Jde na kávu, tak se k němu připojíme… a do knihovny se dostáváme těsně před zavírací dobou. Zkrátka a dobře — naše cesty městem často končívají jinak, než jsme zamýšleli, a to kvůli nejrůznějším ,,nástrahám a lákadlům“, vůči kterým nejsme imunní.

Zkusme si obdobně jako město s jednotlivými ulicemi a domy představit kyberprostor. Stejně jako jsme vystoupili z tramvaje, odemykáme náš telefon, zapínáme počítač, otevíráme internetový prohlížeč. Jsme vrženi přímo do centra dění, centra rušného ,,města“, kde jednotlivé uličky tvoří proudy textu, zpráv, obrázků a streaming videí. Procházíme městem — scrollujeme napříč příspěvky, jedno video střídá druhé. Konzumujeme obsah, který nás obklopuje ze všech stran. Přitom ale většinou v rámci kyberprostoru také míváme ,,někam namířeno“. Ve virtuálním prostředí se vzděláváme, pracujeme, informujeme se. Stejně jako na cestě do knihovny na nás, resp. na naši vůli a motivaci, číhá spoustu nástrah.

V ulicích města často dokážeme úspěšně ,,detekovat“, když se někdo nebo něco snaží přitáhnout naši pozornost. Stejně tak dokážeme odhadnout, jaký motiv se se za touto snahou nejspíš skrývá. O tom, jak obchodní řetězce a další subjekty využívají nejrůznějších technik a metod, kterými nabourávají náš rozhodovací proces, a tak de facto manipulují našimi volbami, jsme ostatně slyšeli nesčetněkrát. Ani věčná osvěta o nekalých praktikách marketingu však často nestačí k tomu, abychom se poučili, a k občasným ,,zkratům“ dochází… a docházet bude.

Photo by Victor Xok on Unsplash

O tom, jak se ovlivňuje a manipuluje v oblasti kyberprostoru, se však tak často nemluví, přitom ve virtuálním prostředí většina z nás tráví podstatnou část téměř každého dne. Kyberprostor se navíc v těchto principech diametrálně liší a poučky platící pro analogový svět o tom, jak si všímat nejrůznějších podob ovlivňování, nám v rámci virtuálního prostředí v mnoha případech nepomohou obstát. Ukazuje se totiž, že v ,,uličkách kyberprostoru“ často nejsme ani tak chodci, co si sami rozhodují, kam jít dál, ale spíše se necháváme unášet proudem, který za nás řídí ,,neviditelné” výpočty a logické operace.

Algoritmus na automatické doporučení zboží generuje Amazonu kolem 35% nákupů.

80% hodin streamovaných diváky Netflixu vychází z doporučení technologie.

Youtube je na tom podobně — jeho algoritmus na doporučení obsahu stojí za 70% videí, které na platformě zhlédneme.[1]

Taková ,,vysoká procenta” vyvolávají otázky:
Do jaké míry jsou naše rozhodnutí, která v kyberprostoru činíme, opravdu ,,naše”? A do jaké míry jsou nám ,,předurčena“ technologií samotnou?

Hledat odpověď na takové dotazy přenecháme povolanějším. Můžeme si však zkusit rozebrat alespoň to, jakými způsoby a metodami technologie ovlivňuje náš rozhodovací proces a tím i náš celkový ,,pobyt” v kyberprostoru.

VIRTUÁLNÍ PROSTŘEDÍ UŠITÉ NA MÍRU

Nástup internetu přinesl nové požadavky a výzvy — jak se zorientovat v informační záplavě, kdy máme na dosah pár kliků k dispozici informace a dokumenty z celého světa, tady a teď? Role našeho ,,informačního spasitele“ se ujaly algoritmy, které na základě dat o naší online aktivitě dokážou doručit relevantnější, personalizovaný obsah. V praxi to vypadá tak, že uživateli se sklony k filosofování Google na dotaz „free will“ pravděpodobně vrátí články a eseje o svobodné vůli, zatímco spíše prakticky založenému člověku naplní přední příčky vyhledávání nabídkami na sestavení poslední vůle („will“) zdarma („free“).

Zatímco se můžeme samolibě domnívat, že nad naším pobytem v kyberprostoru disponujeme plnou kontrolou, může nám unikat skutečnost, že virtuální prostředí je již předem modifikováno a ,,připraveno“ přímo pro nás. To znamená jednak to, že zastoupení některých informací bude předimenzováno, ale také to, že jiné informace budou naopak odfiltrovány a pokud je nebudeme aktivně vyhledávat, je možné, že se k nám ani nedostanou.

Personalizace obsahu a jeho filtrace navíc nejsou principy, se kterými pracují pouze online obchody nebo internetové vyhledávače. Prostupují celým prostředím online světa a modifikují, jaké informace dennodenně přijímáme. Čí příspěvky čteme častěji, čí naopak zřídkakdy. Jaké nabídky na ubytování se nám zobrazí přednostně. A online seznamky pro nás dokonce ze svých uživatelů, kteří splňují námi nadefinované podmínky, vyfiltrují ty potenciálně nejvhodnější partnery.

Photo by Alexander Sinn on Unsplash

Např. Tinder selektuje profily, které uživateli předloží, na základě analýzy jeho / její historie aktivity v rámci aplikace (tj. sleduje, s kým jsme se propojili, a snaží se pro nás nalézt podobné profily) a také analýzy vzhledu (tj. snaží se nás propojit s jedinci, kteří získali podobné skóre v strojovém hodnocení atraktivity a přitažlivosti)[2]. Jedinec, kterého technologie vyhodnotila jako méně atraktivního, tedy výrazně ztrácí možnost propojovat se s těmi nejatraktivnějšími protějšky, a naopak. Pokud navíc uživatel preferuje muže či ženy určitého etnika, algoritmus mu / ji bude v budoucnu doporučovat více profilů pocházejících ze stejné etnické kategorie. Technologie tím může posilovat uživatelovu zaujatost vůči odlišným skupinám a snižovat již tak mizivou pravděpodobnost propojení s někým, kdo by mu / ji mohl pomoci tuto zaujatost překonat.

Může technologie z dat, která o nás sbírá, skutečně vyčíst i tak komplexní a intimní informace jako to, o jakou osobu bychom měli zájem a o jakou naopak ne? A pokud za nás bude v této otázce zčásti rozhodovat a servírovat nám ,,top výběr potenciálních partnerů”, neokrádá nás o možnost prožitku nekonvenčního, pro nás nestandardního a tím pádem (velmi pravděpodobně) obohacujícího propojení?

DESIGNEM K UPOUTÁNÍ POZORNOSTI…. A K BUDOVÁNÍ ZÁVISLOSTI

V souvislosti s doručováním personalizovaného obsahu existuje snaha stejně významná, ba snad i významnější, která hledá a vyvíjí způsoby, jak co nejdéle udržet pozornost a zájem uživatele. Jak prodlužovat čas, který uživatel na platformě tráví, a jak zajistit, aby se pravidelně vracel, interagoval s nabízeným obsahem, a generoval tak data o své aktivitě?

Motivace vývojářů, kteří se problémem attention economy zabývají, je samozřejmě naprosto oprávněná. Jeffrey Hammerbacher, dřívější zaměstnanec ve vedení Facebooku a nynější kritik attention economy, ostatně prohlásil, že ,,ty nejlepší mozky mé generace přemýšlí nad tím, jak docílit toho, aby lidé více klikali na reklamy“[3].

Vstupem do online světa se dostáváme do epicentra bitvy, kde o naši pozornost soupeří nesčetné množství subjektů. Zápasí se o to, na co klikneme, co si přečteme, na co zareagujeme, kde se ,,zasekneme“ byť jen o pár minut déle. Lákavých služeb a nabídek je až příliš, zatímco čas uživatele je velmi limitovaný. Aplikace a platformy jsou proto zcela úmyslně designovány tak, abychom je používali po co nejdelší možný časový úsek a abychom, když už se z jejich prostředí vymaníme, se zase rychle vrátili zpět.

Cílem takového designu je podnítit v nás impulsivní chování, které nemůže být v souladu s našimi krátkodobějšími cíli, natož s dlouhodobějšími ambicemi, co si během života nastavujeme (zde hledejme původ večerů, které místo plánované produktivní aktivity končívají na Youtube nebo Instagramu). Takový design úmyslně buduje závislost. To, že ji dokáže budovat vskutku efektivně, dokazuje např. studie, která zjistila, že našeho telefonu se dotkneme v průměru 2 617x za den (skupina ,,závisláků“ dokonce až 5 427x)[4].

Photo by Gilles Lambert on Unsplash

POHRÁVÁNÍ SI S NAŠIMI EMOCEMI

K tomu, abychom jako uživatelé byli náchylnější k ovlivňování naší psychiky a co nejvíce se poddávali okamžitým podnětům, využívá design aplikací, platforem a technologie nejrůznějších psychologických triků. Zahrnuje uživatele nejrůznějšími formami ,,odměn”, které vedou k falešnému pocitu potěšení, a negativní emoce, jež v uživatelích skrytě hromadí, zneužívá jako jakési spouštěcí mechanismy. Je totiž pravděpodobnější, že když se nacházíme v negativním duševním rozpoložení, budeme konzumovat obsah ještě pasivněji než obvykle a v této konzumaci hledat útěchu a snad i možnost rozptýlení.

V roce 2007 Justin Rosenstein navrhl spolu se svými kolegy z Facebooku komponent, který se stal ikonou celé sociální sítě — tlačíko To se mi líbí. Lajkování mělo roznášet pozitivní naladění napříč celou platformou. Jak ale tvůrce ,,tlačítka radosti” podotýká, již tomu tak dávno není. Z lajkování se podle něj stala jakási zvláštní pseudopleasure — klamavý pocit potěšení — který dokáže být stejně lákavý a svůdný, jako je ve skutečnosti emocionálně vyprázdněný a plochý[5].

Rosenstein patří k větší skupince ,,heretiků ze Sillicon Valley“, bývalých zaměstnanců největších technologických firem jako Google, Twitter nebo Facebook, co se podíleli na tvorbě produktů a služeb známých a používaných po celém světě. Dnes se tito lidé od svých výtvorů distancují, odpojují se od svých smartphonů a sociálních sítí a varují na patologické dopady, které technologie může generovat. Snaží se šířit osvětu o tom, že naše volby v kyberprostoru nejsou tak svobodnými, jak se můžeme domnívat, a že existují pro bežného člověka ,,neviditelné“ způsoby, kterými úzká skupinka tvůrců a vývojářů ovlivňuje pobyt bilionu lidí v kyberprostoru[6].

ZÁVĚREM

Konvenční narativ hlásá, že algoritmy za nás budou dělat rychlejší a lepší rozhodnutí tak, abychom získali více času a prostoru na mnohem důležitější věci v životě, jako je např. rodina, přátelé či rozvíjení našich zálib. To je zajisté pravda, avšak zároveň je třeba si uvědomit, že z momentálního nastavení řady služeb, aplikací a platforem vyplývá, že mnoho voleb je pro nás předurčeno technologií samotnou. Všechny ty zdánlivě drobné dopady na náš proces rozhodování se na sebe kupí a dohromady mohou vskutku transformovat to, jak prožíváme realitu.

Ellen Ullman ve své knize Life in Code podotýká, že ,,pokud dovolíme, aby určitý složitý systém, který za nás rozhoduje, před námi zůstával netransparentně skryt, měli bychom si alespoň všímat toho, čeho se jeho využíváním vzdáváme.“

Pokud začneme aktivněji pozorovat, jak trávíme čas na síti, můžeme se navíc pokusit sami sebe ptát, jestli další volba, kterou učiníme, bude autenticky pramenit z naší vnitřní motivace, nebo zda nám ji pouze ,,našeptává“ technologie samotná. Můžeme zkoušet směřovat naše jednotlivé ,,kroky virtuálním prostorem“ vědoměji, a opět si tak přivlastnit volby, které činíme klik za klikem.

Mezi tím, zda jsme ,,architekty” našich vlastních rozhodnutí nebo pouhými ,,uživateli” algoritmů, je propastný rozdíl. Způsob, jak naši technologii ovládáme (nebo jak ona ovládá nás), se proto silně podílí na formování identity, kterou si v kyberprostoru vytváříme a udržujeme. A protože mezi naši ,,běžnou“ identitou a tou virtuální existuje stále více pojítek, celá problematika se úzce dotýká toho, kým vůbec jsme, tady a teď. Snad i proto, že lze říct, že to, kým jsme, se skládá ze součtu všech našich rozhodnutí, která jsme učinili a činíme v průběhu života.

[1] HOSANAGAR, Kartik. Free Will in an Algorithmic World. In: Medium [online]. Dostupné z: https://onezero.medium.com/free-will-in-an-algorithmic-world-8d5acb550cb7

[2] ROLLE, Magdalena. The Biases we feed to Tinder algorithms. In: Diggit Magazine [online]. Dostupné z: https://www.diggitmagazine.com/articles/biases-we-feed-tinder-algorithms

[3] ROSENBERG, Eli. Quote: The Ad Generation. In: The Atlantic [online]. Dostupné z: https://www.theatlantic.com/technology/archive/2011/04/quote-ad-generation/349689/

[4] WINNICK, Michael. Putting a Finger on Our Phone Obsession. In: dscout [online]. Dostupné z: https://blog.dscout.com/mobile-touches

[5] LEWIS, Paul. Our minds can be hijacked: the tech insiders who fear a smartphone dystopia. Dostupné z: https://www.theguardian.com/technology/2017/oct/05/smartphone-addiction-silicon-valley-dystopia

[6] Tamtéž.

EDTECH KISK

Educational Technology, KISK Masaryk University

    Natálie Káčová

    Written by

    EDTECH KISK

    Educational Technology, KISK Masaryk University

    Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
    Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
    Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade