Etika designu
Co mají společného obyčejná psací tužka se zápisníkem a notebook? Odpověď nejspíš tušíte a pokud ne, nebudu vás dlouho napínat. Oba příklady reprezentují technologie určené k zapisování poznámek. Technologie, a to i technologie informační, jsou již běžnou součástí lidských životů a mnozí z nás si své životy bez nich nedokážou představit.
Z pohledu etiky, můžeme rozlišovat dva přístupy k technologiím. První vychází z předpokladu, že jsou hodnotově neutrální, a tedy, že neeticky je zneužívají lidé, jak mimo jiné vyplývá z citátu „Zbraně nezabíjí lidi. Lidé jsou zabíjeni lidmi.“, který slouží jako slogan americké Národní střelecké asociace.
Druhý přístup pak předpokládá, že technologie nejsou hodnotově neutrální, a tedy že produkty, designové procesy či systémy mohou ovlivňovat lidi a mohou mít pro ně nejrůznější důsledky. To znamená, že hodnoty jsou v technologiích již zabudovány.[1]
Hodnoty jsou neodmyslitelnou součástí designu. Přístup, který spojuje technologie a jejich design spolu s hodnotami, nazýváme jako přístup s ukotvenými hodnotami, anglicky „emmbedded values approach.“ [1]
Na konci osmdesátých let minulého století představila Batya Friedman spolu se svými kolegy z washingtonské univerzity hodnotově senzitivní design, jehož cílem je implementace lidských hodnot do celého designového procesu. Výsledkem by měl být navržený produkt, který reflektuje hodnoty všech podílníků.[1] HSD předpokládá, že technologie ovlivňují nejen blahobyt ale také celkovou kvalitu lidského života. Upozorňuje na nutnost se těmto vyvstávajícím etickým problémům věnovat, a to za pomoci zahrnutí etické reflexe do všech fází návrhu.[2]
Etika designu
Etika designu z hodnotově senzitivního designu nepochybně vychází a dále jej rozvíjí. Vymezení etiky designu se věnují vědci například v projektu SIENNA, kde uvádí, že se jedná o „systematické začleňování zásad, požadavků a postupů do procesů návrhu a vývoje.“[3]
Virginia Dignum, profesorka počítačové vědy specializující se na umělou inteligenci, pak popisuje tři úrovně pro implementaci etiky do návrhů a do vývoje umělé inteligence.
Můžeme tedy říct, že etika designu, jak ji chápeme podle projektu SIENNA má v sobě ukotveny všechny části, které popisuje Virginia Dignum.
Skládá se tedy z následujících tří částí:
V části etika v designu (ethics in design) vývojářské týmy jednodušeji rozpoznávají potenciální důsledky pro společnost i jednotlivce, což jim usnadňuje navrhování řešení těchto problémů. Etika v designu tedy odkazuje na inženýrské a regulační procesy, které umožňují etické důsledky analyzovat a hodnotit.[4]
Ve fázi vývoje etika designu (ethics by design), by mělo být do vzorců chování umělých autonomních systémů integrováno etické uvažování a morální aspekty.[5]
A konečně, etika pro designéry (ethics for designers), odkazuje na zajištění legislativních požadavků, na které je nutné při vývoji brát zřetel, aby vyvíjená technologie měla minimální, či v ideálním případě, žádný důsledek a nežádoucí vliv na společnost. Mluvíme např. o kodexech chování, standardech a certifikačních procesech.[4]
Proč etiku designu potřebujeme?
Etika designu je pro nás přínosná z vícera hledisek. Jak vyplývá z projektu SIENNA, „důvod, proč potřebujeme etiku designu je ten, že etické problémy, které nalézáme u technologických produktů, se tradičně objevují až poté, co jsou tyto produkty uvedeny na trh a začnou působit škody. Cílem etiky designu je snažit se zajistit, aby etické problémy ideálně vůbec nevznikaly. To vyžaduje specifické činnosti zaměřené na etiku v každé fázi návrhu, vývoje a zavádění projektu.“[3]
S tím souvisí i zkreslené chápání pojmu hodnota, na které upozorňuje Sarah Spiekermann a Till Winkler, členové IEEE, ve článku Value-based Engineering for Ethics by Design.[6] Upozorňují, že v minulém století byl význam pojmu hodnota chápán především z ekonomického hlediska, tedy jako hodnota peněžní, či zisk. V současnosti, což může být zapříčiněno i voláním po udržitelnosti, se význam pojmu hodnota opět obnovuje z etického hlediska. Klade se důraz na to, aby firmy upřednostňovaly blaho společnosti, místo toho, aby jednali na jejich úkor pod zištným záměrem a vidinou zisků.[6]
Kde nacházíme využití?
Etika designu je, jak již bylo zmíněno výše, uplatnitelná především při vývoji technologických produktů, systémů a také designových procesů. Její primární využití však nalézáme při vývoji umělé inteligence, strojového učení a robotiky, své místo má i v biochemickém inženýrství.[3]
Jak na to?
Autoři článku Towards an “Ethics by Design” Methodology for AI Research Projects[7] vymezili čtyři principy, které považují za klíčové při vývoji metodologie pro výzkumné projekty v AI. Nedostatky, na které upozorňují, čerpají z případových studií.
1. Nutnost řešení etiky dat jako konverzaci mezi technickými a sociálními aspekty, v průběhu všech výzkumných fází.
Princip vychází ze zjištění, že ve většině institucí se etické schvalovací procesy uskutečňují zpravidla ve fázi návrhu. Cílem těchto procesů je ověřit, že v důsledku aktivit spojených s výzkumem nedojde ke vzniku neřešitelných etických problémů.
Právě na základě tohoto zjištění autoři naopak upozorňují na nutnost etické otázky řešit i v pozdějších fázích vývoje. Intervenující proměnné se totiž mohou objevit kdykoliv během procesu. K tomuto řešení by měli být vždy přizváni i vědci ze společenských a humanitních věd, např. sociologové, etici, historikové, filozofové, žurnalisté a politologové.
2. Identifikace a řešení etických otázek skrze reflexi a předvídání.
Výzkumníci často považují etické aspekty za méně podstatné než jiné aspekty. Naopak spíše než reaktivní, tedy že se zabývají až případnými problémy a jejich nápravou, by jejich úvahy měly být proaktivní. Měli by si pokládat otázky jako: “Co udělám a jak to ovlivní ostatní/společnost?”
Kvůli rozsahu shromažďovaných a dále zpracovávaných dat v oblasti AI a datové vědy může být složité předvídat důsledky konkrétních činností. Zde nalézáme potřebu důsledky předvídat. Pokládáme si otázky s prediktivním záměrem, např. smýšlíme o potenciálním porušení ochrany údajů a ohrožení soukromí a snažíme se tato rizika snížit, ideálně úplně eliminovat.
3. Zahrnutí všech aspektů vývoje
Jeden z problémů, se kterým se v rámci procesu etického schvalování setkáváme je ten, že jsou pokryty jen a pouze přímé etické otázky, které by z provádění výzkumu mohly vyplynout. To může být třeba informovaný souhlas od participantů výzkumu či jejich anonymizace. Avšak v oblasti umělé inteligence a datové vědy mnoho potenciálních etických důsledků nevyplývá přímo ze samotného výzkumu. Důsledky se více objevují až při zjištění výsledků a nejvíce jich vyplývá až ze samotného využití navrženého systému, technologie.
Etika dat a AI by tedy měla zohledňovat „nejen výzkumné aktivity, ale i jejich dopad; nejen shromážděná data, ale i odvozené informace; nejen soukromí, ale i autonomii, správu, spravedlnost a rovnost; nejen žijící lidské jedince, ale i sociální skupiny, zvířata a digitální stopy zesnulých; nejen naši současnou společnost, ale i formování té budoucí.“[7]
4. Produktivita, ne rušivost
Jelikož se etika implementuje skrze administrativní procesy, může se zdát, že samotný výzkum zpomaluje. Proto by měla být metodika etiky dat a AI nedílnou součástí výzkumu, kdy by byla spíše procesem spolupráce. Cílem by mělo být, ostatně jak tomu je i u rizikového managementu, posoudit rizika výskytu etických problémů a dopadů a následně určit strategii, jak rizika a dopady minimalizovat.
Autoři tedy popisují, na co je třeba dbát při vývoji, ale nevěnují se přímo tomu, jak by měl být samotný vývoj konstruován. Generalizované a snadno upravitelné metody pro své potřeby představili autoři projektu Sienna[3], ve kterém popisují pětivrstvý model.
Jedná se o následující vrsty:
1. Základní etické hodnoty
Prvním krokem by mělo být vymezení základních etických hodnot, které se vztahují k oblasti výzkumu. Pro získání jejich výčtu můžeme spolupracovat s etiky, se specialisty v daném oboru. V případě, že by došlo k jejich nedodržení či narušení, systém by byl označen za neetický.
2. Etické požadavky
Etické požadavky můžeme definovat jako podmínky, které je nutné splňovat pro dosažení etických cílů. Pro jejich určení neexistuje žádný konkrétní postup nebo pevně daná metoda. S určením požadavků nám mohou pomoci etici, technologové, můžeme je určit i na základě vlastní intuice.
V případě, že je základní etickou hodnotou transparentnost systémů AI, její etické požadavky mohou znít následovně: „vysvětlitelnost postupů AI, interpretovatelnost postupů AI, transparentní zveřejňování postupů.“
3. Metodologie
Dále je třeba představit vybranou metodologii. Etika designu pracuje s předpokladem, že metodologie procesu vývoje bude taková, jaká se v dané oblasti či oboru běžně používá. Její popsání by mělo být rozděleno na kroky nebo fáze procesu návrhu.
4. Pokyny pro etiku designu
Součástí všech předchozích kroků by měla být existence provozních etických pokynů, kterými se celý proces bude řídit. Pokyny lze utvořit na základě rozdělení etických požadavků na jejich dílčí části a specifikovat činnosti, bez kterých by etické požadavky nemohly být realizovány. Dále je potřebné určit osoby, které tyto úkony budou provádět a uvést konkrétní příklady činností v praxi.
5. Nástroje a metody
Aby mohla být etika designu realizovatelná, je žádoucí vyvinout další nástroje a metody nebo je alespoň přizpůsobit etickým požadavkům. Měly by být zavedeny nástroje a metody, které by zapojily všechny podílníky. Dále by měly být spravovány zdroje týkající se této metody a měla by probíhat školení týkající se práce s metodou. Nedílnou součástí by měly být i speciální pokyny, které by se věnovaly technologiím a technikám, u kterých by mohly nastat etické problémy. Pokyny by jejich řešení značně usnadnily.
Jak s tím naložit?
Implementace etiky do designových procesů se stává velmi žádaným trendem, který může být ovšem vždy úplně vhodně uchopen a utvářen. A právě syntézou vymezených principů a pětivrstvého modelu bychom mohli získat funkční metodologii pro přístup etiky designu.
[1] BREY, Philip et al. SIENNA D6.3: Methods for translating ethical analysis into instruments for the ethical development and deployment of emerging technologies. Zenodo, 2021. DOI: 10.5281/ZENODO.5541539
[2] VAN DER HOVEN, Jeroen a Noemi MANDERS-HUITS. Value-sensitive Design. In: The Ethics of Information Technologies. 2017. ISBN 9781003075011.
[3] BREY, Philip et al. SIENNA D6.3: Methods for translating ethical analysis into instruments for the ethical development and deployment of emerging technologies.
[4] DIGNUM, Virginia. Responsible artificial intelligence: how to develop and use AI in a responsible way. Cham: Springer, 2019. Artificial Intelligence foundations, theory, and algorithms. ISBN 978–3–030–30371–6 978–3–030–30370–9.
[5] DIGNUM, Virginia. Responsibility and Artificial Intelligence. In: The Oxford Handbook of Ethics of AI. Oxford, 2020. ISBN 9780190067397.
[6] SPIEKERMANN, Sarah a Till WINKLER. Value-based Engineering for Ethics by Design. 2020. DOI: 10.48550/ARXIV.2004.13676
[7] D’AQUIN, Mathieu et al. Towards an „Ethics by Design” Methodology for AI Research Projects. New Orleans LA USA: ACM, 2018. DOI: 10.1145/3278721.3278765
