Vastutuse omistamise tehnoloogiate teemaga seonduvad väljavõtted “kratiseaduse” raportist.
Roland Pihlakas, 2. november 2018
NB: Järgnevalt leiad mõned minu isiklikud esiletõsted raportist, mis olid valitud vastavalt asjakohasusele vastutuse omistamise tehnoloogiate teema suhtes. Väljavõtted ei esinda raportis leiduvaid vastutuse teemalisi lauseid ammendavaval moel, küll aga pakuvad esialgse ülevaate. Lisaks mainin ära, et väljavõtted ega esiletõsted ei näita, kas olen nende lausetega nõus või mitte. Väljavõtted esindavad alaosa raportist, mida pidasin teemakohaseks. Jätsin välja teemad, mida pidasin ebaasjakohaseks, liiga laiaks või kitsaks, või liiga lühidalt esindatuks raportis. Samuti jätsin välja teemad, mida lihtsalt ei jõudnud praegu käsitleda. Siin-seal olen lisanud omaenda selgitavaid märkusi. Mõnes kohas olen veidi sõnastust muutnud, et väljatoodud lõigud oleks eraldiseisvalt loetavad.
Originaal-raport on saadaval siin (ainult eesti keeles): https://www.mkm.ee/sites/default/files/loppraport_analuus_sae_tase_4_ja_5_soidukite_kasutusele_votmiseks_riigikantselei_2017_10_15_ver_10_final.pdf
Väljavõtted minu poolt mitteametlikult inglise keelde tõlgituna:
“Accountability-related translated excerpts from the Estonian lawmakers report about regulating robot-agents — the so-called “kratt” law.”
Avalikult muudetav Google Doc käesoleva postituse tekstiga on saadaval siin puhuks kui tahad mugavalt näha teksti uuendusi (kasutades ajaloo funktsiooni), küsida küsimusi, kommenteerida või lisada soovitusi.
Sissejuhatus
Projekti koostööpartner on Majandus- ja Kommunikatsiooniministeeriumi transpordi arengu ja investeeringute osakond.
Paraku jätab kehtiv õigus isejuhtivate autode juhid kaitseta, kuna nad vastutavad juhtimise eest olenemata sellest, kas sõiduk sõitis isejuhtivas režiimis (täielik kontroll auto üle oli antud tehnoloogiale) või mitte.
Kuna Eestis ei ole arutelusid täielikult isejuhtivate/intelligentsete (sõidukite) tehnoloogiate testimise ja kasutamise regulatsioonide kohandamisest peetud, siis soovib hankija seda käesolevaga teha.
Tagasiside tulemusel on raportis pööratud enim tähelepanu üldseaduste muutmise robootika spetsiifilise regulatsiooni loomisele.
Operaator on isik, kes istub juhiistmel või kui selline isik puudub, on operaator isik või robot, kes põhjustab autonoomse tehnoloogia rakendumise/tööle hakkamise.
vältida iga uue tehnoloogia loomisel ja kasutuselevõtul uue regulatsiooni igakordset spetsiifilist loomist, tehakse ettepanek koostada robotite valdkonnaspetsiifiline regulatsioon (robootikaseadus) ning nimetada isejuhtivaid sõidukeid ka üldmõistega „intelligentne robot“ ja erimõistega „robot-agent“ (v.a kolmanda stsenaariumi puhul, kus agentsust ei looda).
Välja on pakutud neli stsenaariumit:
Esimese stsenaariumi alternatiivse lahenduse kohaselt mõistetakse robot-agendi all intelligentset robotit, kes teatud tingimuste täitmisel (omaniku registrikanne) omandab piiratud õigus- ja/või teovõime. Samas ei ole robot-agent võrdustatud ei eseme ega isikuga, vaid olenevalt vajadusest kohaldatakse talle eseme või isiku kohta sätestatut TsÜS-i mõttes. Intelligentne robot, kellele ei ole omistatud piiratud õigus- ja/või teovõimet, on käsitatav esemena (s.h. suurema ohu allikana, tuues kaasa süüta vastutuse selle valdajale).
Teise stsenaariumi alternatiivse lahenduse kohaselt mõistetakse intelligentse roboti all sellist robotit, kelle kaudu saab intelligentse roboti omanik või valdaja anda nõusoleku tehingu tegemiseks TsÜS-i ja VÕS-i mõttes. Tsiviilkäibe mõttes on intelligentne robot sisuliselt käsitletav asjana s.t sarnaselt loomadele, kohaldatakse robotile asjade kohta käivaid sätteid, kui seaduses ei ole sätestatud teisiti. Seda eesmärgiga tunnustada intelligentse roboti autonoomset, kontrollimatut ja iseõppivat osa, tagades sellega ühetaolise lepingu- ja deliktiõiguse.
Kolmanda stsenaariumi alternatiivse lahenduse kohaselt ei ole robotipidajal küll võimalust lubada intelligentsele robotile õigus- ja/või teovõimet ega tahteavalduste tegemise võimalust TsÜS ja VÕS mõttes, kuid intelligentse roboti legaaldefinitsioon, intelligentse roboti tootja ja pidaja õigused, kohustused ja vastutus on reguleeritud eraldi seaduses — robootikaseaduses.
Neljas stsenaarium käsitleb Eesti seadusandluse kohandamist kitsalt üksnes mootorsõidukitega seoses.
Regulatsiooni vajalikkus — Peatükk 1. (1) I.
Kehtib põhimõte, et uus tehnoloogia ei tähenda automaatselt, et olemasolev seadusandlus sellega toime ei tule.
Mitmetes valdkondades võimaldab kehtiv seadus ka uute tehnoloogiate ilmnemisel läbi erinevate tõlgendusmeetodite jõuda õigete ja õiglaste tulemiteni ning täiendav regulatsioon ei ole vajalik. Reguleerida tuleb nii vähe kui võimalik ja nii palju kui vajalik. Lähtuda tuleb tehnoloogianeutraalsuse põhimõttest.
Just nimelt selguse ja innovatsiooni edendamise eesmärgil loodi näiteks robootika vallas esirinnas olevas riigis Lõuna-Koreas aastal 2008 regulatsioon: „Intelligentsete robotite arendamise ja leviku edendamise akt“, kus defineeritakse intelligentse roboti mõiste, pööratakse tähelepanu robootika vallas olulistele eetilistele küsimustele ja antakse ka suuniseid riigi eelarveliste vahendite kasutamise kohta.
Praktilisi näiteid … — Peatükk 1. (1) II.
Täiendavalt, isejuhtiv sõiduk kogub liikumiseks tohutul hulgal informatsiooni ja kuigi osa sellest informatsioonist on sõidukit kasutava isiku suhtes anonüümne, siis paljuski on seda võimalik kasutajaga siduda. Selliseks massiliseks isikuandmete töötlemiseks puudub aga seaduslik alus. Enamgi veel, ka 2018. aastal kehtima hakkav Euroopa Liidu andmekaitse üldmäärus ei loo iseeneses alust selleks, kuidas autoomanik tema kasutuse ajal tekkinud andmeid tulevikus kasutada saaks (nn ülekantavas, andmete kaasaskantavas) või kuidas, kas, kes ja kellele seda informatsiooni saab edastada.
Küsimus on, kas riik peaks kohustama tootjaid programmeerima tühjalt sõitvat isejuhtivat sõidukit viisil, et õnnetuse korral käitub sõiduk alati n-ö ennast ohverdavalt.
Asjaolu, kas tegemist on tegeliku tehisintellektiga või mitte, ei ole ühiskonna tuleviku võtmeküsimus, kuivõrd eetilisi, moraali ja õigusnorme on vajalik ka lihtsalt autonoomsete robotite olemasolu või tulevikus loomise tõttu. Nimelt nagu on öelnud Jaan Tallinn intervjuus Allan Aksiimile Vikerkaares: „Selleks, et maailma ära hävitada, pole vaja olendeid, kellel on eneseteadvus. Arvutid, mis suudavad võita inimest males, ei pea olema teadvusel ning samuti pole teadvus tarvilik maailma mõjutavate juhtimisotsuste tarvis.“
Mõisted — Peatükk 1. (2) I.
Autonoomsus tähendab seda, kui indiviid on „sisse lülitatud“ ning talle on võimaldatud piisavad ressursid ja ta on võimeline teatud kompetentsis teostama tegevusi ilma täiendava välise sisendita. Autonoomne tegu on seega indiviidi tegu, mille osas indiviidil on võime otsustada, kas teha tegu ilma otsese käsuta.
Viimasel ajal on rahvusvaheliselt areenil olnud debatiks ka autonoomne relvastus.
Mõisted — Robootika ja robot mõiste — Peatükk 1. (2) II.
Robot:
1. Peaks vastama mitmetele kriteeriumitele, s.h. ettenähtud viisil lahendama ülesandeid ja funktsioneerima;
2. Koosnema füüsilisest masinast, mis on võimeline käituma vastavalt ümbruskonnale või omama kaudset füüsilise toe elementi (nt finantsroboti või algoritmilise roboti puhul server või Apple Siri puhul mikrofon ja kõlar jmt).
Intelligentne robot:
1. Omandab autonoomia läbi sensorite ja/või andmevahetuse ümbruskonnaga (nn ühenduvus) ning vahetab ning analüüsib andmeid;
2. Omab võimet õppida, suhelda, suhestuda (tehisintellekti elemendid);
3. Omab füüsilist tuge;
4. Kohandab enda käitumist ja tegevust enda ümbruskonnale.
Kuna inimene on otsustusprotsessi osa, ei saa kirurgiline robot olla autonoomne. See aga ei tähenda, et ka selliste, kirurgiliste robotite regulatsioon ei oleks vajalik näiteks ohutuse ja väljaõppe osas.
Intelligentsel robotil tuleb teha otsuseid erinevates situatsioonides, mida insener ei suuda spetsiifiliselt ette ennustada, mistõttu kirjeldatakse seda ka kui tehisobjekti või süsteemi, mis tunnetab maailmas toimuvat ja käitub sellele vastavalt, mis viib „ette ennustamatult kasuliku käitumiseni“. Intelligentse roboti käitumine sõltub suures osas tarkvara programmeerimisest, mis on sedavõrd keerukas, et on võimatu ette ennustada käitumist.
Tehisintellekti arenguga räägitakse nüüd ka digitaalsetest ja virtuaalsetest robotitest, millel füüsiline keha puudub (nt chat-bot’id, bõrsialgoritmid).
Õigustest ja kohustustest … — Roboti sarnasus loomaga — Peatükk 1. (3) I.
Õiguskirjanduses on viimastel aastatel järjest enam arutletud robotile asja kohta käivate sätete kohaldamise ja füüsilises maailmas eksisteeriva roboti käsitlemise üle sarnaselt loomaga. Sellel on eelkõige kahetised põhjused: vastutuse küsimused olukorras, kus ei kohaldu riski- või tootjavastutuse sätted (rakenduks loomapidaja vastutusega analoogne süüta vastutus) ning teatud loomakaitseseaduse eesmärgiga sarnased eesmärgid (nt avalik huvi ja robotite väärkohtlemine inimlike väärtuste ja kõlbluse kaitsel).
Loomaga liigse võrdsustamise kui väära lähemise eest on õiguskirjanduses hoiatatud põhjusel, et hetke seisuga ei ole tehnoloogial erinevalt loomast „aistinguid“, „instinkte“ ja sellisel tasemel „oma tahtmise järgi“ käitumist nagu seda on loomal.
Loomaga sarnane käsitlus on püstitatud sealhulgas Ameerika Ühendriike õigusteadlaste poolt, mida Eesti õigusesse erinevatel põhjustel üle tuua ei saa.
Eesti õigusesse rahvusvaheliselt õiguskirjanduses esitatud käsitlusi analoogiast loomaga samuti üheselt ja automaatselt üle tuua ei saa põhjusel, et „asi“ on TsÜS § 49 mõttes kehaline ese, mistõttu analoogia on võimalik robotiga vaid siis, kui jaatame alati riistvara.
Õigustest ja kohustustest … — Isiku staatus ja õigusvõime — Peatükk 1. (3) II.
Lisaks küsimusele, kas käsitada robotit sarnaselt loomaga omandi ja vastutuse küsimuses, tekib küsimus, kas oleks vajalik ja mõistlik jaatada teatud olukordades ka intelligentse roboti teatud piiratud õigus ja/või teovõimet. Seda küll läbi roboti agendina käsitlemise ja mitte läbi uue isiku staatuse loomise.
Õigussüsteemides ei eksisteeri veel intelligentseid roboteid, millel oleks või peaks olema õigus või/ja teovõime. Küll aga on asutud selle üle aktiivselt arutlema. /…/ Väidetakse, et robotile teatud juhtudel õigusvõime ja piiratud teovõime andmine on kasulik nii sotsiaalselt, äriliselt kui ka poliitiliselt.
EU RoboLAW robootika reguleerimise juhiste järgi aastast 2014 võib robotitele anda piiratud juhtudel õigusliku staatuse, mis sarnaneb juriidilise isiku omaga. Viimane võimaldaks robotil olla lepingu pooleks. Isiku staatuse vajalikkust rõhutatakse ka EL Parlamendile ja Komisjonile esitatud taotluses seoses tsiviilõiguse normidega robootikas, et kaaluda tuleb muuhulgas võimalust:
/…/ luua robotitele eraldi õiguslik staatus selleks, et vähemalt kõige keerukamad autonoomsed robotid omaksid elektroonilise isiku staatust eraldi õiguste ja kohustustega, s.h. hüvitada nende poolt tekitatud kahju ja rakendada elektroonilist isiksust juhtudel, kus robotid teevad autonoomseid otsused või suhestuvad muul viisil iseseisvalt kolmandate isikutega.
Õigustest ja kohustustest … — Isiku staatus — Peatükk 1. (3) II. (i)
Käesolev raport ei analüüsi eraldi isiku loomist isiku kõrvale, vaid analüüsib intelligentse roboti käsitlemist teatud juhul inimese (või juriidilise isiku) agendina.
Isiku staatus kaasneb oma olemuselt sellega, et tegemist on füüsilise isiku puhul inimesega, milleks robot ei ole. Hetkel kehtivas õiguskorras saavad ka juriidilised isikud tegutseda õigusmaastikul vaid läbi selle, et neid esindab inimene.
Õigusvõimelist robotit on õiguskirjanduses nimetatud elektrooniliseks isikuks kui ka näiteks agendiks.
Õigustest ja kohustustest … — Osaline õigusvõime — Peatükk 1. (3) II. (ii)
Õigusvõime on traditsiooniliselt võime omandada tsiviilõigusi ja -kohustusi ning see on kõigil isikutel ühetaoline ja piiramatu (TsÜS § 7 lg 1). Tsiviilõiguses nimetatakse isikuteks tsiviilõigussubjekte, kes saavad kanda õigusi ja kohustusi ning olla õigussuhte pooleks. Nii füüsiliste kui juriidiliste isikute õigusvõime on mõistena sama tähendusega, kuid nende maht on erinev — juriidilisel isikul ei saa olla neid tsiviilõigusi ja — kohustusi, mis on omased üksnes inimesele.
Õigustest ja kohustustest … — Piiratud teovõime — Peatükk 1. (3) II. (iii)
Rakendades teovõime ja piiratud teovõime instituute intelligentsete robotitega seonduvalt vajadusele teostada teatud tehinguid oma pidaja/valdaja nimel ja huvides ning samal ajal mitte kõigutades tsiviilkäibe usaldatavust tekitades „hõljuvalt kehtetuid tehinguid“,
1. Eestkoste ja määratud tehingud. Piiratud teovõimega täisealise isiku puhul näeb seadus ette, et kohtu poolt võib määrata temale eestkostja ning sellisel juhul eeldatakse, et isik on piiratud teovõimega ulatuses, milles talle eestkostja on määratud (TsÜS § 8 lg 3). Intelligentse roboti puhul tuleks lähtuda samalaadsest analoogiast: robotipidaja on tema eestkostja ulatuses, milles ei ole intelligentsele robotile antud õigust sõlmida lepinguid (eestkostja või robotivaldaja nimel ja huvides).
2. Nõusolek. Samalaadselt võib õigusliku analoogia korras rakendada nõusoleku (teatud juhtudel hilisema heakskiidu) instituuti — ehk ka olukorras, kus loeme intelligentse roboti igas olukorras piiratud teovõimega isikuks, saab kehtiva tehingu teha seadusliku esindaja eelneval nõusolekul ning intelligentsele robotile saab kohustusi ka täita. Hilisema heakskiidu instituut tähendab, et piiratud teovõimega isiku eelneva nõusolekuta tehtud tehing on tühine, välja arvatud juhul, kui esindaja tehingu hiljem heaks kiidab.
3. „Taskurahareegel“. Alternatiivina saab kaaluda ka nn „taskurahareegli“ rakendamist — ehk analoogselt kehtiva õigusega ei anna seaduslik esindaja 7 eestkostja nõusolekut mitte konkreetse tehingu tegemiseks vaid nõusoleku, et piiratud teovõimega isik võib vastavaid vahendeid kasutada oma äranägemisel, tehes ükskõik millise tehingu, mida nimetatud vahendid võimaldavad.
Kõigi eelnimetatud kolme alternatiivi puhul peaks see lubatud tehingute nimekiri eestkostja korral; nõusoleku ulatus või „taskurahareegli“ rahaline piir olema väljendatud vastavas reaalajas kättesaadavas robot- agendi registris (vt KOLMAS PEATÜKK: Põhiprobleemid ja lahendusettepanekud: Robot-agentide register, 72).
Siinjuures tuleb lisada, et karistusõigus ei tunne „teovõimet“, vaid süüvõimet (võime teada ühiskonnas kehtivaid norme ja juhtida enda käitumist vastavalt nendele normidele) ning deliktiõigus tunneb teovõime asemel mõistet deliktivõime (võime saada aru oma teo õigusvastasusest). Ettenähtavas tulevikus ei ole intelligentsel roboti suhtes mistahes põhjust jaatada delikti- või süüvime olemasolu, sest tunnustame intelligentse roboti käitumist vaid selle pidaja/omaniku huvides ning seega ei ole intelligentne robot deliktiõiguse ega karistusõiguse subjektiks.
Vastutus — Tsiviilvastutus — Peatükk 1. (4) I.
Vastutus teisele isikule tekkinud kahju eest saab tõusetuda:
— Defektist masinas või programmis;
— Vähesest omaniku/valdaja instrueerimisest;
— Omaniku/valdaja hooletusest või süülisest tegevusest.
Viimase puhul on võimalik kohaldada tavapärast lepingulist või lepinguvälist süülist vastutuse instituuti. Muudel juhtudel võib tekkida hulganisti küsimusi (alates kasutaja enda professionaalsusest; roboti iseõppimisest ja nn kaugenemisest enda õpetajast ehk programmeerijast; avatud lähtekoodiga (väidetavalt kasvav trend) robotite puhul erinevate panustajate panuses jne).
Täiendavalt ennustatakse, et isejuhitvate sõidukite omanikuks ei ole niivõrd üksikud tarbijad vaid äriühingud, kes üürivad/rendivad sellised masinad kasutajale välja ingl „car-sharing companies“ — teisiti öeldes, vastutavaid osapooli on mitme “kihina”.
Küll aga on tsiviilvastutuse vallas juba märgitud, et uue tehnoloogia tulekul jäävad suure tõenäosusega: 1) suurema ohu allika ehk riskivastutuse ja 2) tootja vastutuse instituudid, hätta õiglaselt tõendamiskoormise jagamisega.
Vastutus … — Riskivastutus — Peatükk 1. (4) I. (i)
Riskivastutuse idee lähtub sellest, et valdaja kasutab mootorsõidukit kui suurema ohu allikat enda jaoks, mistõttu on kaasnev kahju tema operatsiooni risk. Operatsioonirisk sisaldab endas ka automatiseerimise riski. See võib sisaldada endas autonoomsuse ebaõiget käitamist kui ka tehnilist süsteemi defekti, mis viib õnnetuseni. Seega, autonoomse, s.h isejuhtiva sõidukiga põhjustatud õnnetuse katab mootorsõiduki valdaja vastutuse instituut.
Nõustuda ei saa Eesti õiguskirjanduses märgituga, et riskivasutus pärsib kindlasti tarbijate soove autonoomseid sõidukeid omandada ja kaaluda tuleks isegi riskivastutuse välistamist autonoomsete sõidukute kontekstis. Põhjendatud on, et kuivõrd riskivastus kaasneb süüst sõltumata, siis ei soovi inimesed vastutada olukorras, kus neil ei ole sõiduki üle kontrolli ja kus õnnetuse vältimine ei olnud nende võimuses. /…/ Seega ka autonoomsete/intelligentsete sõidukite puhul mitte riskivastutuse välistamine, vaid kohustuslik liikluskindlustus aitab ühiskonnal aktsepteerida kaasnevaid riske.
Samas, ei kata see iga kahju, näiteks kui kahju tekib mootorsõiduki valdajale endale (liikluskindlustuse seaduse § 8 lg 1). Praktiliseks esmaseks lahenduseks on muuhulgas kahjukindlustus (kaskokindlustus).
Õiguskirjanduse kohaselt on probleem lahendatav läbi selle, et eksisteerib järgmine potentsiaalselt vastutav osapool — tootja.
Vastutus — Tootjavastutus — Peatükk 1. (4) I. (ii)
Tootja vastutus on Eesti õiguses defineeritud ja sätestatud võlaõigusseaduses. VÕS § 1061 lg 1 järgi tootja vastutab isiku surma või isikule kehavigastuse või tervisekahjustuse tekitamise eest, kui selle põhjustas puudusega toode. Tootja vastutuse sisuks on teatava toote valmistanud (tootnud) või turule toonud isiku ehk tootja vastutus tootel esinevate puuduste tagajärjel kolmanda isiku deliktiõiguslikult kaitstud õigushüvedele tekitatud kahju eest.
Kuigi kirjanduses on seisukohti, et kuigi ühelt poolt on isejuhtivad autod turvalisemad, siis tootjavastutuse risk suureneb ja seda selle võrra, et pidurdab innovatsiooni. Selle väitega ei saa nõustuda, sest tootjavastutus isejuhtivate sõidukite ohutuse eest on tootja operatsioonirisk ning pealegi adekvaatne risk ning võimaldab leida õiglase tasakaalu olukorras, kus mootorsõiduki valdaja (ja kindlustusandja) hüvitamiskohustus ei ole piisav või asjakohane.
Direktiivi mõtte kohaselt on toode puudusega muuhulgas, kui see ei ole ohutu määral, mida isik on õigustatud ootama.
Isejuhtivate sõidukite puhul on ohutus olulisim. Ka hoolikaim arendamine ei saa välistada tarkvaralist ebausaldusväärsust, kuid vaatamata sellele on isikul põhjendatud ootus ohutule tootele ning tootja vastutab seega selle eest, kui õnnetus toimub nt tarkvara programmivea tõttu.
Tootjavastutuse probleemina on välja toodud, et tootja vastutuse tõendamisega võivad kaasneda täiendavad kulud ja keerukused arvestades tehnoloogia arengutaset. Kannatanu tõendamiskohustus on sätestatud ka võlaõigusseaduse §-s 1065, mille kohaselt kannatanu peab tõendama kahju ja toote puuduse olemasolu ning põhjuslikku seost toote puuduse ja tekkinud kahju vahel.
Tootjavastutuse direktiivi sätteid on just isejuhtiva sõidukiga kaasnevate võimelike õnnetuste valguses kritiseeritud, märkides, et nende järgi on tarbijal liialt keeruline esitada nõuet tootja vastu, kuivõrd just isejuhtiva sõiduki tehnoloogilist komplektsust arvestades on tarbijal keerukas tõendada põhjuslikku seost defekti ja kahju vahel.
Kohtutel tuleb edaspidi arvestada ja hinnata lisaks füüsilistele puudustele ka just ja eelkõige puudusi tarkvaras, mille osas tuleb arvestada, et see nõuab kohtutelt uut-tüüpi võimekust ja kompetentsi. Riigil tuleb julgustada tootjate vahel tunnustatud standardite loomist, millele toode peab vastama.
Isejuhtivate sõidukite kontekstis on leitud, et just disainiveast tingitud vaidlusi kaasneb tulevikus tarbija ja tootja vahel kõige enam.
Isejuhtva sõiduki turustusviga. Toote puudus võib seisneda kasutaja ebapiisavas teavitamises selles osas, kuidas toodet ohututult kasutada. Tõenäoliselt saab põhiliseks turustusveaks autonoomsete sõidukite puhul tegematajätmine selles, et kasutajaid ei instrueerita piisavalt, kuidas autonoomset sõidukit kasutada. Kuna autonoomsed sõidukid on uus tehnoloogia ja ebaõigest kasutusest tingitud kahju tekkimise risk on väga suur, peavad tootjad tagama, et tarbijad teaksid, kuidas sõidukeid opereerida. See võib nõuda kasutusõpetuse videoid, mille vaatamine on kohustuslik enne sõiduki soetamist.
Tagamaks tootjate kindlust, on vajalik määratleda, mida peetakse piisavaks teavitamiseks, mille täitmisel saab tootja vastutusest vabaneda.
Vastutus — Tõendamiskoormisega seonduv tehnolooga — Peatükk 1. (4) I. (iii)
Selleks, et kindlaks teha, kes õnnetuse hetkel vastutav oli, on vajalik täiendava tehnoloogia abi.
Üheks võimaluseks paigutada autodesse must kast (black box). Küsimus tõusetub seoses sellega, kes on kogutud informatsiooni omanik ja kas ning mis juhtudel on tootjatel kohustus välja anda mustas kastis.
Juhud, mis raskendavad vastutuse küsimust on seotud järgmiste asjaoluga: me ei ole võimelised ette nägema olukordi, kus intelligentne robot, kas oma õppimisvõime tõttu, eriolukorra sunnil või mõnel muul ettenägematul põhjusel käitub, kas erinevalt sellest, mis on sisse programmeeritud või käitub täiesti iseseisvalt, sest vastav olukord programmis/koodis puudub.
Isejuhtiv auto võib ristmikule lähenedes, tuvastades teise sõiduki, otsustada mitte peatuda, sest sõiduk arvab eelnevalt õpitu pinnalt, et tegemist on eesõiguse olukorraga.
Siiski on juba õiguskirjanduses argumenteeritud, et see ei tähenda, et kohaldada ei saaks olemasolevat riski ja tootjavastutuse regulatsiooni.
Vastutus — Uued ohud — Peatükk 1. (4) I. (iv)
Uued ohud: Täiendavalt võib jalakäija oma elukogemuse pinnalt arvata, et kui sõiduk enne ülekäigurada oma kiirust aeglustub, siis sõiduk peatub. Kuid isejuhtiv sõiduk võib aeglustada oma sõitu ka teisel põhjusel ja võimalik, et tegelikkuses ei plaani masin peatuda. Sellised olukorrad loovad uued ohud. (Isejuhtivad sõidukid aeglustavad sõitu alatihti igasugustel põhjustel ning võivad lõpuks mitte peatuda, juhul kui nad ei tuvastanud jalakäijat.)
Tehnoloogia kasutamine õnnetuste analüüsiks (ja isegi ennetamiseks) on pälvinud samas palju kriitkat seonduvalt privaatsusõigusega, andmekaitsega kui ka kriminaalõigusliku aluspõhimõttega õigusega ennast mitte süüstada (nemo tenetur põhimõte).
Vastutus — Kriminaalvastutus — Peatükk 1. (4) II. (i)
Kuna tänasel päeval on teooriad roboti enda vastutusest kauge tulevik (kui see üldse tehnoloogiliselt võimalikuks osutub), siis küsimus roboti või robotpidaja (omanik/valdaja) ja tootja vastutusest on väga olulised, et täita tühimikku. Nimelt tuleb vältida olukorda, kus seni kuni robot ise ei ole karistusõiguslikult vastutav, kogeb kannatanu (ja ühiskond) vastutustühimikku.
Ühelt poolt, kuna pole võimalik ette näha roboti kõiki tegevusi — robot tegutseb nn omapäi, siis ei saa rääkida robotpidaja(omanik/valdaja) vastutusest; teiselt poolt, peaks omanik/valdaja ette nägema kõiki võimalikke kahju tekkimise olukordi ja seega olema vastutav de facto.
Saksamaal on tsiviilvastutuses kasutusel olevad tootjavastutuse nõuded kantud ka kriminaalvastutuse normistikku. Selle eesmärgiks on tagada vastutus ka hooletuse olukordades. Enne toote turule lubamist peab toode vastama kindlatele standarditele ja toote ohutus tarbijatele peab olema testitud. Kui toode on turul, on tootjal kohustus pidevalt jälgida tarbijate tagasisidet ja kohustus reageerida toote poolt tekitatud kahjule.
Karistusõiguslikult on võimalik läheneda etteheidetavale teole läbi kolme võimaluse:
— Täideviimine läbi „teise“ ehk vahendlik täideviimine (KarS § 21 lg 1). Siinkohal on analoogsed näited koera, lapse või lõpuks ka n-ö masina kasutamine kuriteo toimepanekuks. Täideviijaks võib olla teoreetiliselt nii omanik/valdaja (teadlik seadete muutmine), kolmas isik (õigustamatu ligipääs sõiduki seadetele) kui tootja (sõiduki seadete muutmine);
— Täideviimine läbi kaudse tahtluse, sest tagajärg pidi olema ettenähtav (eelkõige näiteks tarkvara uuenduste mitte aktsepteerimine);
— Roboti enda poolne täideviimine.
Lisanduvad ka uued rikkumised — näiteks kus tohib, ei tohi ja millal tohib isejuhtivat sõidukit kasutada.
Arvutiprogramm, mis on loodud seadet pahavara eest kaitsma, õpib selgeks, et ühe võimalusena võib siseneda enda poolt ohtlikuks peetavale lehele ja hävitada seal kahtlased tunduvad programmid — see aga on teiste vara hävitamine.
Vastutus — Eetilise valiku küsimused: kollisioon — Peatükk 1. (4) II. (ii)
Eraldi tähelepanu on kirjanduses pööratud ka eetiliste valiku küsimustele, sh keda peaks robot eelistama kohustuste kollisiooni korral ehk Trolley problem. /…/ Tekib eetiline küsimus, kas ja keda eelistada ja kes sellised otsuse peaks või ei peaks tegema. Juhised võib anda seadusandja või tootja või hoopis auto kasutaja.
Erinevus tänasest on see, et meil on valik selles, kes peaks langetama otsuse elu üle — tootja, insener, autojuht või seadusandja.
Vastutus — Järelevalve teostamine — Peatükk 1. (4) II. (iii)
Eraldi teemana on tõstatatud ka küsimus sellest, kuidas peaks toimuma näiteks politsei või mõne muu riigi jõustruktuuri ja isejuhtiva sõiduki vaheline suhtlus. Seda eriti, kui sõidukis puudub täisealine reisija.
Nimelt tuleb vastused anda küsimustele: kuidas politsei saab isejuhtivale sõidukile peatumiseks märku anda ja milline on politsei pädevus, kui sõiduk seda käsklust eirab.
Ühelt poolt on leitud, et politseil peaks olema võimalus isejuhtiv sõiduk peatada eriti olukorras, kus sõidki on üle võtnu häkker, kuid teisalt rõhutatakse, et laialdaste õiguse andmine võib viia õiguse kuritarvitamiseni.
Küsimus on, kuidas peaks toimuma sõiduki valdaja/omaniku suhtlus olukorras, kus sõiduk sõidab tühjalt või näiteks juba mainitud alaealise reisijaga. Selleks võib ette näha, et isejuhtivas sõidukis on olemas vastav rakendus, mis lubab omaniku/valdajaga ühendust võtta.
Vastutus — Roboti vastutus — Peatükk 1. (4) III.
Antud raporti raames ei pakuta lahendust, mis hõlmaks roboti n-ö „enese“ vastutust. Õiguskirjanduses on arutletud ka roboti „enese“ vastutuse loomist tsiviilõiguse kontekstis. Seda justnimelt põhjusel, et teatud roboti tegevus ei ole ette ennustatav ja teatud mõttes on need roboti „oma“ otsused olemata seotud tema „peremehe“ või „õpetaja“ või „looja“ tahtest ja soovidest.
Välja on pakutud, et luua hüvitisfond, mis eraldab raha neile, kes on saanud kahju roboti tegevuse tulemusel.
Kriminaalõiguses on leitud, et kuigi robot saab käituda ette-ennustamatult, siis kuivõrd robotil puudub eneseteadlikkus, puudub mõttekus rääkida ka roboti kriminaalvastutusest. Seda isegi selles valguses, et juriidilist abstraktsiooni — juriidilist isikut — võimaldab õigussüsteem kriminaalvastutusele võtta.
Kindlustus — Peatükk 1. (6)
Küsimus on, kuidas pakkuda kindlustusteenust, kui informatsioon varasematest isejuhtivate sõidukite õnnetustest ei ole kasutatav, kuivõrd sõidukit juhib iseõppiv algoritm, mis parendab pärast õnnetuse juhtumist süsteemi ja võtab esinenud asjaolud arvesse.
Teaduskirjanduses on ka tehtud ettepanek, et igasugune tsiviilvastutus tuleks välistada ja luua riiklik kindlustusfond, mis kannab kõik kahjud, mis kaasnevad isejuhtiva sõiduki õnnetuse korral. Seda põhjendusel, et nii isejuhtiva sõiduki tarbijad, ühingud, mis pakuvad car-sharing üürimise teenust kui ka tootjad võidaksid kõik isejuhtivate sõidukite masstarbimisse jõudmisest, kuid vastutuse panemine vaid ühele konkreetsele osapoolele on kas ebaõiglane (sõiduki tarbija, kes ei oma sõiduki üle mingit kontrolli) või tekitab olukorra, kus äririsk on nii suur, et loobutakse isejuhtivate sõidukite arendamisest (tootja).
Privaatsus ja andmekaitse — Peatükk 1. (7)
Isejuhtiv sõiduk kogub liikumiseks tohutul hulgal informatsiooni ja kuigi osa sellest informatsioonist on sõidukit kasutava isiku suhtes anonüümne, siis paljuski on seda võimalik kasutajaga siduda. Alustades kasutaja asukohast lõpetades kasutaja täpsete käitumisharjumustega ja sellega, mida konkreetne kasutaja konkreetsel ajal tajus ja nägi.
Mitteõiguslikud küsimused — Eetikakoodeks — Peatükk 1. (9) II.
Tehisintellekti eetikast on kujunenud teadusharu. Nagu A. Aksiim ja J. Tallinn on kirjutanud: „tehisintellekti eetika (AI ethics) on teadusharu, mis uurib, kuidas programmeerida endast arukamasse intellekti inimkonnale töökindlaid, soodsaid ja püsivaid eetilisi printsiibe.“.
Mitteõiguslikud küsimused — Infrastruktuur — Ühendatud juhtimine — Peatükk 1. (9) III. (iv)
Ühendatud juhtimine saab põhineda kahel erinevalt kommunikatsioonikanalil: sõiduk-sõiduk ning sõiduk- infrastruktuur. Sõiduk-sõiduk andmevahetus parandab oluliselt liiklusinfo saamist kasutajapõhiselt. Isejuhtimise võimekusega sõiduki puhul tähendab reaalajas info õnnetusest sujuvamat sõitmist, sest pidurdamine ja kiirendamine toimub info alusel, mis teel toimub.
Üheks võimaluseks on traadita võrgu kaudu andmeterviklikkuse valideerimise mudel läbi blokiahel (nn block-chain) vm tehnoloogia, kus sõidukid kontrollivad üksteise suhtes või infrastruktuuri suhtes kas nende tehnoloogia on kompromiteeritud või tingimustele mittevastav.
Mitteõiguslikud küsimused — Ekspertiisikeskus — Peatükk 1. (9) IV.
Õiguskirjanduses peetakse oluliselt erinevate ametkondade ja ekspertiisikeskuse olemasolu toetamaks avalikku ja erasektorit robotite kasutuselevõtul alates tarbijaõiguste tagamise vajadustest ning lõpetades tooteohutusega.
Siseriikliku ekspertiisikeskuse loomine nn robootikaameti näol oleks pigem vajalik, mis nõustaks ning abistaks ametiasutuse, ametnikke ning erasektorit robotitega seonduvas.
Täiendavad võtmeküsimused seoses õigussubjektsusega — Peatükk 1. (10)
Raporti autorid on veendunud, et robotile isikustaatuse andmine ei ole täna ega ettenähtavas tulevikus robotite mõistes vajalik ega mõistlik. Olenemata sellest, kui intelligentne on robot, siis roboti eesmärk on täita ülesanne või saavutada eesmärk, mis on temale seatud tootja või robotipidaja poolt. Sellisena on roboti käitumise õiguslikuks perspektiiviks isiku esindamine.
Täiendavad võtmeküsimused seoses õigussubjektsusega — Muud robotitega seonduvad õigused ja vabadused — Peatükk 1. (10) V.
Praeguses õigusruumis ei ole väljendusvabadus vaid füüsilisel isikul vaid ka juriidilisel isikul kui õiguslikul abstraktsioonil.
Meie hinnangul ei ole vähemalt esialgu küsimus niivõrd selles, kas on vaja kaitsta roboti õigust ennast väljendada, vaid inimestest n-ö kuulajate/lugejate õigust informatsiooni saada.
Põhiprobleemid ja lahendusettepanekud — Peatükk 3. (1) I.
1) Teeme ettepaneku eristada üldmõistet „intelligentne robot“ ja erimõistet „robot-agent“;
2) Teeme ettepaneku, et intelligente robot kvalifitseerub robot-agendina vaid siis, kui see on registreeritud.
1) Teeme ettepaneku, et intelligentne robot on esemeks asjana (ost-müük, rent, hoid jne), kuid selle autonoomses või iseõppivas sfääris kohaldatakse sellele eseme kohta sätestatut analoogselt loomale asja kohta sätestatu kohaldamisele, tunnustades sellega roboti autonoomset, kontrollimatut ja iseõppivat osa, tagades siiski ühetaolise lepingu- ja deliktiõiguse.
2) Teeme ettepaneku, et tahteavalduste instituut tuleb ümber mõtestada ning seadusandjal sõnastada, selliselt, et intelligentse roboti omaniku/valdaja antud nõusolek näiteks robot-agendi vahendusel tehtavaks tehinguks on kehtiv nii tsiviilseadustiku üldosa seaduse kui võlaõigusseaduse mõttes.
Põhiprobleemid ja lahendusettepanekud — Intelligentse roboti definitsioon — Peatükk 3. (2) I. (i)
Problemaatiline on, et Eesti õigusruumis on sõna „robot“ juba kasutusel. Seda liiklusseaduse hiljutises muudatuses sõnas „robotliikur“ ehk ka meedia vahendusel tuntud kui nn pakirobot
„mis kasutab ümbritseva keskkonna kohta teabe saamiseks andureid, kaameraid või muid seadmeid“ — meie hinnangul on ebavajalik definitsioonis välja tuua, mida konkreetselt ja kas üldse liikur kasutab info saamiseks. Sellel põhjusel soovitame meie välja pakutud intelligentse roboti definitsioonis kasutada sõna „informatsioon“, defineerimata, mida robot info saamiseks kasutab, sest seda ei ole võimalik ega praktiline ette näha ja kirjutada.
Intelligente robot — on seade (alt masin) või tehnoloogia (alt meetod), mis on võimeline toimima täielikult inimese kontrollita määratledes selleks oma tegevusi ja hinnates tegevuste tagajärgi vastavalt informatsioonile, mis on saadud väliskeskkonnast.
Vaata lisaks (enamus järgnevalt viidatud materjale on inglise keeles).
- “Project: Legal accountability in AI-based robot-agents’ user interfaces.”
The central subject of this project is legal accountability in artificial intelligence. We are going to show who can justifiably and fairly be made responsible for the actions of artificial agents, and how can whitelisting help both artificial intelligence developers and legislators in making sure that we will have as few surprises as possible. In other words, the project will research the possible ways to control and limit the agents’ actions and learning from a legal point of view, by utilising specialised, humanly comprehensible user interfaces, resulting in clearer distinctions of accountability between the manufacturers, owners, and operators. - An older document with a general technical overview of the original idea of the above referred project:
“Permissions-then-goals based AI user “interfaces” & legal accountability: First law of robotics and a possible definition of robot safety” - Another older document with a slightly more detailed technical overview of the original idea of the above referred project:
“Implementing permissions-then-goals based AI user “interfaces” & legal accountability: Implementing a framework of safe robot planning” - Estonia considers a ’kratt law’ to legalise Artifical Intelligence (AI)
- Originaal-raport on saadaval siin (ainult eesti keeles): https://www.mkm.ee/sites/default/files/loppraport_analuus_sae_tase_4_ja_5_soidukite_kasutusele_votmiseks_riigikantselei_2017_10_15_ver_10_final.pdf
- Väljavõtted minu poolt mitteametlikult inglise keelde tõlgituna:
“Accountability-related translated excerpts from the Estonian lawmakers report about regulating robot-agents — the so-called “kratt” law.” - What happens when autonomous robots are not regulated or on the contrary, qualify as subjects of law?
Proposals have been made, that in order to have a worthwhile dialogue on the subject of regulating autonomous agents, we should first determine what are the problems that need to be solved via these regulations. - What can happen, when we don’t have a clue why a somewhat autonomous gadget does what it does — my analysis of the Gatwick Airport drone incident.
All in all, the story illustrates the notion, that when considered in a broader sense, the problem of identifying the owners of autonomous devices is no longer resolvable with robust methods. What is needed, is the infrastructure for enforcing the principles already found in existing laws also on autonomous devices, and the infrastructure that enables justified accountability of various persons related to the robot-agent (either manufacturers, owners, or users). - Making the tax burden of robot usage equal to the tax burden of human labour.
There have been proposals to introduce robot taxes. I would propose something slightly different as a potentially better alternative.
The main point of my proposal is that the tax burden of technology is currently lower than the tax burden of human resources and this will have to change sooner or later. By “technology” I mean all of the following: software, robots, even cyborgs, all other technological solutions, be it a trained bird on a branch — it makes no difference from the perspective of this proposed solution and no registration or classification will be necessary. Therefore this solution can not be bypassed by “legally correct” tricks for avoiding the taxes. - Robotite maksustamise teema teesid. (In Estonian)
Short summary of the theses presented in the above referred essay, in Estonian.
Aitäh lugemast! Kui Sulle see kirjutis meeldis, plaksuta nii mitu korda, kui mitu endale meeldivat mõtet siit leidsid. Sel moel levib see kirjutis paremini. Samuti võid mu postitusi siin Mediumis jälgima hakata. Palun kommenteeri ja ütle, kuidas saaksin teksti paremaks teha!
Võta minuga julgelt ühendust —
