Wyścig zbrojeń robotów, czas: start!

Wizja automatycznych, inteligentnych systemów bojowych, które będą potrafić podejmować decyzję o strzelaniu do ludzi całkowicie samodzielnie powinna wywoływać lekkie zaniepokojenie u każdego z nas. Czy jest to nadal mokry sen katastroficznych pisarzy science-fiction, czy raczej smutna wizja czekającej tuż za rogiem przyszłości? Trzynastego kwietnia rozpoczęła się druga runda rozmów na temat wprowadzenia ogólnoświatowego zakazu produkcji samodzielnych robotów-zabójców.

Jednym z kanonów literatury science-fiction jest historia o inteligentnym programie komputerowym, który przy użyciu maszyn rozpoczyna walkę z człowiekiem. Pozbawiony ludzkich wad, bez większego problemu z wyrachowaniem morduje ludzkość, dopóki nie pokona go wymyślny superbohater w obcisłych slipach. Podobny schemat w literaturze i filmie został już wykorzystany we wszystkich możliwych konfiguracjach, aż do znudzenia. Temat ożywia jednak fakt, że wczorajsze narkotykowe wizje fantastów mogą stać się przykrą rzeczywistością jutra. Tyle, że tym razem szansę na interwencję superbohaterów będziemy mieć raczej znikome (bo zbyt mało osób nosi slipy).

Dyskusja na temat potencjalnych zagrożeń związanych z rozwojem sztucznej inteligencji, rozgorzała na początku tego roku wśród badaczy dziedziny AI. Wystosowali oni list otwarty do społeczności naukowej, w którym wzywają do zastanowienia nad odpowiedzialnością za powstające algorytmy. Dzięki wsparciu przez znanych naukowców (Stephen Hawking) oraz przedsiębiorców (Elon Musk) list nie tylko wzbudził ferment, ale i zyskał szerszy rozgłos.

Sytuacja dojrzała do momentu, w którym warto się tymi tematami zająć. Wszelkiego rodzaju systemy bojowe, wykorzystujące inteligentne algorytmy, wciąż pozostają zależne od człowieka. Główna autorka raportu na temat samodzielnych zestawów bojowych, Bonie Docherty z Harvardu, definiuje pojęcie całkowicie autonomicznej broni jako takiej, która „będzie potrafiła wykryć cel i zabić bez istotnej roli człowieka”. Obecne drony potrafią dolecieć do celu i obserwować otoczenie, lecz nadal za podjęcie decyzji o użyciu broni odpowiada człowiek.

Szybkość rozwoju informatyki i technologii nie pozwala jednak zakładać, że tak będzie zawsze. Co więcej, nikt będący na bieżąco z tempem rozwoju sztucznej inteligencji nie jest na tyle głupi by stwierdzić, że powstanie takiej broni jest niemożliwe. Stąd też wola zakazania rozwoju podobnej technologii ze strony ONZ jest bardzo potrzebnym krokiem wyprzedzającym: podjęcie uchwały będzie o wiele łatwiejsze, zanim największe armie świata zainwestują miliardy dolarów w programy badawcze. Nowy, globalny wyścig zbrojeń jest jedną z głównych obaw wspomnianego wyżej raportu Harvardzkiego Wydziału Prawa oraz organizacji Human Rights Watch.



Znaczenie wojskowe posiadania robotów-zabójców może być porównywalne jedynie z przełomem związanym z wynalezieniem broni atomowej. Podobnie jak ona, rodzi też potężne moralne obiekcje. O ile jednak ogromna odpowiedzialność osoby mającej nacisnąć „wielki czerwony przycisk” pomogła Zimnej Wojnie nie zamienić się w gorącą, to samodzielnie podejmująca decyzje broń może mieć dokładnie przeciwny wpływ na ilość konfliktów zbrojnych na Ziemi. Za popełnione przez autonomicznych robotów zabójstwa według litery prawa międzynarodowego nie będzie odpowiadał bowiem nikt.

Trzynastego listopada, sto dwadzieścia państw-sygnatariuszy podejmie w siedzibie ONZ decyzję dotyczącą rozszerzenia Konwencji o Zakazie lub Ograniczeniu Użycia Pewnych Rodzajów Broni Konwencjonalnej o w pełni autonomiczne systemy bojowe. Mamy do czynienia z precedensem: wprowadzeniem ograniczenia użycia broni, zanim jeszcze taka powstanie. Powoduje to ogromne trudności związane z poprawną definicją prawną zakazu oraz ustanowieniem faktycznej kontroli przestrzegania przepisów.

Pozostaje jedynie mieć nadzieję, że uda się wyciągnąć lekcje z procesu ograniczania światowego arsenału atomowego. Oby ludzkość tym razem nie potrzebowała tragicznego przykładu, za który posłużyły wówczas Hiroszima i Nagasaki, aby zdać sobie sprawę z mocy wynalezionej broni — i odpowiedzialności za całą planetę. Groźbę nuklearnej wojny udało się opanować dzięki dużemu wysiłkowi dyplomatycznemu, ale przede wszystkim dlatego, że naciśnięcie wielkiego czerwonego przycisku na zawsze bardzo obciążyłoby czjeś sumienie. Liczenie na podobne opamiętanie się światowych przywódców gdy będą mieć w rękach broń pozbawiającą ich odpowiedzialności za działania zbrojne może być bardzo naiwne.