Необхідні рішучі дії для заборони «роботів-вбивць» — поки не стало надто пізно
У зв’язку з тим, що швидкий розвиток технологій робить появу «роботів-убивць» цілком реальною, Amnesty International закликає світові держави прийняти нове міжнародне законодавство, яке б забороняло створення та застосування повністю автономних озброєнь.

У рамках Конвенції про заборону або обмеження застосування конкретних видів звичайних озброєнь (або Конвенції про негуманну зброю, КНО) група державних експертів (ГПЕ) з летальних автономних озброєнь прямо зараз проводить зустріч у Женеві (27–31 серпня). Ця подія може стати ключовою можливістю для держав всього світу обговорити і визначити можливі відповіді на етичні та гуманітарні виклики у сфері захисту прав людини та безпеки, які ставить перед людством поява повністю автономних систем озброєнь.
Роботи-вбийці — це більше не наукова фантастика. Поява оснащених штучним інтелектом безпілотників, автоматичних пушек, які можуть самі обирати собі цілі — свідчить про те, що технологічні прориви в області створення зброї значно перевищують розвиток відповідного міжнародного права. Ми поступово скочуємося до ситуації, коли в майбутньому люди можуть взагалі бути відсторонені від прийняття рішень про застосування сили,
— заявив Раші Абдул-Рахим, дослідник та радник Amnesty International з питань штучного інтелекту та прав людини.
Однак ще не поздно змінити курс. Заборона повністю автономних систем озброєнь може запобігти реалізації справді апокаліптичних сценаріїв, наприклад, нової високотехнологічної “гонки озброєнь” між світовими супердержавами, що призведе до широкомасштабного розповсюдження автономних систем озброєнь. Мы закликаємо держави, чиї представники зараз зібралися в Женеві, до невідкладних дій, яких вимагає це украй важливе питання. Слід визначити перелік заходів, необхідних для усунення численних загроз, пов’язаних із появою автономних озброєнь.
Представники більшості держав на останньому засіданні в рамках КНО у квітні 2018 року підкреслювали важливість збереження людиною контролю над системами озброєнь і питанням про застосування сили, а також підтримали розробку нового міжнародного законодавства у сфері летальних автономних систем озброєнь. Двадцять шість держав висловилися за повну заборону подібних озброєнь, зокрема Австрія, Бразилія та Єгипет. Китай також закликав прийняти новий протокол КНО, що забороняє застосування повністю автономних систем озброєнь.
Водночас низка держав виступає проти створення юридично обов’язкових заборон, зокрема ті країни, які самі ведуть розробку автоматичних систем озброєнь: Франція, Ізраїль, Росія, Південна Корея, США і Великобританія.
Amnesty International закликає виробити юридично обов’язкові стандарти для забезпечення того, щоб люди як і раніше залишалися ключовою ланкою під час реалізації «критично важливих функцій» систем озброєнь, таких як ідентифікація, вибір і захоплення цілей. Тільки так можна забезпечити дотримання міжнародного права і усунути етичну проблему делегування машинам повноважень вирішувати питання життя і смерті.
Amnesty International також закликає держави враховувати загрози, пов’язані із застосуванням систем автономних озброєнь правоохоронними органами.
Досі імовірність того, що автономні озброєння використовуватимуться під час поліцейських операцій — з усіма наслідками, що випливають звідси — здебільшого ігнорувалася. Однак дрони, здатні стріляти електрошоковими стрілами, розпорошувати сльозоточивий газ і перцевий аерозоль, вже існують. Нещодавно Ізраїль розгорнув напівавтономні літальні апарати, здатні розпилювати сльозогінний газ над учасниками протестів в Газі, і швидше за все, у майбутньому ми побачимо активне застосування подібних технологій правоохоронними органами.
Використання повністю автономних систем озброєнь правоохоронними органами за відсутності ефективного і пильного контролю з боку людей несумісне з міжнародним законодавством у сфері прав людини, і може призвести до незаконних вбивств, поранень та інших порушень прав людини. Ми закликаємо держави зупинити поширення цих небезпечних озброєнь і на вулицях міст, так і на полі бою, поки не стало надто пізно.
Довідка
Amnesty International та інші учасники кампанії «Зупинимо роботів-вбивць!» закликають запровадити повну заборону на розробку, виробництво і використання повністю автономних систем озброєнь в зв’язку із загрозами дотриманню прав людини та гуманітарними ризиками. Використання повністю автономних озброєнь без повноцінного та ефективного контролю з боку людини може створити вакуум у питанні про притягнення до відповідальності, оскільки автономні системи в разі їх використання зможуть виробляти власні судження, пов’язані із застосуванням смертельних атак.
І хоча поки неясно, наскільки складними можуть бути майбутні технології, малоймовірно, щоб повністю автономні системи озброєнь змогли відтворити весь спектр невід’ємних людських характеристик, необхідних для дотримання міжнародного права. Сюди входить здатність аналізувати наміри людей, які спонукають їх діяти, оцінювати і реагувати на ситуації, що часто швидко розвиваються і є непередбачуваними, або приймати складні рішення про пропорційність і необхідність застосування сили.
Держави знову зберуться в листопаді для наради Високих Договірних Сторін у рамках КНО, і будуть мати можливість домовитися про початок переговорів щодо створення юридично обов’язкового правового інструменту.
