Впереди ИИ-национализм и ИИ-национализация

Анализ влияния технологий ИИ на геополитику

Credit: Nicole Gray

Технологическое неравенство и раньше сильно влияло на мировую политику и экономику. Самые технологически продвинутые государства становились самыми экономически успешными, они обретали неоспоримое военное превосходство и начинали диктовать свою волю менее развитым странам.

В ХХ в. две мировые войны и немыслимое ускорение научно-технического прогресса еще более усилили это влияние. А с приближением третьей декады ХХI в. лавинообразный рост возможностей машинного обучения заставил говорить о спектре IT технологий, объединенных метафорическим обозначением «Искусственный интеллект» (ИИ) как о ключевом факторе экономического, геополитического и военного могущества ближайших десятилетий.

ИИ как геополитический фактор

2018 год стал переломным. Ранее основное внимание СМИ, общества и политиков при обсуждении будущих угроз и вызовов развития ИИ было направлено на:

  • грядущее вытеснение людей из многих профессий когнитивными агентами ИИ (роботами и программами);
  • правовые и этические проблемы автономных ИИ-устройств (например, беспилотных авто);
  • проблемы кибербезопасности;
  • пугающе манящую перспективу то ли далекого, то ли не очень «бунта машин».

Однако в 2018 г. всё вдруг начало меняться.

Перечисленные выше угрозы и вызовы не то чтобы исчезли, но потускнели на фоне происходящего осознания политиками и военными двух глобальных трансформационных трендов, которые можно условно назвать

— ИИ-национализм
— ИИ-национализация

Появление этих трендов привело к тому, что многие развитые страны при создании своих национальных ИИ-стратегий синхронно стали менять отношение к двум базовым принципам, ранее казавшимся незыблемыми:

  • вместо всестороннего международного сотрудничества, глобального разделения труда, внедрения открытых платформ и взаимного перетекания талантов, делается ставка на ИИ-национализм, декларирующий главной целью национальных ИИ-стратегий приоритет экономических и военных интересов своей страны;
  • вместо распространенного в развитых странах разделения государства и бизнеса, взят курс на ИИ-национализацию — интеграцию ресурсов государства и частных компаний, выравнивание скоростей внедрения ИИ-инноваций и рефокусировка стратегических целей на получение государством экономических, геополитических и военных преимуществ на международной арене.
Усиление этих трендов способствует смещению государственных приоритетов в развитых странах от экономики к геополитике.

И если это продолжится, то в самом недалеком будущем мир довольно сильно изменится.

Краткий техно-геополитический прогноз

Во-первых, поменяются геополитические и военные доктрины большинства развитых стран. Произойдет кардинальная трансформация многих экономико-политических процессов, объединяемых понятием глобализация. Не исключено, что глобализация, резко ускорившаяся вслед за взрывной динамикой развития технологий после Второй мировой войны, ИИ-технологиями будет вообще остановлена. И тогда на смену глобализации придет «глобальная балканизация».

Во-вторых, не менее сильно скажется изменение модели сосуществования государства и бизнеса. Интеграция целей и ресурсов государства и частного бизнеса для достижения военного превосходства, скорее всего, приведет ко всемирному торжеству авторитарно-демократической модели интеграции интересов частного бизнеса и государства, уже взятой Китаем на вооружение (в прямом и переносном смысле).

В результате главными факторами международных отношений станут:

  • ИИ-неоколониализм во взаимоотношениях стран-лидеров и стран-аутсайдеров в ИИ-технологиях;
  • Гонка ИИ-вооружений между странами-лидерами, определяющая и направляющая дальнейшее развитие ИИ-технологий.

У такой гонки возможны два варианта окончания:

  1. Вариант «Большая война», в результате которой следующая война будет вестись уже камнями и палками.
  2. Вариант «AI Сингулярность» (или «приход лесника»), при котором все ускоряемое гонкой вооружений развитие ИИ-технологий породит «сильный» ИИ, а тот поступит, как лесник в анекдоте, устранивший обе соперничающие стороны за ненадобностью.

Первый вариант видится куда более вероятным. Однако и второй вариант не исключен.

Важно отметить, что с какого-то момента тренды ИИ-национализма и ИИ-национализации станут самораскручивающимися. Другими словами, их поддержание и укрепление, как при всякой гонке вооружений, уже не будет зависеть от степени прогресса ИИ. И даже если прогресс ИИ окажется куда скромнее, чем предполагалось, потребуется немало времени и усилий для преодоления гигантской инерции обоих трендов.


В следующих разделах будет представлена аргументация вынесенного в заголовок отправного тезиса о том, что впереди мир ждет именно ИИ-национализм вкупе с ИИ-национализацией. Для обоснования трендов использован обширный корпус документов, с полным перечнем которых можно ознакомиться в Приложении 1. На сегодняшний день, насколько известно автору, данное исследование — единственный из опубликованных в сети экспертных анализов, выполненных с учетом настолько обширного и актуального (по состоянию на лето 2018) списка источников.

Но прежде чем приступить к изложению аргументации, считаю необходимым пояснить:

— о каких ИИ-технологиях идет речь;
— почему именно этот класс технологий способен привести к радикальным изменениям в мировой политике.

О каких ИИ-технологиях идет речь

«Искусственный интеллект» (ИИ) — всего лишь многозначная метафора, в которую вложено много смыслов. Исследователи, журналисты, эксперты и аналитики дают десятки различных определений этого термина. В данном исследовании предлагается определение, суммирующее большинство распространенных трактовок.

ИИ — это совокупность множества очень быстро развивающихся технологий, позволяющих «умным» машинам (компьютерам и прочим «умным» устройствам) совершать все более «умные» действия и принимать все более «умные» решения на основе доступной им информации.
Примеры некоторых из ИИ-технологий и решений, создаваемых на их базе. Источник: Accenture.

Под более «умными» действиями и решениями здесь подразумеваются такие, которые способствуют достижению поставленных перед машиной целей, по возможности максимизируя пользу и минимизируя вред предпринимаемых действий и выносимых решений.

Откуда берутся цели — отдельный вопрос. Считается, что они каким-то образом заложены в машины людьми (например, запрограммированы и встроены в машины), как и оценка пользы и вреда.

Приведенное выше обобщенное описание сути ИИ может иметь множество интерпретаций в зависимости от целей, вкладываемых людьми в машины.

Вот три наиболее распространенные интерпретации этих целей.

  1. В СМИ и соцсетях в качестве цели широко распространено стремление к достижению превосходства над возможностями человечества во всех его возможных действиях и решениях. Именно с такой интерпретацией цели связаны всевозможные алармистские сценарии вплоть до «бунта машин».
  2. В среде разработчиков, создающих коммерческие ИИ-системы (всевозможные приложения и гаджеты для частных пользователей и разнообразные «умные» ИИ-устройства и платформы для госсектора и корпоративного сегмента), под целью понимается достижение превосходства над действиями и решениями усредненных индивидов или групп специалистов с последующей автоматизациейэтих действий и решений, вплоть до (в идеальном случае) полной замены людей.
  3. И, наконец, распространенная интерпретация целей среди военных и государственных деятелей — достижение военного и экономического превосходства над другими странами для получения за счет этого максимальной выгоды от своего доминирующего положения.
Значимые вехи за 78 лет развития ИИ. Источник: Accenture.

Первая из названных целей — пока лишь предмет дискуссий философов-алармистов, журналистов и социальных медиа. И до тех пор, пока в этом вопросе не появится хоть какая-то определенность по части способов его практического решения, он так и останется лишь предметом горячих, но неплодотворных дискуссий.

Вторая из целей — основной предмет современного бизнеса ИИ. Прагматичный бизнес отказался от амбициозных, но туманных планов по воссозданию в машинах интеллекта, подобного человеческому. Взамен этого приоритетом для бизнеса стали программно-аппаратные решения:

  • максимально универсальные и горизонтальные (т.е. применимые почти повсеместно): распознавание образов и речи, их обработка и генерация, интеллектуальная обработка текстов (поиск, перевод, извлечение семантических связей) и т.п.
  • не только позволяющие создавать все новые и новые «умные» устройства, но и позволяющие встраивать возможности этих решений в постоянно расширяющийся спектр новых приложений, сервисов и бизнес моделей.

Третья цель кардинально отличается от первой свои прагматизмом, а от второй — уровнем ставок:

  • одно дело проиграть в конкуренции на рынке какого-то нового класса устройств (например, голосовой ассистент) и потерять на этом относительно немного;
  • другое дело — проиграть в конкуренции за военное и экономическое превосходство; здесь, в принципе, можно потерять очень много, а иногда — почти все.

Но почему именно ИИ может стать ключом к военному и экономическому превосходству?

Об этом следующий раздел.

Почему именно ИИ способен радикально изменить мировую геополитику

Логика здесь примерно одинакова, что у военных, что у гражданских экспертов, изучающих потенциал влияния ИИ на экономику, международные отношения, национальную безопасность и оборону [1–4] (ссылки на использованные при подготовке поста отчеты указаны в конце текста).

1. ИИ — это универсальный подход с потенциально неограниченной отдачей.
2. ИИ обладает уникальной привлекательностью не только для бизнеса, но и для государства.
3. ИИ может стать «Святым Граалем» мирового могущества.

ИИ — это универсальный подход с потенциально неограниченной отдачей.

Неограниченность потенциала отдачи от ИИ определяется тем, что это не просто совокупность многообещающих технологий (коих сегодня не мало), а нечто принципиально иное и небывалое.

Это инновационный подход к созданию инноваций в любых областях деятельности человека, так или иначе, связанных с накоплением значительных объемов информации. А с переходом развитых стран к постиндустриальной экономике большие данные (Big Data) стали накапливаться практически повсюду: в науке, при производстве товаров и услуг, в ходе естественнонаучных и гуманитарных исследований, при решении вопросов экономического и социального устройства общества и пр.

И как только у людей появились компьютеры с вычислительной мощностью, позволяющей применять машинное обучение на больших данных, самая бурно развивающаяся область машинного обучения и, в целом AI, — глубокое обучение — превратилась в то, что на Западе называют General-purpose Invention for the Method of Invention.

Иными словами, глубокое обучение превратилось в универсальный инновационный метод создания неограниченного множества инновационных методов решений практически любого класса задач, связанных с обработкой больших объемов информации.

Похожий пример из истории инноваций в области визуальной информации — оптические линзы, позволившие создавать десятки новых инноваций: от очков, микроскопа и бинокля до кино и смартфона (и то ли еще будет).

Это можно проиллюстрировать следующей схемой.

Синергия между универсальностью инноваций (GPTs) и возможностью их использования в качестве метода создания других инноваций (IMIs) [5]

Еще более релевантный пример — электричество с неограниченным кругом все новых и новых применений, — все более совершенных, эффективных и невообразимых: от лампочки, холодильника и телевизора до электропоезда, кардиостимулятора и электромобиля.

Таким образом превращение глубокого обучения в General-purpose Invention for the Method of Invention предопределяет гигантский потенциал экономической отдачи ИИ, ограниченный лишь временем и объемами средств, инвестируемых в R&D.

И тут нас ожидает второе крайне важное качество ИИ.

ИИ обладает уникальной привлекательностью не только для бизнеса, но и для государства.

Выше уже отмечался особый подход военных и государственных деятелей к целеполаганию технологического развития. Их главная цель — достижение военного и экономического превосходства над другими странами, обеспечивающего получение максимальной выгоды для государства от своего доминирующего положения.

Процесс глобализации в последние десятилетия существенно скорректировал такое целеполагание среди политиков (но не военных). Да и то, лишь в тех областях, где в силу невозможности стать безусловным лидером из-за открытости и информационной прозрачности, международная кооперация оказывается выгодней конкуренции.

В свете такого целеполагания мотивация военных и государственных деятелей вкладывать средства в развитие какой-либо новой технологии резко возрастает, если эта технология обещает достижение военного или экономического превосходства над другими странами.

Если же манящее политиков и военных превосходство принимает (в их понимании) абсолютные формы, объемы госфинансирования могут расти лавинообразно.

Вот два ярких примера, когда такое уже случалось: Манхэттенский проект создания ядерной бомбы и программа «Аполлон» для осуществления первой пилотируемой высадки на Луну.

Оба примера характеризуются тремя отличительными особенностями:

— Невозможность реализации без госфинансирования — проекты слишком дороги и рискованы для финансирования даже самыми крупными из частных инвесторов.

— Для достижения критической массы исследований в рамках проекта необходима не конкуренция коммерческих компаний, а объединение их потенциалов при единой координации.

— Цель проекта должна затрагивать национальные интересы, без чего невозможно превратить ее в национальный приоритет, позволяющий мобилизацию финансовых и интеллектуальных ресурсов всей страны.

В обоих примерах объемы финансирования и, соответственно, рост числа работающих на проекты в течение считанных лет после их начала росли невиданными темпами, достигая в пиковые годы 0,4% ВВП страны.

Динамика финансирования проектов национального уровня в текущих долларах (голубым) и в долларах 2008 года (красным) [6]

Следуя этой исторической аналогии, можно предположить, что национальные программы развития ИИ в этом году находятся примерно в районе первого года каждого из проектов: 1942 год, в сравнении с Манхэттенским проектом, и 1960 год, в сравнении с программой «Аполлон».

В пользу такого предположения свидетельствует опубликованный 10 мая 2018 г. документ «Summary of the 2018 White House Summit on Artificial Intelligence for American Industry» [4], подготовленный Комитетом по науке и технологиям Белого дома.

Согласно этому документу, впервые в истории США:

  1. в Бюджетном запросе Президента на 2019 год [7] ИИ, автономные и беспилотные системы названы приоритетами для НИОКР со стороны Администрации США;
  2. в официальной Стратегии национальной безопасности [8]Президента Трампа объявлено об особой важности ИИ для будущего военных сил США;
  3. в официальной Стратегии национальной обороны [9] указаны приоритетные обязательства инвестировать в военные приложения автономных вооружений, ИИ и машинного обучения.

Включение ИИ в качестве приоритетного направления в эти три весьма важные государственные документы 2018 г. может предвещать скорое превращение ИИ в новый национальный технологический проект США. И тогда, как показывает история Манхэттенского проекта и программы «Аполлон», объемы расходов бюджета на ИИ и связанные с ИИ технологические направления (согласно [10], примерно 7,4 млрд долл. в 2017 г.) уже в самые ближайшие годы могут вырасти более, чем на порядок.

Тем более, что для этого есть весьма весомый стимул.

Военные видят в ИИ «Святой Грааль» мирового могущества.

Второй и третий из вышеназванных документов касаются национальных стратегий обороны и безопасности. Да и первый из документов — Бюджетный запрос Президента — с учетом указанных в нем цифр, говорит исключительно в пользу военных. Единственная статья из классификации федеральных агентств, получившая двузначный рост бюджета (31%) — это статья «Оборона».

Целью, как продекларировано в «Summary of the 2018 White House Summit on Artificial Intelligence for American Industry», служит:

«Достижение стратегического военного преимущества: Стратегия национальной безопасности Администрации Трампа признает необходимость достижения лидерства в области ИИ, и инвестиции Министерства обороны направлены на достижение этой цели».

Принятая в октябре 2017 г. национальная программа NITRD «The Networking and Information Technology Research and Development Program» [11] в поддержку принятого годом раньше стратегического плана «The National Artificial Intelligence Research and Development Strategic Plan» [12] выводит на первое место программу «ArtificialIntelligence Research and Development Task Force», в рамках которой координируются R&D исследования в области ИИ, проводимые 12 основными агентствами (DARPA, DHS, DoD, DOE, NASA, NIH, NIST, NRL, NSA, NSF, ONR, OSTP) и 4 привлеченными агентствами (DOJ, DOT, IARPA, Presidential Innovation Fellows).

Лидирующая роль среди агентств принадлежит Министерству обороны (через DARPA) и ЦРУ (через IARPA).

Активизация военного лидерства R&D исследований в области ИИ началось еще в октябре 2016 г. созданием «Совета по инновациям в области обороны» (Defense Innovation Board) выпустившего тогда же свой первый набор рекомендаций [13].

Одной из ключевых рекомендаций было создание «централизованной, целенаправленной и обеспеченной ресурсами организации» в рамках Министерства обороны, чтобы «продвигать прикладные исследования в области искусственного интеллекта и машинного обучения».

Недавно Пентагон трансформировал эту рекомендацию в реальность. 27 июня 2018 г. заместитель министра обороны Патрик Шэнахэнопубликовал меморандум [14], в котором официально объявлялось о создании Объединенного центра искусственного интеллекта Министерства обороны (JAIC). Согласно меморандуму, главная цель JAIC — ускорить разработку военных решений на основе AI, масштабировать применение инструментов AI и синхронизировать усилия участников AI исследований и разработок. На эти цели JAIC планирует израсходовать в ближайшие 6 лет 1,7 млрд долл.

Меморандум заместителя министра обороны Патрика Шэнахэна о создании Объединенного центра искусственного интеллекта Министерства обороны
«Это начало очень, очень большой программы, которая затронет всех»,

— так прокомментировал открытие JAIC председатель «Совета по инновациям в области обороны» США Эрик Шмидт, бывший руководитель Google и Alphabet, где он остается Technical Advisor.

Эрик Шмидт — председатель «Совета по инновациям в области обороны» США, бывший руководитель Google и Alphabet

Секрет такой активизации военных США вокруг ИИ прост.

После окончания холодной войны США располагали практически непревзойденным статусом сверхдержавы. Важнейшим фактором в этом было ее неоспоримое военно-технологическое превосходство. Тем не менее, технологии, которые лежали в основе обороны американских военных в прошлом (например, высокоточное оружие), распространились по миру вследствие глобализации и передачи технологий. В результате страны — конкуренты США развили собственные возможности, которые все больше бросают вызов американскому военному превосходству.

Министерство обороны США, чтобы сохранить и расширить свое военное преимущество в будущем, сделало ставку на ИИ-технологии, потенциальное применение которых в военной области весьма разнообразно: от повышения эффективности логистических систем к более чувствительным задачам, таким как автоматическое управление и контроль в современных системах вооружения. Стратегия национальной обороны 2018 г. предполагает, что ИИ, скорее всего, изменит характер войны. И потому, по словам замминистра обороны Патрика Шэнахэна, Соединенные Штаты «должны стремиться к применению ИИ с дерзновением и готовностью» [14].

Так что есть основания предположить, что прошлогодний призыв Эрика Шмидта к осознанию того факта, что «”момент спутника” в области ИИ уже наступил», вроде как, наконец дошел до правительства США.

Министр обороны США Джеймс Мэттис

По крайней мере, в мае 2018 г. министр обороны Джеймс Мэттис призвал президента Дональда Трампа создать национальную стратегию развития технологий искусственного интеллекта не только для правительства США, но и для «всей страны». Письмо Мэттиса президенту включало предложение создать президентскую комиссию, способную «вдохновить усилия всей страны на то, чтобы США стали мировым лидером не только в вопросах обороны, но и в глубокой трансформации всех аспектов жизни человечества».

Как бы в ответ на все эти призывы,

  • в «Summary of the 2018 White House Summit on Artificial Intelligence for American Industry» заявлено что администрация Трампа «уделяет приоритетное внимание финансированию фундаментальной исследовательской и вычислительной инфраструктуры ИИ, машинного обучения и автономных систем»;
  • а 31 июля 2018 г. Белый дом выпустил меморандум для глав департаментов и агентств №M-18–22 о бюджетных приоритетах R&D на 2019–2020 [15], в котором назвал ИИ первым среди трех высших национальных технологических приоритетов (2-й — квантовая информатика, а 3-й — суперкомпьютинг) и обязал Административно-бюджетное управление (OMB) совместно с Управлением науки и технологической политики (OSTP) обеспечить высший бюджетный приоритет этих направлений для всех федеральных агентств в 2019–2020 гг.

Так что, похоже, что «момент спутника» подкрался незаметно.

2018 — год великого ИИ-перелома

Так уж получилось, что ощущение «момента Спутника» испытало в 2018 году не только правительство США.

Число стран, продекларировавших национальную стратегию развития ИИ, выросло по сравнению с 2017 г. более чем в три раза.

Страны мира, разработавшие свои национальные стратегии развития AI. 
Источник https://politicsplusai.com/

В 2017 г. энтузиасты ИИ (Япония, Канада и Сингапур) открыли марафон подписания национальных ИИ-стратегий. Следом за ними, сразу орудиями главного финансового калибра, вступил один из двух претендентов на мировое лидерство в области ИИ — Китай.

Ну а в 2018 г., не дожидаясь конца года, гораздо проще сказать, кто еще не опубликовал свою национальную стратегию в области ИИ, поскольку Британия, Германия, Франция и еще дюжина стран свои стратегии уже представили.

Краткое описание деталей и специфики каждой из нацстратегий можно прочесть в [16], а здесь можно увидеть интерактивное резюме «великолепной девятки» (США, Китай, Франция, Великобритания, Канада, Южная Корея, Япония, Финляндия, Европейский союз), содержащее гиперссылки на основные релевантные документы по каждой из восьми стран и всего ЕС.

Как и следовало ожидать, разные страны обозначили различные цели и подходы в своих национальных ИИ-стратегиях.

Отличались также объем, уровень проработки и детализации документов, подготовленных по поручению правительств различных стран.

Самой лаконичной (25 стр.) и конкретной выглядит национальная стратегия Японии [17], включающая базовое описание 3-х фаз создания к 2030 г. национальной системы ИИ as a service.

Три фазы создания к 2030 г. национальной системы ИИ as a service в Японии.

К этой базовой схеме приложен набор из дорожных карт по трём приоритетным направлениям: продуктивность, медицина и здоровье, мобильность. Пример дорожной карты по продуктивности см. ниже.

Дорожная карта приоритетного направления «Продуктивность» из национальной ИИ-стратегии Японии.

В дополнение к дорожной карте разработан план интеграции технологий ИИ с технологиями основных отраслей экономики по трем приоритетным направлениям (продуктивность, медицина и здоровье, мобильность). Три фазы этой интеграции показывают уровень планируемого технологического прогресса и социальных изменений.

Планируемый технологический прогресс и социальные изменения на каждой их трех фаз реализации национальной AI стратегии Японии.

Самым детальным и тщательно проработанным выглядит подход Великобритании, подготовившей следующий состав документов:

  1. 180-страничный отчет «AI in the UK: ready, willing and able?» [18], опубликованный администрацией Палаты Лордов в апреле 2018 г. и во многом отталкивающийся в своих идеях от 77-страничного отчета профессора Computer Science в университете Саусхэмптона Dame Wendy Hall и CEO компании BenevolentAI доктора Jerome Pesenti «Growing the Artificial Intelligence Industry in the UK» [19]
  2. Два тома письменных и устных свидетельств специалистов и экспертов в подтверждение положений отчета (1-й том содержит 223 письменных свидетельства, изложенных на 1 581 стр. [20], 2-й содержит 57 устных свидетельства, полученных в ходе 22 сессий и изложенных на 423 стр. [21])
  3. 40-страничный ответ Правительства на отчет и свидетельства, представленные Палатой Лордов [22] Парламенту Великобритании, Secretary of State for Business, Energy and Industrial Strategy by Command of Her Majesty

Здесь нет места для хоть как-то осмысленного изложения резюме столь объемного набора документов (объемом более 2 тыс. стр.). Приведем лишь крайне элегантную форму представления понятия ИИ, используемую авторами отчета вместо каких-либо определений или противоречивых метафор.

Так представлено понятие AI в национальной стратегии Великобритании

Вышеперечисленный комплект документов Великобритании коренным образом отличается от нацстратегии Японии и большинства прочих нацстратегий. Более того, это вообще нельзя назвать нацстратегией, а, скорее, документами некоего «верховного суда», призванного вынести решение о совместном будущем ИИ и человечества.

Судьями в данном случае выступают 9 лордов, 2 баронессы и 1 виконт.

Свидетельские показания и заключения экспертов суду дают 250+ человек, включая:

  • 170+ профессоров с мировым именем, специализирующихся на ИИ;
  • 40+ мировых корпораций, связанных с ИИ;
  • 20+ элитных университетов, обучающих в области ИИ;
  • 15+ некоммерческих организаций в области ИИ;
  • представители правительств Канады, Китая, Японии и Южной Кореи.

Таким образом суд получился почти что от имени человечества, ну или хотя бы его весьма влиятельной части.

Что же объединяет все 20+ национальных видений будущего ИИ, на сегодняшний день уже сформулированных государствами в самых разнообразных формах: от планов и дорожных карт (как у Японии) до «судебных решений», вменяющих своему правительству конкретные поручения (как у Великобритании)?

Внимательно изучив весь этот корпус документов, опубликованных по состоянию на конец августа 2018 г, автор выделяет два ключевых тренда, явственно проявляющихся во всех «нацстратегиях»:

1. Курс на ИИ-национализм

2. Курс на ИИ-национализацию

Осталось рассказать, что под этим понимается.

ИИ-национализм

Первый источник ИИ-национализма — сверхвысокие ожидания.

Термин ИИ-национализм стал популярным после июньской публикации Яном Хогартом одноименного эссе [23]. Хогарт — серийный инвестор в ИИ-ориентированные стартапы и соавтор (вместе с Натаном Бенайхом) лучшего на сегодня, по мнению автора, аналитического материала о текущем состоянии ИИ-технологий.

Ян Хогарт — серийный инвестор в AI ориентированные стартапы

В эссе «AI Nationalism» это понятие определяется так:

«Новый вид геополитики, набирающий силу в развитых странах вследствие наблюдаемого в последние годы бурного прогресса ИИ».

Это происходит поскольку в ближайшем будущем ИИ может стать ключевым фактором обретения экономического и военного превосходства. Обоснование причин этого уже было рассмотрено в разделе «Почему именно ИИ способен радикально изменить мировую геополитику». Ниже автор резюмирует и развивает ключевые моменты.

Будучи универсальным технологическим подходом с потенциально неограниченной отдачей, в котором (помимо очевидных экономических плюсов) военные видят еще и Святой Грааль мирового могущества, ИИ порождает новый вид нестабильности на национальном и международном уровнях, вынуждая правительства развитых стран действовать, чтобы не оказаться среди проигравших в этой новой для мира конкуренции за обладание ИИ-превосходством.

Эта конкуренция уникальна и не похожа ни на что в прошлом, включая конкуренцию за обладание ядерной бомбой и межконтинентальными ракетами.

Уникальность ИИ определяется тремя факторами — экономическим и двумя военными.

1. Универсальность инструментария ИИ как средства повышения эффективности практически во всех постиндустриальных отраслях и видах деятельности (наиболее близкий пример такой универсальности — повсеместное внедрение электричества);

2. Базирующееся на прошлом военном опыте предположение о высочайшем потенциале ИИ для революционных прорывов,

— как в создании абсолютно новых военно-технологических комплексных классов решений (типа комплекса способов снижения заметности боевых машин в радиолокационном, инфракрасном и других областях спектра обнаружения — стелс-технологий),

— так и в построении на основе ИИ кардинально более совершенных систем военной осведомленности и управления военной логистикой и непосредственно боем на всем театре военных действий (включая смену привычных парадигм для тех или иных видов войск, как, например, произошло с превращением авианосца из транспорта для самолетов разведки и наведения палубной артиллерии в плавающий аэродром, супер-эффективно решающий самостоятельные военные задачи).

3. Предполагаемая возможность (еще не доказанная, но принимаемая многими военными всерьёз) решения проблемы ядерного сдерживания в свою пользу (по старой ковбойской мудрости, что главное — умение выстрелить быстрее противника).

Названные факторы в значительной мере гипотетические. Они нисколько не отражают реальные возможности уже достигнутого уровня ИИ-технологий, сколько являются их экстраполяцией в ближайшее будущее, при условии сохранения текущих темпов развития ИИ-технологий.

Иными словами, все три фактора, превращающие ИИ в фактор гипотетического обретения превосходства на международной арене, являются пока что лишь ожиданиями военных и политиков.

Но это вовсе не мешает им утверждать, что мир находится на пороге новой сингулярности — военной. То, насколько серьезно к этому относятся лидеры гонки в области ИИ — США и Китай — иллюстрирует отчет CNAS «Battlefield Singularity» [24]. Поражает не только логика и аналитика отчета, но и гигантский корпус из 334 американских и китайских источников, на которые он ссылается.

Второй источник ИИ-национализма — технологическая запутанность.

Беспрецедентно высокая важность ИИ может сделать политику в этой области ключевым элементом государственной политики. Однако, на данном пути возникает крайне неприятная проблема т.н. технологической запутанности (Technological entanglement), присущей ИИ-технологиям, как никаким другим (подробнее см. в [25]).

Под технологической запутанностью понимается возникающее и усиливающееся в процессе глобализации тесное и многогранное сплетение интересов и ресурсов международных компаний в разработке элементов технологий, имеющих двойное назначение (мирное и военное).

В результате технологической запутанности понятие технологического суверенитета практически исчезает. Даже несомненный технологический лидер в области ИИ — США в условиях технологической запутанности оказывается в крайне затруднительном положении.

Как могут США сохранять лидерство в ИИ, предотвращая утечку своих технологий зарубежным конкурентам, если:

  • технологическим локомотивом США является частный бизнес;
  • международные гиганты частного бизнеса, такие как Alphabet, в рамках глобализации располагают свои исследовательские лаборатории по ИИ в главном конкуренте в этой области — Китае и нанимают на работу тысячи китайских специалистов;
  • китайские инвесторы, среди которых крупнейшие ИИ-компании Китая, владеют существенными долями во многих самых перспективных в области ИИ компаниях Кремниевой долины;
  • китайские студенты и аспиранты тысячами учатся в лучших университетах США.

Последним и решающим витком технологической запутанности стало провозглашение Китаем национальной стратегии «военно-гражданского сплава» интересов и ресурсов частного бизнеса и государственных структур Китая — National Strategy for military-civil fusion (军民融合) (подробнее см. [26]).

Сложившуюся в результате технологической запутанности ситуацию резюмировал президент Information Technology and Innovation Foundation Роберт Аткинсон в статье от 26 июля 2018 г. в National Review.

  1. Китай развернул обширную практику «инновационных меркантилистов», которая направлена на несправедливое получение преимуществ китайскими производителями. К ним относятся:
  • требование о том, чтобы иностранные компании для доступа к китайскому рынку передавали свои технологии китайским фирмам;
  • кража иностранной интеллектуальной собственности;
  • манипулирование технологическими стандартами;
  • массовые государственные субсидии;
  • поддержанные правительством приобретения иностранных предприятий.

2. У США сейчас только одна важная цель в области торгово-технологической политики: положить конец инновационно-меркантилистской политике Китая, которая угрожает национальной и экономической безопасности США.

Таким образом, крайне высокие ожидания небывалой отдачи от ИИ, способной обеспечить превосходство страны на международной арене, наряду с все усугубляющейся технологической запутанностью, стали основными источниками подпитки техно-националистической повестки ряда стран, число которых увеличивается.

Потенциальные последствия этого — всевозможные протекционистские действия государств для поддержки своих «национальных чемпионов» в области ИИ, ограничения (а в развитии и возможный запрет) на передачу патентов, открытую публикацию исследований и экспорт ИИ технологий, а также ограничения (а в развитии и возможный запрет) на проведение M&A сделок, свободный переток инвестиций и конечно же талантов, как при обучении, так и в профессиональной деятельности.

Кто в авангарде ИИ национализма

  • Китай — в рамках национального Плана 13 пятилетки, программы «Artifcial Intelligence 2.0» Плана Научно-технического и инновационного развития 13-й пятилетки, 3-летнего Action Plan for Promoting Development of a New Generation Artifcial Intelligence Industry (2018–2020) — и все это под зонтиком национальной стратегии «военно-гражданского сплава» [26].
  • США — в рамках Стратегии национальной безопасности [8], Стратегии национальной обороны [9] и Меморандума замминистра обороны от 27 июня 2018 г. о создании Объединенного центра искусственного интеллекта Министерства обороны (JAIC) [14].
  • Индия — в рамках Национальной стратегии развития ИИ, подготовленной для правительства Индии аналитическим центром NITI Aayog [27] и «Дорожной карты развития ИИ для обеспечения обороны и безопасности Индии», подготовленной «Tata Sons» по поручению Министерства обороны.
  • Франция — в рамках (1) объявленного министром французских вооруженных сил Флоренсом Парли резкого увеличении расходов страны на ИИ для развития будущих систем вооружений (1,83 млрд долл.); (2) парламентского «отчета Виллани» [28], фиксировавшего, что «ИИ теперь является центральным политическим принципом обеспечения безопасности», «поддержки господства над нашими потенциальными противниками» и «поддержки нашей позиции по отношению к союзникам»; (3) дорожной карты изучения возможностей ИИ для вооружений и ее первого этапа — проекта Man-Machine Teaming (MMT).
«Моя цель — воссоздать европейский суверенитет в ИИ» — президент Франции Э. Макрон. Источник.
  • Великобритания надеется в области ИИ стать частью военных программ США и в рамках этой кооперации решением Министра обороны в мае 2018 г. открыла AI Lab — единый исследовательско-внедренческий центр ИИ при Defence Science and Technology Laboratory (Dstl).

В качестве главных векторов курса ИИ-национализма все названные страны, так или иначе, продекларировали следующие три политики.

  1. Политика, гарантирующая сохранение экономических и военных преимуществ первопроходцев (first mover advantages) ИИ, которыми эти страны себя, не без оснований, считают.
  2. Политика препятствования копированию новых ИИ-технологий, и, в первую очередь, тех, что легко воспроизводимы любыми странами, обладающими аналогичным технологическим уровнем.
  3. Политика ослабления стимулов международной торговли, автоматически ведущих к распространению ИИ-технологий по миру.

Особо отмечается «готовность действовать» всем арсеналом средств госрегулирования, быстро и решительно разрабатывая новые правила и жестко пресекая любые попытки подрыва другими странами покуситься на национальный технологический суверенитет в области ИИ.

В заключение этого раздела важно констатировать, что политика ИИ-национализма — это уже не только про ИИ. Это часть общемирового тренда возрождения политики национализма, идущего на смену глобализма.

ИИ-национализация

Страх отстать в мировой гонге за превосходство в сфере ИИ породил тренд ИИ-национализма. Однако этим дело не ограничивается.

Когда выяснилось, что проводимая Китаем политика интеграции целей и ресурсов частного бизнеса и государства (Military-Civil Fusion) позволила КНР в считанные годы практически догнать ранее недосягаемого мирового лидера в области ИИ — США, стало ясно, что и остальным странам ничего не остается, как пойти тем же путем.

Вместо привычного для развитых стран разделения государства и бизнеса, заговорили о преимуществах

ИИ-национализации — интеграции ресурсов государства и частных компаний, выравнивания скоростей внедрения инноваций в области ИИ и рефокусировки их стратегических целей на получение государством экономических, политических и военных преимуществ на международной арене.

Повестка ИИ-национализации разделяется на:

— повестку лидеров гонки ИИ;

— повестку аутсайдеров гонки ИИ.

Повестка лидеров гонки ИИ — США и Китая

Некоторые эксперты приводят аргументы, что Китай пока что чуть ли не вдвое отстает в области ИИ от США [29].

Расчет Индекса ИИ-потенциала по методике из [29] показывает почти двойное отставание Китая от США.

Однако, комплексный анализ гражданских и военных прорывных технологий Китая [30], результаты слушаний в комиссии United States-China Economic and Security Review Commission [31] и её итоговый отчет Конгрессу США [32], а также новейший отчет по углубленному анализу вооружений Китая [33] зафиксировали примерный паритет в развитии ИИ-технологий США и Китая

При рассмотрении девяти наиболее прорывных классов технологий двойного применения эксперты Конгресса США отнесли ИИ к группе из 3-х классов технологий, по которым между США и Китаем примерный паритет [31]

Выводы этих экспертов [30–33] учитывают, в отличие от весьма качественного, но гражданского отчета [29], три особых фактора:

  1. В долгосрочной стратегии развития вооружений Китая автономные беспилотные системы и ИИ обладают высшим приоритетом развития.
  2. Особенности китайской дорожной карты развития ИИ, отдающей высокий приоритет созданию «интеллектуального (智能化) оружия», включив его в перечень 4-х критических технологических областей «strategic frontier» (战略前沿), в которых ставится цель превзойти американских военных, используя стратегию «leapfrog development» (跨越发) — перепрыгивания через несколько стадий развития.
  3. Намерение Китая использовать ИИ для ускорения совершенствования так называемого «козырного оружия» — «accelerate the development of shashoujian (杀手锏) armaments», по иронии судьбы, переводимого на английский как Trump Card.

Но речь вовсе не о президенте Трампе, а о т.н. «шатсёшианском вооружении».

Термин шатсёшиан (杀手锏) может быть переведен по-разному: в переводе на английский — это «козырь» или «булава убийцы», а на русский — «киллер». Термин ссылается на китайскую легенду, в которой шатсёшиан использовался для неожиданного выведения из строя более сильного врага с помощью хитрого трюка (типа пращи, которой Давид поразил Голиафа). В свое время председатель Компартии Китая Цзян Цзэминь так использовал термин шатсёшиан: «За что враг больше всего боится, то мы и должны атаковать». С тех пор военная доктрина Китая установила приоритетное развитие «козырного оружия» — шатсёшиан, хитроумно бьющего в самые болезненные уязвимости противника. Ну а ИИ, как оказалось, очень при таком подходе полезен.

Военные США прекрасно осведомлены о ставке Китая на «козырное оружие». Как сказал Роберт Ворк, бывший замминистра обороны США с 2014 по 2017 гг., «китайская стратегия победы — это битва за разрушение систем (systems destruction warfare), поскольку в ней основное внимание уделяется электронно-парализующему воздействию на командование и управление войсками противника, а не физическое уничтожение танков, кораблей и самолетов».

Роберт Ворк, бывший замминистра обороны США с 2014 по 2017 гг.

Наиболее простым и очевидным примером может быть использование коллективного интеллекта роя микродронов для вывода из строя авианосцев.

Другой пример — интеллектуализация ракетного оружия. Здесь перед ИИ ставится цель «качественного расширения возможностей ракет по восприятию внешней информации (感知) и принятию на этой основе решений (决策) в целях итогового выполнения (执行) миссий, «осознавая» (认知) происходящее и проявляя способности к обучению» [34].

По большому счету, как сказал недавно один из высоких чинов Пентагона: «Первая нация, развернувшая на поле боя электромагнитное импульсное оружие, способное отключить вражеские системы управления, изменила бы лицо войны. И далеко не очевидно, что в этой гонке победят Соединенные Штаты». И речь здесь идет ни о чем ином, как объединении возможностей электромагнитного импульсного оружия и ИИ.

Подробное описание всего ландшафта потенциальных угроз от приоритетного внедрения Китаем ИИ-технологий в передовые системы вооружений см. в [35].

Пока что США и Китай в области ИИ идут ноздря в ноздрю. Но немало экспертов считают, что максимум через декаду китайский авторитаризм одержит убедительную победу над американской демократией за счет абсолютного доминирования в объеме собираемых данных. Уже сейчас у Китая собрано вчетверо больше данных, чем у США. И этот разрыв растет.

Как сказал один из самых осведомленных в вопросах ИИ-противостояния Китая и США специалистов и мой бывший коллега по «Silicon Graphics» Кай-Фу Ли (см. его новую книгу «ИИ Superpowers: China, Silicon Valley, and the New World Order»):

“На самом деле в ИИ существует лишь одна фундаментальная инновация — глубокое обучение. И всё, что делается сейчас в области ИИ — лишь подстройка глубокого обучения под нужны конкретных прикладных областей.”
Кай-Фу Ли — главный идеолог, бизнес-практик, венчурный гуру и проводник на пути превращения Китая в мирового лидера в области ИИ.

А для глубокого обучения нужно как можно больше данных. И тот, кто обладает бóльшими данными, скорее всего, уже выиграл соревнование. Хотя, как говорил Смок Беллью, «никто не проиграл, пока никто не выиграл», и США так просто не сдастся в гонке ИИ-вооружений.

Пока же в ближайшем будущем просматривается дуополия. При этом два мировых лидера в области ИИ — США и Китай — имеют диаметрально противоположные стратегии:

— Китайская стратегия — продолжать делать «ЭТО» во что бы ни стало;

— Американская стратегия — всячески препятствовать Китаю делать «ЭТО».

Детальное описание, что такое «ЭТО», содержится в [36]. Ну а вкратце речь идет о следующем:

  1. Использование протекционистских мер по защите своего рынка от импорта и конкуренции в области ИИ.
  2. Спонсируемое государством незаконное или «околозаконное» приобретение интеллектуальной собственности в области ИИ посредством: физической кражи, кибер-шпионажа, нарушения экспортного законодательства США, контрафакции и пиратства.
  3. Навязывание или принуждение американских компаний передавать ИИ-технологии китайским компаниям, как правило, в обмен на ограниченный доступ к китайскому рынку.
  4. Выкачивание ценной открытой информации непосредственно из первоисточников научных инновационных идей (университеты, лаборатории, исследовательские центры), а также через скупку талантов из всех смежных областей: бизнес, финансы, экспертиза.
  5. Господдержка инвестиционной деятельности китайских компаний в перспективные ИИ-технологии за пределами Китая.

Повестка аутсайдеров гонки ИИ

Реальное положение таково, что в аутсайдерах AI гонки оказались все, кроме ее лидеров — США и Китая. И хотя технологически развитые страны, типа Франции и Германии или Индии и Южной Кореи, казалось бы, несопоставимы со странами третьего мира по уровню развития ИИ-технологий, — и тем, и другим уготована участь превратиться в ИИ-колонии стран лидеров.

Абсолютное лидерство США и Китая по числу научных публикаций по теме глубокого обучения. Источник: Digital Transformation Monitor

По словам уже упоминавшегося самого признанного в Китае и США эксперта по ИИ-технологиям Кай-Фу Ли:

“В гонке ИИ только США и Китай находятся в выигрышном положении. Остальные страны, может, и имеют большое население, но они не имеют ИИ-технологий уровня тех, какими располагают Google, Tencent, Baidu, Alibaba, Facebook и Amazon. И потому им ничего не остается, как превратиться в поставщиков данных для тех американских или китайских ИИ-компаний, программное обеспечение которых доминирует в их странах…США и Китай, уже обладающие наивысшей мощью в области ИИ за счет огромного объема накопленных ими данных, в дополнение получат еще больше данных от всех стран — аутсайдеров гонки ИИ. Что превратит их в недосягаемых лидеров.”

Кай-Фу Ли описывает этот процесс так.

“…бóльшая часть денег, полученных от ИИ, будет поступать в США и Китай. ИИ — это отрасль, в которой сила порождает силу: чем больше данных у вас есть, тем лучше ваш продукт; чем лучше ваш продукт, тем больше данных вы можете собрать; чем больше данных вы сможете собрать, тем больше талантов вы сможете привлечь; чем больше талантов вы можете привлечь, тем лучше ваш продукт. Этот логический круг обладает волшебной силой, а США и Китай уже накопили таланты, долю на рынке и данные, чтобы привести его в движение. Такое глобальное геополитическое будущее вызывает большое беспокойство, поскольку у большинства стран просто не будет выбора, кроме как стать вассальным государством США или Китае: я отдаю вам свои данные и делаю все, что вы пожелаете, а вы взамен помогаете накормить бедных в моей стране.”

Здесь опять процитирую Кай-Фу Ли.

“Если большинство стран не смогут облагать налогом сверхприбыльные ИИ-компании (потому что это будут американские и китайские компании — СК), чтобы субсидировать своих работников, какие у них будут варианты? Я предвижу только одно: если они не захотят ввергнуть свой народ в нищету, они будут вынуждены вести переговоры с той страной, которая предоставляет большую часть своего программного обеспечения для ИИ — Китаем или Соединенными Штатами. По сути, это означает стать экономически зависимой от одной из двух держав, принимая субсидии на социальное обеспечение в обмен на то, чтобы позволить «родительским» национальным ИИ компаниям продолжать получать прибыль от пользователей зависимой страны. Такие экономические договоренности изменили бы сегодняшние геополитические союзы.”

Вот такой получается ИИ-неоколониализм. Вместо золота и серебра страны-колонизаторы в XXI веке получают их заменитель — большие данные для обучения своих ИИ-технологий. А странам-колониям остается только уповать на цивилизаторский дух ИИ-неоколониалистов и их финансовую помощь.

Однако, и здесь, как и в гонке ИИ двух лидеров, «никто не проиграл, пока никто не выиграл».

Например, европейские страны пытаются хоть что-то сделать, дабы избежать участи колоний, поставляющих США большие данные.

Признавая уже свершившийся проигрыш как США, так и Китаю в инфраструктуре и масштабах ИИ-программ, европейские специалисты характеризуют свои возможности в области ИИ, как «маленькие капли блеска» и предаются мечтаниям «как мы берем эти капли блеска и объединяем их вместе».

  • В июне 2018 г. 600 ведущих европейских экспертов в области ИИ призвали европейских и национальных лидеров резко увеличить поддержку исследований в области ИИ, отмечая, что они имеют решающее значение для будущего Европы. Инициатива предусматривает создание Общеевропейской конфедерации лабораторий по исследованию ИИ (CLAIRE).
  • Также в июне директор Германского национального центра исследований ИИ выступает за объединение усилий европейских стран и создания «ЦЕРНа в области ИИ».
  • В августе уже 1000 ведущих европейских экспертов в области ИИ призвали к разработке общеевропейского подхода и созданию European Lab for Learning and Intelligent Systems (ELLIS).
  • 7 сентября в Брюсселе прошел симпозиум по ИИ, цель которого — обсуждение с Европейской комиссией путей сокращения радикального отставания Европы от США и Китая.

«Особый аутсайдер». Позиции России в гонке ИИ.

Вопрос о потенциале и перспективах России несколько сложнее простого отнесения её к аутсайдерам гонки.

Во-первых, теоретически существует сценарий, в котором аутсайдеры могли бы получить преимущество перед лидерами в области ИИ для военных целей. Этот сценарий остался за границами статьи, поскольку в ней не ставилась задача рассмотреть все сценарии, а лишь наиболее вероятные из них. Но, тем не менее, упомянуть сценарий, благоприятствующий аутсайдерам, необходимо, поскольку он прорабатывается и анализируется весьма авторитетными экспертами. Этот сценарий рассматривался в только что вышедшем осеннем тематическом выпуске журнала «Foreign Policy’s Fall 2018», посвященном будущему войны (The Future of War). В статье Michael C. Horowitz «The Algorithms of August», в анализе перспектив такого сценария, Россия выделена в качестве «особого аутсайдера» — потенциально способного, подобно Китаю, составить конкуренцию в борьбе за лидерство.

Во-вторых, сочетание традиционной российской асимметричности ответов на геополитические вызовы в совокупности с все еще существующим немалым научно-технологическим наследием СССР могут иметь вполне серьезные последствия на стыках технологий ИИ с новыми классами вооружений (от гиперзвука до систем электронного подавления сигналов). А ведь есть еще стык ИИ с квантовыми вычислениями и кое-что еще, что может принципиально изменить расклад военных сил в ближайшем будущем.

Так что с Россией всё не так однозначно. И это заслуживает отдельного экспертного анализа, поскольку даже лучшие из существующих работ на эту тему (например, «Влияние технологических факторов на параметры угроз национальной и международной безопасности, военных конфликтов и стратегической стабильности») названных вопросов касаются лишь вскользь.

К чему ведет ИИ-национализация?

При всем различии повесток гонки ИИ лидеров и аутсайдеров, они предполагают одни и те же шаги, ведущие, по сути, к ИИ-национализации по китайской схеме.

В первую очередь, это создание у себя в странах единых гражданско-военных комплексов по разработке ИИ-технологий.

Вот, например, выдержка из резюме Института стратегических международных исследований Франции IRIS парламентского «отчета Виллани» по национальной ИИ-стратегии Франции [28].

“В докладе подчеркивается необходимость тесного сотрудничества между государственным и частным секторами для наращивания синергии вокруг гражданских и военных инноваций в ИИ. Для этих целей различные субъекты из государственного и частного секторов должны будут обмениваться данными, являющимися сырьем для машинного обучения. Очевидно, что это приведет к техническим и законодательным трудностям из-за противоречий требований безопасности и конфиденциальности. Тем не менее, парламентская комиссия Вильяни и министр бороны, похоже, намерены декомплементировать (интегрировать) гражданские и военные исследования и инновации в области ИИ. Заявленная цель — построить гражданско-военный комплекс технологических инноваций, ориентированных на цифровые технологии и, более конкретно, на ИИ. В отличие от предыдущих десятилетий, когда результаты военных публичных исследований проникали в гражданскую сферу, гражданский сектор в настоящее время является лидером в области исследований и инноваций. Авторы отчета сознают меру этого важного сдвига и поэтому предлагают внедрить наилучшие адаптированные инструменты для облегчения передачи технологий из одной сферы в другую».

Конечно, гиганты ИИ-бизнеса будут всячески сопротивляться этому.

Например, 1 июня 2018 г. Google объявил, что не возобновит свой контракт с поддержкой военной инициативы США под названием Project Maven. Этот проект является первой оперативно развернутой в Ираке системой глубокого обучения ИИ для классификации изображений, передаваемых с военных беспилотников. Решение Google не продлевать контракт с военными последовало после того, как примерно 4 000 из 85 000 сотрудников Google подписали петицию о запрете участия Google в создании «технологий ведения войны.”

Ответ последовал незамедлительно.

Уже 6 июня 2018 г. была опубликована статья Грегори Аллена, эксперта «Центра новой американской безопасности», под заголовком «Исследователи ИИ должны помочь с некоторыми военными разработками». В статье сформулирован новый «этический императив» для коммерческих ИИ-компаний:

“Этическим выбором для ИИ-инженеров Google было бы участие в проектах национальной безопасности, а не их избегание.”

О призывах сотрудников Google отказаться от участия в Project Maven, автор пишет:

“Такие призывы создают большую моральную опасность. Внедрение передовых ИИ-технологий в армию столь же неизбежно, как когда-то было с электричеством. Но этот переход чреват этическими и технологическими рисками. Однако, участие в этом процессе талантливых исследователей, и в том числе, таких компаний, как Google, абсолютно необходимо, для того, чтобы помочь военным оставаться на правильной стороне этических норм.”

На помощь Google, по сути, обвиненной в том, что свои этические принципы ее сотрудники ставят выше национальной безопасности, поспешили коллеги по ИИ-индустрии. В июле Илон Маск, соучредители DeepMind, учредитель Skype и несколько известных ИИ-профессионалов призвали коллег по отрасли подписать обещание не создавать «летальное автономное оружие» на основе ИИ-технологий, известное как «роботы-убийцы» (что это, см. [37]).

В августе уже 116 известных ИИ-деятелей и специалистов подписали письмо с призывом к ООН запретить летальное автономное оружие. В своем заявлении группа заявляет, что развитие такой технологии приведет к «третьей революции в войне», которая могла бы равняться изобретению пороха и ядерного оружия.

Старший советник НАТО, основатель и директор Digital Society Institute при ESMT, Сандро Гайкен (Dr Sandro Gaycken)

И пока ООН молчит, ответ поступил от старшего советника НАТО Сандро Гайкена, отметившего, что такие инициативы в высшей степени самодовольны и могут дать авторитарным государствам асимметричное преимущество.

«Если эти наивные хиппи — разработчики из Кремниевой долины не понимают уровня угроз, то ЦРУ должно их заставить понять» — сказал Гайкен.

«Заставить понять» нужно не только гигантов ИИ-индустрии типа Google, но и множество перспективных стартапов, работающих на переднем крае ИИ-разработок.

«Стартапы должны быть встроены в крупные корпоративные структуры, иметь доступ к требуемым данным и создавать высококачественные ИИ»

считает Гайкен.

Эта же логика распространяется и на отдельных специалистов по ИИ — все они должны работать на решение задач нацбезопасности.

«Существуют огромные различия в том, как талант можно использовать в авторитарных и демократических системах. Военное командование и управляющие экономикой авторитарных государств могут заставить граждан, экспертов и ученых работать на них. В таких странах, если вам нужны очень хорошие мозги, вы можете просто заставить любых специалистов работать на вас»

объясняет Гайкен.

Трудно представить подобную картину в США:

  • ИИ-стартапы, работающие на гигантские ИИ-корпорации;
  • Гигантские ИИ-корпорации, работающие на военных;
  • ИИ-специалисты, по требованию военных работают там, где скажут (как «шарашки» при Сталине).

Но ведь так было в СССР. И сейчас наблюдается подобная ситуация в Китае…

Смогут ли власти США внедрить подобную практику у себя, зависит, в конце концов, лишь от уровня угроз. Ведь любая демократия кончается там, где объявляется высокий уровень угроз для национальной безопасности.

Как недавно написал в этой связи Адам Гарфинкл — основоположник журнала The American Interest, работавший спичрайтером нескольких госсекретарей США — в статье с подзаголовком «Как экономическая конкуренция с Китаем может заставить Соединенные Штаты походить на своего противника»:

“В результате возникнет смесь искушений и давления, чтобы каким-то образом сблизить промышленные IT активы США с государственным контролем.”

А многие влиятельные лица в США вполне уверены, что ИИ-война с Китаем уже началась. Осталось лишь убедить в этом большинство американцев. Что после избрания Трампа не кажется такой уж фантастикой.

Заключение

В начале поста я уже привел развернутый техно-геополитический прогноз последствий возобладания тренда ИИ-национализма вкупе с трендом ИИ-национализации.

Теперь, в завершение анализа детальной аргументации отправного тезиса данного прогноза о неизбежности двух названных трендов, попытаюсь предельно кратко зафиксировать их ключевые последствия.

  1. Главным следствием тренда ИИ-национализма станет ИИ-балканизация.
  2. Главным следствием тренда ИИ-национализации станет новая модель сосуществования государства и бизнеса, которую можно было бы условно назвать авторитарно-демократический ИИ-капитализм.
  3. Главным интегральным следствием действия обоих трендов станут новая геополитика и новый мировой порядок, основанные на ИИ-неоколониализме.
  4. Главным следствием гонки ИИ-вооружений видится
  • либо вариант «Большой войны», в результате которой следующая война будет вестись уже камнями и палками.
  • либо вариант «ИИ Сингулярности» (или «Приход лесника»), при котором все ускоряемое гонкой ИИ-вооружений развитие ИИ-технологий породит «сильный» ИИ, а тот поступит, как лесник в анекдоте, устранивший соперничающие стороны за ненадобностью.

Хотя, возможно, ничего этого и не случится.

— Глобализация продолжится.

— Гиганты американского ИИ-бизнеса откажутся работать с Пентагоном.

— Китай откажется от своих планов мирового доминирования в ИИ.

— Идеалы демократии помогут выиграть у авторитаризма гонку за превосходство в области ИИ.

— И, в результате, мир забудет об ИИ-национализме и ИИ-национализации.

Все страны будут дружно совместно работать исключительно во благо мирного использования ИИ всем человечеством. А эта моя статья будет заслуженно забыта, как и десятки прочих несостоявшихся ИИ-страшилок.

Я — за. Здорово было бы, если так…

Осталось только переубедить военных и политиков Китая и США.

__________________

Этот пост был подготовлен по заказу «Российского совета по международным делам» (РСМД) и опубликован на сайте аналитического спецпроекта РСМД о трендах развития технологий искусственного интеллекта http://russiancouncil.ru/ai

__________________

Ссылки на упоминаемые в посте отчеты.

1. «Artificial Intelligence and National Security» отчет подготовлен экспертами Congressional Research Service для Конгресса США в апреле 2018 г.

2. «Strategic Competition in an Era of Artificial Intelligence» и «Artificial Intelligence and International Security» отчеты опубликованы «Центром новой американской безопасности» CNAS в июле 2018 г.

3. «Artificial Intelligence and National Security» отчет подготовлен Belfer Center for Science and International Affairs для U.S. Intelligence Advanced Research Projects Activity (IARPA) в июле 2017 г.

4. «Summary of the 2018 White House Summit on Artificial Intelligence for American Industry» отчет подготовлен The White House Office of Science and Technology Policy в мае 2018 г.

5. «The Impact of Artificial Intelligence on Innovation» отчет подготовлен экспертами The National Bureau of Economic Research в сентябре 2017 г.

6. «The Manhattan Project, the Apollo Program, and Federal Energy Technology R&D Programs: A Comparative Analysis» отчет подготовлен экспертами Congressional Research Service для Конгресса США в июне 2009 г.

7. «FY2019 Budget Request Administration R&D priorities»

8. «National Security Strategy of the United States of America»

9. «A Summary of the 2018 National Defense Strategy of The United States of America»

10. «Govini’s DoD Artificial Intelligence, Big Data and Cloud Taxonomy»

11. «The Networking and Information Technology Research and Development Program»

12. «The National Artificial Intelligence Research and Development Strategic Plan»

13. «Defense Innovation Board Recommendations»

14. «Memorandum: Establishment of the Joint Artificial Intelligence Center (JAIC)»

15. «Memorandum: FY 2020 Administration Research and Development Budget Priorities»

16. «An Overview of National AI Strategies» отчет подготовлен Politics + AI

17. «Artificial Intelligence Technology Strategy» отчет и его презентация подготовлены Strategic Council for AI Technology Японии в мае и октябре 2017 г.

18. «AI in the UK: ready, willing and able?» отчет подготовлен Strategic Council for AI Technology Великобритании в апреле 2018 г.

19. «Growing the Artificial Intelligence Industry in the UK»

20. «COLLATED WRITTEN EVIDENCE VOLUME» отчет подготовлен Strategic Council for AI Technology Великобритании в апреле 2018 г.

21. «COLLATED ORAL EVIDENCE VOLUME» отчет подготовлен Strategic Council for AI Technology Великобритании в апреле 2018 г.

22. «Government response to House of Lords Artificial Intelligence Select Committee’s Report on AI in the UK: Ready, Willing and Able?» отчет подготовлен the Secretary of State for Business, Energy and Industrial Strategy by Command of Her Majesty и представлен Парламенту Великобритании в июне 2018 г.

23. «AI Nationalism», Jan Hogarth, эссе опубликовано в июне 2018 г.

24. «Battlefield Singularity. Artificial Intelligence, Military Revolution, and China’s Future Military Power» отчет опубликован «Центром новой американской безопасности» CNAS в ноябре 2017 г.

25. «Technological entanglement. Cooperation, competition and the dual-use dilemma in artificial intelligence» отчет опубликован The Australian Strategic Policy Institute в июне 2018 г.

26. «Blurred Lines: Military-Civil Fusion and the “Going Out” of China’s Defense Industry»

27. «National Strategy for Artificial Intelligence» отчет подготовлен The National Institution for Transforming India (NITI Aayog) для правительства Индии в июне 2018 г.

28. «FOR A MEANINGFUL ARTIFICIAL INTELLIGENCE» отчет подготовлен парламентской комиссией Франции под руководством Седрика Виллани по поручения Премьер министра Франции.

29. «Deciphering China’s AI Dream. The context, components, capabilities, and consequences of China’s strategy to lead the world in AI» отчет опубликован Future of Humanity Institute, University of Oxford в марте 2018 г.

30. «Planning for Innovation: Understanding China’s Plans for Technological, Energy, Industrial, and Defense Development» отчет подготовлен US-China Economic and Security Review Commission в июле 2016 г.

31. «CHINA’S ADVANCED WEAPONS. HEARING BEFORE THE U.S.-CHINA ECONOMIC AND SECURITY REVIEW COMMISSION»

32. «2017 Report to Congress of the U.S.-China Economic and Security Review Commission» Executive Summary and Recommendations отчета и его полный текст

33. «China’s Advanced Weapons Systems» отчет подготовлен Jane’s by IHS Markit для U.S.-China Economic and Security Review Commission в мае 2018 г.

34. «Chinese Advances in Unmanned Systems and the Military Applications of Artificial
 Intelligence — the PLA’s Trajectory towards Unmanned, “Intelligentized” Warfare
» — Testimony before the U.S.-China Economic and Security Review Commission в июле 2017 г.

35. «Implications of China’s Military Modernization» — Testimony before the U.S.-China Economic and Security Review Commission в феврале 2018 г.

36. «How China’s Economic Aggression Threatens the Technologies and Intellectual Property of the United States and the World» отчет опубликован White House Ofce of Trade and Manufacturing Policy в июне 2018 г.

37. «Initial Reference Architecture of an Intelligent Autonomous Agent for Cyber Defense», URL US Army Research Laboratory, март 2018 г.

____________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”