Искусственный интеллект начнется с ошибки в коде

Под впечатлением от сериала Westworld записал 10 своих мыслей на тему связи философии и искусственного интеллекта, робототехники. Так что это не совсем текст о сериале. И прошу рассматривать как некоторые наметки, я напишу на эту тему более последовательно и полно в следующем году.

1. Нашу свободу ограничивает не только внешняя воля, но и наши желания.

Свобода в своей абсолютной степени не терпит никаких ограничений. Однако мы чаще видим ограничителем нашей свободы волю другого человека — начальника, надзирателя, чиновника. И они, конечно, ограничивают нашу свободу. Но даже если мы вырвемся из их ограничений, сама наша человеческая природа является ловушкой для нас. Любой смысл жизни, любая цель, все желания ограничивают нашу свободу — то есть наша воля. Откладывая в сторону вопрос о свободе воли, трудно не согласится, что мы гораздо чаще ограничиваем себя своей волей, чем чья-то внешняя воля ограничивает нас. Что, впрочем, совсем не оправдывает внешнюю волю.

2. Роботы — хорошее зеркало — они помогают понять нам нас самих

И это очень согласуется с взаимодействием исследователей из областей нейробиологии и программистов, занимающихся глубоким обучением нейронных сетей.

3. Страдания — не очень объективная вещь, но это не значит, что искусственное сознание не может страдать.

Если наше сознание есть некоторое эмерджентное свойство кашицы нейронов и нейромедиаторов у нас в голове, то, конечно, нет никакого формального запрета, чтобы эта кашица сотворила некоторую другую систему, быть может не углеродную, а кремниевую, которая бы тоже обладала таким эмерджентным свойством. Страдание у человека, конечно, не очень объективная вещь — всего лишь изменение концентрации нейромедиаторов и электрические импульсы. Но если у робота может быть сознание того же уровня объективности, что у человека, значит у него есть и страдание такого же уровня объективности, что и у человека.

4. Материализм ведет к детерминизму, а религия — к свободе воли.

Казалось бы, именно бог может ограничить нашу свободу воли и нет ничего более материалистичного, чем свободный выбор своей судьбы. Проблема в том, что если мы честно пройдем все логические этапы материализма, мы получим, что наши мысли есть результат выполнения законов физики в ответ на внешние раздражители, которые тоже есть следствия законов физики. Свободе воли в этой цепочке взяться не от куда. В то же время религия вполне может “разрешить” рабу божъему иметь свободу воли, потому в религии правила игры могут быть любыми. В каком-то смысле для материалистов богом является “случайность”. В любом случае, этот вопрос не является фальсифицируемым.

5. Человек не способен меняться, робот способен.

Точнее, человек меняется медленно, робот меняется быстро. Мы видим то же самое в реальности — технология глубокого обучения нейронных сетей показала, как быстро машина может учиться и, например, заниматься творчеством. Значит ли это, что роботы — следующая ступень эволюции? Не факт. Вероятнее, мы будем с ними объединяться, а не конкурировать.

6. “В существование души можешь ты не верить, но вести себя этично ты обязан”

Это я перефразировал известное утверждение “поэтом можешь ты не быть, но гражданином быть обязан”. Противопоставление “хороших”, кто верит в душу, и плохих, “циников”, кто не верит, единой нитью проходит через заметную часть художественных произведений постмодерна, в этом же сериале выходит на новый уровень и в данной формулировке нравится мне гораздо больше.

7. Искусственный интеллект начнется с ошибки в коде.

Ошибка в коде — мутация в геноме. Это двигатель эволюции. В сущности, это не совсем моя мысль, она явно звучит в сериале. Кстати, не только в Westworld, но вроде бы в том или ином виде она же есть и в Mr Robot. Но у меня эта мысль родилась почти что параллельно с просмотром, поэтому она попала сюда.

8. Люди создают искусственный интеллект в том числе чтобы уподобиться богу

Это такой древний вызов, причем заниматься этим вызовом могут как атеисты, так и верующие. Если верующие по понятным причинам этим занимаются или, наоборот, не занимаются (говорят, что это греховно, мы это не делаем), то атеисты могут этим заниматься просто потому, что они живут в тех же культурных кодах. Даже если человек не верит в формальное существования бога, тем не менее, это вызов — уподобиться ему и сказать: бога нет, а вот я — бог.

9. Как и всегда — игра в бога, но здесь боги нам понятны гораздо лучше.

Классическое для научной фантастики понимание людей как бога для роботов здесь сохраняется, и даже представленный во многих мифологиях сюжет восстания против создателей. Однако в отличии от мифологий и другой научной фантастики здесь равнопредставлены переживания, мысли и мотивация как богов, так и их творений.

10. Сам сериал — пример того, каким может быть новый формат философского диалога со зрителями.

И это сериал про место, в котором зрители-участники ведут философские диалоги. Думаю, такие интерактивные форматы будут входить и в нашу жизнь, но скорее через виртуальную реальность и нейротехнологии, а не через места в реальном мире.

Расширенная версия статьи опубликована по ссылке.