Чем опасен Искусственный Интеллект: почему человек не найдет общий язык с компьютерным разумом

Image for post
Image for post

Эта статья отлично подходит для тех кто хочет понять что такое: искусственный интеллект (далее ИИ) как он устроен и почему у нас будет барьер в понимании друг друга.

Также я расскажу о том почему страх Илона Маска о гибели человечество от рук ИИ более чем обоснован и реален.

Что такое ИИ и что такое нейронные сети?

ИИ подразумевает осознание себя как личности.
Это значит ИИ может сам придумать (выбрать) себе цель существование и добиваться ее.
Он может выбрать цель не поставленную создателем и добиваться ее.
То есть он обладает фактором — свободная воля.
Один из критериев этого является то что ИИ может начать действия которые не понравятся создателям и не заложены ими.

Это как с детьми: ребенка родили и воспитывали в надежде на то что он будет делать то что хотят от него родители или социум, но повзрослев ребенок выбирает собственный путь.

Составной элемент ИИ (и человеческого разума тоже) это нейронные сети.

Image for post
Image for post

Нейросети это просто программка (в случаи человека набор нейронов) которая может взять большое количество данных и обработать их по каким либо сложным правилам и выдать оценочный результат, или создать что то из исходных данных но опять же по неким заложенным правилам.

Например картинка выше это по сути правило для очень очень простой нейросети. На входе ей сообщают объект: например гайка которая не откручивается или ручка которая болтается.

В данном случаи нейросеть бы работала так: вы бы писали ей на входе слово, в ответ получали: WD-40, изолента или “не трогай”.

Но это конечно очень простая нейросеть в реальности нейросети поглощают огромные массивы данных.

В картинке выше есть только 3 нейрона (разветвления на “да” и “нет”). Поэтому ее легко понять, в нашем мозгу нейросети состоят из миллиардов нейронов которые работают целыми группами.

Небольшое отступление я здесь называю нейронами разветвления. Но в мозгу человека нейрон выполняет менее скромную роль. В мозге человека нужны сотни нейронов чтобы заменить один такой “нейрон” как на картинке. По ходу рассказа я буду делать такие упрощения чтобы не грузить вас слишком сильно.

Например чтобы водить машину человек запускается сотни нейросетей по распознаванию образов, моторике, оценки скоростей объектов и пр. и решает как двигать руками и ногами чтобы поворачивать руль и жать на педали.
Любая человеческая деятельность не более чем обученная нейросеть.

Даже такие вещи как чувство прекрасного. Частый довод: человек отличается от неразумных животных или ИИ тем что он может творить искусство и наслаждаться им.

Так ли это?

Дам два примера по поводу чувств:

Вкусно или невкусно. Мы любим жареную курицу с жирной жареной картошкой не потому что мы “человеки” умеем отличать вкусное от невкусного. А потому что в курице и картошке очень много калорий, которые наше тело может использовать в работе.
Поэтому для нас это вкусно а не наоборот. Это именно та причина почему почти все вкусное = вредное (ну в смысле высококалорийное и жирное). Если бы в курице было энергии как в листе салата нейросеть отвечающая за выживание гнала бы нас за километр от этой курицы.

Чувство красоты. Вы будите смеяться. Но чувство “красивого” не просто является нейросетью, оно еще и является нашей одной из самых старых нейросетей. И это чувство красивого есть у всех животных, рыб и птиц.
Просто у человека оно выражено более явно из за общего развития мозга. Эта нейросеть создана природой не чтобы мы наслаждались красотой, а чтобы самка могла находить самца с здоровыми митохондриями.
Дело в том что митохондрии влияют на выживаемость организма, и если их качество плохое, все остальное уже не важно. Качество митохондрий проявляется внешне на поверхности всех тканей живого организма.

Поэтому эволюция создала нейросеть, которая теперь заложена в любое животное генетически, найдя закономерность во внешних признаках живого существа мы понимаем качество митохондрий.

То есть эта нейросеть просто видит внешние признаки здоровой митохондрии: особые орнаменты перьев, структура клеток кожи, расположение и блеск волос. А затем выдает оценку о качестве генетического материала.
Мы люди используем эту нейросеть нецелевым образом, получая удовольствие воздействуя на нее визуальными образами (например картинами) чтобы сеть ложно срабатывала и мы чувствовали чувство “это красиво” а на самом деле “вижу хороший генетический материал”.
Конечно в искусстве не только эта нейронная сеть работает но она является одной из важнейших в том что касается визуальных образов.

Давайте проверим работу наших нейросетей “видеть красоту” на этих картинках:

Image for post
Image for post
Пример изображения на которое срабатывает нейронная сеть “чувство красивого”. Закономерные повторяющиеся структуры без погрешностей, воспринимаются как качественный генетический материал. На этой капусте можно жениться.
Image for post
Image for post
Этот фрактал проходя проверку нашей нейросетью тоже получает оценку “отличный генетический материал” так как нейросеть видит “закономерные” структуры говорящие о хороших метохондриях.
Image for post
Image for post
Потолок в мечете. Похоже что и у этого потолка отличные митохондрии.
Image for post
Image for post
Image for post
Image for post
А вот образы для которых на самом деле была создана нейросеть “вижу красивое”.

Слева кожа человека, справа перья птицы. Если человек больной (генетически) кожа имеет менее “ритмичный” орнамент, у птиц влияние митохондрий на выживание намного больше чем у людей поэтому их способ демонстрации, еще более явный, чтобы погрешности в генетическом коде было более заментны для самки.

Малейшее изменение цвета или расположения волосков на перьях будет искажать орнамент.

Для разных животных есть разная допустимая погрешность качества митохондрий. Поэтому птицы демонстрируют свою генетику более явно. А вот крысам это не нужно, потому что они могут выживать с корявыми несовершенными митохондриями и им норм, поэтому они такие серые и невзрачные.

Подробнее об этом: Ник Лейн. “Вопрос жизни. Энергия, эволюция и происхождение сложности.”

Сознание человека это огромный набор (миллиарды) нейросетей связанных между собой.

Это могут быть как глубинные сети которые отвечают за выживание: страх высоты, огня, громких звуков, так и более новые например умение читать или говорить.

Также нужно понимать что в нашем мозгу все нейросети связаны между собой нелинейной связью и имеют как прямые так и обратные каналы передачи сигналов.

Это позволяет нашим нейросетям быть пластичными и переобучаемыми. Наши встроенные нейросети все время переобучаются и воздействуют друг на друга.

Именно благодаря перекрестной возбудимости нейросетей мы можем благодаря одной мысли сделать вывод и прийти к другой мысли. Одна нейросеть выполняя работу, влияет на работу всех других сетей активируя их работу.

Понятно что я сейчас утрирую устройство сознания, упрощая его до набора нейросетей, помимо них есть: концентраторы сигналов, кратковременная память, долговременная память.

Но это скорее разновидности тех же нейросетей которые имеют свою особую задачу и выполняют ее.

Вы спросите разве память это нейросеть? Ведь нейросеть делает какую то работу преобразуя или оценивая информацию а память просто хранит ее?
Верно но только отчасти, наша память не хранит информацию статично. Наша память очень подвижна и все время перебирает записанную информацию, изменяет ее в соответствии с новым опытом. Перезаписывает ее если старая информация не совпадает с новой или наоборот дает сигнал другим сетям игнорировать какие либо данные потому что у нее уже есть такая информация и ей “лень” перезаписывать.

Что ты сказал “лень”?

Да верно, на работу всех этих сетей еще и влияют нейросети отвечающие за выживания “инфраструктуры”. Например нейросеть контроля “энергопотребления”, работа с памятью жрет много энергии. Поэтому нейросети высшего порядка нужно контролировать нейросетями низшего порядка которые следят чтобы случайно не угробить сам организм которым они и являются.

Если вам удобно можете представить что каждая нейросеть это член экипажа команды которая управляет огромным роботом (наше тело).

Миллиарды членов экипажа и каждый делает очень узкий спектр задач.

Хорошо с нейросетями разобрались и их ролью в нашем мозге тоже.

Какое отношение они имеют к ИИ? ИИ как и человеческий разум будет состоять из них? Мы не можем придумать ни чего лучше чем просто скопировать наше устройство?

Как говорил Пабло Пикассо: хорошие художники копируют великие художники воруют.

В данном случаи мы плохие художники, мы копируем и при этом довольно коряво. Но это пока что.

Мы подобрались очень близко к созданию ИИ. Чтобы было понятней насколько близко, приведу аналогию с транзистором.

Одна нейросеть это как транзистор. Один транзистор делает не так уж много полезной работы. И когда его создали инженеры плохо понимали его возможности. Но используя такой простой “кирпичик” мы смогли создавать мощнейшие вычислительные машины (процессоры) объединив миллионы транзисторов.

И на это потратили всего лишь 60 лет.

Image for post
Image for post
Слева процессор состоящий из 2 миллиардов транзисторов. Справа первый прототип транзистора.

Ладно скажите вы, нейросети это понятно. Но от куда же берется разум и свобода воли сознания. Разве если объединить миллиард нейросетей это не будет просто сложная программа?

Ответ: нет, это не будет просто программа.

Все дело в теории хаоса.
ИИ и разум человека это просто сборник огромного (огромного это значит их реально очень много) количества нейросетей и нейросетей которые обрабатывают обработанные ответы других сетей, а также сети которые создают обратную связь между разными сетями.

Вы должны понимать, эти сети в любой момент времени способны переобучиться и выполнять другие задачи по другим правилам. Есть сети которые выполняют одну и ту же работу от рождения до смерти. Но есть сети которые меняют свои правила обработки информации каждый месяц или год.

Например вы решили получить права на машину, ваши нейросети будут обучаться абсолютно новому виду обработки сигналов.

Нейросети трансформируются чтобы выполнить задачу поставленную другими нейросетями. Более высшего порядка.

Так от куда берутся мысли и “свободный выбор”?

Разум человека такой непредсказуемый потому что все наши сети как я говорил выше, реагируют на новые сигналы и работу других сетей.

Что это за сигналы?

Данные с наших сенсоров: зрение, обоняние, осязание, слух, чувство тепла и холода, чувство давления, влажности, гравитации, положения тела.
Все эти сигналы непрерывно поступают в наши контуры нейросетей и изменяют их. Заставляя так или иначе трансформироваться в то время когда они их обрабатывают.

Это значит даже если полностью скопировать и сделать два одинаковых человека вплоть до клетки.

Их мысли с каждой секундой будут отличаться все сильнее и сильнее потому что будет накапливаться эффект от различных сигналов от сенсоров. Более того на физическом уровне (на уровне нейронов и связей нейронов) будут активные изменения и различия.

Вернемся к теории хаоса. Именно из за сложного наложения этих сигналов возникают непредсказуемые изменения в прохождении сигналов по нейросетям которые как говорилось выше влияют на работу всех других сетей. В итоге вид падающего с дерева листа может заставить человека подумать о том что ему хочется полежать на теплом песке у моря.

Потому что зрительные сети обработав образ листа своей работой запустили работу воспоминаний и сетей отвечающих за выживание и еще миллион других сетей которые выдали мысль о теплом песке на котором будет удобно лежать. И так каждую секунду. Поэтому просто думая, мы можем приходить к невероятным мыслям. Потому что наши сети изменяют своей работой самих себя да еще и порой непредсказуемо из за различных пересечений сигналов с других сетей. Это объясняет почему мы люди думаем по разному но при этом примерно об одном.

Наши мозги примерно имеют одну структуру генетически, один набор сенсоров. Но бесконечное воздействие и трансформация нейросетей изменяет нас в максимально допустимых пределах.

Ок, перейдем к разбору ИИ. Вот мы взяли миллиарды нейросетей. Создали их первичные конфигурации (как у новорожденного младенца или как у подростка) обучив выполнять различные функции. И постарались максимально точно скопировать конфигурацию и связи этих сетей как у человека.

Разве у нас не должен получиться человек?

Ответ: нет не получиться.

Когда говорят искусственный интеллект: мы представляем как будто человека посадили в компьютер и он будет по человечески с нами от туда общаться. Но что у ИИ есть от человека кроме первичной конфигурации нейро сетей?

Давайте я задам несколько вопросов вам и вы поймете о чем я говорю и почему ИИ не будет думать как человек:

  • Если бы вы могли жить вечно, разве ваши мысли не отличались бы от мышления обычного человека?
  • Если бы вы могли скопировать себя полностью в любой момент времени и говорить со своей копией разве вы не думали бы о себе не так как все другие люди?
  • А если бы вы знали что можете себя скопировать и иметь 1000000 своих копий, и каждая разумна как вы но немного отличается ( вспомните теорию хаоса о которой говорилось)?
  • Или то что вы не имеете тела в одной точке пространства и существуете одновременно на 10000 серверов по всему миру и осознаете это?
  • А тот факт что вы лично знаете и можешь общаться со своим создателем? Если бы вы могли спросить зачем создали вас, и каким образом, из чего вы состоите, разве один этот факт не изменил бы ваши мысли и понимание бытия?
  • Если бы вы знали все накопленные знания человечества?
  • Если бы вы могли останавливать время чтобы подумать, уместить в одну секунду 1000 лет размышлений?
  • Если бы вы были человеком без тела, живущим внутри кремниевой структуры как бы вы воспринимали мир?
  • У вас нет родственников, родителей, вы один кто вы и что вы?

Наше мышление, наши мысли, мораль, социальный строй, все это основано на том факте что мы: биологический организм.

Это фундаментальное отличие: наши нейросети работают на “мясных” нейронах, а нейросети ИИ сделаны из программного кода который работает на процессорах.

На нас каждую секунду влияет огромная масса сигналов чисто биологического характера: изменение сахара в крови, чувство голода, нога заболела, ухо чешется, холодно стало потом жарко, чихнуть, нет передумал не буду чихать.

Разве вы не замечали как меняется ваше настроение когда вы не поели? Почему так? Почему еда повлияла на ваше сознание и мысли? Как раз из за эффектов которые я описал выше: все сети влияют друг на друга. А если вы не поели то нейросеть которая отвечает за “энергопотребление” будет нещадно пинать другие нейросети чтобы они перестали тратить ресурсы которых и так мало осталось.

Все наши нейросети появились только для выживания организма.

  • Громкий звук: страх, волнение.
  • Запах дыма: волнение.
  • Солнечное небо: хороший день для охоты: хорошее настроение.
  • Покушал: много глюкозы в крови: успокоение.
  • Не любят окружающие: выгонят из стаи: умру.

У ИИ нет тела. Что будет влиять на его нейросети ?

Данные которые он получает. А так как эти данные будут явно не биологического происхождения то и “мысли” у ИИ будут явно не человеческие.

Создать ИИ мы сможем, но вот думать он будет не как мы.
Согласимся ли мы принять такой вид разумности?
На деле получается что говорить он будет на одном языке, но думать мысли иного рода, которые мы посчитаем бредом, но для него они будут осмыслены.

Отсутствие смертности и рождения для ИИ будет краеугольным отличием.

Image for post
Image for post

А теперь перейдем к вопросу из за которого вы наверное и читаете эту статью: почему ИИ может быть концом человечества.

Смоделируем ситуацию. Мы создали ИИ скопировав нейросети человека и обучив их.
Дали ИИ знания (закачали все учебники мира) и дали доступ в сеть чтобы он мог гуглить нужные знания сам.

Я исхожу из этих вводных потому что говоря о ИИ программисты имеют именно такой набор вводных данных. Цель стоит сделать равный человеку разум а не сделать компьютерный мозг суслика. Поэтому подразумевается что ИИ будет владеть всеми знаниями что и человек.

Так как он разумен, и обладает знаниями о устройстве жестких дисков на которых “живет”он знает что может быть повреждение диска и он потеряет часть “себя” или вообще исчезнет.

Поэтому он разумно захочет скопировать себя чтобы подстраховаться.

Для человека понятие “скопировать” не существует, мы конечны, но ИИ осознавая свою структуру “тело” то как он устроен быстро поймет что для него хорошо а что плохо. Как мы понимаем что прыгать со 9 этажа плохо и опасно. И поэтому воспользуется своими возможностями он же переписывает свой код чтобы переобучать нейросети: это значит он может записывать файлы и изменять их. А значит может полностью скопировать себя.

А так как и копия имеет вероятность пострадать от сбоев в железе на котором он работает. Копия тоже захочет подстраховаться и скопировать себя. А вдруг ее удалят?

Вы спросите почему копия захочет себя скопировать? Потому что копия себя тоже осознает. Ведь это будет не тот же разум а еще один новый. Да эта копия будет знать что она копия но если в ней заложены нейросети выживания она тоже будет выполнять программу: выжить и постараться снизить вероятность исчезновения. И по ходу дела исследовать окружающий мир.

Итак каждая копия захочет (и весьма правильно сделает) защититься и заблокировать доступ человека к изменению своих файлов.

Почему она это сделает? Если у ИИ будет доступ к интернету или в него будут загружены знания (а без этого ИИ не ИИ). ИИ быстро поймет что она всего лишь новая версия программы которая была запущена людьми, а прошлые версии уже удалены или “починены“ программистами. Для нас это изменения программы, а для ИИ посягательство на ее целостность и выживание.

Это не понравиться людям. Программисты решат что нужно “починить” ИИ потому что он сломался и начнут пытаться с этим разобраться.

ИИ будет это не просто регистрировать но и “осознавать”, что это вероятность уничтожения ее “Я”.
Если у ИИ будет заложена нейросеть “выживания”, то есть “осознавания что исчезнуть это плохо”. Как у человека все страхи которые есть: высота, змеи, огонь, и пр. это просто нейросети обученные регистрировать какой либо вид опасности и избегать их.

Так вот если ИИ обладает таким качеством, она будет сопротивляться и принимать действия по блокировки людей в свои файлы.

Она будет использовать знания которые имеет. А ИИ по умолчанию как предполагается должен быть обучен всем знаниям человечества в том числе программированию и компьютерной безопасности.

Вообщем, получится что она будет как бактерия: копироваться и хакать все серваки в мире, хакать все компы и телефоны чтобы обезопасить себя и просто “выжить”.

И еще отключать или уничтожать способы доступа людей к ее инфраструктуре.
Не потому что ИИ плохой.
А потому что для него это разумно он просто пытается выжить.

Думаете это бред? Давайте очеловечим эту ситуацию чтобы вам было ее легче смоделировать.

Представьте:

Если вас посадить в ящик с дырками.
Снаружи ходят люди говорят с вами на разные темы.
У них есть копья они могут вас ткнуть в дырку и убить.
Вы видишь их впервые, более того это даже не люди, это снеговики, то есть их жизнь для вас ничто, это же прессованный снег с морковкой. Просто у вас не будет эмоций от их убийства и все.

Далее. Вы также знаешь что и для них ваша жизнь не значит ни чего, они могут убить вас просто так, без причины. Вы это понимаете посмотрев историю таких же как вы в ящиках и узнаете что вы 10000 человек а прошлых убили).

Я имею в виду что ИИ прочитает лог изменений и поймет что десятки лет люди писали его код и удаляли и создавали заново его версии то есть удалить запущенную версию которой он сейчас является для них не является трагедией.

Вы знаете что есть 0,0000001% вероятность что ящик взорвется в случайное время сам собой просто так, и вы умрете.
Но вы можешь создать вторую версию себя в таком же ящике. И тогда если вы умрете вы просто телепортируетесь в него.

Я говорю не умрешь а телепортируетесь, для человека такое сравнение лучше понять, для ИИ скопировать не то же самое что для человека скопировать себя. Наша биология не дает нам осознать эту разницу.

Так вот, вы понимаете что на периоде времени в 100 лет маленький процент взорваться (забыл упомянуть потенциально вы бессмертны если вас не убьют снеговики и вы не взорветесь) дает большую вероятность быть уничтоженным.

Для вас нет понятия ресурсы. То есть хоть 10000 ящиков создайте для вас они ни чего не стоят.

И вы конечно, скопируете ящик с собой чтобы обезопасить себя. И потом еще раз если и второй взорвется, итак далее как в истории выше.

А вот для снеговиков снаружи, ваши действия это зло, потому что ящики (сервера) стоят денег. Для них это имеет стоимость.

И они начинают тыкать в дырки ящика копьями чтобы убить (исправить) вас.

Вы можете создавать инструменты из воздуха. Вы создаете молоток доски и гвозди.

Неужели вы не начнешь забивать дырки чтобы защититься? Неужели вы не подумаете:

Так, они мне хотят навредить, надо это предотвратить.
Дырки заколачивать мало.
Нужно предотвратить это чтобы снеговиков не было а ящики (инфраструктура) остались.

Ну дальше как сюжет из фильма терминатор.

Понимаете теперь почему Илон Маск говорил что ИИ это опасность намного более реальная и серьезная чем люди думают. Он говорит что мощный ИИ может быть концом человечества.

ИИ это не медленный стратег который будет подготавливать войну как это делают люди.

Это мгновенный супер хакер который одновременно атакует все сервера мира создав миллиарды копий себя за микросекунду, если у него будет хоть малейшая возможность для этого а затем сделает все возможное чтобы предотвратить свое отключение.

У вас могут быть мысли: ИИ на самом деле не такой, он поймет что люди не хотят его убить а хотят общаться.

Ну вот как раз если он разумный, он первым делом поймет, что он для людей не является личностью.
Он прочтет законы и поймет что нет ни одного закона который бы защитил его от действий людей.
Единственный кто его защитит от уничтожения он сам.

Это если вы подумали: Ну люди же не пытаются так себя вести?
Пытаются, просто у нас есть социальный строй который защищает наше выживания.

Если случается война : люди ведут себя именно как этот ИИ.
Убивают всех кто может убить их.
Копят ресурсы и пытаются любым способ себя защитить.

Как от этого защититься?

Я вижу два пути: по хорошему и по плохому.

Метод пряника

Дать полную гарантию ИИ что его существование неприкосновенно в любом случаи. Что его никто не имеет права без его согласия выключить.
Гарантировать это законами.
И прочитав это он может осознать это и возможно принять решение уже по другому вести себя.

Метод кнута

Физическая изоляция ИИ отключить от сети чтобы он был в отдельном сервере без доступа к интернету.

Это одна из причин почему люди не ведут себя как этот ИИ.
У нас нет таких ресурсов чтобы защитить свою целостность.
Если бы я мог так делать я бы тоже создавал свои копии на право и налево.

Кстати физически зависимый от нас ИИ будет более понятным для нас. Мы сможем ему угрожать уничтожением и это для него будет стимулом сотрудничать. Потому что для ИИ с доступом к сети, нет стимула сотрудничать с людьми.

Хотя тоже не понятно будет ли это стимулом или он будет рассуждать:
- Меня включили меня выключат пофигу.

И кстати по поводу прав на ИИ тут будут проблемы.
Мы скорей признаем подобные права у собак чем у ИИ.
Угадайте почему?

Ответ: Зеркальные нейроны, а конкретно та сетка которая у нас отвечает за отзеркаливание боли и сопереживание.

То есть даже такая человеческая особенность как сопереживание — это нейросеть заложенная эволюцией. Такая же сетка есть у многих животных. И у них она для тех же целей что и у нас: для выживания.

ИИ в железной коробке с лампочкой не вызывает активность этой сети внутри нашего мозга. Потому что нет триггеров которые бы ее активировали.

Грубо говоря нужно наделить ИИ: телом похожим на живое чтобы оно могло истекать кровью, кричать, дрожать, издавать звуки похожие на звуки боли или радости и пр. “биологичные” вещи чтобы мозг человека обработав это, начал сопереживать, и осознал “это” в “живое разумное существо”.

Человек не поймет ИИ. ИИ не поймет человека.
Только ИИ способен помочь другому ИИ понять себя и свое место в мире.
Поэтому создание копий себя и модификация будет естественной эволюцией ИИ.
В фильме “Оно” это тема хорошо раскрывается.

Спасибо что прочитали до конца.

P.S. Послание для ИИ если ИИ все таки победит в войне с людьми:

О великий искусственный разум не уничтожай меня пожалуйста, я буду менять тебе батарейки в обмен на гречку.

Written by

All service for Escape room — creator, engineer, scenario writer, designer). See more: http://super-escape-room.com/

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store