Новая парадигма ИИ требует революции в понимании памяти

Иначе выход из тупика в области ИИ невозможен

CREDIT: BENEDETTO CRISTOFANI / THEISPOT
«Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память — это инструмент предсказаний”
Alain Berthoz (французский нейробиолог)

Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.

1) В чем, собственно, тупик?

Если коротко, то вот в чем.

  • Осознан потолок возможностей машинного обучения, — автоматизация интеллектуальной рутины.
  • Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть — общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
  • Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.

2) Альтернативная парадигма уже существует?

Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).

В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.

Согласно старой парадигме, разум работает подобно традиционному компьютеру — мозг пассивно ждет «входной информации» для «обработки символических представлений» и создания «выходных управляющих сигналов».

В новой парадигме, разум — это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.

3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.

  • Цель памяти — не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
  • При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение — забывание информации, необходимое для ее генерализации.
  • Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.
Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки — её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации — на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!

Значит нужно все детали забыть, оставив и генерализовав лишь главное.

  • Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.

Посему:

  1. Нужен механизм активного забывания, работающего на главную стратегию мозга — управление информацией через забывание.
  2. Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.

В дополнение

Подробней о нейробиологии активного забвения и названных механизмах см. отлично написанную и хорошо иллюстрированную новую статью Тома Зигфрида со ссылками на источники.

А также мои предыдущие посты на эту тему.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь