AGI vs AI: Uncertainty vs Probability / AGI vs AI: Неопределенность vs Вероятность
“The majority is always wrong; the minority is rarely right.” / Henrik Ibsen
Создавая реальный AGI (общий искусственный интеллект) необходимо определиться с инструментарием для конструирования выводимости суждений на естественном языке. Применяя для этого аппарат формальной логики, первое, от чего необходимо сразу отказаться, это закон исключенного третьего — основа бинарной логики.
• Необходимо использовать трехзначную логику с кортежем базовых значений {«да», «нет», «не знаю/не применимо»} / {true, false, null}. Иначе вопросы типа «Вы перестали пить коньяк по утрам? Да или нет?» искусственный интеллект так и не сможет правильно обрабатывать. Это принципиальная проблема выводимости суждений на естественном языке.
• Трехзначная логика позволяет строить итеративные и рекурсивные процедуры формирования суждений более естественным образом. Значения «да» или «нет» завершают процесс познания. Значение «не знаю/не применимо» инициирует новый этап процесса.
• Данное требование является базовым. Инструментарий можно расширять, используя нечеткую и/или многозначную логику, но принцип отказа от принятия решения вместо принятия неправильного решения можно принять как аксиому при построении AGI.
Наличие существенной неопределенности это то, что отличает AGI от AI. Субъекты (экземпляры) AI (игры, автопилоты, распознавание лиц etc.) стараются достичь цели (значения критерия). Они обучаются с помощью нейросетей. Субъекты AGI (чат-боты, обработка и генерация текстов на естественном языке) стараются постичь смысл. Обучения на примерах для этого недостаточно.
AGI отличается от AI на нейросетях способностью к выводимости / reasoning, которая строится на трехзначной логике и работает с неопределенностью, т.е. кроме «да» или «нет» может выбрать ответ «не знаю». Выводимость / Reasoning в нейросетях это статистика. Выдача наиболее правдоподобного ответа. Наиболее вероятного следующего слова в предложении. На основе массивного обучения. В большинстве случаев результат совпадёт с правильным. Вернее, с ожидаемым, это принципиальное отличие. А в том единственном случае, который нужен, результат будет неправильным. Потому, что “the majority is always wrong”…
