ИИ. Понимание.

[captainl]

Первое впечатление от нынешних систем, подаваемых как якобы ИИ, - они не понимают, что делают. Сири и Ватсон не понимают вопросы, которые им задают, машина без водителя не понимает, что происходит на дороге, гугл транслейт не понимает переводимый текст.  Зачем вообще нужно понимание, может без него можно обойтись?


Ниже приведены несколько разных случаев (не)понимания.

1. "Это что-то непонятное". = "Не могу идентифицировать наблюдаемые объекты или ситуацию".
2. "Я не понимаю эти буквы".  = "Догадываюсь, что это - буквы, но не знаю их". Плящущие человечки у Конан-Дойля или тексты майя до того, как алфавит майя был разгадан Кнорозовым.
3. "Какое-то слово непонятное". = "Понимаю, что это - слово, но не знаю его и даже не догадываюсь о его значении".
4. "Не понимаю смысл этого текста". Т.е. слова понятны, но вместе не складываются в связную картину.
5. "Не понимаю, что ты хочешь сказать". = "Понимаю, что ты говоришь, но не понимаю, какие следствия из сказанного важны в данной ситуации".
6. "Стороны достигли понимания". В большинстве случаев эта фраза не имеет прямого отношения к пониманию. Это штамп, означающий, что стороны переговоров удовлетворены результатами этих переговоров.
7. "Как я её понимаю!" = "Наш жизненный опыт в данной ситуации очень близок, и я знаю, с чем сталкиваются люди в этой ситуации".
8. "Ничего не понимаю". Ничего не понимают, буквально, многие нынешние системы ИИ, а применительно к людям - идиоты в медицинском смысле. Обычно это фраза используется гиперболически, когда развитие ситуации существенно отличается от прогноза её развития.
9. "Я не понимаю классическую музыку". Должен признаться, я не совсем понимаю эту фразу, но предполагаю, что она означает "Классическая музыка у меня не вызывает никаких чувств".

Эти примеры показывают основные мыслительные процессы, связанные с пониманием:
- идентификация объектов - соотнесение с уже известными объектами
- идентификация ситуации (поездка на работу, посещение ресторана, чистка зубов и т.п.) и ролей объектов в ней
- формирование гипотез о целях участников ситуации
- "проигрывание" сценария развития ситуации для определения её ожидаемых результатов
- вывод умозаключений
- эмоциональная реакция.
(Выглядит как некоторая градация уровней понимания).

Каждый из этих процессов достаточно сложен и интересен, чтобы говорить о нем отдельно. Сейчас же важно отметить, что понимание необходимо для эффективного прогнозирования дальнейшего развития событий и планирования своих действий. Поскольку оно является одним из ключевых процессов в мыслительной деятельности, при разработке ИИ ему должно уделяться максимальное внимание.

Очевидно, что нужно различать понимание-процесс, понимание-чувство и понимание-состояние.

Состояние понимания - это "не понимаю/понимаю". Но поскольку глубина понимания может быть разной, состояний понимания может быть очень много. Вам кажется, что некоторую фразу в книге вы поняли, но, читая книгу дальше, начинаете понимать эту фразу иначе, и так не один раз.
Переход из состояния "не понимаю" в состояние "понимаю" сопровождается  ощущением логической связности новой информации с личными знаниями.

Из того, что понимание связано со встраиванием новой информации в уже имеющиеся знания, следует много важных выводов, например:

• Чем больше знаний уже имеется, тем полнее понимание
• Понимание требует определенных усилий
• Поскольку понимание субъективно, а индивидуальный жизненный опыт уникален, абсолютного понимания достичь невозможно. Даже люди, прожившие вместе десятки лет, не могут полностью понять друг друга, хотя степень понимания очень высока.
• Поскольку личный опыт конкретного человека изменяется буквально ежеминутно, человек в разное время по-разному понимает одни и те же ситуации.
• Конкретный человек может соотнести одни и те же объекты и события с несколькими разными сценариями практически одновременно - учитель во время урока обучает детей, зарабатывает деньги, совершенствует профессиональные навыки, накапливает стаж для получения пенсии и т.д. У разных людей один и тот же объект или событие соотносится с разными сценариями, например, для кого-то кастрюля - это в первую очередь посуда для приготовления пищи, для кого-то - товар для продажи, . Но даже при соотнесении с одним и тем же сценарием каждый человек проигрывает его с разной степенью детализации.
• Проверить понимание можно лишь до некоторой степени. Человек может искренне считать, что он понял другого, на самом деле его не понимая вообще.

Для глубокого понимания человек должен не просто знать сценарий, а пройти его самостоятельно на практике. Простое наблюдение со стороны даёт лишь неполную информацию в основном по визуальному и звуковому каналам. И уж тем более ограниченным является понимание лишь по текстовому описанию (понимание текста происходит примерно по тем же стадиям).

Так возможно ли сделать так, чтобы ИИ понимал мир хотя бы приблизительно так, как его понимает человек? Судя по тому, что пишут о сегодняшних программах ИИ, их понимание в лучшем случае доходит до уровня идентификации ситуации, а дальше подключаются "интеллектуальные консервы" - записанные в виде машинного кода действия человека-разработчика. Но принципиально непреодолимых препятствий для обеспечения более глубокого  понимания системами ИИ, похоже, нет.