Есть ли интеллект у Искусственного Интеллекта?
Тема явно не моя - в этой области я дилетант «в квадрате» (а может и в более высокой степени). Но, пожалуй, нет сейчас научной темы более «горячей», чем Искусственный Интеллект (ИИ). Хотя программные средства, обозначаемые как ИИ-системы, существуют уже довольно долго, лишь недавно некоторые из них, достигли такого уровня развития, что вопрос о наличии у них интеллекта уже не звучит как нечто совершенно абстрактное. Возмутителями спокойствия стали Large Language Models - LLM (Большие Языковые Модели). Наиболее известная из них (похоже, и наиболее продвинутая) это GPT-4, в «ширпотребовском» варианте - ChatGPT.
Принцип работы LLM достаточно прост: они ознакомлены с огромным объёмом текстов и эти тексты «переварены» моделью таким образом, что она «знает» корреляции всех слов, встречающихся в этих текстах, между собой попарно и в более длинных цепочках. Когда LLM задаётся тот или иной вопрос, система выдаёт статистически наиболее вероятный вариант ответа на этот вопрос, использую известные ей корреляции между словами и словесными «цепочками». Разумеется, для реализации этого простого принципа нужны огромные возможности для хранения и обработки информации. На первый взгляд кажется, что это лишь «технические детали» реализации алгоритмов. Последние же, сами по себе, интеллектом не являются.
Качественный скачок, который совершили LLM по сравнению с алгоритмами состоит в том, что алгоритмы «заточены» на решение определённой задачи (типа задач), в то время как LLM оказались настолько универсальными, что им оказалось под силу то, что до недавного времени могли делать только люди - сдавать профессиональные экзамены (т.е. правильно отвечать на вопросы в экзаменационных билетах), писать тексты, которые трудно отличить от написанных человеком, «разговаривать» на самые разнообразные темы с людьми так, что их трудно отличить от человека и т.д.
Значит ли это, что у LLM есть интеллект?
Что такое интеллект интуитивно вроде понятно, но формализовать это сложно, если вообще возможно сделать однозначно. А как же определить есть интеллект или нет, не имея чёткого определения, что такое интеллект?
В 1950г. выдающийся английский математик Алэн Тьюриг (Alan Turing) предложил взглянуть на это вопрос по-иному. Мы ведь не знаем, что конкретно происходит в голове при решении той или иной «интеллектуальной» задачи. Зачем же, для определения степени интеллектуальности машины «заморачиваться» тем, что в ней происходит при решении задач? Не лучше ли сосредоточиться на том, можно ли отличить машину от человека при решении сходных задач. Если нельзя, то можно заключить, что Интеллект у машины есть, постулировал Тьюринг, и предложил тест, который носит его имя. Тест этот (кстати, у Тьюринга это был «мысленный эксперимент», без каких-то конкретики, касательно его практической реализации) состоит в следующем: оператор (человек), который общается с неизвестным ему «визави» (либо человек, либо машина), использую текстовый интерфейс, должен определить с кем он общается.
Это «тьюринговское» понимание ИИ доминировало десятки лет. Вплоть до 2019г. проводись ежегодные турниры компьютерных программ, пытающихся пройти тест Тьюринга - Loebner Prize (Hugh Loebner финансировал эти турниры). Тест Тьюринга ни одна из программ ИИ, разработанных вплоть до 2019г., не прошла. По иронии судьбы, вскоре после остановки этих турниров (Hugh Loebner умер, финансирование прекратилось), появились LLM, которые вполне способны пройти тест Тьюринга (в текстовой версии). Но значит ли это, что они обладают интеллектом? Разве интеллект сводится к правильным ответам на вопросы в экзаменационном формате, способности поддерживать «разговор о погоде», знанию названий стран и их столиц, и т.д. и т.п.? Оказалось, что LLМ очень плохо решают довольно простые визуальные задачи, которые требуют понимания логики трансформации изображений. И вообще, с «соображалкой» у LLM проблемы, по крайней мере, пока.
Итак, тест Тьюринга, как способ верификации Искусственного Интеллекта умер. Но что взамен? Вопрос же - что такое Искусственный Интеллект - никуда не делся. Пока до ясности в этом далеко. Хотя крайне маловероятно, что на смену тесту Тьюринга придёт какой-то новый тест. О том, что сейчас происходит в этой области, можно почитать здесь: https://www.nature.com/articles/d41586-023-02361-7 .
Собственно этот пост и написан по мотивам данной заметки в Nature к которой мне бы хотелось привлечь внимание читателей блога.
Проф_АФВ
Дополнение 27-7-2023. Редакционный комментарий Nature: «ChatGPT это чёрный ящик: как ИИ исследования могут его вскрыть» (https://www.nature.com/articles/d41586-023-02366-2 )