Что хотели, но боялись спросить
Технари-то в курсе, а публике гуманитарной ориентации нужно, наверно, рассказать, что в мелькающей там и сям аббревиатуре «ИИ» первое «И» раскрывается на самом деле как - «имитация» (по крайней мере, в подавляющем большинстве контекстов).
Больше всего (resp. 100%) пересудов сейчас идет вокруг т.наз. генеративных нейросетей, общий смысл работы которых сводится к подбору следующего слова к уже сказанному - ориентируясь на то, что уже говорилось когда-то ранее (в громадном корпусе текстов, на которых проходило обучение) и руководствуясь некоторыми указаниями - что ожидается от ответа. (На самом деле неизмеримо сложнее, но суть - в этом, все равно).
То есть - со своим вопросом вы обращаетесь как бы к великому эрудиту с прекрасной памятью, который отвечает вам примерно то, что, как он помнит, кто-то когда-то уже отвечал на похожие вопросы - комбинируя из этого нечто, что вы хотели бы слышать. И на этом всё: свою миссию он считает выполненной.
Итак, что же получается в целом. Вопрос формулирует и наделяет его неким смыслом - естественный интеллект, вы. Корпус текстов, на которых проходило обучение и которые являются сырьем для генерации ответа - создавался и наделялся смыслом также множеством интеллектов вполне естественных. И наконец, полученный ответ интерпретируется снова вами: вообще, до тех пор, пока его не прочтет какой-либо естественный интеллект, ответ не значит ровно ничего, не обладает ни малейшим смыслом (который, более того, может оказаться и, скорее всего, окажется совершенно разным для разных личностей).
Иначе говоря, генеративный алгоритм неспособен к целенаправленному созданию нового смысла, не думает (поскольку не строит, по крайней мере, в явном виде модели мира, к которой затем сам может обращаться с вопросами). И, разумеется, никак не отвечает за то, что он несет - отвечает тот, кто предпринимает какие-либо действия, опираясь на этот ответ - скорее всего, вы.
Из этого следует многое - но о нём позже когда-нибудь.