Пунктирное для дальнейших размышлений

[_moss]

Всё рациональное сегодня программируемо. Спасение от жрущего всё на своем пути ChatGPT - в иррациональности/озарении/творчестве. Но иррациональность тоже бывает псевдо-таковой, как в генераторе псевдослучайных чисел. Область "реальной" иррациональности сужается каждый момент, она фактически убегает от преследующих и отгрызающих от нее куски

Comments

[alex_new_york]

Так ведь искусственный интеллект LLM вроде ChatGPT - такая же вещь в себе, как и естественный интеллект двуногих: никто толком не понимает, как у него всё внутри организовано. Поскольку он произрастает у LLM примерно тем же полудиким образом, как и у двуногих: ему скармливают разное умное и глупое в больших количествах, а он в скормленном потихоньку сам разбирается, насколько ему количество серого вещества позволяет.

[_moss]

А можно энтого LLM спросить, как он дошел до того или иного вывода, пошагово? Небось пробовали, интересно, что он на это выдавал.

[alex_new_york]

Если мы покажем ИИ фото бабочки, он, как и мы, не будет сам с собой логически рассуждать: «крылышки, усики, ножки, брюшко, - бабочка, что ли? Или нет? Проанализирую-ка я вероятности альтернативных вариантов и выберу самый правдоподобный». А сразу отреагирует: «о! бабочка! красивая какая!». Если спросить его, а почему именно бабочка, то, как и мы, он может честно ответить: «ну а кто же? видно же, что бабочка». А может начать рационализировать: «ну, вот: усики, крылышки, окраска, форма, так что можно предположить». Но это, как и в нашем случае, будет именно рационализация и самообман. Если поэкспериментировать, то становится видно, что он обычно точно ухватывает истинные ключевые признаки, но вербализовать их ему так же трудно, как и нам

Конечно, процесс анализа у ИИ, как и у нас, логический. Но, как и у нас, он обычно очень сложный. Гораздо более сложный, чем то, что мы выдаем вербально, когда пытаемся задним числом понять, как пришли к тому или иному выводу

[_moss]

Думаю, это все-таки проекция, ИИ мыслит более линейно. Вспомнился анекдот про фон Неймана и задачу о мухе )

[old_radist]

Это у вас прямо какой-то цимцум выходит... :)

[bodeh]

Смотря как определять иррациональность по своей сути.