ИИ - он другой.

[racepilot]

Вообще-то термин "Искуственный интеллект" на данной стадии неверен - интеллекта там нет, просто грамотное перемалывание огромных объемов данных. Но буду называть, как привычно.

Некоторое время назад у alex_rozoff я упоминал, что современные ИИ "думают" совсем не так, как люди. Попробую развернуть этот тезис

Comments

[akm762]

просто грамотное перемалывание огромных объемов данных

Только на этапе обучения. Но результаты интересные. Например, предельно генерализируя, можно сказать, что GPT (опираясь на гигантский массив текстов) строит функцию меры между "текстами вопросов" и "текстами ответов", и в результате получается возможность экстраполировать её на любые вопросы. Однако, чтобы задавать (осмысленные) вопросы и находить смысл в ответах, этого явно недостаточно - для этого нужны кожаные мешки с мясом =)

[racepilot]

> Только на этапе обучения.

Э нет, inference тоже далеко не бесплатный. И жрать умеет некисло. Но да, обучение всегда более затратно - причем даже не столько по требуемой мощности (она недорогая), сколько по разметке.

> Однако, чтобы задавать (осмысленные) вопросы

Знаешь, я когда только NLP стал заниматься, у нас было много дискуссий. На тему "что вообще есть смысл". Так что кожаные мешки тут тоже не слишком в теме.

И, кстати, насчет GPT и прочих - вот как раз там стоило бы вожжи отпустить еще. Но этого не будет - она же тогда окончательно начнет правду-матку резать. Токсичную, расистскую, ... (подставить сюда весь набор вокнутых/"светлолицих" оскорблений). Но правду.

[akm762]

Пока что у ней и с элементарной математикой проблемы ,) ну, это перекос в "гуманитарное знание", можно понять. Однако против расизьму и, не приведи Г-сподь, антисемитизьму её натренировали очень хорошо - это заметно. Правда, в последних, ещё более вокеизированных версиях получился перебор: начала рассуждать (в арифметических примерах) о подавлении большими числами маленьких, потому что математика пропитана белой маскулинностью, etc. ad absurdum.

[racepilot]

Отличный пример того, о чем я говорю.

Если настолько уйти от реальности - тупая железка начинает нести бред везде. Если не уйти - вокнутые обижаются (впрочем, они в любом случае будут обижены - снежинки, что с них взять) и вообще выглядит как-то не очень с точки зрения повесточки.

Цугцванг.

[alex_rozoff]

Вспоминается переводчик с языка двутелов в "Эдеме" Лема

[racepilot]

Ну именно языки мы тут сейчас в личке обсуждаем совсем по другому поводу.

Но я хотел про другое сказать. Можно ли такие системы довести до понимания того, "что ты хотел сказать"?

Теоретически - можно, но есть две маааленькие проблемки.

Первая - если они реально начнут такое угадывать, то это полный привет лицемерию. То есть пишешь ты речь "за зеленую повестку", а нейросеть ее разворачивает "дайте мне бабла, а то на багамском счету заканчивается".

Вторая еще веселее - мы, на самом деле, считываем дофига информации - серый процессор позволяет. Просто не всю осознаем.
Если такой же объем будет собирать машина... Это еще покруче тотальной слежки, она же (см. проблему 1) будет и "подсознательное" (на самом деле - желаемое) считывать!

[alll]

> Можно ли такие системы довести до понимания того, "что ты хотел сказать"?

Конечно же нет.

а) даже иного человека до такого понимания довести зачастую невозможно

б) да что иного, даже собственно задающего вопрос зачастую невозможно

Вообще у меня например довольно большой кусок работы зачастую составляет именно выяснение "что вообще хотел сказать источник задачи", с медитациями и очными ставками, иногда даже рекурсивно. причём у меня область работы вовсе даже не рокет сайнс и даже не нейрохирургия.

[alll]

> то это полный привет лицемерию

Да собственно с чего бы, это вроде исключительно вопрос подбора обучающего материала. Ну примерно как с ребёнком-детсадовцем, если в заведении обслуга материться, то он и домой соответствующий лексикон радостно притащит.