Не верьте ИИ. Он лжет!

[taanyabars]

Я уже давно подозревала это, начитавшись рассказов о чайных плантациях на Алтае и гидроэлектростанции в центре Москвы, она же "в сердце Большой Волги" или что-то в этом роде (так была интерпретирована ГЭС-2). Но то, что я прочитала в ЖЖ Леонида Каганова изумило даже после этого. Изумило настолько, что не могу молчать

Comments

[pryanik]

Бывает человеческий фактор, а тут - нечеловеческий.

[taanyabars]

Но почему-то считает себя умнее

[ignorantis]

Работает по алгоритмам, созданным человеком. Так что не такой прям нечеловеческий.

[pryanik]

Да, но человек не оказывает прямое воздействие на результат его работы "на стороне исполнителя". Человек только составляет запрос, а на той стороне - только программа.

[gaechka63]

Два разных человека

[taanyabars]

Но одного выдают за другого

[gala_vrublevska]

ИИ основан на текстах советской литературы, потому и уклон такой у него получился.

[taanyabars]

Почему-то всем интересно, как такое могло получится и никого не волнует, почему ИИ придумывает факты, если не может справиться с заданием. Причем свою фантазию не ограничивает.

[gala_vrublevska]

Фантазия ИИ так или иначе ограничена текстовыми прецедентами, заложенными в программу программистами.

[taanyabars]

Кто бы ни закладывал, потом это воспринимается как реальность.

[ein_arzt]

Думается, что ИИ, распознав фамилию Казакевич, стал "сканировать" биографии однофамильцев, имеющиеся в сети. Весьма вероятно, если поискать, найдется что-то, похожее на изложенное. Собственно, т.н. ИИ пока ещё далеко не интеллект.

[taanyabars]

Думается, что распознав Могилев, он придумал белорусскую фамилию: Казакевич плохо подходит даже по длине слова, тем более, что фамилия написана разборчиво.

ИИ далеко не интеллект, но похоже, мало кого волнует никого не волнует, что он придумывает факты, если не может справиться с заданием. А роль его в нашей жизни все возрастает.

[ignorantis]

Как же он распознал в Каганове Казакевича? С какого, извините, бодуна?

[lady_tiana]

Я несколько раз тестировала эту версию чата GPT, всегда получалась чушь. Судя по отзывам нескольких человек и тестам, проведенным с их помощью, следующая версия (платная) уже намного точнее, хотя там тоже некоторые косяки встречаются. Кроме того, как говорят, эту сеть нужно обучать и тренировать на своих задачах, тогда она научится выдавать максимально близкий к нужному результат. Но как это делается, я не знаю.

[taanyabars]

Все пишут о том, почему программа ошибается и как это улучшить. Только меня ужасает, почему если программа не справляется, она выдает домыслы за факты?

[ext_374681]

Такое задание, я думаю...

[taanyabars]

А в чем смысл??