Ну да, как источник информации они не годны. Их задача - генерация болтологии, разбавление водой по формату. "Напиши отчет на 2000 знаков, объясняющий, что станция Луна-24 приземлилась нештатно, но никто в этом не виноват" - вот это для них самая работа. Кстати, похоже, что заметная часть статей на Дзене последнее время пишется именно таким способом :)
Маркетинг. Документирование. Да даже написание писем - задачу "извинись перед участниками вебинара, что трансляция упала, и обещай повторить в ближайшее время" она решит намного быстрее меня. Просто нужно всегда проверять результат в режиме техредактора, а то пообещает еще следующий вебинар провести с обратной стороны Луны в трехмерном изображении
( ... )
При этом лажу и честное "никак" выдавал один и тот же GPT3.5
Тут фишка в том, что, помимо твоего запроса, нейросеть каждый раз получает предваряющий текст с "настройками". Клиент этот текст в общем случае не видит, а там страницы полторы "отвечай так, не отвечай эдак, исключай такое-то, обработай так-то". И у каждого сервиса еще и свои добавки к этому тексту есть, помимо тех, что в сам API GPT вклеены. Так что запрос в "одну и ту же нейросеть" через бот Васи и бот Пети может вполне штатно давать радикально разные результаты.
Я могу вообразить сколько-то разных объяснений. Но мне, честно говоря, пофиг.
Мне вполне достаточно того, что эти штуки не могут, получив запрос, выдать ответ или облом с достоверностью, позволяющей практическое использование (хотя бы в качестве генератора кандидатов на ответ).
А генератор отчетов в стиле "сердечник трансформатора рекомендуется сделать из дерева" мне не нужен.
Я так понимаю, они для выдачи конкретной информации годятся не больше, чем средний человек. Некоторыми неочевидными телодвижениями можно повысить вероятность правильного ответа - ну ровно так же, как некоторыми неочевидными способами можно выяснить, насколько человек специалист перед тем, как задавать ему вопрос. Но в целом, кажется, да. Чатбот это имитация человека, со всеми минусами и плюсами.
я уже писал, что лучшим встреченным мной ответом на подобные посты «какие же эти нейросети глупые» был старый анекдот:
В парке на лавочке играет чукча с собакой в шахматы. Прохожий увидел и говорит: - У-уу! Какая у тебя умная собака! - Не... Глупая, однако, я 3 : 2 выигрываю!
Comments 28
Ну, stackoverflow они по полезности, похоже, превзошли.
Reply
Меня пугает в основном, что чатботы выдают правдоподобную лажу.
Как тот студент, который конспект видел, сдать очень хочет, а выучить - нет.
Reply
Я имею в виду что stackoverflow наполнен преимущественно правдоподобной лажей.
В смысле что чатботы это зеркало, в которое может, наконец, посмотреться человечество.
Reply
Я обычно инфу гуглю, а не ищу в конкретном месте. На stackoverflow меня выносит крайне редко, поэтому я не знаю, чем он характерен.
А что чатботы - это зеркало, полностью с тобой согласна. Они настолько роскошная модель, что аж умиляют.
Reply
Кстати, похоже, что заметная часть статей на Дзене последнее время пишется именно таким способом :)
Reply
А как развлечение они мне их результаты не нравятся.
Reply
Reply
Потому что именно тестирование доки - работа наиболее трудоемкая, а ее достоверность - наибольшая ценность.
А все остальные доступные ему задачи попадают в диапазон от "развлечение" до "немножечко вредить"
Reply
Тут фишка в том, что, помимо твоего запроса, нейросеть каждый раз получает предваряющий текст с "настройками". Клиент этот текст в общем случае не видит, а там страницы полторы "отвечай так, не отвечай эдак, исключай такое-то, обработай так-то". И у каждого сервиса еще и свои добавки к этому тексту есть, помимо тех, что в сам API GPT вклеены. Так что запрос в "одну и ту же нейросеть" через бот Васи и бот Пети может вполне штатно давать радикально разные результаты.
Reply
Но мне, честно говоря, пофиг.
Мне вполне достаточно того, что эти штуки не могут, получив запрос, выдать ответ или облом с достоверностью, позволяющей практическое использование (хотя бы в качестве генератора кандидатов на ответ).
А генератор отчетов в стиле "сердечник трансформатора рекомендуется сделать из дерева" мне не нужен.
Reply
Но в целом, кажется, да. Чатбот это имитация человека, со всеми минусами и плюсами.
Reply
я уже писал, что лучшим встреченным мной ответом на подобные посты «какие же эти нейросети глупые» был старый анекдот:
В парке на лавочке играет чукча с собакой в шахматы. Прохожий увидел и говорит:
- У-уу! Какая у тебя умная собака!
- Не... Глупая, однако, я 3 : 2 выигрываю!
Reply
Leave a comment