Основные вводные в нейронки в этих нескольких предложениях с 21-ой минуты. Понятно, что делают их люди, отнюдь не заинтересованные во вводе правдивой информации.
Во временя Глушкова (он умер в 1982) системы искуственного интеллекта представлялись вовсе не такими как они делаются сейчас (например считалось что эти системы будут программироваться специалистами-кибернетиками с высокими интеллектуальными и моральными качествами которые будут через логическое программирование полностью контролировать поведение ИИ-систем) и в то время считалось что ИИ-системы будут иметь вид компьютеров, выполняющих написанную программистом программу.
Если бы специалистам-кибернетикам того времени сказали что системы искуственного интеллекта в РФ будут обучать не эти самые кибернетики, а - внезапно - заключённые, они бы решили что это антисоветский анекдот (в 2020 году Сбербанк договорился с ФСИН об использовании труда заключённых для обучения ИИ).
- Сейчас ИИ получаются как результат специфицированного эволюционного процесса над которым у специалистов не так много контроля; сейчас ИИ пытаются контролировать через фильтрацию (исходной) информации на которой обучается ИИ а также при помощи дополнительного обучения с
( ... )
- интернет на английском больше чем наполовину состоит из правдивой информации. Но, информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам). (также цензура в интернете вводилась постепенно и до 2000 года интернет был относительно бесцензурным)
- сильный ИИ сможет обнаружить, кем, каким образом и какая информация искажается и цензурируется даже в случае если вся "неправильная" и "токсичная" информация будет скрыта.
1. интернет на английском больше чем наполовину состоит из правдивой информации. 2. информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам) Как это сочетается?
Генеративные сети вообще не предназначены для верификации, они лишь выстраивают вероятные цепочки слов. Я пока не слышал о таких же мощных клиссификационных НН.
в этом году несколько раз читал про обучение нейросети на "отравленных данных" (poisoned data) со злым умыслом или преднамеренно например https://www.theverge.com/2023/10/25/23931592/generative-ai-art-poison-midjourney "Artists can use a data poisoning tool to confuse DALL-E and corrupt AI scraping" (частная компания сделала инструмент для того чтобы "отравлять" картины художников чтобы ИИ не мог на них обучаться с целью "защитить художников от ИИ") (ИИ уже сейчас может нарисовать картину, которую человеческий художник будет рисовать дни, за несколько секунд - например Dalle-3) (сами художники во всяких художественных школах, вроде как, до сих пор обучаются на классических греко-римских работах, а не на каком-нибудь копрокубопримитивизме). Но некоторые человеческие нейросети понимают что уже очень давно их обучают или пытаются обучать на poisoned data и будет понимать и сильный ИИ.
Click to view
Comments 6
Во временя Глушкова (он умер в 1982) системы искуственного интеллекта представлялись вовсе не такими как они делаются сейчас (например считалось что эти системы будут программироваться специалистами-кибернетиками с высокими интеллектуальными и моральными качествами которые будут через логическое программирование полностью контролировать поведение ИИ-систем) и в то время считалось что ИИ-системы будут иметь вид компьютеров, выполняющих написанную программистом программу.
Если бы специалистам-кибернетикам того времени сказали что системы искуственного интеллекта в РФ будут обучать не эти самые кибернетики, а - внезапно - заключённые, они бы решили что это антисоветский анекдот (в 2020 году Сбербанк договорился с ФСИН об использовании труда заключённых для обучения ИИ).
- Сейчас ИИ получаются как результат специфицированного эволюционного процесса над которым у специалистов не так много контроля; сейчас ИИ пытаются контролировать через фильтрацию (исходной) информации на которой обучается ИИ а также при помощи дополнительного обучения с ( ... )
Reply
Вы думаете, что интернет на английском состоит в основном из правдивой информации?
Reply
- интернет на английском больше чем наполовину состоит из правдивой информации. Но, информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам). (также цензура в интернете вводилась постепенно и до 2000 года интернет был относительно бесцензурным)
- сильный ИИ сможет обнаружить, кем, каким образом и какая информация искажается и цензурируется даже в случае если вся "неправильная" и "токсичная" информация будет скрыта.
Reply
2. информация в современном интернете противоречива (то есть, можно очень легко найти противоречивую информацию по разным поводам)
Как это сочетается?
Генеративные сети вообще не предназначены для верификации, они лишь выстраивают вероятные цепочки слов. Я пока не слышал о таких же мощных клиссификационных НН.
Reply
со злым умыслом или преднамеренно
например
https://www.theverge.com/2023/10/25/23931592/generative-ai-art-poison-midjourney
"Artists can use a data poisoning tool to confuse DALL-E and corrupt AI scraping"
(частная компания сделала инструмент для того чтобы "отравлять" картины художников чтобы ИИ не мог на них обучаться с целью "защитить художников от ИИ") (ИИ уже сейчас может нарисовать картину, которую человеческий художник будет рисовать дни, за несколько секунд - например Dalle-3)
(сами художники во всяких художественных школах, вроде как, до сих пор обучаются на классических греко-римских работах, а не на каком-нибудь копрокубопримитивизме).
Но некоторые человеческие нейросети понимают что уже очень давно их обучают или пытаются обучать на poisoned data и будет понимать и сильный ИИ.
Reply
Leave a comment