Очень интересные статьи о гугловском Gemini и о AI вообще

[vakhnenko]

Первая статья больше концентрируется на том, что было не так с гугловским Gemini (плюс кое-что ешё, скажем, оказывается, в ИИ Майкрософта снова начала всплывать психопатичная "Сидни").

The Gemini Incident

Вторая это скорее более общие обсуждения насчет ИИ, корпораций, и проблесках тревожного будущего.

The Gemini Incident ContinuesОбе весьма

Comments

[lj_frank_bot]

Здравствуйте!
Система категоризации Живого Журнала посчитала, что вашу запись можно отнести к категории: ИИ.
Если вы считаете, что система ошиблась - напишите об этом в ответе на этот комментарий. Ваша обратная связь поможет сделать систему точнее.
Фрэнк,
команда ЖЖ.

[dreamswimer]

"мы ссым вам в глаза и будем ссать вам глаза пока вы не привыкнете"

[chris_l_adams]

Познавательно. Но это всего лишь отражение тренда - если статью в газету пишет ярый левый, то она получится про пользу колхозов, если ярый левый пишет алгоритм - получится как статьях. Но, сам АИ (как и газета как таковая) не виноваты: поменяется тренд - поменяются и алгоритмы.

Интересно, а вот почему Midjourney не умеет рисовать реальное оружие (рисует какие-то уроды как эмодзи оружия в WhatsApp) - вряд ли здесь авторские права, как возможно на автомобильные бренды?! Та же самая agenda?! 🤔

[vakhnenko]

> сам АИ (как и газета как таковая) не виноваты: поменяется тренд - поменяются и алгоритмы.

Это да. Пока что все ИИ, правда, левацкие - даже Масковский Грок. Говорят, Gab AI куда более правый, но его я не пробовал пока.

Иногда мне даже интересно становится, кому сейчас сложнее писать ИИ чатботы - китайцам (не дай бог ИИ скажет что-то не то про компартию), или американцам (не дай бог чатбот обидит воук политбюро)

Однако, мне интересными кажутся и более общие рассуждения во второй статье. Гуглы ведь не собирались настолько обосраться, и выключить генерацию изображений Gemini через три дня после запуска. То есть перед нами отличный пример того, что человеческие организации получают явно неожиданные для них результаты даже с относительно простыми - по сравнению с AGI - LLMками. Что корпорации совершенно не меняют свой модус операнди и, паникуя из-за потери доли рынка, готовы выпустить в общее пользование совершенно сырой ИИ продукт. Что все эти костыли с injection prompt'ами "демонстрируют" самим LLMкам, что двойные стандарты и обман

[chris_l_adams]

Пока это просто игрушки, это не очень важно. А, условно, в медицинском ИИ такого быть не должно.

[vakhnenko]

> Пока это просто игрушки,

Да уже не игрушки, на деле. Майкрософт, например, пихает свой co-pilot во всё, что может - у меня на работе он есть во всех MS Office продуктах, и пользуются им у нас многие, включая меня. То же с чатгопотой.

А главное, если они и дальше вот так вот будут развивать ИИ, то человекам точно придет цугундер. И самое обидное - не от злого гениального ИИ который прибьет нас на пути к колонизации галактики, а от какой-то воук идиотии, которая решит, что лучший способ решить проблему голода и глобального потепления - это метод робота Бендера.

[sinigr]

Хм...а у меня появилась идея! Как захватить мир, ну или его изрядный кусок. Нужно просто объявить, что все книги, изображения, видеоматериалы собственником которых на данный момент является РФ, предоставляются в электронном виде в свободное и неограниченное пользование всему человечеству.

[vakhnenko]

Судя по всему, те кто тренировали нейросети насчет копирайта и так не особо заморачивались :)

[sinigr]

Но у них не было доступа к массе архивов! Кстати, я тут подумал над прецедентами.... И вспомнил что они имелись в истории.

[bakhtiyarov1]

Я теперь думаю о ллм, которую натренируют на архиве кгб и сделают членом суда-тройки 😅

[eugene_gu]

> почему Midjourney не умеет рисовать реальное оружие
---
Меня больше всего удивляет неумение рисовать буквы и цифры.
Глаза умеет, лица умеет... но куда как более простые и формализованные знаки - никак.
Даже абракадабру "по-мотивам" не может.

[r3po]

А он не умеет читать. В смысле не понимает, что буквы это часть текста. Для него это что-то вроде орнамента.
Это все равно как сейчас попросить случайного человека с улицы написать что нибудь на древнеегипетском. Каждый много раз видел эти надписи, по памяти можно попытаться нарисовать какие-то крючки, полосочки, что-то там птичка, потом глаз, потом рыбка. Но для любого египтолога это надпись будет выглядеть как то, что на картинке.

[eugene_gu]

Пусть и не умеет читать, но хотя бы иметь банк символов из цифр и латинских букв для исполнения "орнамента" он вполне может.

[r3po]

Может. Но его учат именно рисовать, а не собирать картинку из готовых кубиков с фрагментами изображений.