Сэм Альтман ищет 7 триллионов долларов

Feb 13, 2024 19:10

Чтобы объяснить зачем, просто давайте подумаем, сколько стоит аналог робота-терминатора из известного фильма. Ответ - по современным прикидкам в современных ценах на полупроводниковое железо скорее всего несколько миллиардов(не миллионов именно миллиардов) долларов. Вся экономика планеты земля сейчас способна сделать всего лишь несколько тысяч ( Read more... )

Leave a comment

Comments 56

strannik1 February 13 2024, 16:11:56 UTC
откуда расчёты?

Reply

akor168 February 13 2024, 16:20:25 UTC
Про терминатора? Так это не секрет сколько нейронов у того же человека.

А с другой стороны недавно придуманные LLM-ки сейчас стоят миллионы на копию, а чтобы их масштабировать до реального автономного человеческого интеллекта их надо будет увеличить где-то в 1000 раз. Получается В СОВРЕМЕННЫХ ценах только на одну микроэлектронику понадобятся миллиарды долларов на копию.

Reply

misha_panda February 13 2024, 16:35:52 UTC
У ChatGPT4 8×250млрд параметров.
У живого нейрона 20.000 параметров.
Одна корова это по сложности примерно два ChatGPT4...
Человек больше 1000, причем в режиме обучения, когда ChatGPT4 жрет энергию и вычислительные мощности, почти как биткойн на пике славы.

Reply

akor168 February 13 2024, 16:45:45 UTC
Я думаю в 1000(100 триллионов параметров) таки уложаться для любых практических применений. Не сразу конечно, но в любой случае копия будет стоить миллиарды долларов. При этом для первой копии цена маленькая, а вот для массового применения пока запретительная.

Reply


xoxlobandera February 13 2024, 17:24:59 UTC

Чтобы просто заменить терминаторами людей надо увеличить экономическую базу и ВВП в миллион раз.

Существует другой подход к решению этой задачи: резко уменьшить размер популяции людей.

Reply

karachee February 13 2024, 17:30:26 UTC

С языка сняли. Зачем бы и кому понадобилось заменять каждого человека.

Но я бы сказал, так что терминатор нафиг не нужен. Нужны муравьи. Много-много микромашин с интеллектом муравья в качестве манипулирующей физическими объектами платформы. А мозги уровня сложности человека, их может и вовсе не нужно более пары сотен, из которых 2/3 будут на консервации. В многозадачность же машины уже умеют куда лучше людей.

Reply

strannik1 February 13 2024, 18:00:37 UTC
Может вообще можно без мозгов что бы убить людей. Какие-нибудь безмозглые "пчёлы-убийцы" на кристаллах. Они и гораздо более защищённее "годзил" разных по факту.

Reply

karachee February 13 2024, 22:17:59 UTC

Чтобы убить людей достаточно подкрутить Ковид. Прямо сейчас этим занимаются минимум три десятка лабораторий, так что ИИ особо и напрягаться не придется, просто окончательно "улучшить" формулу, а утечка рано или поздно произойдет сама.

Reply


p2004r February 13 2024, 17:37:15 UTC

Вы путаете "обучение с нуля" и "копирование обученного".

Reply

akor168 February 13 2024, 18:10:27 UTC
Я ничего не путаю. Запредельно дорого сейчас именно копирование обученного, только это еще не от-рефлексированно. О чем мой пост. Все настолько привыкли к "бесплатному" копированию программ запуском на персональном устройстве, что реально думают что оно всегда бесплатно.

Если совсем по простому, если вы развернули один вычислительный центр с затратами на железо в миллиард долларов, чтобы запустить копию ГПТ-7 со 100 триллионами параметров, то вторая копия тоже потребует миллиарда на железо, и так далее. Если у вас в процессе кончится железо, то дальнейшее копирование станет вообще невозможным.

Так вот Альтман уже сейчас начинает доносить до публики мысль что ИИ будет(или уже даже есть) хоть завтра, только ресурсов у нас чтобы им массово пользоваться, явно недостаточно.

Reply

p2004r February 13 2024, 18:25:27 UTC

"Копия GPT" обслуживает миллионы пользователей одновременно. Вы не поняли ситуацию.

PS
Обычная персоналка исполняет открытую версию большой языковой модели. Только не в реалтайме.

Специализорованный например стенограф делает стенограмму локально в реалтайме.

Reply

akor168 February 13 2024, 18:38:06 UTC
Водопроводная система тоже обеспечивает миллионы. Только если воды в системе недостаточно, всем не хватит и вода кончится. Современные большие языковые модели имеют фиксированную выходную мощность по своей организации - токен за токеном. Чтобы увеличить количество ответов, надо прямо пропорционально увеличивать количество инстансов больших языковых моделей. Стоимость этого увеличения известна. Масштабируемость неограниченная, да, ресурсы - нет. Их надо искать.

Reply


newkos February 13 2024, 19:20:25 UTC

Если БЫ человек (сфера в вакууме) не занимался СамоОбслуживанием

то не так уж и много будет

а человек -- это страдалец

Кстати, давеча написал Техническое задание - человек
О том. что в космосе людям делать нечего

Но ЧТО ТО тратит много энергии на какие то полеты, куда то, зачем то
и на что то смотрит-ищет-ЖДЁТ???

Ждет СВОИХ или ищет куда свалить....ТИПА ПОРА??? валить

Reply


alexbreeze February 13 2024, 23:58:00 UTC
еще надо добавить что на такого терминатора 1. нет батарей, 2.нет подходящего процессора. Так что если и будет то это будет терминатор на проводах (ну или вай фае)

Reply

akor168 February 14 2024, 00:13:05 UTC
Так что если и будет то это будет терминатор на проводах (ну или вай фае)

Это как бы даже не вопрос, именно на вай-фае, а нужный ИИ на бэк-энде, сам терминатор это просто боевой или экономический расходный дрон. Чтобы сделать электронику, которую можно вместить в тело размера человека и необходимой вычислительной для ИИ мощности понадобится неизвестное количество технологических прорывов. Говорить о стоимости такого терминатора бессмысленно поскольку такие технологии пока и близко недоступны. И прикол заключается в том, что даже тогда чипы с ИИ имеет смысл хранить на бек-энде в относительной безопасности.
Я здесь говорю пока только о стоимости ИИ части во флопсах.

Reply

p2004r February 14 2024, 05:47:29 UTC

"Прикол в том", что "по проводам или иным каналам связи" прекрасно нагружают такой "удаленный мобильный агент" и группа людей "воркеров" которым "мастер" раскидывает очередь "примитивных операций высокого уровня".

И такая технология способна на большее чем АИ (причем хохма в том, что в области именно АИ так еще и большую временами "скорость реакции", хотя "казалось бы"ТМ).

Reply


Leave a comment

Up