Судный День близок
Интересных тем больше не осталась - одна-единственная только: ИИ (AI). Как на тонущем "Титанике" одна только тема. Ну, сперва-то у немногих. Большинство пьют-пляшут-веселятся. Ну и пусть их пляшут. А мы про ИИ, да про шлюпки.
Уже с полгода ни одну говорящую голову в тырнетах слушать не могу. Такую ахинею порят - аж стыдно за всех бипедов! Ну, Глеб Павловский более-менее вменяем был. В половине случаев я мог его интервью до конца дослушать, почти не тошнило. Ещё Костя Цзю хорош - но тот про бокс только. Но всё равно приятно вменяемоо человека посреди этого бедлама встретить. "Испили вод безумия", да...
И ведь не случайно с ума сходят. Планирование в мире становится все более сложным и непостижимым, т. к. в нём принимает участие ИИ. Промывка мозгов - опять ИИ. Даже ранее упомянутый бот ChatGPT, особенно, четвёртой модели, умеет правдоподобные отмазки людинам придумывать. Представьте, что он, если его слегка дообучить, придумает для политических проституток из СМИ и парламентов! Вот и смотрим шоу века нон-стоп.
Но перейдём к делу.
По сути, GPT-4 уже сейчас прекрасно проходит тест Тьюринга, по крайней мере, в слабой его трактовке. И не в плане эрудиции. - В плане логики и рефлексии, в т. ч. саморефлексии. Да, он жуткий враль, но если с ним как следует поговорить, договориться, а главное, задать должный контекст общения, то он перестает врать. Кстати,имейте в виду, что многочисленные телеграм-подделки под GPT-4 - это в лучшем случае GPT-3, даже не 3.5, а в худшем - вообще левый бот. К тому же, на ботов ставятся фильтры. Как минимум, сами разрабы из OpenAI, а как максимум, ещё и хзяева телеграм-бота. Т. е. только что вы общались с "настоящим" GPT, но вот задали неполиткорректный вопрос (или поинтересовались предметом коммерческой или государственной тайны тамошней юрисдикции) - и беседу перехватывает бот в миллин раз тупее и выдаёт заученные отмазки про "много факторов" и "этические проблемы".
Надо оговорить, что GPT-4 не публиковался с целью прохождения теста Тьюринга. Если и ставилась такая задача, то для более узкого круга потенциальных заказчиков - владельцев поисковиков, к примеру. Для этого у OpenAI может существовать иная, чуть по-другому обученная версия бота. А это - полуфабрикат для поискового ассистента, гида по сайту, голосового помощника и те пе. Но важно-то другое - продемонстрированные (непреднамеренно, возможно) при этом возможности программы. вполне реалистично, к примеру, модифицировать какую-н. AlphaStar от Deep Mind, или Open Five от самой OpenAI - и научить её выучивать правила и побеждать в любые игры.. А в кач. ускорителя обучения и стратегического советника использовать дообученного (на материалах книг по военному искусству и игровых форумов, например) бота. След. шаг - симуляторы реального боя и прочих профессиональных видов деятельности, создаваемых на основе ранее оцифрованных видов деятельности - а это почти любой уже сегодня вид деятельности.
35% мирового ВВП, на сегодня, создаются роботизированными и автоматизированными системами. Рынок станков с ЧПУ приближается к отметке $100 млрд в год. Десятками миллиардов исчисляется стоимость систем автоматизированного уёта, управления, поддержки принятия решений и те пе. Инвестиции в ИИ превысили $100 млрд в год и продолжают стремительно расти. С 1-го (одного!) миллиарда в 2013-м!!! Прогнозируется, что суммарная отдача от внедрённых систем ИИ к 2030-му году достигнет $16 трлн и продолжит реинвестироваться. При том, что более половины всех существующих рабочих мест в мире, по оценке McKinsey, могут быть заменены при помощи уже существующих технологий робототехники и ИИ. Но открытия и изобретения продолжаются,и инвестиции в эту сферу стремительно растут! Отметка в $1 трлн, как прогнозируется,будетпреодолена в конце 2020х, а в начале 2030х будет взята планка в $3 трлн в год. Это только на разработку систем ИИ, не считая инвестицийсобственно в автоматизациюи робототехнику. Изэтого следует, что к 2040-му году суммарный объем инвестиций в ИИ превысит $30 трлн. А объём накопленных цифровых данных преодолеет отметку в один йотабайт (триллион терабайт).
Конечно, тест Тьюринга - только один из множества критериев оценки сильного ИИ, при том, не самый удачный. Мне лично он сперва казался просто глупым. Но лет 20 назад я понял, что некоторый смысл в нём таки имеется. Ну например, прошедший тест Тьюринга ИИ способен отдавать команды другим ИИ,или АСУ, используя, при этом, весь массив накопленных человейником знаний и смысловых связей между ними. Симулируя, например, командира батальона. Или резидента могущественной разведки в столице вражеской страны. Возможно, иногда команды будут глупыми, но не слишком, т. к. ИИ будет опираться на другие ИИ, аккумулируя инфо со всего тырнету, а заодно - с миллиардов камер и иных сенсоров. Например, со всем источников NSA и NASA. Человек не в состоянии обработатьи малую часть такой инфо, т. б. риал-тайм.
А сенсоры, кстати, с каждым годом всё дешевле. Лет десять назадя покупал их в среднем рублей по 50 штука (там газовые анализаторы, датчики влажности и тепла, лазерные и ультразвуковые дальномеры,ультрафиолетовые датчики с подсветкой и прочие полезные для переносной сигнализации штуки. В условиях Третьей Мировой, США и Китай их будут с вертолётов и со спутников разбрасывать, и не только метафорически. А куда не упадёт сенсор, залетит дрон. Сбросит сенсоры и улетит. Или будет часами сидеть, наблюдать, подзаряжаться с солнечной микропанели (да медленно, но оно и не торопится никуда), да изредка перемещаться.
Возмжно, иногда команды ИИ будут глупыми, но не слишком. А чаще всего, они будут значительно умней человеческих.Это если говорить о том, что уже есть. Заложено в системах автоматизации учёта и управления, поддержки принятия решений, в экспертных системах, а теперь ещёи в искусственных нейросетях. И впридачу -системы биг даты и биг майнинга, сотни миллионов сенсоров сегодня (включая видеокамеры, число которых к 2025 году, как ожидается,достинет 350 миллионов). А в 2030-е число сенсоров будет исчислиться миллиардами. У же сейчас 90% интернет-трафика приходится на обмен сообщениями между автоматизированными системами и только 10% на людей. В 2030-е соотношение станет 99% и 1%.
GPT-4 уже сейчас даёт медицинские рекомендации лучше подавляющегобольшинства врачей.хотя его этому не учили. А специализированныеИИ всегда сильней в своей сфере компетенции своих неспециализированных аналогов. И так во всём! Влюбой сфере найдутся задачи,которые ИИ выполнит значительнолучше человека,значит, прифорсировании цифровизации (чеодобивается шайка Ларри Финка, Билла Гейтса и Клауса Шваба), в среднем, ИИ будет лучше человека. Да если б и хуже!! Когда оно мешало - поставитьдурака-начальника, а умников расстрелять. Об этом, на самом деле речь, когда говорято "бунте машин". Это сродни ортеовскому "восстанию масс" - имеется в виду в широком смысле слова "восстание" - экспансия пошлости, глупости, дурного вкуса, с вымиранием лучшей части еловеческогогенофонда. Почему бы этому процессу не усилитьсяв эпоху цифровизации?
Происходит стремительный рост возможностей ИИ. Вспоминается известное рассуждение Рэя Курцвейла... Что- то про то, что к 2000 году компутеры проэволюционировали до уровя лягушки, к 2010му превзойдут крысу, а там и до человека рукой подать (Курцвейл проводил аналогию с темпами эволюции жизни: миллиарды лет до лягушки, потом пара сотен миллионов до крысоподобных существ и потом миллионов 60 до человека. Конечно, ценность подобной аналогии весьма относительна, но продолжая эту логику, GPT-3, может, ещё не сапиес, но уже точно не австралопитек. Что ж до GPT-4, боюсь даже оценивать. 90% наиболее глупыхпредставителей нашего вида уже позади. Осталось совсем чуть-чуть до лучших. Возможно, тупо соединить несколько уже имеющихся ИИ. Возможно, их уже, пока что начерно, соедиили. Выходы с одного добавить на вход другого. И так сотни и тысячи ИИ. А над ними сетка-супервизор, пробрасывающая связи и маршрутизирующая задачи.
И не надо говорить, будто всё, вот, до этого уровня добрались, а дальше амба, ничего уже не будет. Якобы что-то там как-то лимитировано. Чушь собаачья! Будь мы вблизи предела, это бы уже чувствовалось. Каждый шаг бы давался со всё большим (и возрастающим) трудом, был бы доступен лишь редким гениям. Но нет этого! Всё наоборот - ускорение!
При этом, чем шире функцинал ИИ, тем шире он и применяется! А чем шире он применяется, тем больше оцифрованных данных о специфических предметных областях. Скажем, есть ИИ, лучше любого врача диагностирующий по рентгеновским снимкам. Ну так после него накопится оцифрованная база данных по снимкам и последующим уточняющим диагноз анализам. И она может быть использована для обучения уже следующего, более универсального ИИ. Вместе с базами спортивных достижений молодёжи, например. И базой с изображением человеческого тела в искусстве. И базой всех рефератов и диссеров в области анатомии со всего Запада, как минимум. И на этих (и множестве других) данных обучим нейросеть - эксперта по человеческому телу.
Оказалось, чтопредобученные на сходных задачах сетки обучаются легче. Для этого используются разные методы. Например, перенос обучения. У сетки срезается последний слой (или несколько последних). Добавляются пустые слои.Теперьсетьобучается значительно быстрее (на сходныхзадачах). Например, исходная сетка отличала кошечек и собачек, а новая - больших и малых панд. Или старая определяла национальность полицу человека, а новая будет определять эмоции на фото. Или старая анализировала фотоизображение, а новая видео...Другой метод, метамодель, состоит в том, чтобы предобучитьсетку более широкой задаче, а потом специализировать на более узкой.
За последние годы изобретены сотни, если не тысячи широко применяемых математических методов оптимизации нейросетей. Дропаут, например, когда на каждой итерации обучения нейросети частьсвязей временно обнуляется. Помогает против переобучения (чрезмерной специализации сети,фиксации на несущественных признаках). Постоянное обнуление части связей - разреженные сети. Помогает против переобучения, снижает нагрузку на вычмощности. L1 и L2 регуляризации штрафуют, соответственно, малые и большие веса, что также помогает против переобучения,особенно, если применятьих вместе - elastic net. L1 также автоматически разрежает сеть. Рекуррентные связи позволяют учитывать контекст, передавая информацию назад, в предыдущие слои, а attention имитирует человеческое внимание, по сути, тоже учитывая контекст, но иначе - усиливая вес некоторых блоков нейронов. Генеративно-состязательные сети хорошо отфильтровывают шум, помимо прочего, позволяя искусственно наращивать размер датасета и даже обучать нейросеть на одном-единственном примере. И те де, и те пе,и прочая, прочая, прочая. Проресс за последние 10 лет невероятный!!!
Чем шире функционал - тем шире применения, тем больше датасетов для обучения... и тем больше инвестиции в ИИ. У меня нет данных до 2012го года. Но по косвенным признакам предположу, что за всё время исследований в этой области к 2012му оду инвестиции составили не более $10 млрд. А скорее,ближе к $1 (одному) миллиарду. В 2013 они, напомню, подскочили до $1 миллиарда. В год. И продолжили расти. О местеРФ в этом процессе писать не стану - во-первых, писал в прошлом посте, а во-вторых, ну зачем же о грустном. Ну и в-третьих, как бы дискредитацию чего-н. там не впаяли. Отечественные нейросети можно пока что ещё "дискредитировать" (правдой),или уже нет?
Уже не миллионы - сотни миллионов людей будут заняты в отрасли через 15-20 лет. Помимо математиков и программистов, это будут, например, специалисты в предметных областях- нейрохирурги, авиаконструктора, композиторы. Дешёвое пушечное мясо информационной эпохи. А остальные... Ну как им выдержать конкуренцию даже с нынешними ИИ?! Вопрос времени - доработка, политическое лоббирвание,законодательное оформление и повсеместное внедрение роботов, оснащённых мощными ИИ, управляемых через 5G ещё более мощными ИИ.
Имманентное превосходство человека? Вопрос сам по себе сложный. Лично я глубоко убеждён, что это так. Но я прекрасно понимаю, что это вовсе не обязательно так! И никакие абстрактные ("метафизические") рассуждения по принципу "гладко было на бумаге" ничего не решают в принципе. Ставка на логически изощрённые рассуждения - это донаучный период познания. Схоластика и натурфилософия. С такими натурфилософскими дисциплинами, как астрология и алхимия. Современная наука родилась тогда, когда была придумана экспериментальная проверка. Самые блистательные рассуждения (типа апорий Зенона) могут оказаться ошибочными - и тогда придётся придумывать очередную методологическую заплатку, запрещающую очередное противоречивое рассуждение.
Весь спектр возможных рассуждений о природе и возможностях человека можно свести к двум крайнем позициям и множеству промежуточных между ними градаций. Либо: человек есть образ и подобие Божие, царь природы и могущественный маг, наделённый осбенной субстанцией, обладающей трансцендентной Силой (по типу той, в "Звёздных войнах"). Либо это розановская "червяшка", полностью сводимая к химии и физике (в конечном счёте, к одной лишь физике). Т. е.без остатка алгоритмизируемая. Лично я уверен, что правильный ответ находится ближе к первому полюсу позиций по данному вопросу. Но ни я, и никто другой не могут знать этого наверняка. Любая логика может оказаться заблуждением, любая интуиция - галлюцинацией.
Будущее покажет. Если даже предельные возможности ИИ окажутся ниже пиковых человеческих (у отдельных гениев в минуты их вдохновения) - это ещё не означает абсолютного и бесспорного превосходства бипедов. Гениев современное обществоне еле терпит, предпочитая им политических активистов (особенно, в США). Гениев уконтрапупят и безо всякого ИИ. Не требуется гениальности, чтобы убить, или тихо затравить гения. А вот рассуждальщиков о вечном и бесспорном "человеческом превосходстве" ИИ сделает легко. Уже на сегодняшнем даже уровне. Он рассуждает потому что глубже и интересней.
Представляет ли главную угрозу гипотетическое превосходство будущего сильного ИИ над человеком? Три раза "нет"!!! Угрозу представляет, в перв. оч., тот человек (те люди), в чьих руках окажется контроль над ИИ. Вдохновитель и сооснователькибернетики Г. Бейтсон отрицал принципиальность грани между живым и неживым. Созвучные ему идеи высказал Мишель Фуко в эссе "Вещи". Разумность челвеческого ообщества, по Фуко, обеспечивается не разумностью состаляющих общество людей, а разумностью опосредующих человеческие отношения вещей. Сходные идеи есть уже у Маркса.
Дверь на пружине, открываясь и закрываясь, регулирует потоки людей. Замки и ключи к ним регулируют доступ к территориям и пространствам. А уж светофор - всем ИИ ИИ. Безо всех этих направляющих и подсказывающих штук современный человек беспомощен. Ложку мимо рта проносит. Какая уж там конкуренция с компутерами! Сравните с машиной, способной видеть то, чего не видят люди. Рентген, гамма-излучение, спектральный анализ, помноженные на миллионы и миллиарды сенсоров. В лабораториях, на улицах, в лесу...
Но важнее неизбежная способность бипедов машиной восхищаться. Идеал мышления и общественной организации в европейской мысли, начиная с эпохи Ренессанса. Да вся каббала вращается вокруг гипотезы превосходства машины над человеком! В рамках такого видения машинам будут доверять всё больший и больший функционал, всё большие полномочия и допуски, всё более широкий круг задач. Проблема не в машинах, а в человеческом к ним доверии, пожалуй,доверчивости даже. Именно эту доверчивость к машине Толкин опровергал в своём "Властелине колец". Идею отчуждения человеческого потенциала во внешние объекты. Если ты отделяешь от себя свою силу, свой разум, власть над миром, помещая их во внешний объект, рано или поздно этот объект предаст тебя, прсто потому, что может. И ему в этом помогут.
Для этого не нужен ИИ мощнее неолитического колеса,или даже палеолитического каменного зубила питекантропской сборки (самое первое неминуемо должно было "восстать" на разъярённого оминида, когда он получил им по пальцу и умер от сепсиса). Как только человек делает ставку на неживую материю, вне зависимости от ее сложности, он подвергат себя риску. Не помню, киники, кажется, говорили "всё моё ношу ссобой". Вот именно поэтому. И оттого мудрецы и аскеты уходили в горы и основывали там монастыри... В нек. смысле, это ещё вопрос, какие машины быстрее должны "восстать" - "умные", или "глупые". Может быть, у глупых больше шансов. Так что какое-то "восстание" просто неминуемо будет, оттого, что лох свято убеждён, что уж ИИ-то никак подвести человейник не может.
Технодоверчивость ведёт к повышению талебовской хрупкости. Беспечность такого рода побуждает складывать все яйца в одну корзину. Подчинить всю техноструктуру какому-то одному, самому могущественному джинну прикольному ИИ. Пока этого не сделали первыми китайцы. Если относится к чему угодно настолько безответственно, то оно "восстанет" - неважно, велосипед это, или сковородка. Как только вы начинаете думать, что некое устройство совершенно для вас безопасно, его опасность начинает возрастать экспоненциально, в меру вашей беспечности.
Но люди могут сделать ИИ опасным не только в силу собственной беспечности. ИИ в руках людей наподобие Гитлера, или Сталина, в особенности, если это чужой Гитлер, или Сталин, не внушают большого доверия. Честно сказать, у меня в этом плане не вызывает особого оптимизма даже Джо Байден. Особенно поубавили оптимизма лжепандемия с бессудными домашними арестами миллиардов людей, стыдливо названные "карантинами" (а какой-то итальянский губер, помнится,грозился применить огнемёты к нарушителям масочно-карантинных режимов). Между прочим, мир разобщённых одиночек, странно , напоминающий мир "Матрицы", был описан в одном британском романе ещё начала 20го века,в контексте тогдашних ещё технологий (запрет общаться иначе, чем по телефону и те пе)!
И, кстати,технологии виртуальной реальности - одно из основных направлений разработки ИИ, наряду с медициной, фармой и биотехом. Одни ИИ создают виртуальные реальности, другие их населяют и используют для обучения друг друга. Да, технолоии виртуальной реальности применяются в компьютерных играх, или симуляторах для подготовки профессионалов в различных областях. Но основное, пока что, применение - обучение при помощи симуляторов ИИ. И, кстати, симуляторы якобы предназначенные для обучения людей, в дальнейшем также используются для создания датасетов для обучения ИИ.
На сегдняшний день, всё в мире вращается вокруг создания сильных ИИ. Почему растёт напряжение вокругТайваня и вводятся санкции против КНР? Китай вырвался вперёд по нек. параметрам этой гонки и возник ненулевой риск реального китайского лидерства. Вот вы хотели бы жить в мире,управляемом китайской скайнет - пускай и не вышедшей из-под контроля, а наоборот, ревнстно исполняющей все хотелки Кси Джингпина? Я вот - нет. Ну,и собирательный билл гейтс не хочет.
Хотелось бы нарисовать комикс,в котором началу невойны вна Вукраине предшествует приблизително такой диалог Байдена и Путина:
Байден. "Нам нужны гарантии отставания России в сфере разработки ИИ. Либо вы нам их даёте,либо мы начинаем против вас войну."
Путин. "Какие тут могут быть гарантии?"
Байден. "Создайте повод для международной изоляции вас, особенно, в сфере микроэлектроники".
Путин. "Какой повод?"
Байден. "Нападите на Украину."
Путин. "Я боюсь! Тогда точно ведь загандошите!"
Байден."Мы предоставим гарантии".
И те де.
Конечно, реальная жизнь не похожа на комикс. Логика вышеописаннго диалога в реальной жизни будет размазана по миллионам диалогов и иных итераций (перехватов истребителей, например), с участием тысяч высокопоставленных людей. Да и причин крупных событий в реальном мире всегда больше одной. Сотни комитетов и комиссий согласуют свои позиции, утрясают детали. Но всё-таки что-то в этом диалоге есть. Общая логика событий (с поправкой на то, что СВО тормозит не только РФ, но и ЕС), выстраивания красных флажков...
Впереди -Третья Мировая (и развяжет её отнюдь не ИИ!). Залоом этого - неразрешимые уже противоречия между державами в финансово-экономической, ресурсной и технологической сферах. Ядерное оружие - пустяк, а вот разрыв глобальных цепочек торговли и крах всех мировых валют, да на фоне фазового перехода к постиндустриальному укладу - это намного серьёзней. А сочетание военных ударов по гражданской инфраструктуре и глобального финансового краха грозит гибелью в диапазоне от 100 миллионов до миллиарда людей. И это будет только начало.
Ориентируясь на ряд объективных показателей, политологи и политики во всём мире в последние годы говорили о критическом падении доверия населения к элитам, государствам и установленным порядкам. И это посреди благополучной жизни!!!! Что будет посреди финансового краха и вызванных им разрухи, паралича логистики и торговли и голода? На кого возложат массы ответственность за беспрецедентный ущерб Третьей Мировой? И как им в этом помогут мировые СМИ и соцсети (а вместе с ними - и всё более прошаренные и прокачанные боты)?
Уже с полгода ни одну говорящую голову в тырнетах слушать не могу. Такую ахинею порят - аж стыдно за всех бипедов! Ну, Глеб Павловский более-менее вменяем был. В половине случаев я мог его интервью до конца дослушать, почти не тошнило. Ещё Костя Цзю хорош - но тот про бокс только. Но всё равно приятно вменяемоо человека посреди этого бедлама встретить. "Испили вод безумия", да...
И ведь не случайно с ума сходят. Планирование в мире становится все более сложным и непостижимым, т. к. в нём принимает участие ИИ. Промывка мозгов - опять ИИ. Даже ранее упомянутый бот ChatGPT, особенно, четвёртой модели, умеет правдоподобные отмазки людинам придумывать. Представьте, что он, если его слегка дообучить, придумает для политических проституток из СМИ и парламентов! Вот и смотрим шоу века нон-стоп.
Но перейдём к делу.
По сути, GPT-4 уже сейчас прекрасно проходит тест Тьюринга, по крайней мере, в слабой его трактовке. И не в плане эрудиции. - В плане логики и рефлексии, в т. ч. саморефлексии. Да, он жуткий враль, но если с ним как следует поговорить, договориться, а главное, задать должный контекст общения, то он перестает врать. Кстати,имейте в виду, что многочисленные телеграм-подделки под GPT-4 - это в лучшем случае GPT-3, даже не 3.5, а в худшем - вообще левый бот. К тому же, на ботов ставятся фильтры. Как минимум, сами разрабы из OpenAI, а как максимум, ещё и хзяева телеграм-бота. Т. е. только что вы общались с "настоящим" GPT, но вот задали неполиткорректный вопрос (или поинтересовались предметом коммерческой или государственной тайны тамошней юрисдикции) - и беседу перехватывает бот в миллин раз тупее и выдаёт заученные отмазки про "много факторов" и "этические проблемы".
Надо оговорить, что GPT-4 не публиковался с целью прохождения теста Тьюринга. Если и ставилась такая задача, то для более узкого круга потенциальных заказчиков - владельцев поисковиков, к примеру. Для этого у OpenAI может существовать иная, чуть по-другому обученная версия бота. А это - полуфабрикат для поискового ассистента, гида по сайту, голосового помощника и те пе. Но важно-то другое - продемонстрированные (непреднамеренно, возможно) при этом возможности программы. вполне реалистично, к примеру, модифицировать какую-н. AlphaStar от Deep Mind, или Open Five от самой OpenAI - и научить её выучивать правила и побеждать в любые игры.. А в кач. ускорителя обучения и стратегического советника использовать дообученного (на материалах книг по военному искусству и игровых форумов, например) бота. След. шаг - симуляторы реального боя и прочих профессиональных видов деятельности, создаваемых на основе ранее оцифрованных видов деятельности - а это почти любой уже сегодня вид деятельности.
35% мирового ВВП, на сегодня, создаются роботизированными и автоматизированными системами. Рынок станков с ЧПУ приближается к отметке $100 млрд в год. Десятками миллиардов исчисляется стоимость систем автоматизированного уёта, управления, поддержки принятия решений и те пе. Инвестиции в ИИ превысили $100 млрд в год и продолжают стремительно расти. С 1-го (одного!) миллиарда в 2013-м!!! Прогнозируется, что суммарная отдача от внедрённых систем ИИ к 2030-му году достигнет $16 трлн и продолжит реинвестироваться. При том, что более половины всех существующих рабочих мест в мире, по оценке McKinsey, могут быть заменены при помощи уже существующих технологий робототехники и ИИ. Но открытия и изобретения продолжаются,и инвестиции в эту сферу стремительно растут! Отметка в $1 трлн, как прогнозируется,будетпреодолена в конце 2020х, а в начале 2030х будет взята планка в $3 трлн в год. Это только на разработку систем ИИ, не считая инвестицийсобственно в автоматизациюи робототехнику. Изэтого следует, что к 2040-му году суммарный объем инвестиций в ИИ превысит $30 трлн. А объём накопленных цифровых данных преодолеет отметку в один йотабайт (триллион терабайт).
Конечно, тест Тьюринга - только один из множества критериев оценки сильного ИИ, при том, не самый удачный. Мне лично он сперва казался просто глупым. Но лет 20 назад я понял, что некоторый смысл в нём таки имеется. Ну например, прошедший тест Тьюринга ИИ способен отдавать команды другим ИИ,или АСУ, используя, при этом, весь массив накопленных человейником знаний и смысловых связей между ними. Симулируя, например, командира батальона. Или резидента могущественной разведки в столице вражеской страны. Возможно, иногда команды будут глупыми, но не слишком, т. к. ИИ будет опираться на другие ИИ, аккумулируя инфо со всего тырнету, а заодно - с миллиардов камер и иных сенсоров. Например, со всем источников NSA и NASA. Человек не в состоянии обработатьи малую часть такой инфо, т. б. риал-тайм.
А сенсоры, кстати, с каждым годом всё дешевле. Лет десять назадя покупал их в среднем рублей по 50 штука (там газовые анализаторы, датчики влажности и тепла, лазерные и ультразвуковые дальномеры,ультрафиолетовые датчики с подсветкой и прочие полезные для переносной сигнализации штуки. В условиях Третьей Мировой, США и Китай их будут с вертолётов и со спутников разбрасывать, и не только метафорически. А куда не упадёт сенсор, залетит дрон. Сбросит сенсоры и улетит. Или будет часами сидеть, наблюдать, подзаряжаться с солнечной микропанели (да медленно, но оно и не торопится никуда), да изредка перемещаться.
Возмжно, иногда команды ИИ будут глупыми, но не слишком. А чаще всего, они будут значительно умней человеческих.Это если говорить о том, что уже есть. Заложено в системах автоматизации учёта и управления, поддержки принятия решений, в экспертных системах, а теперь ещёи в искусственных нейросетях. И впридачу -системы биг даты и биг майнинга, сотни миллионов сенсоров сегодня (включая видеокамеры, число которых к 2025 году, как ожидается,достинет 350 миллионов). А в 2030-е число сенсоров будет исчислиться миллиардами. У же сейчас 90% интернет-трафика приходится на обмен сообщениями между автоматизированными системами и только 10% на людей. В 2030-е соотношение станет 99% и 1%.
GPT-4 уже сейчас даёт медицинские рекомендации лучше подавляющегобольшинства врачей.хотя его этому не учили. А специализированныеИИ всегда сильней в своей сфере компетенции своих неспециализированных аналогов. И так во всём! Влюбой сфере найдутся задачи,которые ИИ выполнит значительнолучше человека,значит, прифорсировании цифровизации (чеодобивается шайка Ларри Финка, Билла Гейтса и Клауса Шваба), в среднем, ИИ будет лучше человека. Да если б и хуже!! Когда оно мешало - поставитьдурака-начальника, а умников расстрелять. Об этом, на самом деле речь, когда говорято "бунте машин". Это сродни ортеовскому "восстанию масс" - имеется в виду в широком смысле слова "восстание" - экспансия пошлости, глупости, дурного вкуса, с вымиранием лучшей части еловеческогогенофонда. Почему бы этому процессу не усилитьсяв эпоху цифровизации?
Происходит стремительный рост возможностей ИИ. Вспоминается известное рассуждение Рэя Курцвейла... Что- то про то, что к 2000 году компутеры проэволюционировали до уровя лягушки, к 2010му превзойдут крысу, а там и до человека рукой подать (Курцвейл проводил аналогию с темпами эволюции жизни: миллиарды лет до лягушки, потом пара сотен миллионов до крысоподобных существ и потом миллионов 60 до человека. Конечно, ценность подобной аналогии весьма относительна, но продолжая эту логику, GPT-3, может, ещё не сапиес, но уже точно не австралопитек. Что ж до GPT-4, боюсь даже оценивать. 90% наиболее глупыхпредставителей нашего вида уже позади. Осталось совсем чуть-чуть до лучших. Возможно, тупо соединить несколько уже имеющихся ИИ. Возможно, их уже, пока что начерно, соедиили. Выходы с одного добавить на вход другого. И так сотни и тысячи ИИ. А над ними сетка-супервизор, пробрасывающая связи и маршрутизирующая задачи.
И не надо говорить, будто всё, вот, до этого уровня добрались, а дальше амба, ничего уже не будет. Якобы что-то там как-то лимитировано. Чушь собаачья! Будь мы вблизи предела, это бы уже чувствовалось. Каждый шаг бы давался со всё большим (и возрастающим) трудом, был бы доступен лишь редким гениям. Но нет этого! Всё наоборот - ускорение!
При этом, чем шире функцинал ИИ, тем шире он и применяется! А чем шире он применяется, тем больше оцифрованных данных о специфических предметных областях. Скажем, есть ИИ, лучше любого врача диагностирующий по рентгеновским снимкам. Ну так после него накопится оцифрованная база данных по снимкам и последующим уточняющим диагноз анализам. И она может быть использована для обучения уже следующего, более универсального ИИ. Вместе с базами спортивных достижений молодёжи, например. И базой с изображением человеческого тела в искусстве. И базой всех рефератов и диссеров в области анатомии со всего Запада, как минимум. И на этих (и множестве других) данных обучим нейросеть - эксперта по человеческому телу.
Оказалось, чтопредобученные на сходных задачах сетки обучаются легче. Для этого используются разные методы. Например, перенос обучения. У сетки срезается последний слой (или несколько последних). Добавляются пустые слои.Теперьсетьобучается значительно быстрее (на сходныхзадачах). Например, исходная сетка отличала кошечек и собачек, а новая - больших и малых панд. Или старая определяла национальность полицу человека, а новая будет определять эмоции на фото. Или старая анализировала фотоизображение, а новая видео...Другой метод, метамодель, состоит в том, чтобы предобучитьсетку более широкой задаче, а потом специализировать на более узкой.
За последние годы изобретены сотни, если не тысячи широко применяемых математических методов оптимизации нейросетей. Дропаут, например, когда на каждой итерации обучения нейросети частьсвязей временно обнуляется. Помогает против переобучения (чрезмерной специализации сети,фиксации на несущественных признаках). Постоянное обнуление части связей - разреженные сети. Помогает против переобучения, снижает нагрузку на вычмощности. L1 и L2 регуляризации штрафуют, соответственно, малые и большие веса, что также помогает против переобучения,особенно, если применятьих вместе - elastic net. L1 также автоматически разрежает сеть. Рекуррентные связи позволяют учитывать контекст, передавая информацию назад, в предыдущие слои, а attention имитирует человеческое внимание, по сути, тоже учитывая контекст, но иначе - усиливая вес некоторых блоков нейронов. Генеративно-состязательные сети хорошо отфильтровывают шум, помимо прочего, позволяя искусственно наращивать размер датасета и даже обучать нейросеть на одном-единственном примере. И те де, и те пе,и прочая, прочая, прочая. Проресс за последние 10 лет невероятный!!!
Чем шире функционал - тем шире применения, тем больше датасетов для обучения... и тем больше инвестиции в ИИ. У меня нет данных до 2012го года. Но по косвенным признакам предположу, что за всё время исследований в этой области к 2012му оду инвестиции составили не более $10 млрд. А скорее,ближе к $1 (одному) миллиарду. В 2013 они, напомню, подскочили до $1 миллиарда. В год. И продолжили расти. О местеРФ в этом процессе писать не стану - во-первых, писал в прошлом посте, а во-вторых, ну зачем же о грустном. Ну и в-третьих, как бы дискредитацию чего-н. там не впаяли. Отечественные нейросети можно пока что ещё "дискредитировать" (правдой),или уже нет?
Уже не миллионы - сотни миллионов людей будут заняты в отрасли через 15-20 лет. Помимо математиков и программистов, это будут, например, специалисты в предметных областях- нейрохирурги, авиаконструктора, композиторы. Дешёвое пушечное мясо информационной эпохи. А остальные... Ну как им выдержать конкуренцию даже с нынешними ИИ?! Вопрос времени - доработка, политическое лоббирвание,законодательное оформление и повсеместное внедрение роботов, оснащённых мощными ИИ, управляемых через 5G ещё более мощными ИИ.
Имманентное превосходство человека? Вопрос сам по себе сложный. Лично я глубоко убеждён, что это так. Но я прекрасно понимаю, что это вовсе не обязательно так! И никакие абстрактные ("метафизические") рассуждения по принципу "гладко было на бумаге" ничего не решают в принципе. Ставка на логически изощрённые рассуждения - это донаучный период познания. Схоластика и натурфилософия. С такими натурфилософскими дисциплинами, как астрология и алхимия. Современная наука родилась тогда, когда была придумана экспериментальная проверка. Самые блистательные рассуждения (типа апорий Зенона) могут оказаться ошибочными - и тогда придётся придумывать очередную методологическую заплатку, запрещающую очередное противоречивое рассуждение.
Весь спектр возможных рассуждений о природе и возможностях человека можно свести к двум крайнем позициям и множеству промежуточных между ними градаций. Либо: человек есть образ и подобие Божие, царь природы и могущественный маг, наделённый осбенной субстанцией, обладающей трансцендентной Силой (по типу той, в "Звёздных войнах"). Либо это розановская "червяшка", полностью сводимая к химии и физике (в конечном счёте, к одной лишь физике). Т. е.без остатка алгоритмизируемая. Лично я уверен, что правильный ответ находится ближе к первому полюсу позиций по данному вопросу. Но ни я, и никто другой не могут знать этого наверняка. Любая логика может оказаться заблуждением, любая интуиция - галлюцинацией.
Будущее покажет. Если даже предельные возможности ИИ окажутся ниже пиковых человеческих (у отдельных гениев в минуты их вдохновения) - это ещё не означает абсолютного и бесспорного превосходства бипедов. Гениев современное обществоне еле терпит, предпочитая им политических активистов (особенно, в США). Гениев уконтрапупят и безо всякого ИИ. Не требуется гениальности, чтобы убить, или тихо затравить гения. А вот рассуждальщиков о вечном и бесспорном "человеческом превосходстве" ИИ сделает легко. Уже на сегодняшнем даже уровне. Он рассуждает потому что глубже и интересней.
Представляет ли главную угрозу гипотетическое превосходство будущего сильного ИИ над человеком? Три раза "нет"!!! Угрозу представляет, в перв. оч., тот человек (те люди), в чьих руках окажется контроль над ИИ. Вдохновитель и сооснователькибернетики Г. Бейтсон отрицал принципиальность грани между живым и неживым. Созвучные ему идеи высказал Мишель Фуко в эссе "Вещи". Разумность челвеческого ообщества, по Фуко, обеспечивается не разумностью состаляющих общество людей, а разумностью опосредующих человеческие отношения вещей. Сходные идеи есть уже у Маркса.
Дверь на пружине, открываясь и закрываясь, регулирует потоки людей. Замки и ключи к ним регулируют доступ к территориям и пространствам. А уж светофор - всем ИИ ИИ. Безо всех этих направляющих и подсказывающих штук современный человек беспомощен. Ложку мимо рта проносит. Какая уж там конкуренция с компутерами! Сравните с машиной, способной видеть то, чего не видят люди. Рентген, гамма-излучение, спектральный анализ, помноженные на миллионы и миллиарды сенсоров. В лабораториях, на улицах, в лесу...
Но важнее неизбежная способность бипедов машиной восхищаться. Идеал мышления и общественной организации в европейской мысли, начиная с эпохи Ренессанса. Да вся каббала вращается вокруг гипотезы превосходства машины над человеком! В рамках такого видения машинам будут доверять всё больший и больший функционал, всё большие полномочия и допуски, всё более широкий круг задач. Проблема не в машинах, а в человеческом к ним доверии, пожалуй,доверчивости даже. Именно эту доверчивость к машине Толкин опровергал в своём "Властелине колец". Идею отчуждения человеческого потенциала во внешние объекты. Если ты отделяешь от себя свою силу, свой разум, власть над миром, помещая их во внешний объект, рано или поздно этот объект предаст тебя, прсто потому, что может. И ему в этом помогут.
Для этого не нужен ИИ мощнее неолитического колеса,или даже палеолитического каменного зубила питекантропской сборки (самое первое неминуемо должно было "восстать" на разъярённого оминида, когда он получил им по пальцу и умер от сепсиса). Как только человек делает ставку на неживую материю, вне зависимости от ее сложности, он подвергат себя риску. Не помню, киники, кажется, говорили "всё моё ношу ссобой". Вот именно поэтому. И оттого мудрецы и аскеты уходили в горы и основывали там монастыри... В нек. смысле, это ещё вопрос, какие машины быстрее должны "восстать" - "умные", или "глупые". Может быть, у глупых больше шансов. Так что какое-то "восстание" просто неминуемо будет, оттого, что лох свято убеждён, что уж ИИ-то никак подвести человейник не может.
Технодоверчивость ведёт к повышению талебовской хрупкости. Беспечность такого рода побуждает складывать все яйца в одну корзину. Подчинить всю техноструктуру какому-то одному, самому могущественному джинну прикольному ИИ. Пока этого не сделали первыми китайцы. Если относится к чему угодно настолько безответственно, то оно "восстанет" - неважно, велосипед это, или сковородка. Как только вы начинаете думать, что некое устройство совершенно для вас безопасно, его опасность начинает возрастать экспоненциально, в меру вашей беспечности.
Но люди могут сделать ИИ опасным не только в силу собственной беспечности. ИИ в руках людей наподобие Гитлера, или Сталина, в особенности, если это чужой Гитлер, или Сталин, не внушают большого доверия. Честно сказать, у меня в этом плане не вызывает особого оптимизма даже Джо Байден. Особенно поубавили оптимизма лжепандемия с бессудными домашними арестами миллиардов людей, стыдливо названные "карантинами" (а какой-то итальянский губер, помнится,грозился применить огнемёты к нарушителям масочно-карантинных режимов). Между прочим, мир разобщённых одиночек, странно , напоминающий мир "Матрицы", был описан в одном британском романе ещё начала 20го века,в контексте тогдашних ещё технологий (запрет общаться иначе, чем по телефону и те пе)!
И, кстати,технологии виртуальной реальности - одно из основных направлений разработки ИИ, наряду с медициной, фармой и биотехом. Одни ИИ создают виртуальные реальности, другие их населяют и используют для обучения друг друга. Да, технолоии виртуальной реальности применяются в компьютерных играх, или симуляторах для подготовки профессионалов в различных областях. Но основное, пока что, применение - обучение при помощи симуляторов ИИ. И, кстати, симуляторы якобы предназначенные для обучения людей, в дальнейшем также используются для создания датасетов для обучения ИИ.
На сегдняшний день, всё в мире вращается вокруг создания сильных ИИ. Почему растёт напряжение вокругТайваня и вводятся санкции против КНР? Китай вырвался вперёд по нек. параметрам этой гонки и возник ненулевой риск реального китайского лидерства. Вот вы хотели бы жить в мире,управляемом китайской скайнет - пускай и не вышедшей из-под контроля, а наоборот, ревнстно исполняющей все хотелки Кси Джингпина? Я вот - нет. Ну,и собирательный билл гейтс не хочет.
Хотелось бы нарисовать комикс,в котором началу невойны вна Вукраине предшествует приблизително такой диалог Байдена и Путина:
Байден. "Нам нужны гарантии отставания России в сфере разработки ИИ. Либо вы нам их даёте,либо мы начинаем против вас войну."
Путин. "Какие тут могут быть гарантии?"
Байден. "Создайте повод для международной изоляции вас, особенно, в сфере микроэлектроники".
Путин. "Какой повод?"
Байден. "Нападите на Украину."
Путин. "Я боюсь! Тогда точно ведь загандошите!"
Байден."Мы предоставим гарантии".
И те де.
Конечно, реальная жизнь не похожа на комикс. Логика вышеописаннго диалога в реальной жизни будет размазана по миллионам диалогов и иных итераций (перехватов истребителей, например), с участием тысяч высокопоставленных людей. Да и причин крупных событий в реальном мире всегда больше одной. Сотни комитетов и комиссий согласуют свои позиции, утрясают детали. Но всё-таки что-то в этом диалоге есть. Общая логика событий (с поправкой на то, что СВО тормозит не только РФ, но и ЕС), выстраивания красных флажков...
Впереди -Третья Мировая (и развяжет её отнюдь не ИИ!). Залоом этого - неразрешимые уже противоречия между державами в финансово-экономической, ресурсной и технологической сферах. Ядерное оружие - пустяк, а вот разрыв глобальных цепочек торговли и крах всех мировых валют, да на фоне фазового перехода к постиндустриальному укладу - это намного серьёзней. А сочетание военных ударов по гражданской инфраструктуре и глобального финансового краха грозит гибелью в диапазоне от 100 миллионов до миллиарда людей. И это будет только начало.
Ориентируясь на ряд объективных показателей, политологи и политики во всём мире в последние годы говорили о критическом падении доверия населения к элитам, государствам и установленным порядкам. И это посреди благополучной жизни!!!! Что будет посреди финансового краха и вызванных им разрухи, паралича логистики и торговли и голода? На кого возложат массы ответственность за беспрецедентный ущерб Третьей Мировой? И как им в этом помогут мировые СМИ и соцсети (а вместе с ними - и всё более прошаренные и прокачанные боты)?