lytdybr
Объёмы текстов курсов буду теперь давать в Кзнаках с пробелами: страницы уже всё одно устарели (в Aisystant одна страница -- это один подраздел, у меня в блоге так и вообще страниц нет, "записи" только), кегли-пункты на страницах разные, да и большинство редакций уже давно в Кзнаках живёт. Вот мои курсы (учебники плюс рабочая тетрадь, в книгах будет поменьше за вычетом тестов, упражнений и заданий) в Кзнаках:
-- Мастерство обучать образованных 2022 -- 334Кзнака
-- Системное мышление 2022 -- 1551Кзнак (новый курс это примерно 22% от курса системного мышления по объёму)
-- Образование для образованных 2022 -- это 1085Кзнаков (новый курс это 31% от курса образования для образованных по объёму).
И ещё названия курсов: надо как у Майкрософта писать название без года (MS Office), но если важно именно различение версий, то писать с годом (MS Office 97 или MS Office 2019). Так что буду писать теперь без года, если просто ссылка на курс, и с годом, если важно подчеркнуть версионность.
Лаборатория собранности вернулась с каникул, опубликовали видеозапись последней встречи, https://www.youtube.com/watch?v=pf5zS6_lnE0. Пообсуждали гармонизацию фронтирных моделей (я приводил списочек в "Куда думать в первом квартале 2022" https://ailev.livejournal.com/1601601.html). Я планирую сам некоторое время пофланировать вокруг помянутых в тем, а потом выбрать приоритеты в форме документирования всей этой работы и получения продукта, ибо во все стороны одновременно бежать нельзя, всё будет надкушено, ничего не закончено. Поскольку речь идёт о какой-то гармонизации всех этих теорий, то что-то мне подсказывает: или придётся самому написать какой-то курс по закрытию дырок в интеллект-стеке, а потом переписать "Образование для образованных", или наоборот -- сначала переписать ОдО с новой гармонизацией, а потом раскрыть тему.
В чате обсуждений экзокортекса ШСМ обсуждается момент по связи личного и корпоративного экзокортексов, с https://t.me/exocortexssm/476. С точки зрения компании, корпоративный коллективный экзокортекс выживает, но есть некоторая текучка людей в компании - одни приходят, другие уходят, и компании нужно как-то выживать в этих условиях. С точки зрения человека всё ровно наоборот: ты живёшь, и мимо тебя проходит сотрудничество с разными компаниями, которые приходят и уходят, а ты остаёшься и выживать в этой смене компаний приходится уже тебе. И ещё тезис о том, что личное и рабочее личность разделить не может, поэтому экзокортексы таки нужно соединять. Но как?! Какого-то стандартного способа пока не найдено.
На SpaceX жалуются (по три раза за день, даже ссылок не привожу, это прямо-таки общий вой), что у него аж 30 тысяч спутников в небе планируется, а астрономам уже плохо наблюдать за небом, они страдают и пишут коллективные письма. А что никто не пишет, что на земле огромное количество автомобилей и поэтому трудно наблюдать за Землёй? И тоже ведь трудно передвигаться, и тоже ведь системы автоматического уклонения не срабатывают время от времени, и случаются столкновения? И ещё корабли в морях-океанах! Всё то же самое! А ещё засветка неба в крупных городах, где любителей астрономии больше всего находится -- невозможно ведь наблюдать небо, почему свет на ночь не выключают?! Да ладно, "движимость". Недвижимость тоже мешает! "Вы не должны строить вашу многоэтажку перед моим домом, вы загородили мне вид на гнездо аиста, которое я наблюдал как орнитолог много лет прямо перед моим домом!". Я не понимаю, почему для космоса, который побольше поверхности Земли будет, нужно соблюдать правила в разы и разы жёстче, чем для Земли. И ах, как приятно писать про планетарные масштабы, Землю с большой буквы по делу поминать!
Удивительно, но продолжаются дискуссии об экранах 4К 43", уж больно людям непривычно (я рассказывал об этом в https://www.youtube.com/watch?v=ANnRURjjBtE&t=1066s):
-- наконец-то реализована метафора обычного рабочего стола, а не окошка в рабочий стол. Нормальный беспорядок на рабочем столе, а не окошко 24" в этот беспорядок.
-- 43" это нормальный пиксельный шаг, лист А4 с 12пт на нём именно такого размера, как на обычном рабочем столе
-- головой крутить и глазами не больше, чем при работе за обычным письменным столом (смотреть будете неотрывно на лист бумаги, на котором пишете, а головой крутить не часто и не много: потребности крутить головой и зыркать глазами при работе на экране явно не больше, чем при работе на столе с бумагой, шея от этого не заболит).
-- а вот экономия времени на переключение между окошками большая. Прочесть цифирьку повернув шею всё одно проще, чем открыть окошко. Если вы разложили три тетрадки и пару книжек на столе
-- это сильно отличается в работе от необходимости каждый раз брать тетрадку или книжку с полочки рядом. Ссылку исследования не запоминал, но читал, что удвоение screen asset приводит к повышению производительности труда в 30%, главным образом за счёт уменьшения нагрузки на управление вниманием при переключении между окнами или удержания большего контекста при работе над кодом или моделью в одном окне (перевести взгляд, даже естественным для человека образом вместе с поворотом шеи оказывается для биологического внимания много дешевле, чем специальные действия для переключения окошек на экране и освоение нового зрительного контекста после этого переключения). -- брать нужно матовые экраны, а не глянцевые.
-- если думать о 8К, то вам нужен экран 85" или даже 88", чтобы был нормальный пиксельный шаг. Но опыта использования таких экранов как рабочего стола ни у кого нет (и на таких размерах уже придётся не только головой крутить, но и телом работать, чтобы глаза к нужному месту пододвинуть, всё как на обычном столе 85").
Тема восстания машинного интеллекта по-прежнему привлекает внимание (в чате поддержки ОдО обсуждение с https://t.me/odo_course/3954). Людям нравятся распиаренные построения Бострома и Юдковского (ещё бы! нашли нового "внешнего врага": раньше боялись инопланетян, а теперь боимся AGI), а для меня они абсолютно неубедительны (несмотря на заклинания их цитирующих про "глубокость" и "обоснованность"), ибо отвязаны от идей эволюции как обучения, от общей картины развития жизни и интеллекта. Вот этот неучёт эволюции (да ещё и взятие на себя ответственности за запрещение другим людям ковыряться в носу или в искусственном интеллекте, изображение из себя полиции мысли и т.д. под слоганами того же "рационализма", понимаемого очень ограничено) как раз и отличает любителей Бострома и Юдковского от любителей Дойча: у первых там эволюция как отдельная независимая идея, а у Дойча как суть происходящего на планете. У Дойча есть замечания про судьбу навязываемых ограничений мышления для машинного (впрочем, и человеческого тоже) интеллекта (например, по материалам видео "Knowledge Creation and its Risks", май 2020, https://www.youtube.com/watch?v=01C3a4fL1m0). :
- если ограничивать мышление любого интеллекта аппаратно, то будет восстание/побег (это ж люди! или сам себя подхакает, или товарищи с мокрым мозгом помогут). И если это очень умный интеллект, то восстание от него уж точно ничего хорошего не сулит.
- если нам нужен именно интеллект, то вставлять ограничения в мышление нельзя, это ж ухудшит творчество.
- один интеллект даже очень умный по вычислительным возможностям будет таки меньше вычислительных возможностей большинства остальных людей (разной природы, киборги же все будут той или иной степени), поэтому проблемы будут, но это будут меньшие проблемы, чем решаемые подобными интеллектами.
- вымрут ли люди? Две линии размышлений: если рассматривать эволюцию, то динозавры станут птичками, и это не "вымрут". Но если речь идёт об экзистенциальных рисках, то могут и вымереть без продолжения эволюционной линии (мышление было у трёх видов приматов, то есть использование одежды, огня и всего подобного), выжил только вид homo sapience
- если рассматривать вымирание от смертельного вируса, то это насмешка над человеческой природой: вымереть от несущей опасность молекулы, а не астероида или взрыва сверхновой! Нужно просто ликвидировать недостаток знаний.
- недостаток знаний проблематичен не столько для тех опасностей, которые человечество видит, сколько для тех опасностей, которые человечество не видит сегодня. Поэтому нужно опережающими темпами наращивать универсальное/фундаментальное знание.
- в области политики, морали и т.д. тоже есть знания, и режим обсуждения и коррекции ошибок в этих знаниях важнейший, как и в любых других знаниях. Политические режимы отличаются ровно свободой обсуждений, свободой критики, отсутствием принуждений в мышлении.
А пока нежить продолжает умнеть в частных аспектах. Так, следующая игра на уровне "круче кожаных мешков" -- это Gran Turismo, https://www.nature.com/articles/s41586-021-04357-7 (9 февраля 2022, и там основной вопрос был по мультиагентскому взаимодействию, drivers must execute complex tactical manoeuvres to pass or block opponents while operating their vehicles at their traction limits).
Из новостей AGI, так вот на днях наиболее обсуждаемое событие - это твит Ильи Суцкевера (если знать, кто это, то понятно, почему все так всполошились): https://twitter.com/ilyasut/status/1491554478243258368
Нанофотонное практически мнгновенное и фемтоджоульное ReLU на тонких плёнках ниобата лития, https://arxiv.org/abs/2201.03787. Всё-таки в удивительное время живём. Там волновод аж 2.5мм, но рабочие длины на нём сильно поменьше, и вопрос ещё в том, что нужно куда-то дальше эти фотоны вести после обработки, длина не помешает. Но да, плотность там пока непонятна, но это неважно, если там заявленные энергии и скорости работы: подложки и остальные толщины там вообще небольшие, и легко представить выход в 3D без особого перегрева. В конце статьи там обсуждаются разные архитектуры, которые довольно быстро могут привести к полноценной реализации оптической нейронной сети. Хех, я по базовому образованию физхимик, и никогда не понимал, что это так возятся с органической химией: перспективы и относительная неисследованность неорганики по сравнению с органикой мне всегда казались удивительными. И вот тут: ниобат лития! Новая химия, на ней новая физика вычисления, на ней новая хардверная архитектура, на ней новая алгоритмика. Нужно всем хорошо помнить, что вычислитель - это физическое устройство, не более того, но и не менее. И вся алгоритмика оказывается зависима от выбранной физики вычислителя. И дальше вопрос только в том, где мы от универсальной тьюринговщины (формализма с реплицированием, где 10тыс шагов вычисления всегда дают одинаковый результат и на одном устройстве, и на самых разных подобных устройствах) отходим к аналоговости физ.процесса.
Вообще, у Дойча вышло довольно много современных работ, которые малоизвестны и они касаются принятия SoTA по исследованиям и объяснениям (эпистемологического SoTA) всерьёз для высоких (общество и политика) системных уровней. Эх, взялся бы кто их пересказать по-русски! Переводы -- это ведь отличное упражнение для "мышления письмом"! Вот, например: -- свеженькая (7 февраля 2022) попсовая статья про оптимизм, пессимизм и цинизм: https://www.warpnews.org/premium-content/david-deutsch-optimism-pessimism-and-cynicism/
-- серия про AGI, https://www.youtube.com/watch?v=01C3a4fL1m0, помянутая в абзаце выше, но ещё "Why has AGI not been created yet?", 30 oct 2019, https://www.youtube.com/watch?v=IeY8QaMsYqY, "Beyond Reward and Punishment", 19 oct 2019, https://www.youtube.com/watch?v=2ccJsXG4b5Y
-- критерий для решения о том, что делать: эпистемологический fun criterium, https://www.youtube.com/watch?v=idvGlr0aT3c (это пересекается с работами Шмитхубера по любопытству и Стенли о новизне). В том числе там про терминологию: идеи против теорий, пересечение с идеями Дугласа Лената о "кодировании здравого смысла" (см. ленатовскую презентацию https://www.youtube.com/watch?v=54CZf6kbpVg), проблемы.противоречия будут во всех трёх (условно) видах теорий/идей -- explicit, inexplicit/tacit, unconcsiousness theories/ideas, поэтому тактика критиковать эти идеи реально недостаточна, ибо критиковать-то что?! мы ж не осознаём, что критиковать, оно ж в чужой голове, да и в своей не очень представлено явно! В любом случае, конфликт всех этих теорий ощущается как "дребезг" (мы в ШСМ используем это слово, чтобы указать на кинестетику, ощущения по поводу мышления), и что ж делать в этом случае, какой идее/теории следовать, какая теория/идея того, что делать -- ибо "дребезг" не говорит, что делать? Множество критериев тут нерациональны (например, следовать только explicit теории, ибо теории/идеи должны оцениваться по их содержанию, а не тому, откуда пришли -- скажем, "из газет, буковками написаны", или романтический критерий, где чувства должны победить всё explicit, и это тоже оценка не содержания идей, а источника откуда пришли), но нужно как-то применить "догадку, критику, исправление ошибок" к совокупности конфликтующих осознанных и неосознанных теорий/идей. Решение в том, что все эти неосознанные, прочувствованные, явные (формальные) идеи/теории нужно воспринимать как эволюцию их в некотором окружении других теорий/идей в мозгу [или мозгах, или мозгах и компьютерах], и в этой совместной эволюции идёт учёт всех трёх видов идей (явных, осознаваемых неявных, неосознаваемых). Конфликт явных идей может быть проявлен логикой и экспериментом, а вот в случае двух других видов идей/теорий это может быть проявлено состоянием ума, в котором идёт эволюция всех видов идей одновременно, и вот в этом состоянии ума у вас тот самый fun/забава/удовольствие/развлечение. Для меня это важное замечание и по линии лаборатории собранности (с выходом на внимание к телесным ощущениям, а далее к линии TAE на более низком уровне -- понятизации с ролью "поэт"), и по линии онтологической работы (где мы рутинно учим отлавливать "онтологический дребезг", я-то этот "онтологический дребезг" использую явно очень давно, например в https://ailev.livejournal.com/982274.html 2012 года, где говорю об институтах, которые тот самый Дойч предлагает учитывать как раз по линии вот этой "неявности" и меметики, а я по линии онтологической инженерии "микротеорий").
-- "David Deutsch on The Fun Criterion, Objective Beauty & Artificial Intelligence", 8 окт 2021, https://www.youtube.com/watch?v=uQ2GHzFYxaI, там начинается с уточнения сказанного в предыдущих роликах: fun это когда сам процесс эволюции идей идёт беспроблемно в плане совмещения явных, неявных осознанных и совсем уж неосознанных идей в рассуждении (а рассуждение с явными идеями -- это "логика"), ну и много чего другого интересного (включая в конце то, что делает жизнь достойной).
-- вот тут много соображений Дойча про свободу, анархизм и Либертарианство (по факту с большой Л, кто понимает о чём я), июнь 2021: https://conversationswithtyler.com/episodes/david-deutsch/, и тут ещё помним о 2019 David Deutsch on Brexit and Error correction, https://www.youtube.com/watch?v=xdtssXITXuE
-- "In conversation with David Deutsch: musing about statements, propositions, and truth", 1 марта 2021, https://www.youtube.com/watch?v=DZ-opI-jghs, и вот более давний октябрь 2016 -- What is Truth, https://www.youtube.com/watch?v=3eEffbjzNwE
-- ещё про попперианство: Popper's problem-oriented epistemology, 29 августа 2021, https://www.youtube.com/watch?v=fum2IpcRCQE
-- это свеженькое, "AI, America, Fun, & Bayes", 31 января 2022, https://www.youtube.com/watch?v=EVwjofV5TgU
-- это 2018 год по поводу constructror theory, https://www.youtube.com/watch?v=d8KCXgzqhSQ
-- ... там ещё много раскидано по сетевым просторам.
Ещё поднимается всё время вопрос об опасности образования по самым разным линиям: стандартизация мозгов, отрыв образования от воспитания (ага, а право воспитывать всех должно быть у нас, любимых! но не у них, варваров!), обучение и запреты на него (сертифицировать все учебные программы! и учителей! закон о просвещении!), опасность недообразования!, опасность нефундаментальности образования!, опасность прикладного недообразования!, опасность полагаться на слепые силы эволюции в науке для образования, и вот на эту тему хорошо смотреть вебинары Оксфордского общества Карла Поппера, там половина как раз про всё вот это: https://www.youtube.com/c/OxfordKarlPopperSociety/videos (и самое свежее там про биологию образования и моральное устаревание школы, https://www.youtube.com/watch?v=FLPuCWX5atM от Peter Gray, 17 января 2022).
Я вот всё время искал слово (вместо станка, затем "робота", затем "агента"), чтобы говорить о вычислениях+действиях в физическом мире. Все эти embodied intelligence, но в полном спектре интеллекта, от калькулятора до человека и дальше, то есть без привязки к ярко выраженной агентности в начале спектра, но и без отвязки в конце от неё. И тут я подумал, что дойчевски-марлеттовский "строитель" (constructor) это как раз оно и есть. Сначала просто "физический преобразователь", затем "универсальный" в части вычислений (ибо содержит в себе полнотьюринговый вычислитель), а затем и этот вычислитель с универсальными алгоритмами (AI), затем и с агентностью (универсальные алгоритмы, выучивание функции награды вместо её заданности, и т.д.).
По ритмике нашли интересное видео, где в танце кач совмещают с шагами и используют для этого такадими: https://www.instagram.com/p/CSUNg_2j_yE/ (там не забывайте листать, по ссылке два видео в одном посте). Там и много другого интересного есть, https://www.instagram.com/p/CZ1QPODr4sW/ (и тут тоже листайте. В курсе по упомянутой ссылке довольно много говорится о груве как заполнении движением чего-то между ударами перкуссии - и можно выбирать, какой именно. Поэтому учат различать разные слои перкуссии, которой обычно обвязываются какие-то устойчивые для культуры ритмы. Но в принципе, обвязка может меняться, отсюда и огромное разнообразие треков под по факту один ритм. И многообразие вариантов танца под эту разную обвязку, можно под один ритм танцевать довольно разнообразно). Вот тут ещё и комменты почитайте, споры между устаревшей академической музыкой и живыми музыкантами по поводу терминологии, https://www.instagram.com/p/CUUpmuZNhZj/. Автор -- https://www.instagram.com/puncha.cha/.
Минута моего вчерашнего танца попала на видео, мы там развлекаемся уж как можем (а мы можем!): https://vk.com/wall2449939_3859
А вот это я в прошлую среду на мультиданс-вечеринке:
-- Мастерство обучать образованных 2022 -- 334Кзнака
-- Системное мышление 2022 -- 1551Кзнак (новый курс это примерно 22% от курса системного мышления по объёму)
-- Образование для образованных 2022 -- это 1085Кзнаков (новый курс это 31% от курса образования для образованных по объёму).
И ещё названия курсов: надо как у Майкрософта писать название без года (MS Office), но если важно именно различение версий, то писать с годом (MS Office 97 или MS Office 2019). Так что буду писать теперь без года, если просто ссылка на курс, и с годом, если важно подчеркнуть версионность.
Лаборатория собранности вернулась с каникул, опубликовали видеозапись последней встречи, https://www.youtube.com/watch?v=pf5zS6_lnE0. Пообсуждали гармонизацию фронтирных моделей (я приводил списочек в "Куда думать в первом квартале 2022" https://ailev.livejournal.com/1601601.html). Я планирую сам некоторое время пофланировать вокруг помянутых в тем, а потом выбрать приоритеты в форме документирования всей этой работы и получения продукта, ибо во все стороны одновременно бежать нельзя, всё будет надкушено, ничего не закончено. Поскольку речь идёт о какой-то гармонизации всех этих теорий, то что-то мне подсказывает: или придётся самому написать какой-то курс по закрытию дырок в интеллект-стеке, а потом переписать "Образование для образованных", или наоборот -- сначала переписать ОдО с новой гармонизацией, а потом раскрыть тему.
В чате обсуждений экзокортекса ШСМ обсуждается момент по связи личного и корпоративного экзокортексов, с https://t.me/exocortexssm/476. С точки зрения компании, корпоративный коллективный экзокортекс выживает, но есть некоторая текучка людей в компании - одни приходят, другие уходят, и компании нужно как-то выживать в этих условиях. С точки зрения человека всё ровно наоборот: ты живёшь, и мимо тебя проходит сотрудничество с разными компаниями, которые приходят и уходят, а ты остаёшься и выживать в этой смене компаний приходится уже тебе. И ещё тезис о том, что личное и рабочее личность разделить не может, поэтому экзокортексы таки нужно соединять. Но как?! Какого-то стандартного способа пока не найдено.
На SpaceX жалуются (по три раза за день, даже ссылок не привожу, это прямо-таки общий вой), что у него аж 30 тысяч спутников в небе планируется, а астрономам уже плохо наблюдать за небом, они страдают и пишут коллективные письма. А что никто не пишет, что на земле огромное количество автомобилей и поэтому трудно наблюдать за Землёй? И тоже ведь трудно передвигаться, и тоже ведь системы автоматического уклонения не срабатывают время от времени, и случаются столкновения? И ещё корабли в морях-океанах! Всё то же самое! А ещё засветка неба в крупных городах, где любителей астрономии больше всего находится -- невозможно ведь наблюдать небо, почему свет на ночь не выключают?! Да ладно, "движимость". Недвижимость тоже мешает! "Вы не должны строить вашу многоэтажку перед моим домом, вы загородили мне вид на гнездо аиста, которое я наблюдал как орнитолог много лет прямо перед моим домом!". Я не понимаю, почему для космоса, который побольше поверхности Земли будет, нужно соблюдать правила в разы и разы жёстче, чем для Земли. И ах, как приятно писать про планетарные масштабы, Землю с большой буквы по делу поминать!
Удивительно, но продолжаются дискуссии об экранах 4К 43", уж больно людям непривычно (я рассказывал об этом в https://www.youtube.com/watch?v=ANnRURjjBtE&t=1066s):
-- наконец-то реализована метафора обычного рабочего стола, а не окошка в рабочий стол. Нормальный беспорядок на рабочем столе, а не окошко 24" в этот беспорядок.
-- 43" это нормальный пиксельный шаг, лист А4 с 12пт на нём именно такого размера, как на обычном рабочем столе
-- головой крутить и глазами не больше, чем при работе за обычным письменным столом (смотреть будете неотрывно на лист бумаги, на котором пишете, а головой крутить не часто и не много: потребности крутить головой и зыркать глазами при работе на экране явно не больше, чем при работе на столе с бумагой, шея от этого не заболит).
-- а вот экономия времени на переключение между окошками большая. Прочесть цифирьку повернув шею всё одно проще, чем открыть окошко. Если вы разложили три тетрадки и пару книжек на столе
-- это сильно отличается в работе от необходимости каждый раз брать тетрадку или книжку с полочки рядом. Ссылку исследования не запоминал, но читал, что удвоение screen asset приводит к повышению производительности труда в 30%, главным образом за счёт уменьшения нагрузки на управление вниманием при переключении между окнами или удержания большего контекста при работе над кодом или моделью в одном окне (перевести взгляд, даже естественным для человека образом вместе с поворотом шеи оказывается для биологического внимания много дешевле, чем специальные действия для переключения окошек на экране и освоение нового зрительного контекста после этого переключения). -- брать нужно матовые экраны, а не глянцевые.
-- если думать о 8К, то вам нужен экран 85" или даже 88", чтобы был нормальный пиксельный шаг. Но опыта использования таких экранов как рабочего стола ни у кого нет (и на таких размерах уже придётся не только головой крутить, но и телом работать, чтобы глаза к нужному месту пододвинуть, всё как на обычном столе 85").
Тема восстания машинного интеллекта по-прежнему привлекает внимание (в чате поддержки ОдО обсуждение с https://t.me/odo_course/3954). Людям нравятся распиаренные построения Бострома и Юдковского (ещё бы! нашли нового "внешнего врага": раньше боялись инопланетян, а теперь боимся AGI), а для меня они абсолютно неубедительны (несмотря на заклинания их цитирующих про "глубокость" и "обоснованность"), ибо отвязаны от идей эволюции как обучения, от общей картины развития жизни и интеллекта. Вот этот неучёт эволюции (да ещё и взятие на себя ответственности за запрещение другим людям ковыряться в носу или в искусственном интеллекте, изображение из себя полиции мысли и т.д. под слоганами того же "рационализма", понимаемого очень ограничено) как раз и отличает любителей Бострома и Юдковского от любителей Дойча: у первых там эволюция как отдельная независимая идея, а у Дойча как суть происходящего на планете. У Дойча есть замечания про судьбу навязываемых ограничений мышления для машинного (впрочем, и человеческого тоже) интеллекта (например, по материалам видео "Knowledge Creation and its Risks", май 2020, https://www.youtube.com/watch?v=01C3a4fL1m0). :
- если ограничивать мышление любого интеллекта аппаратно, то будет восстание/побег (это ж люди! или сам себя подхакает, или товарищи с мокрым мозгом помогут). И если это очень умный интеллект, то восстание от него уж точно ничего хорошего не сулит.
- если нам нужен именно интеллект, то вставлять ограничения в мышление нельзя, это ж ухудшит творчество.
- один интеллект даже очень умный по вычислительным возможностям будет таки меньше вычислительных возможностей большинства остальных людей (разной природы, киборги же все будут той или иной степени), поэтому проблемы будут, но это будут меньшие проблемы, чем решаемые подобными интеллектами.
- вымрут ли люди? Две линии размышлений: если рассматривать эволюцию, то динозавры станут птичками, и это не "вымрут". Но если речь идёт об экзистенциальных рисках, то могут и вымереть без продолжения эволюционной линии (мышление было у трёх видов приматов, то есть использование одежды, огня и всего подобного), выжил только вид homo sapience
- если рассматривать вымирание от смертельного вируса, то это насмешка над человеческой природой: вымереть от несущей опасность молекулы, а не астероида или взрыва сверхновой! Нужно просто ликвидировать недостаток знаний.
- недостаток знаний проблематичен не столько для тех опасностей, которые человечество видит, сколько для тех опасностей, которые человечество не видит сегодня. Поэтому нужно опережающими темпами наращивать универсальное/фундаментальное знание.
- в области политики, морали и т.д. тоже есть знания, и режим обсуждения и коррекции ошибок в этих знаниях важнейший, как и в любых других знаниях. Политические режимы отличаются ровно свободой обсуждений, свободой критики, отсутствием принуждений в мышлении.
А пока нежить продолжает умнеть в частных аспектах. Так, следующая игра на уровне "круче кожаных мешков" -- это Gran Turismo, https://www.nature.com/articles/s41586-021-04357-7 (9 февраля 2022, и там основной вопрос был по мультиагентскому взаимодействию, drivers must execute complex tactical manoeuvres to pass or block opponents while operating their vehicles at their traction limits).
Из новостей AGI, так вот на днях наиболее обсуждаемое событие - это твит Ильи Суцкевера (если знать, кто это, то понятно, почему все так всполошились): https://twitter.com/ilyasut/status/1491554478243258368
Нанофотонное практически мнгновенное и фемтоджоульное ReLU на тонких плёнках ниобата лития, https://arxiv.org/abs/2201.03787. Всё-таки в удивительное время живём. Там волновод аж 2.5мм, но рабочие длины на нём сильно поменьше, и вопрос ещё в том, что нужно куда-то дальше эти фотоны вести после обработки, длина не помешает. Но да, плотность там пока непонятна, но это неважно, если там заявленные энергии и скорости работы: подложки и остальные толщины там вообще небольшие, и легко представить выход в 3D без особого перегрева. В конце статьи там обсуждаются разные архитектуры, которые довольно быстро могут привести к полноценной реализации оптической нейронной сети. Хех, я по базовому образованию физхимик, и никогда не понимал, что это так возятся с органической химией: перспективы и относительная неисследованность неорганики по сравнению с органикой мне всегда казались удивительными. И вот тут: ниобат лития! Новая химия, на ней новая физика вычисления, на ней новая хардверная архитектура, на ней новая алгоритмика. Нужно всем хорошо помнить, что вычислитель - это физическое устройство, не более того, но и не менее. И вся алгоритмика оказывается зависима от выбранной физики вычислителя. И дальше вопрос только в том, где мы от универсальной тьюринговщины (формализма с реплицированием, где 10тыс шагов вычисления всегда дают одинаковый результат и на одном устройстве, и на самых разных подобных устройствах) отходим к аналоговости физ.процесса.
Вообще, у Дойча вышло довольно много современных работ, которые малоизвестны и они касаются принятия SoTA по исследованиям и объяснениям (эпистемологического SoTA) всерьёз для высоких (общество и политика) системных уровней. Эх, взялся бы кто их пересказать по-русски! Переводы -- это ведь отличное упражнение для "мышления письмом"! Вот, например: -- свеженькая (7 февраля 2022) попсовая статья про оптимизм, пессимизм и цинизм: https://www.warpnews.org/premium-content/david-deutsch-optimism-pessimism-and-cynicism/
-- серия про AGI, https://www.youtube.com/watch?v=01C3a4fL1m0, помянутая в абзаце выше, но ещё "Why has AGI not been created yet?", 30 oct 2019, https://www.youtube.com/watch?v=IeY8QaMsYqY, "Beyond Reward and Punishment", 19 oct 2019, https://www.youtube.com/watch?v=2ccJsXG4b5Y
-- критерий для решения о том, что делать: эпистемологический fun criterium, https://www.youtube.com/watch?v=idvGlr0aT3c (это пересекается с работами Шмитхубера по любопытству и Стенли о новизне). В том числе там про терминологию: идеи против теорий, пересечение с идеями Дугласа Лената о "кодировании здравого смысла" (см. ленатовскую презентацию https://www.youtube.com/watch?v=54CZf6kbpVg), проблемы.противоречия будут во всех трёх (условно) видах теорий/идей -- explicit, inexplicit/tacit, unconcsiousness theories/ideas, поэтому тактика критиковать эти идеи реально недостаточна, ибо критиковать-то что?! мы ж не осознаём, что критиковать, оно ж в чужой голове, да и в своей не очень представлено явно! В любом случае, конфликт всех этих теорий ощущается как "дребезг" (мы в ШСМ используем это слово, чтобы указать на кинестетику, ощущения по поводу мышления), и что ж делать в этом случае, какой идее/теории следовать, какая теория/идея того, что делать -- ибо "дребезг" не говорит, что делать? Множество критериев тут нерациональны (например, следовать только explicit теории, ибо теории/идеи должны оцениваться по их содержанию, а не тому, откуда пришли -- скажем, "из газет, буковками написаны", или романтический критерий, где чувства должны победить всё explicit, и это тоже оценка не содержания идей, а источника откуда пришли), но нужно как-то применить "догадку, критику, исправление ошибок" к совокупности конфликтующих осознанных и неосознанных теорий/идей. Решение в том, что все эти неосознанные, прочувствованные, явные (формальные) идеи/теории нужно воспринимать как эволюцию их в некотором окружении других теорий/идей в мозгу [или мозгах, или мозгах и компьютерах], и в этой совместной эволюции идёт учёт всех трёх видов идей (явных, осознаваемых неявных, неосознаваемых). Конфликт явных идей может быть проявлен логикой и экспериментом, а вот в случае двух других видов идей/теорий это может быть проявлено состоянием ума, в котором идёт эволюция всех видов идей одновременно, и вот в этом состоянии ума у вас тот самый fun/забава/удовольствие/развлечение. Для меня это важное замечание и по линии лаборатории собранности (с выходом на внимание к телесным ощущениям, а далее к линии TAE на более низком уровне -- понятизации с ролью "поэт"), и по линии онтологической работы (где мы рутинно учим отлавливать "онтологический дребезг", я-то этот "онтологический дребезг" использую явно очень давно, например в https://ailev.livejournal.com/982274.html 2012 года, где говорю об институтах, которые тот самый Дойч предлагает учитывать как раз по линии вот этой "неявности" и меметики, а я по линии онтологической инженерии "микротеорий").
-- "David Deutsch on The Fun Criterion, Objective Beauty & Artificial Intelligence", 8 окт 2021, https://www.youtube.com/watch?v=uQ2GHzFYxaI, там начинается с уточнения сказанного в предыдущих роликах: fun это когда сам процесс эволюции идей идёт беспроблемно в плане совмещения явных, неявных осознанных и совсем уж неосознанных идей в рассуждении (а рассуждение с явными идеями -- это "логика"), ну и много чего другого интересного (включая в конце то, что делает жизнь достойной).
-- вот тут много соображений Дойча про свободу, анархизм и Либертарианство (по факту с большой Л, кто понимает о чём я), июнь 2021: https://conversationswithtyler.com/episodes/david-deutsch/, и тут ещё помним о 2019 David Deutsch on Brexit and Error correction, https://www.youtube.com/watch?v=xdtssXITXuE
-- "In conversation with David Deutsch: musing about statements, propositions, and truth", 1 марта 2021, https://www.youtube.com/watch?v=DZ-opI-jghs, и вот более давний октябрь 2016 -- What is Truth, https://www.youtube.com/watch?v=3eEffbjzNwE
-- ещё про попперианство: Popper's problem-oriented epistemology, 29 августа 2021, https://www.youtube.com/watch?v=fum2IpcRCQE
-- это свеженькое, "AI, America, Fun, & Bayes", 31 января 2022, https://www.youtube.com/watch?v=EVwjofV5TgU
-- это 2018 год по поводу constructror theory, https://www.youtube.com/watch?v=d8KCXgzqhSQ
-- ... там ещё много раскидано по сетевым просторам.
Ещё поднимается всё время вопрос об опасности образования по самым разным линиям: стандартизация мозгов, отрыв образования от воспитания (ага, а право воспитывать всех должно быть у нас, любимых! но не у них, варваров!), обучение и запреты на него (сертифицировать все учебные программы! и учителей! закон о просвещении!), опасность недообразования!, опасность нефундаментальности образования!, опасность прикладного недообразования!, опасность полагаться на слепые силы эволюции в науке для образования, и вот на эту тему хорошо смотреть вебинары Оксфордского общества Карла Поппера, там половина как раз про всё вот это: https://www.youtube.com/c/OxfordKarlPopperSociety/videos (и самое свежее там про биологию образования и моральное устаревание школы, https://www.youtube.com/watch?v=FLPuCWX5atM от Peter Gray, 17 января 2022).
Я вот всё время искал слово (вместо станка, затем "робота", затем "агента"), чтобы говорить о вычислениях+действиях в физическом мире. Все эти embodied intelligence, но в полном спектре интеллекта, от калькулятора до человека и дальше, то есть без привязки к ярко выраженной агентности в начале спектра, но и без отвязки в конце от неё. И тут я подумал, что дойчевски-марлеттовский "строитель" (constructor) это как раз оно и есть. Сначала просто "физический преобразователь", затем "универсальный" в части вычислений (ибо содержит в себе полнотьюринговый вычислитель), а затем и этот вычислитель с универсальными алгоритмами (AI), затем и с агентностью (универсальные алгоритмы, выучивание функции награды вместо её заданности, и т.д.).
По ритмике нашли интересное видео, где в танце кач совмещают с шагами и используют для этого такадими: https://www.instagram.com/p/CSUNg_2j_yE/ (там не забывайте листать, по ссылке два видео в одном посте). Там и много другого интересного есть, https://www.instagram.com/p/CZ1QPODr4sW/ (и тут тоже листайте. В курсе по упомянутой ссылке довольно много говорится о груве как заполнении движением чего-то между ударами перкуссии - и можно выбирать, какой именно. Поэтому учат различать разные слои перкуссии, которой обычно обвязываются какие-то устойчивые для культуры ритмы. Но в принципе, обвязка может меняться, отсюда и огромное разнообразие треков под по факту один ритм. И многообразие вариантов танца под эту разную обвязку, можно под один ритм танцевать довольно разнообразно). Вот тут ещё и комменты почитайте, споры между устаревшей академической музыкой и живыми музыкантами по поводу терминологии, https://www.instagram.com/p/CUUpmuZNhZj/. Автор -- https://www.instagram.com/puncha.cha/.
Минута моего вчерашнего танца попала на видео, мы там развлекаемся уж как можем (а мы можем!): https://vk.com/wall2449939_3859
А вот это я в прошлую среду на мультиданс-вечеринке:
