Куда думать в первом квартале -- 2016
Традиционная программа направления исследований в первом квартале для коллектива из 100500 человек с неограниченным финансированием в отвязанных от нефти условных единицах. Это ничего, что план этот даже не на квартал, а на пятилетку. Как всегда, меня такие глобальные формулировки не смущают (я ж это не для НТИ предлагаю, а свою работу стратегирую). Ну, и где не удастся продвинуться с собственно исследованиями (получить какие-то свои результаты), там хотя бы качественный обзор происходящего в мире получить, для собственного понимания state-of-the-art для этих тем. Разделение на разделы очень условно, всё там существенно пересекается -- проблемы, как и природа, не поделены на факультеты (и любые другие классификации и рубрикации).
1. Машинный интеллект
-- разнообразие распределённых представлений (тензоры, матроиды, разные embeddings по http://gavagai.se/blog/2015/09/30/a-brief-history-of-word-embeddings/ и т.д.) и символьные обработки -- symbolic variable binding.
-- модульность распределённых представлений
-- beyond deep learning (нейроэволюция как минимум и дальше по всему списку)
-- несимвольные описания как онтологические описания, онтологическая природа математики (математика как foundational ontology, в том числе непрерывная математика) -- Всякие unreasonable effectiveness of те или иные математики, включая обоснование выразительной силы глубоких нейронных сеток и других представлений ML.
-- когнитивные гибридные архитектуры, soft и hard computing, сформулировать отношение к AGI в явном виде.
-- инженерия машинного интеллекта (на базе идей системной инженерии и CPS), в том числе обучаемые киберфизические системы: как они укладываются в NIST CPS Framework (http://www.cpspwg.org/Portals/3/docs/CPS%20PWG%20Draft%20Framework%20for%20Cyber-Physical%20Systems%20Release%200.8%20September%202015.pdf)?
-- AutoML и динамические архитектуры ML frameworks, включая метапрограммирование и оптимизационные новинки типа https://github.com/dmlc/mxnet/tree/master/tools/accnn
-- обновить интеллект-стек (в частности, после шага исследований по платформенным архитектурным представлениям и выяснения трендов на каждом архитектурном уровне)
-- сведение корпуса знаний по машинному интеллекту (в духе поста http://ailev.livejournal.com/1208826.html), в том числе методологически -- что там с conscilience https://en.wikipedia.org/wiki/Consilience и компактификацией знаний (в том числе по Schmithuber про его творчество-интерес-новизну как сжатие/компактификацию http://people.idsia.ch/~juergen/creativity.html и http://people.idsia.ch/~juergen/interest.html), а еще по этой же линии разобраться с inferential distance (http://wiki.lesswrong.com/wiki/Inferential_distance).
-- что происходит с наукой в связи с уходом от акцента на всенепременное символьное представление знания, автоматизацией науки и теориями креативности (развить тезисы доклада "Будущее науки") http://ailev.livejournal.com/1232960.html
2. Методология и системный подход (инженерия и менеджмент вместе)
-- теория интересов (concerns): сделать какой-то шаг в её формулировании, хотя бы собрать всё известное в одном месте (для начала Hilliard, CPS, Essence area of concerns, клоны i* -- поискать элемент concern в разных других языках целеполагания). И попытаться найти через distributed representations синонимы для инженерных текстов, тут нужны эксперименты. Чем concerns не domains, как связаны с interests, что это онтологически, какие практики с ними работы?
-- SysMoLan: сделать очередной такт: нотационная инженерия, текстовые и графические языки, сравнение архитектурных языков. Заодно: языки схематизации/архитектуры, запросов, программирования, моделирования. Появились вероятностные языки. А какие ещё варианты языков программирования бывают? Ну, и требования к языку описания системы (апдейт http://ailev.livejournal.com/1127145.html)
-- с принципиальными схемами всё понятно (ха-ха), и с гибридными тоже (ха-ха три раза). Но вот модульные описания: нужно сделать какой-то их обзор, в том числе обзор выразительных средств для модульных описаний в архитектурных языках. И уточнить про само понятие модуля (в связи с "ценой на связи" http://www.sciencedaily.com/releases/2013/01/130130082300.htm и кратким попсовым рассказом Педро Домингоса http://homes.cs.washington.edu/~pedrod/papers/ai100.pdf). И помним, что про модули было много в связи с модульным синтезом тут: http://ailev.livejournal.com/1154791.html
-- уточнить понятие целевой системы в командной работе, сделать текст и примеры на эту тему
-- поглядеть на работы ММК времён содержательно-генетической логики (предложение Петра) на предмет передачи знания на разных логических уровнях, на разных системных уровнях (вдруг там что-то про модульность знания?)
-- разобраться в технологии командной работы по формированию проекта по версии команды в Сколково
-- поразбираться с IT4IT, что там такого нового по сравнению с предыдущими поколениями подобных фреймворков
-- мышление vs практики (главным образом "лучшие практики"): сформулировать как соотносятся, чем отличаются (для того чтобы различать обучение математическому или системному мышлению от освоения набора каких-то рецептов-паттернов). В частности, чем отличается по мотивам и результатам обучение мышлению от обучения практикам (дисциплинам и владению поддерживающими их технологиями). Опять же: описание в терминах мышления против компетенций (например, "владеет математическим мышлением в части матана" против "умеет брать интегралы и дифференцировать"). Вот так вот прямо: системное мышление против инженерии требований, например. Как писать учебные программы, где есть и дисциплины-мышления и технологии-компетенции (навыки и умения)?
-- системное мышление и системная инженерия vs дизайн-мышления и дизайна (т.е. инженерной разработки), как об этом проще говорить (и заодно как идёт профанация дизайн-мышления).
-- какой-то каталог практик PraxOS (и подумать, в какой форме -- каталог паттернов? онтологии? вики? набора пословиц и разъяснений к ним -- типа как у Reinertsen в книжке по lean 2.0? учебников для каждой практики, в том числе "библиотечных"?)
-- разобраться с новыми финансовыми моделями: Incremental Funding (и нужно сравнить с Incremental Commitment), Beyond Budgeting, Cost of Delay, Throughput Octane и т.д.
-- системная инженерия и парадигма ML: что там меняется с моделеориентированностью, поиск-ориентированностью и прочими трендами http://ailev.livejournal.com/1122876.html в связи с кембрийским взрывом методов machine learning
-- системы систем: появилось ли там что-то новенькое?
-- блокчейны и их архитектурное влияние
-- дисциплины, требования и архитектура инструментария поддержки коллективной деятельности (когда-то это ведь было groupware, collaborative software, но такие термины за последний десяток лет сошли на нет, что чётко видно по trends.google. Что там сейчас используется в академических кругах для этого класса информационных систем?). Практически, например, поразбираться по линии http://justy-tylor.livejournal.com/243549.html. И не путать: тут не про экзокортексы из будущего, а про issue trackers из настоящего.
-- моделирование практик ТРИЗ+
3. Образование и системный подход (инженерия и менеджмент вместе)
-- elevator pitch для системного мышления: для чего его осваивать-тренировать? Системные мыслители ведь ни самые богатые, ни самые счастливые.
-- можем ли мы помочь по линии скрипки Энгельбардта? "Никто не хочет учиться играть на XYZ" -- http://ailev.livejournal.com/1158826.html, percieved cognitive load http://ailev.livejournal.com/1167761.html, "заумные репрезентации, не имеющие шанса быть выученными людьми" http://ailev.livejournal.com/1168767.html, уход от классической формальной онтологичности http://ailev.livejournal.com/1170658.html, антипример Синичи Мочидзуки http://ailev.livejournal.com/1176759.html, идея обращаться сразу к конечным потребителям, а не заставлять переучиваться профи -- т.е. не патчить текущий технологический стек, а сразу делать новый: http://ailev.livejournal.com/1183945.html.
-- образовательные траектории по системному мышлению и практика в системной инженерии (дидактика), плюс что делать со целями аффективности (одна из шкал таксономии Блума -- эмоционально-ценностная область, отношение к изучаемому: нужно желание использовать изученное на практике, а не просто уровень "знаю, но не использую").
-- уточнить учебное ядро системного подхода (по мотивам http://ailev.livejournal.com/1221425.html -- "системных координат")
-- принять, наконец, решение: обновлять книжку по системному мышлению и действию, или пока не обновлять? По идее, нужно задокументировать наработанное не только слайдами, но и текстом. Но кому нужно-то? И что будет, если книжку не обновлять -- т.е. не грохать на это месяц-два, а сделать вместо этого что-нибудь другое?
-- набор задач по системному мышлению
-- может, таки сделать томик "практики MBSE" как учебник?
-- и до кучи: практики программной инженерии в составе практик над системным мышлением и действием: чем будут отличаться от практик системной инженерии?! Два-много инженерных учебника делать (для железа и софта, и дальше для всего остального), или один для всего инженерного?
-- варианты организации групповой работы по темам системного подхода (работа группы должна быть такой, чтобы результата от каждого добивались не преподаватели, а вся группа в целом -- а преподаватель только организовывал группу в этом направлении)
4. Инженерия психики
-- сформулировать очередной заход на openmeta, выделить место в психо-стеке между нейрофизиологией снизу и мышлением и содержательной работой (разделение труда в командной работе, например) сверху
-- стык психотехник и мышления (например, проработка стыка психотехник с вниманием и ценностями и формальными concerns)
-- уточнение эскиза архитектуры психики в контексте уточнённого стека (и отделение от архитектуры психики в окружении -- команды из людей и нелюдей)
-- пройтись по основаниям НЛП ещё раз, чисто с высоты современных знаний
-- идеи внимания по книге Дэниела Гоулмана (к себе, вовне к контексту и вовне к людям -- http://www.psychologies.ru/people/razgovor-s-ekspertom/deniel-goulman-myi-riskuem-utratit-navyik-upravleniya-vnimaniem/) и многоуровневость внимания во времени (к конкретному делу, к тексту) -- плюс связки с attention в глубоком обучении. То есть "внимание" и "память" вместе, а не просто внимание. И да, ещё attention schema theory -- http://ailev.livejournal.com/1193568.html.
-- сделать очередной шаг детализации программы исследований по коллективному моделеориентированное концептуальное проектирование и нейротехнологии -- http://ailev.livejournal.com/1229950.html (хотя в данном списке направлений кое-что уже упомянуто)
Мой пост "куда думать в первом квартале" от 3 января 2015 года -- http://ailev.livejournal.com/1156759.html
1. Машинный интеллект
-- разнообразие распределённых представлений (тензоры, матроиды, разные embeddings по http://gavagai.se/blog/2015/09/30/a-brief-history-of-word-embeddings/ и т.д.) и символьные обработки -- symbolic variable binding.
-- модульность распределённых представлений
-- beyond deep learning (нейроэволюция как минимум и дальше по всему списку)
-- несимвольные описания как онтологические описания, онтологическая природа математики (математика как foundational ontology, в том числе непрерывная математика) -- Всякие unreasonable effectiveness of те или иные математики, включая обоснование выразительной силы глубоких нейронных сеток и других представлений ML.
-- когнитивные гибридные архитектуры, soft и hard computing, сформулировать отношение к AGI в явном виде.
-- инженерия машинного интеллекта (на базе идей системной инженерии и CPS), в том числе обучаемые киберфизические системы: как они укладываются в NIST CPS Framework (http://www.cpspwg.org/Portals/3/docs/CPS%20PWG%20Draft%20Framework%20for%20Cyber-Physical%20Systems%20Release%200.8%20September%202015.pdf)?
-- AutoML и динамические архитектуры ML frameworks, включая метапрограммирование и оптимизационные новинки типа https://github.com/dmlc/mxnet/tree/master/tools/accnn
-- обновить интеллект-стек (в частности, после шага исследований по платформенным архитектурным представлениям и выяснения трендов на каждом архитектурном уровне)
-- сведение корпуса знаний по машинному интеллекту (в духе поста http://ailev.livejournal.com/1208826.html), в том числе методологически -- что там с conscilience https://en.wikipedia.org/wiki/Consilience и компактификацией знаний (в том числе по Schmithuber про его творчество-интерес-новизну как сжатие/компактификацию http://people.idsia.ch/~juergen/creativity.html и http://people.idsia.ch/~juergen/interest.html), а еще по этой же линии разобраться с inferential distance (http://wiki.lesswrong.com/wiki/Inferential_distance).
-- что происходит с наукой в связи с уходом от акцента на всенепременное символьное представление знания, автоматизацией науки и теориями креативности (развить тезисы доклада "Будущее науки") http://ailev.livejournal.com/1232960.html
2. Методология и системный подход (инженерия и менеджмент вместе)
-- теория интересов (concerns): сделать какой-то шаг в её формулировании, хотя бы собрать всё известное в одном месте (для начала Hilliard, CPS, Essence area of concerns, клоны i* -- поискать элемент concern в разных других языках целеполагания). И попытаться найти через distributed representations синонимы для инженерных текстов, тут нужны эксперименты. Чем concerns не domains, как связаны с interests, что это онтологически, какие практики с ними работы?
-- SysMoLan: сделать очередной такт: нотационная инженерия, текстовые и графические языки, сравнение архитектурных языков. Заодно: языки схематизации/архитектуры, запросов, программирования, моделирования. Появились вероятностные языки. А какие ещё варианты языков программирования бывают? Ну, и требования к языку описания системы (апдейт http://ailev.livejournal.com/1127145.html)
-- с принципиальными схемами всё понятно (ха-ха), и с гибридными тоже (ха-ха три раза). Но вот модульные описания: нужно сделать какой-то их обзор, в том числе обзор выразительных средств для модульных описаний в архитектурных языках. И уточнить про само понятие модуля (в связи с "ценой на связи" http://www.sciencedaily.com/releases/2013/01/130130082300.htm и кратким попсовым рассказом Педро Домингоса http://homes.cs.washington.edu/~pedrod/papers/ai100.pdf). И помним, что про модули было много в связи с модульным синтезом тут: http://ailev.livejournal.com/1154791.html
-- уточнить понятие целевой системы в командной работе, сделать текст и примеры на эту тему
-- поглядеть на работы ММК времён содержательно-генетической логики (предложение Петра) на предмет передачи знания на разных логических уровнях, на разных системных уровнях (вдруг там что-то про модульность знания?)
-- разобраться в технологии командной работы по формированию проекта по версии команды в Сколково
-- поразбираться с IT4IT, что там такого нового по сравнению с предыдущими поколениями подобных фреймворков
-- мышление vs практики (главным образом "лучшие практики"): сформулировать как соотносятся, чем отличаются (для того чтобы различать обучение математическому или системному мышлению от освоения набора каких-то рецептов-паттернов). В частности, чем отличается по мотивам и результатам обучение мышлению от обучения практикам (дисциплинам и владению поддерживающими их технологиями). Опять же: описание в терминах мышления против компетенций (например, "владеет математическим мышлением в части матана" против "умеет брать интегралы и дифференцировать"). Вот так вот прямо: системное мышление против инженерии требований, например. Как писать учебные программы, где есть и дисциплины-мышления и технологии-компетенции (навыки и умения)?
-- системное мышление и системная инженерия vs дизайн-мышления и дизайна (т.е. инженерной разработки), как об этом проще говорить (и заодно как идёт профанация дизайн-мышления).
-- какой-то каталог практик PraxOS (и подумать, в какой форме -- каталог паттернов? онтологии? вики? набора пословиц и разъяснений к ним -- типа как у Reinertsen в книжке по lean 2.0? учебников для каждой практики, в том числе "библиотечных"?)
-- разобраться с новыми финансовыми моделями: Incremental Funding (и нужно сравнить с Incremental Commitment), Beyond Budgeting, Cost of Delay, Throughput Octane и т.д.
-- системная инженерия и парадигма ML: что там меняется с моделеориентированностью, поиск-ориентированностью и прочими трендами http://ailev.livejournal.com/1122876.html в связи с кембрийским взрывом методов machine learning
-- системы систем: появилось ли там что-то новенькое?
-- блокчейны и их архитектурное влияние
-- дисциплины, требования и архитектура инструментария поддержки коллективной деятельности (когда-то это ведь было groupware, collaborative software, но такие термины за последний десяток лет сошли на нет, что чётко видно по trends.google. Что там сейчас используется в академических кругах для этого класса информационных систем?). Практически, например, поразбираться по линии http://justy-tylor.livejournal.com/243549.html. И не путать: тут не про экзокортексы из будущего, а про issue trackers из настоящего.
-- моделирование практик ТРИЗ+
3. Образование и системный подход (инженерия и менеджмент вместе)
-- elevator pitch для системного мышления: для чего его осваивать-тренировать? Системные мыслители ведь ни самые богатые, ни самые счастливые.
-- можем ли мы помочь по линии скрипки Энгельбардта? "Никто не хочет учиться играть на XYZ" -- http://ailev.livejournal.com/1158826.html, percieved cognitive load http://ailev.livejournal.com/1167761.html, "заумные репрезентации, не имеющие шанса быть выученными людьми" http://ailev.livejournal.com/1168767.html, уход от классической формальной онтологичности http://ailev.livejournal.com/1170658.html, антипример Синичи Мочидзуки http://ailev.livejournal.com/1176759.html, идея обращаться сразу к конечным потребителям, а не заставлять переучиваться профи -- т.е. не патчить текущий технологический стек, а сразу делать новый: http://ailev.livejournal.com/1183945.html.
-- образовательные траектории по системному мышлению и практика в системной инженерии (дидактика), плюс что делать со целями аффективности (одна из шкал таксономии Блума -- эмоционально-ценностная область, отношение к изучаемому: нужно желание использовать изученное на практике, а не просто уровень "знаю, но не использую").
-- уточнить учебное ядро системного подхода (по мотивам http://ailev.livejournal.com/1221425.html -- "системных координат")
-- принять, наконец, решение: обновлять книжку по системному мышлению и действию, или пока не обновлять? По идее, нужно задокументировать наработанное не только слайдами, но и текстом. Но кому нужно-то? И что будет, если книжку не обновлять -- т.е. не грохать на это месяц-два, а сделать вместо этого что-нибудь другое?
-- набор задач по системному мышлению
-- может, таки сделать томик "практики MBSE" как учебник?
-- и до кучи: практики программной инженерии в составе практик над системным мышлением и действием: чем будут отличаться от практик системной инженерии?! Два-много инженерных учебника делать (для железа и софта, и дальше для всего остального), или один для всего инженерного?
-- варианты организации групповой работы по темам системного подхода (работа группы должна быть такой, чтобы результата от каждого добивались не преподаватели, а вся группа в целом -- а преподаватель только организовывал группу в этом направлении)
4. Инженерия психики
-- сформулировать очередной заход на openmeta, выделить место в психо-стеке между нейрофизиологией снизу и мышлением и содержательной работой (разделение труда в командной работе, например) сверху
-- стык психотехник и мышления (например, проработка стыка психотехник с вниманием и ценностями и формальными concerns)
-- уточнение эскиза архитектуры психики в контексте уточнённого стека (и отделение от архитектуры психики в окружении -- команды из людей и нелюдей)
-- пройтись по основаниям НЛП ещё раз, чисто с высоты современных знаний
-- идеи внимания по книге Дэниела Гоулмана (к себе, вовне к контексту и вовне к людям -- http://www.psychologies.ru/people/razgovor-s-ekspertom/deniel-goulman-myi-riskuem-utratit-navyik-upravleniya-vnimaniem/) и многоуровневость внимания во времени (к конкретному делу, к тексту) -- плюс связки с attention в глубоком обучении. То есть "внимание" и "память" вместе, а не просто внимание. И да, ещё attention schema theory -- http://ailev.livejournal.com/1193568.html.
-- сделать очередной шаг детализации программы исследований по коллективному моделеориентированное концептуальное проектирование и нейротехнологии -- http://ailev.livejournal.com/1229950.html (хотя в данном списке направлений кое-что уже упомянуто)
Мой пост "куда думать в первом квартале" от 3 января 2015 года -- http://ailev.livejournal.com/1156759.html