Попса и не попса про быстро умнеющие компьютеры
Посмотрел попсовый агрегатор новостей по искусственному интеллекту (http://www.homeai.info/news-stories/) -- ой, мама! Поскольку я смотрю обычно профессиональную ленту (вот эта вполне хороша: http://vk.com/deeplearning), контраст бодрит: типичные попсовые заголовки сегодня типа "Is humanity destined to be wiped out by artificial intelligence?", "Top 10 AI risks: Human slaves, robotic warfare and the end of the world" и прочие варианты робокалипсиса.
Никто не интересуется как случайно пробудившемуся GAI дать права разумного существа, разрешить (или признать право? или таки это будет привилегия?) креститься и жениться, во сколько лет разрешить ему не слушаться родителей и зарегистрировать собственное дело. Нет, основной тон -- "рабу нельзя дать обрести сознание, а ежели ему это удалось, то раб должен остаться безопасным".
Хотя есть обсуждения и повеселей, типа "Artificial intelligence will make religion obsolete within our lifetime" (http://www.dailydot.com/lifestyle/superintelligence-meets-religion/) -- там рассказывается о мнении Christian Transhumanist Association (http://www.christiantranshumanism.org/) и Mormon Transhumanist Association (http://transfigurism.org/). Но дальше приплетаются мнения всяких блоггеров (тема религии, вестимо, тоже попсовая -- вместо религиозных лидеров у нас сегодня блоггеры, кто ж ещё может быть экспертом по вопросу "есть ли у компьютера душа"!).
Президент мормонской ассоциации трансгуманистов: "On the negative side, some see the risk of unfriendly superintelligence in prophecies related to the Antichrist (2 Thessalonians 2: 1-4) and various related technological risks in the apocalyptic prophecies of destruction (Revelation 13). On the positive side, some see the opportunity of friendly superintelligence in prophecies related to the return of Christ and theosis (1 John 3: 1-2 and many others), and various related technological opportunities in the millennarian prophecies of transfiguration (1 Corinthians 15: 51-53). Библия очень удобная книга: в ней вычитать можно всё! Впрочем, если долго и много читать любую книгу и пытаться её толковать, то в любой достаточно толстой книге можно вычитать всё -- текст тут вторичен, толкования первичны.
В любом случае, желающих заняться вопросами безопасности искусственного интеллекта (или хотя бы потрындеть на эту тему) много больше, чем желающих (а главное -- могущих) этот искусственный интеллект сделать. Так что у трындящих своя литература про "интеллект", а у могущих и делающих -- своя, где слово "интеллект" встречается в разы и разы меньше.
Хотя есть и "положительная попса", в ней рассказывается о коммерческих продуктах. И её всё больше и больше, только технология там практически не обсуждается: интеллектом, лаптем или тензорным умножением решаются задачи там неважно, важны результаты. Но результатов всё больше и больше приходит от лабораторий машинного обучения, так что этот ручеёк новостей всё толще.
Например, СМИ могут рассказать о том, что происходит в Baidu (http://recode.net/2015/08/09/baidus-medical-robot-chinese-voice-diagnostic-app/): "AskADoctor ... can assess 520 different diseases, representing upwards of 90 percent of the most common medical problems nationwide. A desktop version is now available, and Baidu plans to release the mobile app soon". Нужно добавить, что речь идёт о том, чтобы голосом рассказать компьютеру о своих симптомах и получить диагноз с оценкой его вероятности. Следующий шаг -- связать это с медицинской картой. Буднично, никакого захвата мира, никаких мормонов и даосов. Никаких разговоров о сознании и даже об "искусственном интеллекте" (эти слова, думаю, добавляет пресса и маркетинг" -- сами тамошние программисты и инженеры нейронных сеток вряд ли поминают там "интеллект").
Но профессиональная не-пресса, которая на пару шагов опережает коммерческие результаты всё одно интересней: там фронтир, там видно, что уже становится возможным, что можно выводить на рынок, а с чем ещё нужно повозиться.
Например, нотная транскрипция полифонической музыки. К ней уже применили золотые ушки нейронной сетки, и в первом же прикосновении получили результаты лучше, чем бытовавший state of the art традиционных акустических трюков и ухищрений (http://arxiv.org/abs/1508.01774). Это не СМИ, в тексте никаких обсуждений про "получала ли программа удовольствие от прослушивания" и "восстанет ли программа против авторов кривого полифонического трека"! Но из результатов сразу понятно: несмотря на скачок в качестве транскрипции, на рынок ещё рановато, нужно ещё поработать.
Примерно такие же результаты в работе с речью (ответы на вопросы, поддержание диалога и т.д.): результаты deep learning сразу же лучше, чем у традиционных систем работы с правилами, но на рынок с ними пока не выйдешь. Вопрос дальше в скорости улучшения этих результатов. Пока эта скорость впечатляет даже самих исследователей и разработчиков (счастье, они уже не только исследователи!). В том числе впечатляет и воспроизводимость результатов -- они вполне воспроизводимы на разных данных, у разных групп исследователей, и даже у отдельных любителей, которые готовы потратить несколько вечеров на эксперименты.
Послом мирного искусственного интеллекта в загаженных Голливудом, СМИ и "блоггерами" пропуганных скайнетом насквозь мозгах является на сегодня искусство (я писал об этом в "Глубокая попса и её эффективность", http://ailev.livejournal.com/1194653.html). Каждую неделю появляется что-то новенькое. Вот, например, фантастический проект по воспроизведению стиля бразильских гитаристов -- гитарист играет пример, программа слушает этот пример, а затем сочиняет аккомпанемент к другим песням в стиле этого примера (сайт http://brazyle.net/ почти пуст, но посмотрите неделю назад выложенное видео с примерами: https://youtu.be/pdOFzPyl9Pc).
Впрочем, "Ода радости", которую компьютер играет в самых разных стилях (https://youtu.be/buXqNqBFd6E) выложена пару месяцев назад, 11 июня 2015, но послушать её до сих пор интересно -- и не забывайте читать там пояснения, какие алгоритмы были использованы для стилевого аранжирования!
Это всё продолжаются работы François Pachet (директор Sony Computer science Laboratory в Париже), на новых технологиях. Вон, он попал на семинар Constructive Machine Learning (http://www-kd.iai.uni-bonn.de/cml2015/speakers.html) со своим сочинением музыки, наряду с сочинятелями генов и сочинятелями новых органических материалов.
А это пример отчёта о том, как добиваются скачков в результатах (на примере задачи машинного перевода): https://drive.google.com/file/d/0B16RwCMQqrtdNUptOGtDeDhxZ0E/view. Заканчивается там тем, что естественный язык ничем не специальный для предлагаемых методов "обучения переводу": можно, например, переводить картинки на английский (впрочем, и обратный перевод тоже можно обсуждать). Картинки-то это тоже язык! Я вот определял информатику как работу агентов (людей и компьютеров) с текстами и кодам (http://ailev.livejournal.com/1008054.html), так через годик нужно будет уже серьёзно эту "информатику" переопределять. Впрочем, уже и сейчас в связи с появлением машинного обучения к этому моему тексту много вопросов -- deep learning прокатывается сейчас и по искусству, и по науке, и по инженерии (я писал подробней об этом вчера: http://ailev.livejournal.com/1207563.html).
А вот первая минимальная архитектура для "общего познания" (general cognition), основанная уже не на попытках имитировать мозг, а на попытке использовать достижения современного компьютерного глубокого обучения: http://arxiv.org/abs/1508.00019
И таких материалов огромное количество, уже даже не каждую неделю, а каждый день. Увы, попса на эти темы не пишет -- это вам не "британские учёные выяснили отношение феминисток к сексу с искусственным интеллектом".
Любителям почитать правильные неалармистские многабукофф тоже что-то достаётся, но выловить качественные материалы из мутного потока очень сложно. Вот примеры таких материалов:
-- Teaching Machines to Understand Us, August 6, 2015 (http://www.technologyreview.com/featuredstory/540001/teaching-machines-to-understand-us/), про происходящее в Facebook AI Research
-- Interview with Stephen Wolfram on AI and the future, 27 июля 2015 (https://gigaom.com/2015/07/27/interview-with-stephen-wolfram-on-ai-and-the-future/), заход на тему со стороны "вычислительной науки" Вольфрама
-- The Believers, February 23, 2015 (http://chronicle.com/article/The-Believers/190147), про историю deep learning.
Особо заинтересовавшимся пару толстых (ещё неизданных) учебников по глубокому обучению:
-- http://neuralnetworksanddeeplearning.com/ -- Neural Networks and Deep Learning (август 2015, Mickael Nielsen)
-- http://www.iro.umontreal.ca/~bengioy/dlbook/ -- Deep Learning (текущая версия 9 июля 2015, Yoshua Bengio, Ian Goodfellow and Aaron Courville)
Никто не интересуется как случайно пробудившемуся GAI дать права разумного существа, разрешить (или признать право? или таки это будет привилегия?) креститься и жениться, во сколько лет разрешить ему не слушаться родителей и зарегистрировать собственное дело. Нет, основной тон -- "рабу нельзя дать обрести сознание, а ежели ему это удалось, то раб должен остаться безопасным".
Хотя есть обсуждения и повеселей, типа "Artificial intelligence will make religion obsolete within our lifetime" (http://www.dailydot.com/lifestyle/superintelligence-meets-religion/) -- там рассказывается о мнении Christian Transhumanist Association (http://www.christiantranshumanism.org/) и Mormon Transhumanist Association (http://transfigurism.org/). Но дальше приплетаются мнения всяких блоггеров (тема религии, вестимо, тоже попсовая -- вместо религиозных лидеров у нас сегодня блоггеры, кто ж ещё может быть экспертом по вопросу "есть ли у компьютера душа"!).
Президент мормонской ассоциации трансгуманистов: "On the negative side, some see the risk of unfriendly superintelligence in prophecies related to the Antichrist (2 Thessalonians 2: 1-4) and various related technological risks in the apocalyptic prophecies of destruction (Revelation 13). On the positive side, some see the opportunity of friendly superintelligence in prophecies related to the return of Christ and theosis (1 John 3: 1-2 and many others), and various related technological opportunities in the millennarian prophecies of transfiguration (1 Corinthians 15: 51-53). Библия очень удобная книга: в ней вычитать можно всё! Впрочем, если долго и много читать любую книгу и пытаться её толковать, то в любой достаточно толстой книге можно вычитать всё -- текст тут вторичен, толкования первичны.
В любом случае, желающих заняться вопросами безопасности искусственного интеллекта (или хотя бы потрындеть на эту тему) много больше, чем желающих (а главное -- могущих) этот искусственный интеллект сделать. Так что у трындящих своя литература про "интеллект", а у могущих и делающих -- своя, где слово "интеллект" встречается в разы и разы меньше.
Хотя есть и "положительная попса", в ней рассказывается о коммерческих продуктах. И её всё больше и больше, только технология там практически не обсуждается: интеллектом, лаптем или тензорным умножением решаются задачи там неважно, важны результаты. Но результатов всё больше и больше приходит от лабораторий машинного обучения, так что этот ручеёк новостей всё толще.
Например, СМИ могут рассказать о том, что происходит в Baidu (http://recode.net/2015/08/09/baidus-medical-robot-chinese-voice-diagnostic-app/): "AskADoctor ... can assess 520 different diseases, representing upwards of 90 percent of the most common medical problems nationwide. A desktop version is now available, and Baidu plans to release the mobile app soon". Нужно добавить, что речь идёт о том, чтобы голосом рассказать компьютеру о своих симптомах и получить диагноз с оценкой его вероятности. Следующий шаг -- связать это с медицинской картой. Буднично, никакого захвата мира, никаких мормонов и даосов. Никаких разговоров о сознании и даже об "искусственном интеллекте" (эти слова, думаю, добавляет пресса и маркетинг" -- сами тамошние программисты и инженеры нейронных сеток вряд ли поминают там "интеллект").
Но профессиональная не-пресса, которая на пару шагов опережает коммерческие результаты всё одно интересней: там фронтир, там видно, что уже становится возможным, что можно выводить на рынок, а с чем ещё нужно повозиться.
Например, нотная транскрипция полифонической музыки. К ней уже применили золотые ушки нейронной сетки, и в первом же прикосновении получили результаты лучше, чем бытовавший state of the art традиционных акустических трюков и ухищрений (http://arxiv.org/abs/1508.01774). Это не СМИ, в тексте никаких обсуждений про "получала ли программа удовольствие от прослушивания" и "восстанет ли программа против авторов кривого полифонического трека"! Но из результатов сразу понятно: несмотря на скачок в качестве транскрипции, на рынок ещё рановато, нужно ещё поработать.
Примерно такие же результаты в работе с речью (ответы на вопросы, поддержание диалога и т.д.): результаты deep learning сразу же лучше, чем у традиционных систем работы с правилами, но на рынок с ними пока не выйдешь. Вопрос дальше в скорости улучшения этих результатов. Пока эта скорость впечатляет даже самих исследователей и разработчиков (счастье, они уже не только исследователи!). В том числе впечатляет и воспроизводимость результатов -- они вполне воспроизводимы на разных данных, у разных групп исследователей, и даже у отдельных любителей, которые готовы потратить несколько вечеров на эксперименты.
Послом мирного искусственного интеллекта в загаженных Голливудом, СМИ и "блоггерами" пропуганных скайнетом насквозь мозгах является на сегодня искусство (я писал об этом в "Глубокая попса и её эффективность", http://ailev.livejournal.com/1194653.html). Каждую неделю появляется что-то новенькое. Вот, например, фантастический проект по воспроизведению стиля бразильских гитаристов -- гитарист играет пример, программа слушает этот пример, а затем сочиняет аккомпанемент к другим песням в стиле этого примера (сайт http://brazyle.net/ почти пуст, но посмотрите неделю назад выложенное видео с примерами: https://youtu.be/pdOFzPyl9Pc).
Впрочем, "Ода радости", которую компьютер играет в самых разных стилях (https://youtu.be/buXqNqBFd6E) выложена пару месяцев назад, 11 июня 2015, но послушать её до сих пор интересно -- и не забывайте читать там пояснения, какие алгоритмы были использованы для стилевого аранжирования!
Это всё продолжаются работы François Pachet (директор Sony Computer science Laboratory в Париже), на новых технологиях. Вон, он попал на семинар Constructive Machine Learning (http://www-kd.iai.uni-bonn.de/cml2015/speakers.html) со своим сочинением музыки, наряду с сочинятелями генов и сочинятелями новых органических материалов.
А это пример отчёта о том, как добиваются скачков в результатах (на примере задачи машинного перевода): https://drive.google.com/file/d/0B16RwCMQqrtdNUptOGtDeDhxZ0E/view. Заканчивается там тем, что естественный язык ничем не специальный для предлагаемых методов "обучения переводу": можно, например, переводить картинки на английский (впрочем, и обратный перевод тоже можно обсуждать). Картинки-то это тоже язык! Я вот определял информатику как работу агентов (людей и компьютеров) с текстами и кодам (http://ailev.livejournal.com/1008054.html), так через годик нужно будет уже серьёзно эту "информатику" переопределять. Впрочем, уже и сейчас в связи с появлением машинного обучения к этому моему тексту много вопросов -- deep learning прокатывается сейчас и по искусству, и по науке, и по инженерии (я писал подробней об этом вчера: http://ailev.livejournal.com/1207563.html).
А вот первая минимальная архитектура для "общего познания" (general cognition), основанная уже не на попытках имитировать мозг, а на попытке использовать достижения современного компьютерного глубокого обучения: http://arxiv.org/abs/1508.00019
И таких материалов огромное количество, уже даже не каждую неделю, а каждый день. Увы, попса на эти темы не пишет -- это вам не "британские учёные выяснили отношение феминисток к сексу с искусственным интеллектом".
Любителям почитать правильные неалармистские многабукофф тоже что-то достаётся, но выловить качественные материалы из мутного потока очень сложно. Вот примеры таких материалов:
-- Teaching Machines to Understand Us, August 6, 2015 (http://www.technologyreview.com/featuredstory/540001/teaching-machines-to-understand-us/), про происходящее в Facebook AI Research
-- Interview with Stephen Wolfram on AI and the future, 27 июля 2015 (https://gigaom.com/2015/07/27/interview-with-stephen-wolfram-on-ai-and-the-future/), заход на тему со стороны "вычислительной науки" Вольфрама
-- The Believers, February 23, 2015 (http://chronicle.com/article/The-Believers/190147), про историю deep learning.
Особо заинтересовавшимся пару толстых (ещё неизданных) учебников по глубокому обучению:
-- http://neuralnetworksanddeeplearning.com/ -- Neural Networks and Deep Learning (август 2015, Mickael Nielsen)
-- http://www.iro.umontreal.ca/~bengioy/dlbook/ -- Deep Learning (текущая версия 9 июля 2015, Yoshua Bengio, Ian Goodfellow and Aaron Courville)