ИИ. Проблемы передачи знаний.

[captainl]

Знания, безусловно, являются ключевой составляющей ИИ. Чем их больше и чем они разнообразнее, тем эффективнее интеллект. С другой стороны, бесконечность мира означает бесконечность знаний. Каким же образом передавать ИИ наши знания? Тут возникает несколько проблем.

Comments

[zabriski]

решила ознакомить своих подписчиков фб с вашим мнением :)

[captainl]

Почему бы и нет :)
Только я думаю, что текст этот, при всей популярности изложения, - довольно специальный. Из всего перечисленного широкую публику может тронуть идея неупорядоченности накопленных людьми знаний. ИИ - это ведь ещё и попытка взглянуть на себя со стороны.
Кроме того, мой текст касается исключительно т.н. "сильного ИИ", а сегодня под ИИ модно понимать в лучшем случае слабый ИИ, а то и вовсе самую обычную компьютерную программу.
Так или иначе, интересно узнать реакцию.

[zabriski]

посмотрим, иногда они читают не молча :)

[alisarin]

Превосходный пост

[captainl]

Спасибо!

Как по мне, текст сырой, да я и не ставил целью описать систематически все проблемы в области передачи знаний. Это - пришедшее в голову навскидку, не более.

Я не знаю пока ни одной реализованной системы сильного ИИ, поэтому сравнивать с естественным интеллектом по производительности или кругу решаемых задач едва ли возможно. Более того, именно по кругу решаемых задач сильный ИИ должен быть близок к естественному. Ведь нам потому и нужен ИИ, что мы решаем, но не можем решить некоторые задачи.

Мне кажется, что о построении ИИ, близко повторяющего естественный интеллект, можно забыть надолго. Машина - это совсем другой объект, с другой историей развития. Слишком много факторов, не позволяющих повторить человеческий интеллект. Но ИИ, конечно, сможет делать главное - самостоятельно приходить к цели так же, как это делает человек. Быстрее или медленнее, точнее или нет - сказать сейчас невозможно. Я думаю, что у ИИ будут свои проблемы, не менее сложные, чем у человеческого интеллекта.

[alisarin]

> Машина - это совсем другой объект, с другой историей развития. Слишком много факторов, не позволяющих повторить человеческий интеллект.

Можно продолжить данную мысль - машина это специфический оператор в сфере обработки данных, и тогда нужна адаптация самих данных под ее возможности. Тогда возможно разделение и мира знаний и на область машинных знаний, и - человеческих знаний)

[captainl]

А зачем это разделение делать? Люди обмениваются своими знаниями (не всеми, конечно). Точно так же они могут получать знания от ИИ - для этого, в частности, ИИ и нужен. Другое дело, что меня, например, совершенно не интересуют подробности взаимодействия манипулятора с разными предметами - точно так же, как не интересуют ощущения господина, сидящего напротив меня в метро.

[synchrozeta]

Конечно, всё так! - это то очевидное, что обычно упускается именно из-за своей очевидности. К перечню сложностей можно, как Вы и отметили, ещё многое добавить. Например, как проследить за тем, чтобы знания, вводимые в ИИ, не противоречили друг другу? Скажем, некое новое фундаментальное знание может оказаться в противоречии с целой сетью ответвлений в другие области. Т.е. при условии развития науки ИИ станут быстро устаревать.
Отсюда вывод: ИИ есть машины - и как таковые должны не заменять человеческий интеллект, а просто дополнять его.

[captainl]

Так ведь как раз у человека знания целостны лишь по частям, а между частями могут быть глубочайшие противоречия. Вот точно как Вы пишете. В каких-то случаях такие противоречия вызывают стремление разобраться, что именно не так и в какой части. Так движется наука. Из самых известных и масштабных примеров - Ньютоновская механика, которая, конечно, была знанием и подтверждалась на практике, но только до Эйнштейна. В других случаях, и их большинство, человек или не видит противоречия, или старается о нём не думать.
Абсолютно непротиворечивую базу человеческих знаний построить практически невозможно.

[synchrozeta]

Да и сами учёные, к-е будут вводить данные в ИИ, всегда стоят на разных позициях или же невольно понимают теории и факты по-разному. Не подерутся ли они?
Кроме того, ИИ будет задавать вопросы, если что-то неувязано. Например, спросит, как объясняются парадоксы квантовой физики, и что тогда ему ответить - "заткнись и считай"?
Конечно, ответят: "Подумай сам, потом доложишь", но поскольку про синхроничность ничего не расскажут (это ведь редкий и как бы ненаучный опыт - квантовые явления в макромире), бедный ИИ не будет знать, что и придумать. Как Вы считаете, какие он даст ответы?

[captainl]

На первых порах ответы будут довольно неожиданные. Но это нормально на этапе разработки. Я как-то наблюдал за разработкой простенькой шахматной программы, так в ней пешка по ошибке уходила за пределы доски, к горизонту.:) Вообще это должно быть чертовски интересно - и ответы и вопросы, которые он будет задавать. А про синхроничность - почему бы и не рассказать? Я думаю, что в ИИ нужно зарядить знаниями по максимуму, только нужно пояснять, где доказано опытами, где гипотезы, где мифы.