Глава 1. Первый этап (1957-1962). Моделирование процессов познания. (1/2)
Х. Дрейфус «Чего не могут вычислительные машины? Критика искусственного разума» 1972 г.
Я буду писать свои впечатления и кое-какие моменты, которые показались мне интересными. Возможно, некоторые главы будут пересказаны полностью, а, возможно, что и нет. Чтобы составить впечатление о книге всё же следует прочитать книгу (хотя у меня от неё пока что только пессимистический настрой). Сразу скажу, что я сама ещё в процессе чтения, и книжка мне очень нравится. Жаль, что она 1972-го года - очень хочется почитать что-нибудь подобное про современное положение вещей. Естественно, с того времени в технологическом плане многое изменилось; думается, что в философском разрезе ситуация более стабильна. Несмотря на постоянные комменты советских переводчиков и критиков, я больше склоняюсь к т.зр. тов. Дрейфуса (в тексте Д.). Да простят читатели сего мой олпанский, шо писать научным языком по подобным вопросам меня воротит со студенческой скамьи.
Часть I. Десять лет исследований в области «Искусственного интеллекта» (1957-1967)
Глава 1. Первый этап (1957-1962). Моделирование процессов познания.
I. Анализ работ в области машинного перевода, решения задач и распознавания образов
Собственно, автор рассматривает области ИИ на примере трёх областей: машинный перевод, решение задач (problem solving - решение невычислительных задач, требующее применения того или иного способа ограничения перебора вариантов в ходе поиска требуемого результата) и распознавания образов. По его мнению, везде наблюдалась одна и та же картина: сначала быстрый и эффективный успех, основанный на грубых методах моделирования, решении нетрудоёмких простых задач или же весьма неудовлетворительном решение сложных; последующие оптимистические заверения типа «эта программа - значительный успех, Первый Шаг» и «очень скоро мы сделаем всё и даже больше» aka реализуем на уровне, сравнимом с человеческим; потом высказывания типа «это оказалось сложнее, чем мы предполагали; видимо, надо искать что-то более глубокое и сложное», и дальнейшее молчание и кое-где - довольно пессимистические заявления о крушении мечтаний и ожиданий. Т.е. никакого полностью автоматического перевода (А. Эттингер, И. Бар-Хиллел), «Общего решателя задач» (GPS от А. Ньюэлла, Дж. Шоу, Г. Саймона - их работу Д. нещадно склоняет и нагибает) и распознавателя образов (чтение, изображения) (О. Сэлфридж и У. Ниссер - этим тоже достаётся).
Пичяль(
II. Причины неудач
Каковы же причины неудач? Let’s see.
Первый КП: Эвристически направляемый поиск или периферийное сознание?
Тут отлично в дело идут разработки, касающиеся игры в шахматы. Человек для очередного хода в состоянии перебрать вариантов 100-200. Машина, конечно же, больше (не будем забывать о растущих ресурсах). Но факты таковы: программа, призванная решить задачу, использует совсем иные методы (26 000 вариантов, и это на 60-е годы, ололо, как они там не охуели 15 минут ждать одного хода), нежели человек. Это подтверждается сравнением с протоколами «размышлений в процессе выбора хода», которые велись в ходе исследования игры человека. Так вот, ближе к теме: за счёт чего происходит отбрасывание заведомо неподходящих вариантов? Что значит протокольное «я замечаю, что одна из фигур противника незащищена», «у белых более выгодная позиция», «контроль над центром», «развитие фигуры», «закрытая позиция»?
Д. обращается к феномену «периферийного сознания» - в двух словах, это такая не осознаваемая явно область-фон вокруг воспринимаемого объекта, например, мы замечаем тиканье часов, только когда они остановились, или расплывчато воспринимаем лица, когда ищем в толпе знакомого.
Разработчики программ какбэ говорят нам: "Более совершенные эвристики - вот что спасёт будущее!" (и заодно - программы для игры в шахматы). Ещё одна маленькая ни на что не влияющая неувязочка: программа играет каждый ход как новую и начальную задачу, а не партию (этот момент поразил меня при общении с ALICE: каждый вопрос обрабатывается как новый, не обращая внимание на предыдущие реплики и вопросы. Диалога не получилось(( ).
Но, допустим, подсознательно так же происходит процесс просчёта. Тогда, очевидно, процесс этот очень быстрый и довольно точный. И тогда непонятно, почему в какой-то момент он прекращается и человек обращается к обременительному методу медленного и трудного сознательного просчитывания… Если же подсознательного просчитывания недостаточно для адекватного решения задачи, то каковы преимущества переключения на осознанный вариант того же процесса?
Такого рода "телеологические" рассуждения сами по себе не могут служить доказательством недискретного характера функционирования подсознания. Тем не менее при таком подходе становится ясно, что бремя доказательства должно лечь на плечи тех, кто выдвигает предположение о дискретности подсознательных процессов или даже считает его обязательным. Нет никаких данных, ни поведенческих, ни интроспективных, свидетельствующих о том, что просчитывание является единственной формой "информационного процесса", используемого при игре в шахматы, и что "существо задачи - это поиск в пространстве возможностей, число которых растет по экспоненциальному закону". Скорее, наоборот, все протоколы экспериментов свидетельствуют о том, что при игре в шахматы используется два типа поведения:
1) фокусировка, фиксация внимания - путем глобальной организации поля восприятия - на области, ранее находившейся в периферийном сознании; в результате интерес к другим областям, все еще находящимся на периферии сознания, повышается;
2) явное просчитывание альтернатив.
Второй КП: Бесконтекстная точность или допустимая неоднозначность?
Здесь основным направлением является машинный перевод. Приостановка работ по машинному переводу была связана со второй непрограммируемой формой «обработки информации»: умением человека учитывать нечёткие ситуации, не прибегая к замене их точными описаниями.
Ясно, что для перевода с одного языка на другой требуется нечто большее, чем просто машинный словарь (каким бы полным он ни был) и правила грамматики (сколь совершенными они ни оказались бы). Порядок слов в предложении недостаточен для машины, чтобы решить, какой из возможных грамматических разборов данного предложения наиболее приемлем в соответствующем случае, а стоящие рядом слова (письменный контекст) не всегда дают возможность точно определить значение, вкладываемое в слово автором. «Чрезвычайно загадочные семантические процессы, благодаря которым большинство людей в своих рассуждениях интерпретируют большинство осмысленных предложений в большинстве случаев однозначно» (А. Эттингер).
Смутные мотивы, скрытые ориентиры подсознания? Первое: таких ориентиров может быть бесконечно много. Второе: даже если число их разумно, для программы необходимо сформулировать их в виде строгих правил; а ведь при пользовании языком мы не опираемся на строгие правила и это не приводит к неясностям. «Мы не в состоянии точно описать понятия, которыми мы пользуемся, не потому, что не знаем их реальных определений, а потому, что таких "реальных определений" не существует. Предположение, что они непременно должны существовать, равносильно предположению, что всякий раз, когда дети играют в мячик, они играют в какую-то игру со строгими правилами» (Л. Витгенштейн).
Наша способность использовать глобальный контекст для требуемого уменьшения неоднозначности, не прибегая при этом к формализации (то есть к полному исключению неопределенности), выявляет вторую фундаментальную форму "переработки информации" человеком, которая вытекает из первой. Периферийное, краевое сознание учитывает неявные ориентиры, заключенные в контексте, а также, вероятно, некоторые возможные грамматические конструкции и смысл, значение - все то, что на выходе машины должно быть сформулировано в четкой форме. Присущее человеку ощущение ситуации позволяет ему исключать из рассмотрения большинство возможных вариантов до всякого точного их анализа. Будем называть эту способность сужать спектр возможных значений в соответствии с ситуацией "допустимой неоднозначностью".
Высказывание и понимание предложения естественного языка предполагают имплицитное знание того, как предложение зависит от контекста. Поэтому, как и предполагал Тьюринг, единственный способ заставить ЭЦВМ понимать и переводить естественный язык - это, по всей видимости, составить программу, которая даст машине возможность познавать мир.
Обучение языку <>. Для того чтобы объяснить человеку значение какого-либо нового слова, иногда достаточно просто указать пальцем на обозначаемый этим словом предмет. Блаженный Августин в своей "Исповеди" и А. Тьюринг в своей статье о "машинном интеллекте" полагают, что именно таким способом мы обучаем детей языку. Однако Л. Витгенштейн замечает, что просто указав пальцем, например, на стол и сказав слово "коричневый", мы тем самым еще не дадим знать ребенку, что именно имеется в виду:. цвет, размер или форма стола, тип объекта или его собственное имя. Если же ребенок уже владеет языком, то ему можно сказать, что имеется в виду именно цвет. Ну, а с чего начать, если ребенок еще совсем не понимает языка? Витгенштейн считает, что для этого ребенок должен быть погружен в своего рода "жизненную среду", в которой он разделяет по крайней мере некоторые из целей и интересов своего учителя; при этом каждодневная деятельность ребенка помогает ему устанавливать соответствия между употребляемыми словами и тем, что они обозначают.
Роль контекста и неоднозначности в процессе использования естественного языка существенна. Способность научения языку предполагает ту же сложную комбинацию сугубо человеческих форм "процесса переработки информации", которая необходима для его понимания.
Продолжение
Я буду писать свои впечатления и кое-какие моменты, которые показались мне интересными. Возможно, некоторые главы будут пересказаны полностью, а, возможно, что и нет. Чтобы составить впечатление о книге всё же следует прочитать книгу (хотя у меня от неё пока что только пессимистический настрой). Сразу скажу, что я сама ещё в процессе чтения, и книжка мне очень нравится. Жаль, что она 1972-го года - очень хочется почитать что-нибудь подобное про современное положение вещей. Естественно, с того времени в технологическом плане многое изменилось; думается, что в философском разрезе ситуация более стабильна. Несмотря на постоянные комменты советских переводчиков и критиков, я больше склоняюсь к т.зр. тов. Дрейфуса (в тексте Д.). Да простят читатели сего мой олпанский, шо писать научным языком по подобным вопросам меня воротит со студенческой скамьи.
Часть I. Десять лет исследований в области «Искусственного интеллекта» (1957-1967)
Глава 1. Первый этап (1957-1962). Моделирование процессов познания.
I. Анализ работ в области машинного перевода, решения задач и распознавания образов
Собственно, автор рассматривает области ИИ на примере трёх областей: машинный перевод, решение задач (problem solving - решение невычислительных задач, требующее применения того или иного способа ограничения перебора вариантов в ходе поиска требуемого результата) и распознавания образов. По его мнению, везде наблюдалась одна и та же картина: сначала быстрый и эффективный успех, основанный на грубых методах моделирования, решении нетрудоёмких простых задач или же весьма неудовлетворительном решение сложных; последующие оптимистические заверения типа «эта программа - значительный успех, Первый Шаг» и «очень скоро мы сделаем всё и даже больше» aka реализуем на уровне, сравнимом с человеческим; потом высказывания типа «это оказалось сложнее, чем мы предполагали; видимо, надо искать что-то более глубокое и сложное», и дальнейшее молчание и кое-где - довольно пессимистические заявления о крушении мечтаний и ожиданий. Т.е. никакого полностью автоматического перевода (А. Эттингер, И. Бар-Хиллел), «Общего решателя задач» (GPS от А. Ньюэлла, Дж. Шоу, Г. Саймона - их работу Д. нещадно склоняет и нагибает) и распознавателя образов (чтение, изображения) (О. Сэлфридж и У. Ниссер - этим тоже достаётся).
Пичяль(
II. Причины неудач
Каковы же причины неудач? Let’s see.
Первый КП: Эвристически направляемый поиск или периферийное сознание?
Тут отлично в дело идут разработки, касающиеся игры в шахматы. Человек для очередного хода в состоянии перебрать вариантов 100-200. Машина, конечно же, больше (не будем забывать о растущих ресурсах). Но факты таковы: программа, призванная решить задачу, использует совсем иные методы (26 000 вариантов, и это на 60-е годы, ололо, как они там не охуели 15 минут ждать одного хода), нежели человек. Это подтверждается сравнением с протоколами «размышлений в процессе выбора хода», которые велись в ходе исследования игры человека. Так вот, ближе к теме: за счёт чего происходит отбрасывание заведомо неподходящих вариантов? Что значит протокольное «я замечаю, что одна из фигур противника незащищена», «у белых более выгодная позиция», «контроль над центром», «развитие фигуры», «закрытая позиция»?
Д. обращается к феномену «периферийного сознания» - в двух словах, это такая не осознаваемая явно область-фон вокруг воспринимаемого объекта, например, мы замечаем тиканье часов, только когда они остановились, или расплывчато воспринимаем лица, когда ищем в толпе знакомого.
Разработчики программ какбэ говорят нам: "Более совершенные эвристики - вот что спасёт будущее!" (и заодно - программы для игры в шахматы). Ещё одна маленькая ни на что не влияющая неувязочка: программа играет каждый ход как новую и начальную задачу, а не партию (этот момент поразил меня при общении с ALICE: каждый вопрос обрабатывается как новый, не обращая внимание на предыдущие реплики и вопросы. Диалога не получилось(( ).
Но, допустим, подсознательно так же происходит процесс просчёта. Тогда, очевидно, процесс этот очень быстрый и довольно точный. И тогда непонятно, почему в какой-то момент он прекращается и человек обращается к обременительному методу медленного и трудного сознательного просчитывания… Если же подсознательного просчитывания недостаточно для адекватного решения задачи, то каковы преимущества переключения на осознанный вариант того же процесса?
Такого рода "телеологические" рассуждения сами по себе не могут служить доказательством недискретного характера функционирования подсознания. Тем не менее при таком подходе становится ясно, что бремя доказательства должно лечь на плечи тех, кто выдвигает предположение о дискретности подсознательных процессов или даже считает его обязательным. Нет никаких данных, ни поведенческих, ни интроспективных, свидетельствующих о том, что просчитывание является единственной формой "информационного процесса", используемого при игре в шахматы, и что "существо задачи - это поиск в пространстве возможностей, число которых растет по экспоненциальному закону". Скорее, наоборот, все протоколы экспериментов свидетельствуют о том, что при игре в шахматы используется два типа поведения:
1) фокусировка, фиксация внимания - путем глобальной организации поля восприятия - на области, ранее находившейся в периферийном сознании; в результате интерес к другим областям, все еще находящимся на периферии сознания, повышается;
2) явное просчитывание альтернатив.
Второй КП: Бесконтекстная точность или допустимая неоднозначность?
Здесь основным направлением является машинный перевод. Приостановка работ по машинному переводу была связана со второй непрограммируемой формой «обработки информации»: умением человека учитывать нечёткие ситуации, не прибегая к замене их точными описаниями.
Ясно, что для перевода с одного языка на другой требуется нечто большее, чем просто машинный словарь (каким бы полным он ни был) и правила грамматики (сколь совершенными они ни оказались бы). Порядок слов в предложении недостаточен для машины, чтобы решить, какой из возможных грамматических разборов данного предложения наиболее приемлем в соответствующем случае, а стоящие рядом слова (письменный контекст) не всегда дают возможность точно определить значение, вкладываемое в слово автором. «Чрезвычайно загадочные семантические процессы, благодаря которым большинство людей в своих рассуждениях интерпретируют большинство осмысленных предложений в большинстве случаев однозначно» (А. Эттингер).
Смутные мотивы, скрытые ориентиры подсознания? Первое: таких ориентиров может быть бесконечно много. Второе: даже если число их разумно, для программы необходимо сформулировать их в виде строгих правил; а ведь при пользовании языком мы не опираемся на строгие правила и это не приводит к неясностям. «Мы не в состоянии точно описать понятия, которыми мы пользуемся, не потому, что не знаем их реальных определений, а потому, что таких "реальных определений" не существует. Предположение, что они непременно должны существовать, равносильно предположению, что всякий раз, когда дети играют в мячик, они играют в какую-то игру со строгими правилами» (Л. Витгенштейн).
Наша способность использовать глобальный контекст для требуемого уменьшения неоднозначности, не прибегая при этом к формализации (то есть к полному исключению неопределенности), выявляет вторую фундаментальную форму "переработки информации" человеком, которая вытекает из первой. Периферийное, краевое сознание учитывает неявные ориентиры, заключенные в контексте, а также, вероятно, некоторые возможные грамматические конструкции и смысл, значение - все то, что на выходе машины должно быть сформулировано в четкой форме. Присущее человеку ощущение ситуации позволяет ему исключать из рассмотрения большинство возможных вариантов до всякого точного их анализа. Будем называть эту способность сужать спектр возможных значений в соответствии с ситуацией "допустимой неоднозначностью".
Высказывание и понимание предложения естественного языка предполагают имплицитное знание того, как предложение зависит от контекста. Поэтому, как и предполагал Тьюринг, единственный способ заставить ЭЦВМ понимать и переводить естественный язык - это, по всей видимости, составить программу, которая даст машине возможность познавать мир.
Обучение языку <>. Для того чтобы объяснить человеку значение какого-либо нового слова, иногда достаточно просто указать пальцем на обозначаемый этим словом предмет. Блаженный Августин в своей "Исповеди" и А. Тьюринг в своей статье о "машинном интеллекте" полагают, что именно таким способом мы обучаем детей языку. Однако Л. Витгенштейн замечает, что просто указав пальцем, например, на стол и сказав слово "коричневый", мы тем самым еще не дадим знать ребенку, что именно имеется в виду:. цвет, размер или форма стола, тип объекта или его собственное имя. Если же ребенок уже владеет языком, то ему можно сказать, что имеется в виду именно цвет. Ну, а с чего начать, если ребенок еще совсем не понимает языка? Витгенштейн считает, что для этого ребенок должен быть погружен в своего рода "жизненную среду", в которой он разделяет по крайней мере некоторые из целей и интересов своего учителя; при этом каждодневная деятельность ребенка помогает ему устанавливать соответствия между употребляемыми словами и тем, что они обозначают.
Роль контекста и неоднозначности в процессе использования естественного языка существенна. Способность научения языку предполагает ту же сложную комбинацию сугубо человеческих форм "процесса переработки информации", которая необходима для его понимания.
Продолжение