Глава 3 Герменевтика и искусственный интеллект

Примечательной чертой современных дискуссий относительно теоретических оснований Искусственно­го Интеллекта (ИИ) является то, что в них всегда ссы­лаются на герменевтику, когда речь заходит о понима­нии и интерпретации компьютерами текстов.

Поскольку ИИ представляет собой новую науку, занимающую промежуточное положение между есте­ственными и социальными науками, ее сторонники почерпнули много полезного из этих дебатов. Выбор подходящей методологии для исследований во многих областях ИИ, таких как разбор естественного языка, принятие решений, системы мнений и действий, все еще не осуществлен. С одной стороны, существенный вклад в ИИ логики, математики, инженерии и есте­

ственных наук, типа физики, ставит построение функ­циональных моделей вне методологической конкурен­ции. С другой стороны, исследуемый предмет явно свя­зан с задачами лингвистики и социальных наук, а от­сюда методология этих областей может оказаться более подходящей для подобных исследований.

Используя некоторые герменевтические открытия, такие специалисты в области ИИ, как Х.Дрейфус¹³², Т.Виноград¹³³и Ф.Флорес¹³⁴ставят под сомнение пара­дигму функционалистской когнитивистики¹³⁵, которой придерживаются большинство современных исследова­ний ИИ, в частности в обработке естественных языков и рассуждениях, основывающихся на здравом смысле. Для отрицания возможности формализации менталь­ных процессов и поэтому невозможности создания ис­кусственного интеллекта, Дрейфус обращается к гер­меневтической философии Мартина Хайдеггера.

Этот герменевтический фон накладывает свой от­печаток на исследователей ИИ и их критиков, черпаю­щих вдохновение из различных герменевтических тра­диций. Например, в своих исследованиях аффективной структуры текстов и их согласованности с системати­ческими правилами идентификации жанров повество­вания Алкер, Ленерт и Шнайдер¹³⁶в сущности придер­живаются классической герменевтической программы, смягченной феноменологической герменевтикой. Дру­гие исследователи¹³⁷вдохновляются философской гер­меневтикой, предлагая стратегии для разработки ком­пьютерных систем, понимающих естественный язык.

Третий подход¹³⁸, ориентированный на философскую герменевтику, утверждает, что компьютерное понима­ние естественного языка является чрезвычайно труд­ным и вероятно недостижимым. Четвертая группа¹³⁹ разработала подход, руководствуясь частично идеями, заимствованными из феноменологической герменевти­ки, но учитывая также другие варианты.

Понятие герменевтического круга, по мнению раз­работчиков систем ИИ подобно понятию вычислитель­ного бутстрапа — процесса, который использует ком­понент более низкого порядка (компонент бутстрапа) для построения компонента более высокого порядка, используемого в свою очередь для реконструкции и за­мещения компонента более низкого порядка. Бутстра- пирование было введено в проектировании некоторых баз знаний¹⁴⁰и ИИ-ориентированных теорий когни­тивного развития¹⁴¹, и его следует отличать от создания иерархических уровней в системах, которое не разре­шает т.н. «странные циклы» замещения компонент бут­страпа. Сходство между герменевтическим кругом и бутстрапированием предполагает возможность важного вклада герменевтики в архитектуру ИИ для понимания естественного языка и рассуждений, основанных на здравом смысле.

Оказалось, что герменевтический подход позволя­ет учесть и эмоциональную составляющую структуры текста, без понимания которой ИИ навряд ли можно считать интеллектом вообще. Ленерт, Элкер и Шнай­дер¹⁴²представили модель «снизу-вверх» для извлече­ния эмоциональной структуры текста. Их «вычислитель­ная герменевтика» основывается на более ранних мо­делях Ленерта по «единицам сюжета»¹⁴³. Единицы сюжета обеспечивают хотя и теоретически необоснованный, но, тем не менее, интересный словарь для проектирования эмоциональных отношений и их комбинаций. В этом исследовании они используются для описания многих

эмоциональных следствий поведения для участников событий и действий. Работая в рамках теории «концеп­туальной зависимости»¹⁴⁴, Ленерт отождествляет различ­ные комбинации единиц сюжета для использования в суммирующих повествовательных текстах. Эти «моле­кулы историй» соотносят изменения в эмоциях участ­ников при успехах и неудачах в решении проблем, в которые они вовлечены.

В своей работе Ленерт, Элкер и Шнайдер «вруч­ную» свели пассажи из пересказа Тойнби событий, ве­дущих к распятию Иисуса на кресте, к большему коли­честву подобных молекул. Молекулы были соотнесены с действующими лицами и с учетом того, что некото­рые молекулы являются условными предпосылками других. После введения этих «ручных» редукций, цент­ральный подграф структуры сюжета был вычислитель­но извлечен, используя программу для нахождения наи­более стратегически важных и в высшей степени свя­занных молекул. Этот центральный подграф был помечен как «настоящая» история Иисуса.

После изучения этого эмоционального ядра Элкер, Ленерт и Шнайдер пришли к заключению, что история Иисуса представляет собой историю в хорошо извест­ном жанре — героический роман самопреодоления. Их метод подобен методу классической герменевтики в раскрытии существенной структуры текста, основанному на систематических связях между частями и целым и в подчеркивании использования эксплицитных правил объективного истолкования.

этого процесса. В своей нынешней форме, однако, эта работа не применяет процесса бутстрапирования, не­смотря на то, что тема самопреодоления предполагает механизм, способный к сознательно направленному непосредственному бутстрапирования.

Достижения философской герменевтики были ис­пользованы Виноградом¹⁴⁵для описания нового подхо­да к пониманию естественного языка. Он стремится преодолеть ловушки ранних подходов, ставшие мише­нью феноменологической критики, выдвинутой Дрей­фусом¹⁴⁶. Фокусируясь на теории значения, Виноград утверждает, что предыдущие разработки в этом направ­лении, включая его собственную систему SHRDLU¹⁴⁷, попали в ловушку «объективизма», заключающегося в том, что содержание теории или модели должно непос­редственно соотносится с реальностью (корреспонден­тская теория истины). Он добавляет, что дедуктивная природа формализмов, используемых разработчиками ИИ, вынуждает их принять объективистскую позицию, но что эти формализмы не в состоянии учесть нефор­мальное, феноменологическое знание или опыт того, что понимание развертывается тогда, когда истолковы­ваются высказывания. Герменевтики отождествляют эту проблему с историчностью понимания или ролью фона знания в опосредствовании понимания.

Вспомним также, что этот дедуктивные формализ­мы был предметом онтологической критики Гуссерля Хайдеггером. Их ошибочная или неудачная привязка к фундаментальной онтологии языка, типизируемой раз­говорной ситуацией, ведет к неспособности учета роли контекста при отождествлении говорящего и слушаю­щего в подразумеваемых значениях высказываний¹⁴⁸. Виноград подкрепляет хайдеггеровскую критику аргу­ментами и примерами, взятыми из философии обыден­ного языка.

лом требует знания, каков ожидается ответ на (экспли­цитные или имплицитные) вопросы, предложенные в разговорном контексте. По-видимому, дедуктивная ло­гика может учесть только малую часть человеческих рассуждений, и поэтому новые успехи в понимании естественного языка требуют использования «исчисле­ния натурального вывода»¹⁴⁹.

Виноград предлагает Язык Представления Знаний (ЯПЗ)¹⁵⁰в качестве исходного пункта для альтернатив­ного подхода ЯПЗ-рассуждений, основанных на огра­ниченных вычислительных ресурсах. По его мнению, подобный язык соответствует хайдеггеровскому тезису конечности Dasein,а также отражает понятия Саймона «ограниченной рациональности» в теории принятия решений¹⁵¹. Согласно Винограду, эффективные страте­гии рассуждения при ограниченном или переменном вычислительном ресурсе соответствуют «естественному рассуждению», которое (хотя формально и неполно) может лучше учесть использование естественного раз­говорного языка компьютером, чем это может сделать фрагмент, соответствующий полной дедуктивной логи­ки¹⁵². В качестве ядра ЯПЗ также включает в себя по­нятие бутстрапирования, подобное содержащемуся в различных герменевтических традициях, частично в работах Хайдеггера и Гадамера.

Ложная реификация, или неуместная конкретиза­ция, по мнению Винограда, свела на нет все усилия по разработке формализма для представления естествен­ного языка. Ложная реификация появляется тогда, ког­да компетенция приписывается пониманию не потому, что понимание действительно использует специфичес­кую способность в своем осуществлении, но в силу того, что наблюдатель способен классифицировать исполне­ние как пример частичной способности к пониманию. Вместо того, чтобы исходить из понятий и структур предметного уровня, Виноград пытается избежать лож­

ной реификации путем конструирования формальных репрезентаций, основанных на онтологических рассмот­рениях, заимствованных из методологической герменев­тики.

Обсуждая герменевтику, Виноград не только пред­лагает новую исследовательскую программу для ИИ, но утверждает, что фундаментальные допущения и фило­софские ориентации, лежащие в основании исследова­ний повседневного естественного языка, должны быть эксплицитно анализированы и подтверждены. Отвер­гая «объективизм», Виноград оправдывает «субъекти­вистскую» герменевтическую позицию, основанную на матурановской концепции¹⁵³нервной системы как «де­терминированной структуры», пластичной и замкнутой. Согласно этой модели действия вне системы (стимулы) возмущают структуру системы и эти возмущения, в свою очередь, приводят к «образцам деятельности, которые отличаются от тех, которые могли бы быть следствием различных возмущений».

Аналогичное понятие понимания Винограда пред­полагает замкнутую систему, в которой предпонима- ние возникает посредством актов истолкования. Как в хайдеггеровском герменевтическом круге, возможные горизонты понимания ограничиваются исторически детерминированной структурой предпонимания или множества запомненных схем¹⁵⁴. Понимание открыто к окружающей среде, но только лишь в данном диапазо­не. В отличие от Хайдеггера, признающего важность окружающей среды, но не анализирующего ее, Виног­рада подталкивают к анализу окружающей среды не­сколько влияний. Среди них этнометодология Гарфин- келя¹⁵⁵, который иодчеркивал социальный контекст, сёрлевский фокус на речи как социальном действии и

утверждение Лакатоса, что даже в математике значение терминов случайны в окружающем контексте. Виног­рад обосновывает его теорию значения в терминах со­циального действия и таким образом занимает пози­цию, близкую к критической герменевтике, между ре­лятивизмом и объективизмом.

Стимулированный отчасти Виноградом, Бэйтмен¹⁵⁶ исследует следствия хайдеггеровской экзистенциальной феноменологии и согласен с Дрейфусом, что эта фило­софия отрицает возможность моделирования мышле­ния и деятельности, используя специфическую форма­лизацию, предложенный функционалистской парадиг­мой когнитивных наук. Бэйтмен говорит, что все формализмы такого рода основываются на «онтологи­ческом допущении» истолкователя, который следует правилам в деятельности по ментальному представле­нию ситуации. Хайдеггеровское понятие «бытия-в- мире», которое включает и ситуационность и понима­ние как онтологические способы действий, устраняет субъектно-объектную дихотомию в этом допущении. Поскольку каждый всегда пребывает в ситуации, а ее структура и значение детерминирована ее уместностью по отношению к его планам и целям, никакое контек­стно-свободное представление не является возможным.

Бэйтмен, однако, не отклоняет возможность функ­ционалистской парадигмы для когнитивистики. Вмес­то этого он основывает ее на поздней хайдеггеровской идее языка, которая, согласно Бэйтмену, стремится сде­лать интеллигибельным опыт «бытия-в-мире» как он есть для «всякого», то есть для обобщенного субъекта или члена языкового сообщества. В качестве коллек­тивного артефакта язык рассматривается как частич­ный шифр истории языкового сообщества как для до­пустимой, так и для недопустимой комбинации (ассо­циации) слов и фраз. Результирующая соозначающая структура представляет собой некую разновидность кол­

лективного фонового знания и налагает априорные ог­раничения на действия индивидуумов, которые рассмат­ривают действия в терминах языка. В «систематичес­кой грамматике» Холлидея¹⁵⁷имеется понятие «соци­альной семиотики», которая признает, что групповая культура может сужать возможные значения высказы­ваний посредством ограничений на возможные спосо­бы действий в ситуациях. Бэйтмен рассматривает эту ориентацию как совместимую с герменевтической точ­кой зрения и верит, что «систематическая грамматика» после соответствующего пересмотра может обеспечить адекватные теоретические рамки для понимания есте­ственного языка. Все же, несмотря на эту открытость к социальным ограничениям, Бэйтмен не рассматривает герменевтиков, пришедших после Хайдеггера, особен­но Гадамера и Хабермаса.

Парадоксальным образом герменевтические идеи используются в ИИ и для того, чтобы подставить под сомнение всю программу ИИ. Так, например, Виног­рад и Флорес¹⁵⁸в своей работе основываются на фило­софской герменевтике и работе Матураны¹⁵⁹по биоло­гии знания, чтобы отрицать как возможность констру­ирования мыслящего компьютера, так и компьютерного понимания естественного языка. Они утверждают, что поскольку Хайдеггер и Гадамер дают убедительную кар­тину того, что некоторые базисные свойства человечес­кого существования являются фундаментальными во­обще, то сам по себе поиск мыслящей машины являет­ся просто донкихотством. Эти свойства включают «брошенность», «слепоту» и «упадок». «Брошенность» означает, что люди брошены в ситуацию повседневной жизни и редко имеют время поразмышлять над альтер­нативным образом действий. Они не могут быть бес­пристрастными, отстраненными наблюдателями мира, в котором они живут, но они должны принимать реше­ния и использовать эвристики, которыми они облада­

ют как частью их действующей истории. Хотя эти эв­ристики делают доступными некоторые возможности действий, те же самые эвристики также делают людей «слепыми» к некоторым иным возможностям действий, которые могли бы преобладать, если бы их действи­тельные истории были другие. Когда они сталкиваются с ситуациями, в которых прожитые ими истории не в состоянии обеспечить адекватное руководство к дей­ствиям и также делают их невосприимчивыми к этим действиям, способным помочь им в достижении их це­лей, люди испытывают разновидность «расстройства», которое может принять форму острой депрессии, ане­мии и даже иррационального действия.

Хотя экспертные системы могут успешно опериро­вать в хорошо знакомых, ограниченных областях, экс­пертные системы в сложных областях могут быть «заб­рошены» в ситуации, где они не в состоянии оценивать и контролировать все возможные действия, и они, как следствие, «сдают». Системы, предназначенные для сложных областей, должны поэтому основываться на эвристических правилах, но эти последние могут выз­вать «слепоту» программы к более подходящим действи­ям. Виноград и Флорес считают, что программист экс­пертных систем вводит свои собственные «ограниче­ния» или свои собственные предубеждения в программу.

Ввиду этих трудностей Виноград и Флорес реко­мендуют переформулировку целей искусственного ин­теллекта. Вместо приложения усилий к достижению предположительно невозможной цели создания машин, способных к пониманию, программы должны быть раз­работаны как инструменты, служащие улучшению ка­чества жизни. Это может быть сделано путем правиль­ного понимания роли подобных программ в паутине речевых актов, конституирующих социальное существо­вание. Следует стремиться минимизировать «ограничен­ность», которую они порождают, и наряду с этим пред­видеть заранее диапазон их потенциальных «крушений».

Все же Винограду и Флоресу не удается продемон­стрировать, что компьютерное понимание выходит за рамки возможного. Они лишь демонстрируют, что цель гораздо более трудна, чем большинство людей, включая многих специалистов по ИИ, могут себе представить.

Подводя итоги, можно констатировать, что герме­невтическая традиция используется разработчиками систем ИИ двояким образом. Во-первых, негативно. В этом случае герменевтика используется как основа­ние для аргументации против принципиальной возмож­ности создания ИИ вообще. Утверждается, что герме­невтика как раз и открыла и продемонстрировала в че­ловеческом существовании такие качества, которые не только важны для жизненной ситуации человека, но и не воспроизводимы механически. Так как эти сомне­ния порождены вполне определенной интеллектуаль­ной традицией и так как они достаточно при этом обо­гащают наши интуитивные прозрения, то их нельзя с легкостью отбросить как разновидность «иррациональ­ного технологического пессимизма». Вдобавок они спо­собны консолидировать часть разработчиков ИИ в борь­бе с подобного рода сомнениями и способствовать уточ­нению стратегии и тактики их разработок.

Позитивное же использование герменевтики свя­зано с тем обстоятельством, что герменевтика может предложить разработчикам ИИ определенные методы, способы и критерии, которые подразумевают понима­ние естественных языков и представление знаний со­циального мира. И здесь как раз возникает необходи­мость в более широком использовании методов и мето­дик когнитивной герменевтики.

Наряду с этим уяснение философской перспекти­вы разработок ИИ способно в свою очередь привести к точке зрения на ИИ как на некий «эксперименталь­ный» философский полигон, способный поддержать или отвергнуть некоторые философские позиции и идеи в области онтологии, эпистемологии и когнитологии.