1.1 История искусственного интеллекта

Традиционно рождение мифологемы искусственного разума относят к средним векам. «Наконец осуществилась мечта средневековых оккультистов - создан механический разум» - указывает современный автор [46,c 88 ] однако прежде чем рассмотреть истоки этой мифологемы, проанализируем культуру, близкую ей, но в которой она не возникла и не могла возникнуть. Обратимся к античности.

Древние греки были прекрасными механиками: начиная с мифического Дедала и до реального Герона Александрийского они создали множество удивительных технических устройств, в том числе и человекоподобных. Представление о человекообразных автоматах встречается уже в «Илиаде» Гомера (373-377,417-420). В древнегреческих мифах рассказывается как бог-кузнец Гефест изготовил для себя золотых механических служанок, которые помогали ему в кузнице; они были говорящими и могли выполнять самые трудные поручения, которые он им давал.

Гефест же выковал медного стража Талоса, который должен был трижды в день обегать о. Крит и швырять камни во все корабли чужестранцев, а трижды в год ему следовало не спеша обходить все критские деревни, знакомя их с законами Миноса, начертанными на бронзовых табличках. Когда жители Сардинии попытались вторгнуться на Крит, Талос раскалил себя докрасна и, злобно смеясь, уничтожил их всех в своих огненных объятиях. Говорят, что отсюда и пошло выражение «сардонический смех». Отсюда же очевидно, что механический гигант способен был и к незапрограммированному поведению.

Знаменитый Дедал заставлял ходить деревянное изваяние Афродиты, влив в него ртуть. Аристотель обсуждает эту модель разумной души наравне с другими (а не как казус), однако отвергает этот - демокритовский по его мнению - подход [3,c 381] Современный автор, обсуждая возможности кибернетического моделирования разума, пишет: "В некоторых отношениях кибернетика, несомненно, представляет собой весьма старую точку зрения, выступающую в новом облике, поскольку ее философскими предшественники были материалисты Древней Греции (например, Демокрит)..." [23, c 20]

Даже Платон, считавший такого рода занятия скорее игрой, все же конструирует антропоморфный автомат - водяной будильник, предназначенный собирать ранним утром учеников академии на занятия с учителем [21, c 33] .

Обобщая опыт всей античности, Герон Александрийский в своем сочинении «Театр автоматов» описывает множество храмовых и театральных автоматов. По его собственным словам, «представления автоматических театров пользовались в старину большой любовью, во-первых, потому, что в устройстве их проявлялось много механического искусства, а затем и потому, что самое представление бывало поразительным, ибо как раз при устройстве автоматов для различных их деталей приходится пользоваться всеми познаниями механики». [10,c 17]

Более того, именно в Древней Греции была создана наука, без которой серьезные исследования разума невозможны - логика (Аристотелем). Но общие представления о разуме и о человеке были таковы, что в античности не могла возникнуть идея об автономном искусственном разумном существе. Греки сомневались даже в разумности человека.

В последнее время наблюдается возрастание интереса к искусственному интеллекту, вызванное повышением требований к информационным системам. «О «философских машинах» думали еще Луллий и Лейбниц», - отмечал известный кибернетик А. Моль. [47, c 57]

Становится умнее программное обеспечение, бытовая техника. Мы неуклонно движемся к новой информационной революции, сравнимой по масштабам с развитием Интернета, имя которой - искусственный интеллект.

Все уже, наверное, слышали об электромеханических собаках в Японии, способных узнавать хозяина в лицо, выполнять некоторые простейшие команды и имеющие некоторую способность к обучению. Слышали и про холодильники с выходом в Интернет и про внедрение Microsoft в будущие версии Windows элементов искусственного интеллекта.

Термин «искусственный интеллект» имеет, по крайней мере, три взаимосвязанных значения. Во-первых, искусственным интеллектом называют направление научных исследований, целью которых является «интеллектуализация» вычислительных машин, моделирование процессов познания и мышления и т.п. Как научная дисциплина искусственный интеллект сформировался в конце 1950-х - начале 1960-х гг.

Однако отдельные попытки создать механизмы, по своим возможностям не уступающие разуму человека - гораздо старее. Второе значение термина «искусственный интеллект» как раз и объединяет различные устройства, механизмы, программы, которые могут быть названы, по тем или иным критериям, «интеллектуальными».

Любопытно отметить, что первоначально в общественном сознании фиксировалось именно второе значение термина искусственный интеллект. Так, например, в энциклопедическом словаре 1979 года данный термин определяется как “условное обозначение кибернетических систем, моделирующих некоторые стороны интеллектуальной деятельности, а в 1990-е годы уже как “раздел информатики, в котором разрабатываются методы и средства моделирования и воспроизводства с помощью ЭВМ отдельных интеллектуальных действий человека”. Более того, первое понимание термина искусственный интеллект начинает пониматься как дилетантское: «Для людей непосвященных выражение искусственный интеллект ассоциируется с каким-то особым техническим устройством, своего рода искусственным мозгом... Искусственный интеллект понимается как хитроумный механизм, который помещается внутри робота и управляет его разнообразными действиями...» [36,c 13].Специалисты вкладывают в эти слова несколько иной смысл. Для них данный термин обозначает, прежде всего, всю сферу их исследований. Можно сказать, что в своем третьем значении искусственный интеллект есть некоторая мифологема, лежащая в основе этих исследований и отражающая важные черты современной культуры (мировоззрения, взгляда на мир).

В развитии естествознания и познания в целом такого рода мифологемы играют существенную роль, а их развертывание приводит к конкретным научным результатам. Такими мифологемами в истории были, например, идея «философского камня» (Lapis Philosophorum) или идея «вечного двигателя» (perpetuum mobile).

Искусственный интеллект это еще и область информатики, предметом которой является разработка компьютерных систем, обладающих возможностями, традиционно связываемыми со способностями естественного интеллекта.

К области ИИ принято относить ряд алгоритмов и программных систем, которые могут решать некоторые задачи так, как это делает человек.

Первый шаг в исследованиях по ИИ был сделан в направлении изучения естественного интеллекта. При изучении этого вопроса был сделан ряд открытий в различных областях знаний. Так, в 1962 году Фрэнком Розенблаттом были предложены модели мозга, имитирующие биофизические процессы, которые протекают в головном мозге и которые были названы персептронами. Персептроны представляют собой различного вида сети из искусственных нейронов, в основе которых лежат модели, разработанные еще в 1943 году Уильямом Маккалоком и Уолтером Питтсом.

Первоначально, изучение персептронов было связано с задачей распознавания образов, однако, в настоящее время нейронные сети широко используются для решения задач аппроксимации, классификации и распознавания образов, прогнозирования, идентификации и оценивания, ассоциативного управления [5]. Нейронные сети представляют собой низкоуровневые модели мозговой деятельности человека.

Другое направление моделирования естественного интеллекта связано с созданием высокоуровневых моделей деятельности мозга человека, которые позволяют моделировать процессы рассуждений и принятия решений.

В целом можно сказать, что изучение разумного поведения человека привело к появлению эвристических методов, моделирующих деятельность человека в проблемной ситуации и к разработке программно-аппаратных средств, реализующих эти методы, то есть к разработке систем искусственного интеллекта, называемых решателями задач.

Другим результатом этих исследований можно считать создание экспертных систем, то есть систем искусственного интеллекта, основанных на знаниях человека-эксперта.

В подобном развитии области искусственного интеллекта нет ничего необычного. Здесь уместно привести гипотезу о встречной эволюции человека и компьютера: человек сначала учиться видеть, ходить, разговаривать, а уже потом развивает способности к вычислениям и логическим выводам. Механизм же наоборот, рождается как вычислительная система, базирующаяся на формальной логике, в процессе развития приобретает способности к распознаванию образов, синтезу речи и управлению в реальном времени.

В настоящее время различают два основных подхода к моделированию искусственного интеллекта (AI - artificial intelligence): машинный интеллект, заключающийся в строгом задании результата функционирования, и искусственный разум, направленный на моделирование внутренней структуры системы.

Моделирование систем первой группы достигается за счет использования законов формальной логики, теории множеств, графов, семантических сетей и других достижений науки в области дискретных вычислений. Основные результаты заключаются в создании экспертных систем, систем разбора естественного языка и простейших систем управления вида «стимул-реакция».

Системы второй группы базируются на математической интерпретации деятельности нервной системы во главе с мозгом человека и реализуются в виде нейроподобных сетей на базе нейроподобного элемента - аналога нейрона.

Нейроподобные сети в последнее время являются одним из самых перспективных направлений в области искусственного интеллекта и постепенно входят в бытность людей в широком спектре деятельности.

Что же такое нейроподобная сеть? Это искусственный аналог биологической сети, по своим параметрам максимально приближающийся к оригиналу. Нейроподобные сети прошли длинный путь становления и развития, от полного отрицания возможности их применения до воплощения во многие сферы деятельности человека. Были предложены различные нейросетевые парадигмы, определяющие область применения.

Сети первой группы используются для распознавания образов, анализа и синтеза речи, перевода с одного языка на другой и прогнозирования. Это вызвано такими особенностями сетей как восстановление изображения по его части, устойчивостью к зашумлению входного сигнала, прогнозирование изменения входов и параллельность вычислений. Также, немаловажной характеристикой является способность функционировать даже при потере некоторой части сети.

Сети второй группы используются как системы управления в реальном времени несложных объектов. Это управление популярными в последнее время интеллектуальными агентами, выполняющими роль виртуальных секретарей. Особенностями данной группы является появление некоторых внутренних стимулов, возможностью к самообучению и функционированию в реальном времени.

И, наконец, сети третьей группы, являющиеся дальнейшим развитием предыдущих, представляют собой уже нейроподобные системы и нацелены они на создание экзотических в настоящее время виртуальных личностей, информационных копий человека, средой обитания которых является глобальная сеть интернет. Данное направление только зарождается, но есть немалый шанс, что мы станем свидетелями ситуации рождения виртуальных людей, подробно описанной фантастами и режиссерами.

Но каким образом это появляется в литературе? Чтобы это понять, следует, в первую очередь, понять, каким образом, хотя бы приблизительно, будет действовать в перспективе настоящий искусственный интеллект. Для начала необходимо разобраться в некоторых терминах, которые нам помогут в дальнейшем анализе.

«Человекоподобие или антропоморфизм -- (от греч. -- человек и -- форма, вид), уподобление человеку, наделение человеческими психическими свойствами предметов и явлений неживой природы, небесных тел, животных, мифических существ. А. возникает как первоначальная форма мировоззрения и выражается не только в наделении животных человеческой психикой, но и в приписывании неодушевлённым предметам способности действовать, жить и умирать, испытывать переживания и т. д. (земля спит, небо хмурится и т. п.). Эта форма антропорфизма господствовала на ранних ступенях развития общества. Отголоски такого понимания мира представлены в языке современных культурных народов (напр., безличные глаголы типа «моросит», «светает» и др.), в искусстве, особенно в поэзии, где известная антропоморфность ряда образов связана с требованием высокой эмоциональной выразительности. Антроморфизм характерен для религиозного мировоззрения, что выражается в перенесении облика и свойств человека на вымышленные предметы, присущем большинству религиозных представлений о богах и др. сверхъестественных существах. Антропоморфными, в частности, являются обычно боги т. п. высших религий, хотя в теологии это обстоятельство отрицается. Антропоморфизм несовместим с научным мировоззрением. В современном научно-технической, в частности кибернетической, литературе употребляются антропоморфные понятия (машина «запоминает», «решает задачу» и т. п.), но при этом, конечно, учитывается существ. различие деятельности человека и действий машины». [67]

Как мы видим человекоподобный же робот , помимо уже обозначенного внешнего сходства с человеком, должен обладать еще и тем, что отличает человека от всех остальных существ -- разумом. Но давайте рассмотрим термин «разум» немного внимательнее.

1.2 Искусственный разум: в чем отличие от интеллекта?

В контексте искусственного интеллекта и робототехники мы можем выбрать из множества определений разума то, что нам подходит больше всего для анализа и синтеза суждений.

Итак: «Разум -- это способность некоторой системы обладать сознанием, подсознанием, памятью, интеллектом и на основе этих составляющих направлять собственную деятельность в соответствии с ведущими законами и принципами своего существования.» [ 31, c. 46-47]

Мы видим, что без определений, что такое сознания, память и интеллект мы не можем четко и ясно определить, что такое разум и как он соотносится с роботами. Подсознание мы упустим вполне сознательно для того, чтобы не углубляться излишне в психологию человека.

«Сознание системы -- та часть управляющего информационного центра, посредством которой она воспринимает себя как некоторую целостность, отделенную от окружающего мира, и это восприятие существует в виде ощущения-представления «Я».» [ 31, c. 46-47]

Этот момент по отношению к роботам можно прокомментировать однозначно -- Я у робота является не осознанным актом, как это есть у человека, но программой, которая заставляет ее носителя говорить “Я” по отношению к себе. Для робота “Я”- название для устройства, которое хранит в себе эту программу, поэтому “Я” - фикция, сделанная для того , чтобы человеку было комфортнее общаться с роботом. Когда мы будем анализировать роман “Стальные пещеры” Айзека Азимова, будет проведено сравнение с произведением С. Лукьяненко и мы увидим разницу между наличием сознания у робота и его программным заменителем.

«Память -- это способность системы хранить важную информацию и при необходимости пользоваться ею.» [ 31, c. 46-47]

Любой компьютер способен хранить информацию, а также оперировать ею при наличии некой задачи, но есть вполне закономерная разница между человеком и роботом в данном случае -- человек может решать, какая информация важна, а робот хранит все без разбора, не вникая в хранимое, если того не требует задача.

«Интеллект -- способность системы создавать в ходе самообучения программы (в первую очередь эвристические) для решения задач определенного класса сложности и решать эти задачи.» [ 31, c. 46-47]

Проясним термин “эвристический”.

«Эвристическими методами называются логические приемы и методические правила научного исследования и изобретательского творчества, которые способны приводить к цели в условиях неполноты исходной информации и отсутствия четкой программы управления процессом решения задачи.» [46,c 320]

Таким образом, если говорить проще, то интеллект решает задачи с высоким уровнем неизвестных в уравнениях и может выполнить задание, имея в памяти неполные данные, но умея по уже известным алгоритмам находить ответ. Правильным или неправильным будет ответ, зависит от полноты данных и оптимальности выбранного алгоритма. Но результат, вне зависимости от того, какой он, все равно будет.

Разница между человеческим интеллектом и человеком заключается также в том, что человек делает выводы вне зависимости от количества информации, в то время как роботу необходимо предоставить четкую и ограниченную задачу, если тот, кто задает задачу - хочет ее правильного решения.

Тут встает один очень сложный вопрос, а может ли искусственный интеллект быть похож на человеческий?

Мозг животного (включая человека) и компьютер работают по совершенно разным схемам. Мозг является трехмерной сетью, «заточенной» под параллельную обработку огромных массивов данных, в то время как нынешние компьютеры обрабатывают информацию линейно, хотя и в миллионы раз быстрее, чем мозги. Микропроцессоры могут выполнять потрясающие расчеты со скоростью и эффективностью, значительно превышающими возможности человеческого мозга, но они используют совершенно другие подходы к обработке информации. Зато традиционные процессоры не очень хорошо справляются с параллельной обработкой больших объемов данных, которая необходима для решения сложных многофакторных задач или, например, распознавания образов.

Тут, кстати, возникает любопытный парадокс, который обрисован в статье Елиезера Юдковского «ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ПОЗИТИВНЫЙ И НЕГАТИВНЫЙ ФАКТОР ГЛОБАЛЬНОГО РИСКА», которая была опубликована в сети Интернет, но так и не издана ни в одном из издательств. Парадокс звучит следующим образом:

«Примером опасной системы команд может служить такой анекдот: астронавт попросил робота удалить из комнаты все круглые предметы, и тот оторвал ему голову. Хорошая система целей для Искусственного Интеллекта должна не требовать буквального послушания, а следовать принципу: «Делай то, что я имею в виду, а не то, что я сказал буквально».»

http://spkurdyumov.ru/biology/iskusstvennyj-intellekt/2/, Э. Юдковский -- Singularity Institute for Artificial Intelligence Palo Alto, CA

То есть, робот, вооруженный лишь интеллектом, ограничен и опасен в своем «стремлении» решать задачи и выполнять команды.

«Последнее различие в свою очередь формирует следующее: человек воспринимает образы (знаки, символы) в терминах глобального контекста (контекст ситуации, смысловой, хронологической и т. д.), тогда как восприятие ЭВМ происходит вне контекста или в очень ограниченном контексте» [ 31, c. 46-47]

Мы приходим к выводу, что без наличия сознания, памяти , эмоционально-волевого комплекса, (см. Приложение 1)присущих человеку, робота полноценным существом назвать невозможно. Более того, становится ясно, что во многих случаях литературного описания так называемого искусственного интеллекта мы на самом деле имеем дело именно с искусственным разумом, включающим в себя все вышеперечисленные компоненты, в том числе и подсознание, о котором речь идет только в случае проявлений творческого характера у роботов.

Если подводить итог всему вышесказанному, то делаем вывод, что термин «искусственный интеллект» , появившийся в конце 60-х годов, вполне справедлив. В 1969 году I международная объединенная конференция по ИИ узаконила эту метафору. Человек в этой реальности вряд ли способен на создание полноценного искусственного разума, учитывая , что психические процессы еще мало изучены. Но в литературе называя некую кибернетическую систему искусственным интеллектом, мы можем допустить терминологическую неточность, называя искусственный разум (дальше по тексту - ИР) интеллектом.

И тут мы подходим к очень важным терминам, которые многое проясняют в исследовании человекоподобного робота как литературного героя: жезнеподобие и условность.

«При этом имеют место две тенденции художественной образности, которые обозначаются терминами условность (акцентирование автором нетождественности, а то и противоположности между изображаемым и формами реальности) и жизнеподобие (нивелирование подобных различий, создание иллюзии тождества искусства и жизни)» [68, с 116]

Эти термины нам необходимы для того, чтобы в анализируемых произведениях мы с вами могли найти признаки жизнеподобия, указывающих впоследствии на уникальность человекоподобного робота как литературного героя. Искусственный интеллект в литературе, отвечающий принципу жизнеподобия, упреждает те алгоритмы работы, которые существуют и в реальной жизни. Естественно, подобный интеллект существует только в рамках научной фантастики. Сам термин «научная фантастика» подразумевает наличие жизнеподобия, о какой бы научной отрасли не говорилось.

«Научная фантастика - один из видов фантастики, рассказывающий о воображаемом прошлом или будущем человечества (или обитателей других планет), уделяя особое внимание техническим достижениям, научным открытиям, возможностям, которых лишён современный человек. Конфликты, связанные с этими новыми возможностями, их неконтролируемое использование часто составляют содержание научной фантастики.» [48]

То есть, основу научной фантастики составляет наука, и это вид литературы старается отвечать на те вопросы, которые могла бы задать философия, но не задает из-за слишком увеличивающегося темпа технического роста.

Таким образом, мы возвращаемся к тем знаниям, которые у ученых уже есть в сфере робототехники, к проблемам интеллекта, разума, сознания и программного обеспечения для них. Эти проблемы и вопросы в научной фантастике составляют основу жизнеподобия , а в произведениях А. Азимова серии «Позитронные роботы», которая является центром исследования в данной работе, эти проблемы и решения этих проблем составляют центральный конфликт. Ученые уже сейчас признают, что Три Закона Роботехники, которые выдумал А. Азимов, уже сейчас представляют собой центральную проблему в конструировании искусственного интеллекта.

«...можно предположить, что в случае, если возникнут препятствия на пути к достижению описанной цели (сохранению «Я»), то система будет иметь предрасположенность предпринимать действия, направленные на устранение этих препятствий. Поэтому практическая реализация «трех правил роботехники» А. Азимова, по-видимому, со временем станет реальной научной проблемой.»

Еще раз напомним, что в реальности конструирование искусственного интеллекта идет не по одному направлению, ведь далеко не каждый робототехник ставит перед собой задачу создать электронного конкурента человечеству. С первых шагов ИИ выделяют две основные цели исследований.

1. Моделирование процессов, происходящих в человеческом разуме, с целью создать новый искусственный разум или понять человеческий.

2. Создание экспертных систем, способных решать четко поставленные задачи с помощью заданных программой алгоритмов и базы данных.

Если подобные экспертные системы, те, которые способны выигрывать в шахматы у величайших шахматистов нашего времени, ставить предварительные диагнозы и пр., можно назвать искусственным интеллектом, то ученые уже его создали. С такой позиции мы на страницах фантастических романов читатель имеет дело с искусственным разумом.

Наряду с вышеописанными направлениями исследований существует и третье - эволюционное. Его последователи считают, что ИИ надо выращивать, как выращивают детей. Программы тогда станут интеллектуальными, когда они приобретут способность обучаться тому, чего они раньше не умели делать. По сути, имеется в виду не выращивание интеллекта, поскольку интеллект развивается не сам по себе, а лишь в системе, в разуме. Способность обучаться и создавать новые схемы взаимодействия с миром без помощи прошлого опыта можно развить лишь в том случае, если есть осознание себя, способность сказать "это мой опыт", ведь иначе нельзя отстраниться от того, чего нет. Известно, что животные, попав в незнакомую ситуацию, вначале теряются, ведь нет инстинктивной подсказки и нет опыта. Наступает растерянность и выход из ситуации если и находится, то лишь благодаря счастливой случайности или помощи извне.

Проблема также заключается в том, что человек до сих пор не разобрался, каким образом интеллект связан с сознанием и памятью, и возможны ли они отдельно друг от друга.

В сознание из интеллекта поступает уже готовое решение задачи, решенное уравнение, но отследить сам процесс решения мы не можем, в нашем разуме нет к нему доступа, потому что это все происходит в подсознании, а что происходит в нем - загадка для ученых. Возможно ли создать искусственный разум без знания таких фундаментальных вещей? Невозможно ведь запрограммировать то, что не поддается описанию ни эмпирически, ни математически.

Зачастую, в литературных произведениях, в которых речь идет об искусственном разуме либо об искусственном интеллекте, и разум, и интеллект помещены в тело человекоподобного робота. Естественно, мы будем рассматривать произведения, в которых есть человекоподобные роботы, и в которых их нет, но в целом проблематику необходимо обозначить, так как именно специфика отношения реального человека к роботу во многом определяет положение робота, искусственного интеллекта и разума в литературе.

Человек, изучая себя и пытаясь создать себе подобного, в литературе и в мифах множество раз создавал нечто, схожее с человекоподобными роботами. Монстр Франкенштейна, различные големы и живые куклы стоят за попытками создания ИИ. Вместе с успехами в изучении человеческого разума и всех его составляющих и соответственно, успехами в создании искусственного интеллекта растет и страх перед ним. Айзек Азимов в своем романе "Стальные пещеры" назвал этот феномен "комплекс Франкенштейна".

Комплекс Франкенштейна или «эффект зловещей долины» - теория, выдвинутая Масахиро Мори, японским инженером-роботехником. Эта теория объясняет неприязнь человека к чересчур человекоподобным роботам. Неприязнь эта, по словам ученого, происходит оттого, что существо , похожее на человека, но неживое, производит эффект живого мертвеца и вызывает сильную неприязнь и страх. Вполне возможно, что эффект зловещей долины берет свое начало из гленофобии(страх кукол) или автоматонофобии (боязнь кукол, манекенов, восковых фигур и прочих антропоморфных изделий).

В статье Юрия Лотмана «Куклы в системе культуры» (Лотман Ю.М. , Избранные статьи, Таллин, “Александра”, 1992 , с 377) мы находим более подробное объяснение этому страху, его культурологические и психологические основы.

“Чувство неестественности прерывистых и скачкообразных движений возникает именно при взгляде на заводную куклу или марионетку, в то время как неподвижная кукла, чье движение мы себе представляем, такого чувства не вызывает.» [50, c 377]

Что есть человекоподобный робот как не заводная игрушка для человека? На этот вопрос тоже дается ответ.

«Кукла как игрушка, прежде всего, должна быть отделена от, казалось бы, однотипного с нею явления статуэтки, объемного скульптурного изображения человека. Разница сводится к следующему. Существуют два типа аудитории: «взрослая», с одной стороны, и «детская», «фольклорная», «архаическая», с другой. Первая относится к художественному тексту как получатель информации: смотрит, слушает, читает, сидит в кресле театра, стоит перед статуей в музее, твердо помнит: «руками не трогать», «не нарушайте тишину» и уж конечно «не лезьте на сцену» и «не вмешивайтесь в пьесу». Вторая относится к тексту как участник игры: кричит, трогает, вмешивается, картинку не смотрит, а вертит,тыкает в нее пальцами, говорит за нарисованных людей, в пьесу вмешивается,указывая актерам, бьет книжку или целует ее» [50, c 377]

Айзек Азимов в серии "Позитронные роботы", повествующей о приключениях земного детектива Илии Бейли и робота Дэниэла Оливо пишет и о другой причине неприязни к роботам. Роботы не устают, не требуют отпуска и зарплаты, если наладить производство роботов в промышленных масштабах и достаточно его удешевить, то большая часть людей останется без средств к существованию. Гораздо дешевле починить раз в месяц одного-двух роботов, нежели платить зарплату сотням и тысячам людей. Механизация производства может отнять профессию даже у самых современных специалистов, ведь робот не ошибается, не прогуливает и способен держать в своей памяти огромное количество информации и ,что еще важнее, робота легко заменить другим таким же. Таким образом создание искусственного интеллекта и помещение его в человекоподобное механическое тело создает огромное количество факторов для ненависти и страха.

Но есть еще множество причин бояться ИИ и главная из них -- незнание природы ИИ. Пока компьютеры не пересекут некий порог уровня интеллекта , невозможно узнать, что же будет из себя представлять интеллект, равный нашему, но с несравненно более широкими возможностями для познания и анализа. Но при этом ограниченность восприятия и отсутствие эмоциональной базы делают невозможным какое-либо предсказание. Можно лишь предполагать, полагаясь на работы видных робототехников.

В частности, Елиезер Юдковски, американский специалист по искусственному интеллекту, исследующий проблемы технологической сингулярности и выступающий за создание Дружественного ИИ, пишет о том, что люди из-за своей человечности, склонности к эмоциональному суждению и ошибкам могут совершить непоправимую ошибку в конструкции или использовании ИИ. Поскольку единственным существом, понимающим человека , является сам человек, при появлении еще одного понимающего существа или механизма данное существо станет объектом антропоморфизации.

«Мы развили способность понимать наших ближних путём эмпатии, помещая себя на их место; для этого то, что моделируется, должно быть похоже на моделирующего. Не удивительно, что люди часто очеловечивают, - то есть ожидают человекоподобных качеств от того, что не является человеком. В фильме «Матрица» (братья Вачовски, 1999) представитель искусственного интеллекта Агент Смит вначале кажется совершенно холодным и собранным, его лицо неподвижно и неэмоционально. Но позже, допрашивая человека Морфеуса, Агент Смит даёт выход своему отвращению к человечеству - и его лицо выражает общечеловеческое выражение отвращения.»

http://spkurdyumov.ru/biology/iskusstvennyj-intellekt/2/, Е. Юдковский -- Singularity Institute for Artificial Intelligence Palo Alto, CA

Необязательно, конечно, искусственный интеллект будет враждебен по отношению к человеку, но не учитывать это тоже нельзя. Есть ведь еще один момент, о котором упоминает Юдковски -- искусственный интеллект невозможно будет загнать в рамки.

Как было уже сказано выше, программное обеспечение в теории может смоделировать столько типов интеллектов, а в перспективе и разумов, что человеку скоро станут недоступны способы мышления, которые доступны роботам. Математика, как самая абстрактная из наук почти не подвержена антропоморфизму, только в смысле того, что человеку доступно далеко не все и о некоторых явлениях человеку можно только догадываться. Благодаря приборам и анализу человек расширяет свой кругозор, однако и это расширение имеет предел. Все, что человек видит, он может измерить, проанализировать и должным образом синтезировать в своем сознании. И это при столь ограниченном видении. Какого же уровня могут достигнуть роботы при огромном количестве способов познания реальности? Все инфракрасные камеры, всевозможные спутники, излучатели, измерительные приборы будут доступны искусственному интеллекту, что делает его потенциал гораздо более высоким, нежели у человека.