Поиск:


    
РАССЫЛКА
RSS
 

Проблема роботов

Автор: Анна Панина










На одном из японских сайтов о "Метрополисе" есть любительский рассказ "Масляные слезы", довольно затянутый и бессвязный, но с одной сценой, которую я считаю замечательной.

Предшествующий сюжет состоит в том, что Рокк в возрасте шести-семи лет усыновлен герцогом и переселяется во дворец. Помимо приемного отца его новая семья включает сестру - девушку с золотыми волосами, которая добра и прекрасна, как ангел, но не может ходить и передвигается в инвалидном кресле. Зовут ее, разумеется, Тима. Сцена, о которой я говорю, происходит в самом начале жизни Рокка во дворце, когда он случайно подслушивает разговор герцога с неким доктором Лоутоном. Разговор идет о роботе, в конструкции которого Лоутон должен устранить какие-то неполадки.

Мы сразу понимаем, о чем речь: конечно, Тима - один из ранних вариантов машины, окончательный вариант которой действует в фильме, а неполадки в ее конструкции состоят в том, что она не ходит.

Зато мальчик в полном недоумении, он не знал, что в доме есть роботы. В этот момент его присутствие обнаружено. "Хочешь знать, о чем мы говорили и зачем так часто приходит доктор Лоутон? - спрашивает герцог. - Ладно, я тебе расскажу. По ночам, пока ты спишь, доктор чинит тебя, чтобы ты не сломался. Ты робот".

Отношения роботов и людей провозглашаются авторами "Метрополиса" как основная, официальная тема фильма, и зрители тоже ее не забывают. К интересному выводу пришли участники обсуждения различий между роботами в произведениях Азимова и Тэдзуки на одном из японских любительских сайтов. Оказывается, то время как роботы Азимова принципиально отличны от людей и физически, и психологически, и сами лучше всех это знают, у Тэдзуки психологический барьер отсутствует. Машины имеют человеческий разум и чувства, и хотя не могут стать членами человеческого общества, именно в этом всегда состоит их сильнейшее желание.

Конечно, и в рассказах Азимова бывает, что роботы умирают от любви, а люди влюбляются в роботов. Однако в целом проблема роботов у него рассматривается в первую очередь как социальная, а не как эмоциональная, по крайней мере не с точки зрения машин. Положение роботов Тэдзуки ближе к тому, которое изобразил Спилберг в "Искусственном разуме" - у них своего рода несчастный роман с человечеством.

Оставим в стороне вопрос о том, можно ли в принципе создать искусственный интеллект, способный испытывать человеческие чувства. Степень и способ связи между душой и организмом, между нашей эмоциональной жизнью и биохимией до конца не выяснен и даст работу не одному поколению исследователей.

Но даже если представить, что такой механизм создан, с его функционированием и статусом связан один момент, который, по-моему, ускользнул от внимания авторов, пишущих о роботах.

Самый совершенный робот никогда не сможет нести ответственность за свои поступки.

Даже человек не полностью отвечает за то, что он делает и чем является. Два основных фактора, неподвластных нам, это наши гены и среда. Конечно, личность не делится без остатка на врожденные задатки и чужое влияние, но вряд ли кто-нибудь станет отрицать существование того и другого. Часть ответственности за жизнь индивида лежит на природе, которая подарила ему тот, а не иной темперамент, скорость реакции, определила форму пальцев и зрительную память. Другую часть разделяют родители, учителя, приятели - все, кто формирует его характер и дает образец для подражания в отношениях с окружающим миром.

И это люди! Что же говорить о роботах, когда у них все внешние и внутренние качества, до последнего волоска на голове и последней цифры двоичного кода, определены волей заказчиков, конструкторов, программистов, рабочих. То самое, над чем человек не властен в себе, оказывается полностью в его руках при создании механизма. Даже свобода воли должна быть придана роботам искусственно.

Отец может не отвечать за сына, а дрессировщик за цирковое животное, но за машину отвечает ее создатель. Никаких отговорок быть не может.

Я имею в виду не только ситуацию, когда робот причинил кому-то ущерб, но и ту, когда он сам является жертвой. Если робот повторяет человеческую психику достаточно тонко, чтобы испытывать страдание, и если кто-нибудь заставил его страдать, ответственность ложится не только на непосредственного обидчика, но в первую очередь на конструктора или программиста, давшего машине такую способность. Создавая механизм с человеческими чувствами, надо думать о последствиях.

Существуют эксперименты, которые запрещены из моральных соображений, за жестокость. Я думаю, что искусственное моделирование эмоций, когда оно станет возможным, будет рассматриваться именно как такой преступный эксперимент.

Одним словом, мое личное мнение состоит в том, что для применения на практике предпочтительнее подход Азимова, четко разделяющий роботов и людей - позиция более удобная, нравственная и психологически здравая. Подходу Тэдзуки место в искусстве, где он обеспечивает бесконечные возможности для сопереживания всем сторонам.

Произведения, подобные "Метрополису" (или "Искусственному разуму") могут быть хороши с точки зрения искусства, но я бы не стала всерьез рассматривать их как исследования, поднимающие реальный вопрос об отношениях людей и роботов.

Зато их можно рассматривать как поднимающие вопрос об отношениях людей с людьми. Неустранимое внешнее различие при внутреннем сходстве, мечта быть принятым в общество, быть равным, доказать, что "я такой же человек, как и остальные" - ситуация опознается без труда. Перед нами метафора расового или национального конфликта.

При таком понимании все становится на свои места. По-другому звучит мораль. Идея, что люди и роботы должны жить в мире и любви, как друзья и равные, применительно к машинам представляет собой просто глупость, но если речь о людях, это умный и правильный вывод. Даже мелодрама наполняется реальным психологическим содержанием.

Не знаю, в какой мере это входило в замысел авторов "Метрополиса". В литературе я нигде не встречала ссылок на понимание конфликта людей и роботов у Тэдзуки (или где-нибудь еще) как расового. К тому же известно, что Япония исключительно однородна по составу жителей, хотя и там есть своя доля проблем на национальной почве.

С другой стороны, одно из подтверждений глубины и ценности художественного произведения состоит в том, что оно допускает больше прочтений, чем изначально предполагали его создатели.


Источник: metropolis.otaku.ru
Дата: 6 февраля 2005
 
   


(С) «УрбанФабр»
urbanfabr@mail.ru
Rambler's Top100