Поиск:


    
РАССЫЛКА
RSS
 

Роботехника

Автор: Станислав Лем








Мы живем в эпоху всеобщей специализации. Здесь мне хотелось бы ограничиться одной темой в развитии электроники. Сначала признаюсь, что я никогда не предвидел распространяющейся моды на неживые, но подвижные и даже наделенные голосом существа, которые становятся все более популярными заменителями домашних животных. У них имеются различные встроенные датчики, они могут передвигаться, но единственное, что я не в силах понять, - это большой покупательский спрос на этих псевдоживотных, так как они, по-моему, годятся только в качестве игрушек для детей. Тем временем в рекламе я читаю, что эти псевдособачки или кошечки, или пластиковые имитации коал приносят, якобы, своим взрослым владельцам много приятных минут. Эти псевдоживотные, питающиеся электрическим током, представляют собой пример многочисленных новых созданий, выброшенных на рынок по принципу, что недостаточно лишь удовлетворять потребности, надо их еще и создавать. Мне кажется, что эти пластиковые создания должны некоторым образом быть предзнаменованием (или прелюдией) якобы неотвратимо наступающего времени роботов.

О роботах давно уже писали в научной фантастике  1 и помимо нее, но никто не относился достаточно серьезно к их предполагаемому или выдуманному присутствию. Сегодня же началось настоящее незаметное и разнообразное их проникновение, которое точно я описать не смогу, но определенное представление о нем могу предложить.

Примитивные гомеостаты пятидесятых годов, которые, собственно, и не перешагнули порога лабораторий, могли обходить преграды на ровной поверхности, а при снижении напряжения в аккумуляторах, приводящих их в движение, могли добраться к контакту, питающему их электричеством. Хотя они ни на что не годились, кроме как для поддержания у конструкторов хорошего настроения.

С каждым годом растет количество устройств, которые становятся все более и более успешными посредниками между человеком и объектом его воздействия. У нас уже есть манипуляторы, незаменимые при обработке субстанций, которые могли бы нанести вред человеку при непосредственном контакте (например, радиоактивные). В современной хирургии появились необычайно тонкие приспособления, которые с разной степенью умения могут, например, производить врачебные процедуры вроде операций на сосудах или тканях. Есть также так называемые педипуляторы, но конструкторы, по всей видимости, не очень доверяют их самостоятельности при использовании в качестве движущихся спускаемых аппаратов на Луне, Марсе или других планетах, поэтому пока высылаются не подобные членистоногим, а скорее колесные транспортные средства, как это было с американскими <лунными машинами> или со спускаемыми аппаратами, направленными на Марс. К совершенствованию и увеличению числа подобных (необязательно шагающих) аппаратов конструкторов вынуждает просто даже расстояние до Земли так, что если раньше человек мог управлять луноходом, то сейчас он уже не может с Земли руководить движущимся разведчиком на Марсе.

Наиболее интересно развивается роботехника sensu stricto 2. И неважно, должны ли роботы, которым таким образом предоставлена самостоятельность, быть похожи на человека. Собственно, их <анатомия> несущественна, потому что в основном уже преодолены трудности, связанные с приведением в движение этих устройств, которые двадцать лет назад умели ходить только по такой плоской поверхности, как пол лаборатории, и падали на первых же хороших ступеньках. Самым твердым орешком является вопрос имитации центральной системы управления (или центральной нервной системы высших животных или человека). Надо честно сказать, что речь идет о вступлении в несуществующую еще область психозоической инженерии. В последние годы были существенно усовершенствованы встроенные в роботы программы, благодаря чему они уже могут не менее качественно, чем люди, работать на автомобильных и тракторных заводах. Основой для работы устройств, однако, является достаточно ограниченная повторяемость рабочих операций. Я не буду больше углубляться в затягивающие сети инженерного мастерства. Для программистов настоящим препятствием по-прежнему являются будто бы простые действия, выполняемые каждым человеком без усилий. Устройства, которые могут пыль как-то убрать в комнате с минимумом приносимого ущерба, по-прежнему являются непропорционально дорогими. В общем говоря, ситуация такова, что роботы или псевдороботы овладели только отдельными, сугубо специализированными функциями. Они могут выполнять рекомендации или приказы, но этого недостаточно для удовлетворения амбиций проектировщиков. Они ведут речь о роботах, которые, возможно, совершенно не подобны на человека, но проявляют такую самостоятельность в действиях, которая следует из решения как волевого акта. С этим же проблема потому, что мы по-прежнему не знаем, какие неврологические механизмы мозга отвечают за акт воли. Поэтому программисты занимаются созданием таких программных систем, которые имитируют наличие поведенчески воспринимаемого сознания. Таким образом появилось направление, которое должно не столько пройти, сколько обойти тест Тьюринга.

Я уверен, что как количество, так и качество этих программ, обычно ориентированных на очередные поколения параллельно работающих компьютеров, а также на смешанные соединения псевдонейронных сетей, будет достигать все большего уровня точности и тем самым будет все лучше имитировать присутствие обладающего умом сознания, которое многими людьми будет восприниматься как индивид или как воплощенная в машине индивидуальность. В определенном смысле это будет обман людей как собеседников или сотрудников машины, так как настоящим, присущим личности, сознательным интеллектом, называемым психической жизнью, подоные имитаторы еще обладать не будут. Следует уяснить себе, что эта дорога ведет к нагромождению трудностей, которые в <Големе> я назвал hill climbing toposophical theory 3. Речь идет о вступлении на территорию, пока недоступную для механических пришельцев, территорию, находящуюся в наших черепах. Невозможен какой-то неожиданный скачок от устройства, полностью подчиненного людям, пусть даже иногда и оказывающего сопротивление, которое мы скорее склонны называть ослиным упрямством, и которое хорошо известно пользователям зависающих компьютеров. Прогрессирующая компактность (сжатие) информационных носителей, которые будут все более совершенными эквивалентами твердых дисков, не может обеспечить абсолютную безошибочность. Одна логическая ошибка на миллиард элементарных вычислений - это доказанный предел безошибочности самых быстрых машин, обладающих наибольшей вычислительной мощностью. Не вдаваясь в подробности, скажу только, что за растущую, даже постепенно, быстроту операций надо платить появлением ошибок; быстрота операций, перевалившая за биллион логических шагов, начинает душить логически измеримую, ранее признаваемую совершенной, безошибочность системы.

Наш мозг наш является, как сказал фон Нейманн, совершенной системой, созданной из несовершенных нейронных элементов. Это еще и потому, что к каждому понятию, закодированному в человеческой памяти, ведет множество разнообразных дорог. Например, если я не могу вспомнить, как называется всем известная птица с красиво выгнутой шеей, то я мог бы выбрать из памяти правильное название (лебедь) или начинать припоминать обороты типа <лебединая песня>, или даже балет <Лебединое озеро>. А к находящимся в памяти компьютера <энграммам> обычно ведет одна дорога, поэтому ее блокировка ведет к полной <амнезии> компьютера. Подобных проблем, противостоять которым может только значительный охват сетями элементов памяти, будет множество. Тем более, что у самих людей есть трудности с припоминанием названий, таких как фамилии, потому что количество их пересечений со всем запасом нашей языковой идиоматики, вообще говоря, скромное. Надо также понимать, что от так называемого information retrieval  4 до псевдоинтеллектуальной независимости еще очень далеко.

Пока можно было бы выразить проблему такой фразой: распознавание сымитированной активности искусственного интеллекта будет зависеть как от точности работы машинного имитатора, так и от критических способностей настоящего человеческого интеллекта в контактах, носящих характер n-мерной игры. Если правда, что количество возможных шахматных партий составляет 10100, то количество возможных вариантов разговора человека с искусственным интеллектом и сосчитать невозможно, потому что каждый человек среднего интеллекта способен составлять и понимать семантически и синтаксически правильные предложения, которым его никто до этого времени не обучал. Когда машины покажут, и покажут ли вообще, такое лингвистическое совершенство, мы не знаем, и поэтому не стоит слишком доверять как негативным, так и позитивным заявлениям резвящихся на этом поле философов. Не какие-то крупнокалиберные, выдвигаемые на поле боя аргументы за и против, будут в далеком будущем позволять делать вывод о возникновении или крахе искусственной разумности. Без множества мечтаний, попыток, катастроф не было бы авиации. Без неустанных штурмов не может появиться искусственный интеллект. Решение этого спора я считаю преждевременным.


Источник: Компьютерра
Дата: 6 февраля 2005


Примечания переводчика:

1 (обратно к тексту) - В свое время Станислав Лем выполнил обширное тематическое исследование литературных произведений разных авторов, опубликованное в двухтомнике <Фантастика и футурология> (1970 г., на русском языке не издавался), в котором роботам посвящена глава Роботы и люди.
2 (обратно к тексту) - В строгом смысле (лат.).
3 (обратно к тексту) - Теория топософского (от греческих topos - место и sophia - мудрость) восхождения (англ.). Речь идет о дополнении к фантастическом эссе <Голем XIV>: <Лекция XLII: О себе> (1981 г., на русском языке не опубликовано).
4 (обратно к тексту) - Информационный поиск (англ.).

 
   


(С) «УрбанФабр»
urbanfabr@mail.ru
Rambler's Top100