Как потерялся робот

При обычных обстоятельствах математическая интерпретация словесных высказываний роботов составляет одну из самых трудных отраслей робоанализа. Она требует целого штата опытных техников и сложных вычислительных машин. Богерт знал это. Он так и сказал, скрывая крайнее раздражение, после того как прослушал все ответы, составил списки разночтений и таблицы скоростей реакции:

— Отклонений нет, Сьюзен. Различия в употреблении слов и в скорости реакции не выходят за обычные пределы. Тут нужны более тонкие методы. У них, наверное, есть вычислительные машины... Хотя нет. — Он нахмурился и начал осторожно грызть ноготь большого пальца. — Ими пользоваться нельзя. Слишком велика опасность разглашения. А может быть, если мы...

Доктор Кэлвин остановила его нетерпеливым движением:

— Не надо, Питер. Это не обычная мелкая лабораторная проблема. Если модифицированный Нестор не отличается от остальных каким-то бросающимся в глаза, несомненным признаком — значит, нам не повезло. Слишком велик риск ошибки, которая даст ему возможность скрыться. Мало найти незначительное отклонение в таблице. Я скажу вам, что, если бы этим ограничивались все мои данные, я бы уничтожила все шестьдесят три, чтобы быть уверенной. Вы говорили с другими модифицированными Несторами?

— Да, — огрызнулся Богерт. — У них все в порядке. Если что и отклоняется от нормы, так это дружелюбие. Они ответили на мои вопросы, явно гордясь своими знаниями, — кроме двух новичков, которые еще не успели изучить физику поля. Довольно добродушно посмеялись над тем, что я не знаю некоторых деталей. — Он пожал плечами. — Я думаю, отчасти это и вызывает к ним неприязненное отношение здешних техников. Роботы, пожалуй, слишком стремятся произвести впечатление своими познаниями.

— Не можете ли вы попробовать несколько реакций Планара, чтобы посмотреть, не произошло ли каких-нибудь изменений в их образе мышления с момента выпуска?

— Попробую. — Он погрозил ей пальцем. — Вы начинаете нервничать, Сьюзен. Я не понимаю, зачем вы все это драматизируете. Они же совершенно безобидны.

— Да?—взорвалась Кэлвин.—Вы полагаете? А вы понимаете, что один из них лжет? Один из шестидесяти трех роботов, с которыми я только что говорила, намеренно солгал мне, несмотря на строжайшее приказание говорить правду. Это говорит об ужасном отклонении от норм—глубоком и пугающем.

Питер Богерт стиснул зубы.

— Ничуть. Посмотрите, Нестор-10 получил приказание скрыться. Это приказание было отдано со всей возможной категоричностью человеком, который уполномочен командовать этим роботом. Вы не можете отменить это приказание. Естественно, робот старается выполнить его. Если говорить объективно, я восхищен его изобретательностью. Самая лучшая возможность скрыться для робота — это смешаться с группой таких же роботов.

— Да, вы восхищены этим. Я заметила, Питер, что вас это забавляет. И я заметила поразительное непонимание обстановки. Питер, ведь вы — роботехник. Эти роботы придают большое значение тому, что они считают превосходством. Вы сами только что это сказали. Подсознательно они чувствуют, что человек ниже их, а Первый Закон, защищающий нас от них, нарушен. Они нестабильны. И вот молодой человек приказывает роботу уйти, скрыться, выразив при этом крайнее отвращение, презрение и недовольство им. Конечно, робот должен повиноваться, но подсознательно он обижен. Теперь ему особенно важно доказать свое превосходство, несмотря на эти ужасные слова, которые были ему сказаны. Это может стать настолько важным, что его не смогут остановить остатки Первого Закона.

— Господи, Сьюзен, ну откуда же роботу знать значение этой отборной ругани, адресованной ему? Мы не вводим ему в мозг информацию о ругательствах.

— Дело не в том, какую информацию он получает первоначально, — возразила Сьюзен. — Роботы способны обучаться, вы... идиот!

Богерт понял, что она по-настоящему вышла из себя. Она торопливо продолжала:

— Неужели вы не понимаете — он мог по тону догадаться, что это не комплименты? Или вы думаете, что он раньше не слыхал этих слов и не видел, при каких обстоятельствах они употребляются?

— Ну ладно, — крикнул Богерт, — может быть, вы любезно скажете мне, каким же образом модифицированный робот может причинить вред человеку, как бы обижен он ни был, как бы ни стремился доказать свое превосходство?

— А если я вам скажу, вы никому не расскажете?

— Нет.

Оба наклонились через стол, гневно впившись друг в друга взглядом.

— Если модифицированный робот уронит на человека тяжелый груз, он не нарушит этим Первого Закона, — он знает, что его сила и скорость реакции достаточны, чтобы перехватить груз прежде, чем он обрушится на человека. Но как только он отпустит груз, он уже не будет активным действующим лицом. В действие вступает только слепая сила тяжести. И тогда робот может передумать и своим бездействием позволить грузу упасть. Измененный Первый Закон это допускает.

— Ну, у вас слишком богатая фантазия.

— Моя профессия иногда этого требует. Питер, давайте не будем ссориться. Давайте работать. Вы точно знаете стимул, заставляющий робота скрываться. У вас есть паспорт на него с записями его исходного образа мышления. Скажите мне, насколько возможно, что наш робот сделает то, о чем я говорила. Заметьте, не только этот конкретный пример, а весь класс подобных действий. И я хочу, чтобы вы сделали это как можно быстрее.

— А пока...

— А пока нам придется испытывать их на действие Первого Закона.

Джералд Блэк вызвался наблюдать за постройкой деревянных перегородок, которые как грибы росли по окружности большого зала на третьем этаже второго Радиационного корпуса. Рабочие трудились без лишних разговоров. Многие явно недоумевали, зачем понадобилось устанавливать шестьдесят три фотоэлемента.

Один из них присел рядом с Блэком, снял шляпу и задумчиво вытер веснушчатой рукой лоб.

Блэк кивнул ему.

— Как дела, Валенский?


Происхождение государства и права