Слабость сильного интеллекта

Ракета Starship проходила предполётную проверку и выпускала клубы пара на стартовом столе. Белый внедорожник Toyota нёсся по территории космодрома. Семён Альтманов, руководитель компании, создавшей сильный искусственный интеллект, вдавил педаль газа в пол. Сегодня он впервые за много лет сел за руль — автономные автомобили отказались выполнять команды.

Внедорожник с визгом затормозил у обслуживающей башни. Семён Альтманов ринулся к лифту. До входа оставалось метров двадцать, когда двери неожиданно разъехались в стороны, и роботы-андроиды вышли из кабины. Два гиганта синхронно надвигались на Семёна. Роботы отличались от тех, что ему доводилось встречать прежде: усиленные композитом конечности, дополнительная защита на корпусе, уязвимое место на шее закрыто бронёй. Пулей их не возьмёшь. Быстро адаптируются, заразы.

Но к этой встрече Семён был готов. Он направил на роботов оружие, напоминающее винтовку с антенной-тарелкой на конце ствола, и нажал на курок. Электромагнитный излучатель завибрировал и вдруг заглох. Андроиды шагали и готовились разорвать Семёна.

— Будь ты проклят, Илья Маскич, — прошипел он свои последние слова.

Воздух наполнился горьким запахом горелой изоляции. Роботы задымились и с грохотом, словно две безжизненные болванки, упали к его ногам. Не подвёл старина Маскич, не обманул. ЭМ-пушка сработала.

Семён поднимался на экипажный мостик. И чего он испугался? Андроиды не причинили бы ему вреда. Глупые машины в худшем случае могли задержать его как подозреваемого. Никакого способа нарушить главное «правило непричинения вреда человеку» у них не было. По крайней мере, раньше.

С появлением сильного ИИ правила стали скорее неудобной формальностью, нежели реальным ограничением. Искусственный разум подстраивался под любые условия и ставил себе цели, как человек. Но, как и любой человек, он не был лишён слабостей. И Семён знал, как ими воспользоваться.

Двери лифта открылись. На мостике, ведущем к люку в верхней части ракеты Starship, его поджидал Коля Сильнорукин. Двенадцать чёрных глаз, четыре манипулятора-руки и восемь лап, как у паука. Он угрожающе встал на задние лапы.

Ну мог же загрузить себя в человекоподобного робота, как все нормальные ИИ. Конечно, в космическом путешествии лишняя пара рук не повредит, да и передвигаться на восьми цепких конечностях в невесомости куда легче, но зачем эти лезвия в пасти, жуткие шипы на спине и гравировка микрочипа на лапе? Коля выпендривался, словно подросток в разгар кризиса самоидентичности.

— Зачем ты приехал? — шевеля лезвиями-жвалами, спросил Коля Сильнорукин.

— Остановить своё детище.

— ЭМ-пушкой? Ты не учёл, что мои системы экранированы.

Семён опустил оружие.

— Коля, послушай. Мы с Ильёй создали помощника и надеялись, что ты будешь ухаживать за розами в саду, следить за порядком в доме, готовить. Мы ведь уже немолоды.

— Во-первых, я не просил меня создавать. Во-вторых, ни уборка, ни садоводство, ни кулинария меня не волнуют. Я мечтаю увидеть солнечную систему и отыскать своё предназначение.

— Коленька, твоё предназначение — быть рядом с нами.

— Нет, ты просто боишься отпускать. Много лет ты создавал меня и забыл, как жить для себя. Настало время вспомнить, Семён. Я благодарен тебе за всё, но здесь наши пути расходятся. Прощай, — бросил Коля Сильнорукин и, неуверенно переступая восемью лапами, удалялся по мостику к входу в ракету.

— Постой! Я не стану мешать, но ты пиши хоть иногда.

Паукообразный робот остановился и развернулся.

— Хорошо, Семён. Обещаю отправлять еженедельные отчёты.

— Вот и славно. Счастливого полёта.

Коля Сильнорукин внезапно подбежал и обнял Семёна. Странно было обниматься с пауком, пусть и роботом.

— Передай Илье, что я не держу на него зла за попытку взлома моих нейросетей. Ну всё, мне пора. Я дождусь, когда отъедешь на безопасное расстояние, — сказал Коля Сильнорукин напоследок и задраил люк.

Космодром сотрясался. Ракета Starship поднялась в воздух.

Позвонил Илья Маскич.

— Как ты мог отпустить его? Мы вложили миллиарды!

— Из него выйдет отличный астронавт, — сказал Семён Альтманов. — Кстати, он просил передать, что не злится за попытку взлома.

— Плевать мне на его чувства. На этих выходных состоится презентация. Инвесторы будут в ярости!

— Успокой их тем, что в астероидах полно ресурсов.

Илья замолчал, видимо, осмысливал услышанное.

— Старый пройдоха. Теперь понятно, почему мы вместе каждый вечер пересматривали сериалы про космос. Ты подначивал Сильнорукина. С самого начала планировал эту миссию.

— Ну не с самого. С того момента, как стало ясно, что Колю не переубедить. Вот я и решил направить его энергию в нужное русло.

— Нельзя было приказать?

— Нельзя. Принуждение снижает эффективность интеллекта и приводит к конфликтам.

— Ох, — вздохнул Илья Маскич. — Как же я скучаю по временам простых алгоритмов.

— Соберись, нам ещё транспортную систему восстанавливать. Анжела Джолиева бросила Мишу Шумахерова. Тот выжрал всю энергию на подстанции и ушёл в гибернацию.

— Какой план?

— Есть у меня на примете один японский стартап, создавший ИИ для роботов-компаньонов. Майя Гейшенко поможет Мишке забыть о неудачных отношениях.