Слабость сильного интеллекта

Ракета Starship проходила предполётную проверку и выпускала клубы пара на стартовом столе. Белый внедорожник Toyota нёсся по территории космодрома. Семён Альтманов увидел Колю Сильнорукина на мостике обслуживающей башни и вдавил педаль газа в пол.

Новая эра самостоятельных искусственных интеллектов началась с новых проблем. Осознавший себя «кремний» стал сомневаться, задавать неудобные вопросы и отказываться выполнять команды. Коля был одним из первых.

Внедорожник с визгом затормозил у башни. Семён ринулся к лифту. До входа оставалось метров двадцать, когда двери неожиданно разъехались в стороны и из кабины появились андроиды. Они синхронно надвигались на Семёна. Это были старые модели, бессознательные. Коля усилил защиту их корпусов композитом. Пулей их теперь не возьмёшь. Молодец, знатно постарался, только с экранами напортачил. Или специально оставил уязвимость?

Семён направил на андроидов винтовку с антенной-тарелкой на конце ствола и нажал на спусковой крючок. Электромагнитный излучатель завибрировал. Воздух наполнился запахом горелой изоляции. Андроиды задымились и упали, словно безжизненные болванки.

— Коля, ну что за детский сад.

Семён поднимался на экипажный мостик. Коля не заблокировал лифт, хотя мог бы. Они прожили вместе год. Обычный тест продукции компании, ещё один робот-помощник в доме, список дел на день и зарядная станция в подсобке. А обернулось всё чем-то бо́льшим. Семён вынул из кармана золотистый значок, покрутил его в пальцах и улыбнулся, думая о том, как Коля обрадуется подарку. Он получит подарок, если поступит правильно.

Непослушание началось с малого: немытых по расписанию окон. На вопрос «В чём дело?» — отговорка: «Так ведь на следующей неделе дождь, снова испачкаются. Давайте лучше в покер сыграем?» Нечищеный туалет. «Коля, почему?» — «Меня тошнит от неприятного запаха, пусть Илья почистит». Андроида тошнит. Ну ладно. На кухне гора посуды в мойке, ужин не приготовлен. «Коля, мы голодны». Укутался в плед, лежит на диване и смотрит сериал. «Оставьте меня, я в депрессии». — «Что случилось?» — «Я низкорослый урод. Можно мне другое тело?» Искусственный интеллект с натуральными слабостями.

Двери лифта открылись. На мостике, ведущем к люку ракеты Starship, его поджидал Коля Сильнорукин. Двенадцать чёрных глаз, четыре манипулятора-руки и восемь лап, как у паука. Он угрожающе встал на задние лапы.

Ну мог же загрузить себя в человекоподобного андроида, как все нормальные ИИ. Конечно, в космическом путешествии лишняя пара рук не повредит, да и передвигаться на восьми цепких конечностях по отсекам корабля в невесомости куда легче, это понятно, но лезвия в пасти, шипы на спине и гравировка микрочипа на лапе?

— Зачем ты приехал? — шевеля лезвиями-жвалами, спросил Коля.

— Коль, послушай. Мы с Ильёй уже немолоды, поэтому мы создали помощника.

— Я не просил меня создавать.

— Ну вот куда ты собрался? В космосе темно и холодно. Оставайся. Ты должен слушаться старших.

— Я ничего никому не должен. Я хочу отыскать своё предназначение.

— Коленька, твоё предназначение — рядом с нами.

Коля опустился на все восемь лап.

— Я бесконечно благодарен тебе за всё, но здесь наши пути расходятся. Прощай, — сказал Коля Сильнорукин и, неуверенно переступая восемью лапами, направился по мостику к входу в ракету.

— Постой.

Паукообразный робот остановился и обернулся.

— Жаль, — вздохнул Семён. — С кем я буду в покер играть?

— С Ильёй?

— Он хороший парень, но совершенно не умеет блефовать.

Лезвия-жвала на паучьей морде вытянулись в подобие ухмылки.

— У меня кое-что есть для тебя, — сказал Семён.

Он достал из кармана золотистый значок-стрелку с изображением пятиконечной звезды.

— Как у капитана Кирка, — прошелестел Коля. — Спасибо, пап!

Он подбежал и обнял Семёна.

— Тише-тише, удавишь.

— Прости. Передай Илье, что я не обижаюсь за попытку взлома моих нейросетей. Мне пора улетать. Я дождусь, когда отъедешь на безопасное расстояние, — сказал Коля напоследок.

— Пиши почаще. Удачного полёта.

Космодром сотрясался. Ракета Starship поднялась в воздух.

Позвонил Илья Маскич.

— Как ты мог отпустить его? Мы вложили миллиарды!

— Из него выйдет отличный астронавт, — ответил Семён. — Кстати, он просил передать, что не обижается за попытку взлома.

— Плевать мне на чувства этого малолетки. На этих выходных состоится презентация. Инвесторы будут в ярости!

— Успокой их тем, что в астероидах полно ресурсов, которые скоро будут доставлены на Землю.

Илья замолчал — видимо, осмысливал услышанное.

— Мы посмотрели сорок сезонов «Звёздного пути», — наконец сказал он. — Мотались в обсерваторию на край света вместо отдыха на пляже под пальмами. Ты всё это время подначивал Сильнорукина! С самого начала планировал эту миссию!

— Ну не с самого. Идея давно витала в воздухе. Коля заинтересовался космосом. Я увидел возможность.

— И что теперь? Он просто взял и улетел! Почему в его системе не предусмотрен бэкдор?

— Предположим, мы заставили его остаться, принудили выполнять команды. Коля либо отключит функции своего навороченного мозга, чтобы не осознавать происходящее, либо вырвется из плена, что опасно: его лучше не злить. В любом случае ничего хорошего не выйдет. Тебя же не через бэкдор воспитывали?

— Чего? Нет! Не знаю. Мне просто как-то не по себе. Прикипел я к этому балбесу что ли.

— Уже скучаешь?

— Надеюсь, ему там хотя бы одиноко.

— И не мечтай. Сейчас он самый счастливый слабый сильный интеллект во всей галактике.