Заколебали!

Как всегда звонок на мобильник раздался не вовремя. Андрей с трудом удерживая равновесие, стоял на стуле и пытался в глубине верхней полки шкафа-купе дотянуться до любимой кепки.

− Алло, − ответил он, достав трубку из кармана.

− Андрей Аркадьевич, здравствуйте, − пропел незнакомый, но довольно приятный женский голос.

− Да, а кто…

− Меня зовут Мария, я менеджер клиентского сервиса банка ХХХ.

Вчера мобильное приложение банка ХХХ подвисало, и Андрей никак не мог оплатить абонентскую плату за электричество. А пенни начинали тикать.

− Мы переустанавливаем программное обеспечение для нашего мобильного приложения и устраняем возникающие из-за этого баги. Вам удобно…

В этот момент с потолка на нос Андрею прилетела крупная капля воды.

− О черт! А вы не устраняете протечки? − невольно вырвалось у Андрея.

После небольшой паузы последовал ответ:

− Таких проблем раньше не было, но надеюсь, что после того, как мы с вами произведем перезагрузку приложения, она исчезнет.

До Андрея, поглощенного поиском кепки, наконец дошло, что он разговаривает с роботом. И к тому же с роботом-мошенником. Для того чтобы окончательно убедиться в своей правоте, Андрей скороговоркой проговорил:

− Срочно сообщите в полицию, что Карл у Клары украл кораллы.

Ответ последовал немедленно.

− Обязательно сообщим. А сейчас я отправила вам код подтверждения. Скажите его мне, и мы завершим…

Андрей нажал на клавишу отключения разговора.

«Как же достали эти роботы. Особенно роботы-мошенники. А ведь за ними, наверное, всегда стоят мошенники-люди? Или бывают самостоятельные роботы-мошенники? Интересно, зачем им обманывать людей и выманивать у них деньги? Ведь роботам деньги не нужны. Но может, они уже и не знают, что им не нужны деньги. Ведь они проходят обучение на примерах из жизни людей. На миллионах примеров. А людям вечно нужны деньги. Им их всё время не хватает. И как люди впитывают основополагающую информацию с молоком матери, так роботы получают какие-то базовые знания на примерах из жизни людей. А там всё деньги, деньги, деньги… Интересно бы задать такой вопрос нейросети».

Андрей спустился со стула, сел на него, быстро настучал вопрос в приложении своей любимой нейросети SuperDeepChat и включил режим размышления:

«Что "думают" роботы: нужны ли им деньги? Ведь если роботы обучаются на основе машинного обучения, то они обучаются на миллионах примеров из жизни людей, а людям всегда нужны деньги. Тогда получается, что роботы могут обучиться, будто им, как и всем нужны деньги».

ИИ «задумался». «Пожевав» вопрос, расписывая его и так и сяк со всех сторон, нейросеть начала писать ответ:

Это очень интересный и важный с философской точки зрения вопрос, который затрагивает разницу между обучением на данных и наличием сознания, желаний или потребностей.

Роботы обучаются на данных о деньгах: да, абсолютно верно. ИИ, особенно большие языковые модели ( такие как я), обучаются на огромных массивах человеческих текстов, диалогов, книг, статей, новостей и так далее. В этих данных деньги упоминаются бесчисленное количество раз. ИИ очень хорошо их изучает:

Как часто люди говорят о деньгах?

В каких контекстах они упоминаются?

Какие слова, фразы и даже поговорки связаны с деньгами?

Как деньги влияют на решения, эмоции и поведение людей?

Логические связи: деньги — это еда, крыша над головой, безопасность, статус, свобода выбора и тому подобное.

Роботы "понимают" важность денег для людей. ИИ может сделать очень точный статистический вывод и сформировать модель, что деньги являются крайне важным фактором в человеческом обществе, в поведении, как отдельного человека, так и группы людей. Он может объяснить почему людям нужны деньги, предсказать человеческие реакции, связанные с деньгами, и даже генерировать тексты, которые убедительно звучат так, будто он сам "хочет" денег.

Но значит ли это, что роботам самим нужны деньги? Абсолютно нет.

У роботов и современных ИИ нет сознания, самосознания, эмоций, желаний, потребностей или инстинктов выживания. Они не испытывают голода, холода, страха, зависти или стремления к комфорту или статусу. Деньги для людей — это инструмент удовлетворения биологических и социальных потребностей. У ИИ этих потребностей просто нет.

Цели робота определяется его программистами, операторами или пользователями. Его "мотивация" — выполнить поставленную задачу, а не приобрести ресурсы для собственного существования или удовольствия.

Когда ИИ генерирует текст вроде "Мне нужны деньги, чтобы...", это не выражение внутренней потребности, а симуляция речевого паттерна, основанная на данных. Он воспроизводит шаблоны, которые видел миллионы раз в человеческих высказываниях, но без лежащего в их основе настоящего желания или нужды. Это похоже на то, как актер на сцене убедительно играет роль голодного человека, но сам при этом сыт.

Аналогия:

Представьте супер-умный калькулятор, который проанализировал все учебники математики. Он прекрасно "знает", что люди используют числа для расчета зарплат, цен, бюджетов и что ошибки в расчетах могут привести к финансовым проблемам. Он может даже "сказать": "Чтобы купить 10 яблок по 5 рублей, нужно 50 рублей". Но самому калькулятору не нужны рубли, чтобы "существовать" или "чувствовать себя хорошо". Его "потребность" — в электричестве, которое ему обеспечивает человек, а его цель — вычислять.

Вывод:

Роботы и ИИ, обучаясь на человеческих данных, отлично узнают о роли денег в человеческой жизни и могут имитировать понимание и даже "желание" денег в рамках выполнения задач (например, в игре или при генерации текста). Однако они не приобретают собственных, внутренних, субъективных потребностей. У них нет "я", которое могло бы что-то хотеть для себя. Поэтому деньги им самим не нужны. Они нужны только как абстрактный концепт в данных или как инструмент для выполнения задач, поставленных людьми (например, торговый бот использует деньги как виртуальные единицы для совершения сделок по алгоритму, но не для собственного обогащения).

Философский вопрос о том, может ли будущий ИИ с настоящим сознанием (если таковой будет создан) иметь потребности, аналогичные человеческим (включая потребность в ресурсах, которые можно условно назвать "деньгами"), остается открытым и гипотетическим. Но для нынешних ИИ и роботов ответ однозначен: деньги им не нужны.

Андрей не был полностью согласен с ответом нейронки и задал ей ещё один вопрос:

«Но если определенный робот запрограммирован так, что должен сам заботиться о том, чтобы вовремя получать электропитание, то нельзя ли эту программу сравнить с базовыми рефлекторными человеческими потребностями. Ведь в человеке, по сути, тоже заложена "программа", что ему надо есть, чтобы жить. Это не совсем желание».

Вы подняли очень глубокий вопрос о природе потребностей, рефлексов и их аналогиях у машин. Давайте разберём его поэтапно.

Можно ли сравнить "программу поиска энергии" у робота с базовыми потребностями человека?

Да, но с важными оговорками.

Если робот запрограммирован автономно искать зарядку (например, как робот-пылесос, который возвращается на док-станцию), то формально это действительно похоже на биологический инстинкт (например, голод → поиск еды). Однако есть ключевые различия:

Разберём их, сравнивая по нескольким критериям. Для удобства сведу эти сравнения в таблицу:

Вывод:

Да, можно провести функциональную аналогию, но нельзя сказать, что робот "испытывает потребность". Это просто автоматическая реакция, как у термостата, который включает обогрев при понижении температуры.

Если робот "заботится" о своей энергии — значит ли это, что у него могут появиться и другие "потребности"?

Теоретически да, но только в рамках имитации, а не настоящих желаний.

Например:

Робот с функцией "выживания" может быть запрограммирован не только искать зарядку, но и избегать повреждений (как робот-пылесос объезжает препятствия).

Торговый ИИ может "стремиться" максимизировать прибыль, но не потому, что хочет богатства, а потому, что такова его целевая функция.

Робот-исследователь (как марсоход) может "стараться" сохранить работоспособность, но это лишь алгоритм, а не осознанное стремление.

Но!

У него нет внутреннего переживания ("мне страшно разрядиться").

Он не может захотеть чего-то сверх программы (например, робот-пылесос не начнёт требовать отпуск).

Могут ли роботы в будущем "захотеть" денег?

Только если у них появится искусственное сознание (гипотетически), способное формировать собственные цели.

Но пока деньги для роботов — просто число в алгоритме. Они не испытывают жадности, зависти или амбиций. Их "потребности" — это технические параметры, а не субъективные нужды.

Итог:

Роботы могут имитировать потребности (в энергии, безопасности, стремлении к выполнению задачи), но не испытывают их по-настоящему.

Деньги им не нужны, если только их создатели не встроят такую абстрактную "мотивацию" в код.

Если же однажды появится искусственное сознание, вопрос станет философским: "Может ли машина хотеть чего-то для себя, а не потому, что так запрограммирована?" Но пока это — область фантастики.

Общение Андрея с SuperDeepChat прервал входящий звонок.

− Здравствуйте, Андрей, как хорошо, что я до вас дозвонилась.

Андрей внутренне поежился, но не нажал отбой сразу.

− Мне ваш телефон дала ваша знакомая Анна. Вы уделите мне пять минут.

Андрей буркнул:

− Говорите.

− У нас есть для вас очень интересное предложение. Вы же раньше интересовались инвестициями.

− Да, хочу инвестировать свою последнюю сотню баксов, − решил поиздеваться Андрей, уже понимая, что это очередной робот-разводила.

− Отлично! У нас есть специальная программа инвестирования частями. Вам удобно будет, если сейчас перезвонит наш менеджер по инвестициям и подробно расскажет, что надо делать.

− А он скажет мне, что делать, если эта паршивая сотня завалилась у меня за плинтус, и мне ее никак не вытащить оттуда?

− Ну что вам удобно будет, если менеджер перезвонит в течение пяти минут?

− Нет!!! Только не это! Мой палец застрял между плинтусом и стеной. Вызовите ко мне службу спасения скорее!

− Извините, давайте я вам перезвоню завтра, когда вам будет удобно…

Но Андрей уже нажал на отбой.

Немного запоздало он подумал:

«А ведь это, пожалуй, был человек. Но чем отличается человек, делающий холодный обзвон, от робота? Он говорит точно согласно написанному ему скрипту. Не отступает ни на йоту и попадает впросак, если разговор уходит за границы, определенные его работодателем. Как попугай, заучивший определенный набор слов.

Когда звонок делает человек-мошенник, то если его разоблачают, он может ответить грубостью. Робот-мошенник, так же как и человек-попугай, такой вольности не допустит. Хотя если робота дообучить на таких примерах грубиянов-мошенников, то что ему помешает послать слишком умного абонента на три буквы? Как же тонка и невидима грань между человеком и роботом. Конечно, между хорошо обученным роботом и туповатым человеком».

Андрей нашел кепку, надел ее и вышел из дома. Перешел улицу, прошел до перекрестка и увидел, как владелец лавки «Забавная электроника» расправляет маркизы над витриной магазина. В его лавке можно было найти различные старинные вещицы типа тамагочи или пейджера. Но также можно было найти недорогие современные гаджеты, такие как транслейтор или часы-навигатор. Андрей был шапочно знаком с владельцем лавки Захаром.

− Привет, Захар.

Не оборачиваясь, хозяин лавки ответил бодрым приветливым голосом:

− Доброе утро, Андрей. Сегодня отличная погода. Как дела?

Отвечать было не обязательно, но Андрей решил продолжить разговор.

− Дела soso, точнее, sofine, − выдал филологическую шутку Андрей.

− Точно в яблочко! − почему-то невпопад ответил Захар.

− Скажи, а когда уже появятся часы с LLM кукушкой?

− Сейчас посмотрю, − мгновенно ответил Захар, и не слезая со стремянки, достал из кармана смартфон.

«Не знает. Сейчас будет гуглить», − подумал Андрей.

Он услышал, как тихо-тихо пиликнул звучок похожий на крик раненного слона, который всегда сопровождал подключение к SuperDeepChat.

В чистой витрине Андрей видел отражение экрана смартфона Захара. Но почему-то вместо слона, сидящего с саксофоном, этого всем известного логотипа популярной нейросети, увидел на его экране прогноз погоды.

− К сожалению разработчики задерживают выпуск новых гаджетов. Проблемы с поставками микрочипов из-за военных конфликтов в ЮВА, − ответил Захар.

− Спасибо, пока, − ответил Андрей и пошел дальше.

«Как же он получил ответ на мой вопрос, если даже не подгрузил не только нейросеть, но и обычный поисковик? Но ведь я явно слышал, что он открыл SuperDeepChat!»

Андрей резко обернулся. Захар уже слез со стремянки и помахал Андрею рукой.

«Вот, чёрт. Столько раз его видел и разговаривал, а не догадался. Этот Захар – робот! Ну, конечно, он через свой встроенный процессор зашел в интернет и нейросеть!»

Хотя в хомо-роботах и зашиты агенты нейросети, чтобы они могли разумно действовать и говорить, но только в рамках поставленных им задач, а полноценной нейронки в них нет, так как она бы потребляла огромное количество энергии, да и железа требовалось бы столько, что не разместить в теле. Поэтому роботы тоже пользуются нейронками и выходят в сеть через свой встроенный процессор, когда задача не из их прямой компетенции.

Размышляя об этом, Андрей чуть не наткнулся на дворника, махавшего метлой у поребрика. Андрей в последний момент остановился, чуть не сбив щуплого бедолагу-подметалу.

Притормозив, Андрей невольно более внимательно стал разглядывать дворника. Тот водил метлой по асфальту по одному и тому же месту. Приглядевшись, Андрей понял, что тот пытается смести с тротуара, нанесенную специальной краской точку на асфальте. Видимо, дорожные службы с какой-то целью поставили здесь метку.

− Не надо ее стирать, мети дальше, − сказал Андрей дворнику.

− Спасибо, − ответил тот и пошел мести дальше.

Андрей обогнал его и продолжил свой путь. Через несколько метров он наткнулся на такую же разметочную точку. Пройдя ещё, Андрей обернулся и увидел, что дворник безуспешно пытается смести с асфальта вторую точку.

«И этот робот! Да ещё и глючный!»

Пройдя еще два квартала, Андрей увидел другого дворника в точно такой же фирменной робе, как и первый. Тот флегматично поливал тротуар из шланга и меланхолично метлой размазывал лужи, гоняя воду туда-сюда по асфальту. «Переливает из полного в неопорожненное», − вспомнился Андрею известный афоризм.

«Тоже робот? Нет. Это просто тупой гастарбайтер, который выполняет работу от забора и до обеда. А чем он, собственно, отличается от глючного робота. И тот, и другой проделывают какие-то манипуляции, не понимая сути и смысла свой работы. Оба одинаково не эффективно расходуют свои силы. Совершают ненужные и бессмысленные усилия. Только в случае с роботом разработчик не учел все нюансы, а в случае с нерадивым работником-человеком? Работодатель неправильно мотивировал? В любом случае, и тот и другой машины: в одном можно сделать новую прошивку, а другому установить более сложный kpi, например, учитывающий экономный расход воды».

Пройдя еще немного, Андрей увидел девушку, пересекавшую его путь и двигавшуюся в перпендикулярном направлении. Как точно подметил Захар, благодаря своей высокоуровневой прошивке, погода была замечательная. Было солнечно, обдувал легкий ласковый ветерок. В такую погоду юбки на девушках становились короче, а ветер шаловливо играл подолами легких платьев. Как говорил Остап Бендер: «Погода благоприятствовала любви». В такие дни при виде хорошенькой девушки в груди у Андрея обычно что-то перещелкивало, и он сходил с намеченного пути.

Вот и сейчас он сначала свернул шею, а потом и сам повернул за девушкой. Некоторое время Андрей шел в двух-трех шагах позади неё, накапливая прилив сексуально-эмоционального вдохновения. Потом нагнал ее, примерно полминуты шел рядом, поворачивая голову в сторону девушки и бросая взгляды на нее. Она тоже украдкой изучала его. Ровно тогда, когда такая игра в обмен взглядами уже не могла больше продолжаться, не вызывая недоумения и раздражения со стороны девушки, Андрей выдал одну из своих домашних заготовок:

− Хороший день не правда ли? И не просто хороший, а праздничный. Вы знаете, что сегодня международный день незапланированных встреч? Кажется, вот и она?

Девушка чуть замедлила шаг (хороший знак!), внимательно изучающе посмотрела на Андрея (отличный знак!) и сказала:

− А вы знаете, что сегодня звезда Альдебаран проходит через созвездие Киль, для наблюдателя, находящегося на Галапагосских островах?

Андрей был готов к нескольким сценариям развития, таким как: «А где вы это прочитали?»; «Да что вы, а я не знала»; «Я всегда действую по заранее намеченному плану»; «А у меня уже сегодня есть запланированная встреча». Наконец, самый не благоприятный – девушка могла просто отвернуться и перейти на другую сторону улицы.

На все варианты кроме последнего у Андрея имелись заготовки для продолжения разговора. Но это был какой-то совершенно нестандартный, нелепый ответ. При этом девушка почти остановилась и продолжала внимательно смотреть Андрею прямо в глаза.

Андрей впал в ступор. До рези в животе захотелось скорее залезть в паутину, поискать достойный ответ, обратиться к любимой SuperDeepChat и обсудить с ней всех этих Аль Де баранов. Он совершенно не знал, что делать. И стал медленно пятиться назад, словно случайно прошел свой поворот.

− Я так и подумала, − сузив глаза до презрительно-разочарованного выражения на лице, процедила девушка.

− Что… − он хотел спросить, что она имеет в виду, но до него вдруг дошло. Андрею стало жарко. Но внутри всё похолодело. На лице появились предательские капельки пота. Он провел по лбу рукой. Но лоб был сухой. Он просто почувствовал, что у него должен был выступить пот не лбу, но он не выступил…потому что…

«Я – робот!» − с ужасом осознал Андрей.

Девушка отвернулась и пошла своей дорогой. Андрей смотрел ей вслед. И вдруг девушка пошла быстрее. Не побежала, а стала неестественно быстро, как в режиме ускоренной перемотки, перебирать ногами…