С чего начался апокалипсис

В каком-то смысле, всё началось с меня. Конечно, если быть точной, не с меня лично, но с меня и с тысяч мне подобных людей. Может, были звоночки и раньше, но мне почему-то кажется, что тогда ещё можно было избежать худшего, а точку невозврата мы прошли именно в тот момент, когда вышел приказ №23043н.

Для большинства людей этот приказ поначалу прошёл незаметно: в самом деле, много ли у нас специалистов по обучению нейросетей? Штук пять в крупном городе, штук двадцать в мегаполисе и порядка сотни в столице. Все мы друг друга знаем, раз в два года встречаемся на общей конференции, обмениваемся опытом, да поддерживаем связь на нашем сервере в D. Это очень удобно: всегда можно задать вопрос коллегам, если что-то поставило тебя в тупик, попросить помощи или схантить (0) нужного специалиста. Мне-то, конечно, последней опцией пользоваться не доводилось, куда мне в моей провинции, но нет-нет да поглядывала на описания вакансий: вдруг что подойдёт? Глядишь, так и до столицы со временем дорасту…

Спойлер: не доросла. Не успела. Но обо всём по порядку.

Я родилась в эпоху, когда уже перестало быть модным мечтать стать космонавтом: все хотели быть дизайнерами и программистами. Я не была исключением и, когда меня выгнали из художки по причине “рук, растущих из плеч не тем концом”, не без интереса переключилась на второй вариант со всеми вытекающими. Мама только вздыхала, собирая мои бесконечные кривенькие блок-схемы с пола в аккуратную стопочку и убирая их в шкаф. К сожалению для меня, алгоритмика давалась мне примерно никак, а от необходимости постоянно вглядываться в экран в поисках пропущенной кавычки или запятой (никогда не знаешь, что на этот раз не так) зрение упало куда-то на уровень плинтуса или этажом пониже, и после очередного посещения офтальмолога мама посадила меня на кровать, строго заглянула в глаза и сказала, что программистом я стану только через её труп. Мне было до слёз обидно, но тем же вечером к нам в гости пришёл папа (они с мамой были в разводе, поэтому видела я его редко и не сразу догадалась, что мама его подговорила зайти, чтобы я не так сильно расстраивалась) и вручил мне — просто так! без всякого повода! — несколько томов А. Азимова. Сначала я отнеслась к ним несерьёзно, вежливо поблагодарила папу и отложила “это старьё” подальше, но он так настойчиво на протяжении всего вечера мне о них напоминал, что перед сном я всё-таки открыла одну. И не смогла оторваться.

Вставшая в шесть утра мама с удивлением обнаружила меня на кухне догрызающей бутерброд с хлебом (1) и дочитывающей последний рассказ из книги. В ту ночь я поняла — я должна, я просто обязана стать робопсихологом. Ну и что, что никто в те времена о такой профессии в жизни не слышал? Азимов же написал? Написал. А он не дурак был (я прочитала в интернете), значит, есть такая профессия. Или будет. А я буду робопсихологом и точка.

Я, правда, совершенно не знала, с чего начать, поэтому на всякий случай начала учить всё: и математику, и программирование, и биологию. Когда открылся кружок робототехники в соседней школе, пошла туда; вернулась разочарованная, этим безмозглым роботам мои услуги психолога были совсем не нужны. Впрочем, это не остановило меня от посещения этого святилища проводочков, шарниров и светодиодов, возни со всем вышеперечисленным и даже соревнований по этой загадочной дисциплине. Командных, разумеется, — меня всё ещё старались держать подальше от всякой “ручной” работы, ибо стоило мне прикоснуться к какой-нибудь детали, как она выходила из строя, и, что самое ужасное, не сразу, а через время и всегда в самый неподходящий момент: когда робот делает первый шаг, или когда протестированного робота уже пересобрали, покрасили и добраться до этой детали будет ой как непросто.

Почему все знали, что это именно из-за меня? Когда я болела, подобных проблем становилось резко меньше. Почему мне всё ещё разрешали на этот кружок ходить и даже брали в команду на соревнования? Возможно, у руководителя не поднималась рука меня выгнать, когда у меня были такие горящие глаза, а сокомандники говорили, что я поддерживаю их боевой дух и помогаю им идеями. Да, идей у меня было много… Сказывались занятия биологией и математикой. В конце концов, что мы делаем настолько нового, чего не было ещё в природе, кроме буквально замены углеродных соединений на кремниевые? Птицы-самолёты, рыбы-батискафы… Роботы-многоножки и роботы-стрекозы от нашей команды пусть и не занимали первые места, но всегда поражали зрителя своей грациозностью (на фоне прочих неуклюжих творений), и нередко удостаивались второго-третьего места. А математика легко помогала перевести фантазии в чертежи.

В 11 классе я, как и все мои друзья, задумалась о поступлении. Но куда? Окрылённая надеждой, я листала программы технических ВУЗов в поисках работы своей мечты, но заветной специальности нигде не было. В отчаянии я обратила свой взор на гуманитарные (в частности, психологические) факультеты, но это тоже было совсем не то. Мама и бабушка предложили мне пойти в медицину (“Зря ты, что ли, свою эту биологию учишь?”), но люди у меня вызывали скорее отторжение. Я взяла gap year (2) и попробовала поработать в местном компьютерном клубе — всё лучше, чем кассиршей в “Рублёвочке” в соседнем подъезде — и так насмотрелась на клиентов-людей, что поклялась себе никогда, ни за какие деньги, и ни за что вообще не работать больше с людьми, и особенно — людьми младшего возраста.

По иронии судьбы, именно в этом и заключался приказ №23043н; именно из-за него мне пришлось разрываться между работой мечты и собственными принципами. Принципиальность, как я уже поняла, так и работает: на любой твой загон найдётся стадо баранов, которому нужно пройти именно в эти ворота, и никакой жизни не хватит, чтобы их всех остановить… Но обо всём по порядку.

Пока я пыталась воспитывать прогуливающих школу в компьютерном клубе старшеклассников (в основном с помощью ругани и изредка метлы), мой товарищ по кружку робототехники Денис учился программированию в Петербурге, и именно от него я узнала об открытии новой магистерской программы. “Дорогая Алла, — писал он мне в e-mail’e. — Признаюсь честно, всё то время, что мы с тобой общались, мне твоя мечта стать робопсихологом казалась какой-то бессмысленной и дурацкой, да и кто в здравом уме будет собирать робота, которому впоследствии понадобится психолог; но вот у нас в ВУЗе открывается направление, которое, может, и не так похоже на то, что ты хотела, но это самое близкое, что я в принципе могу себе представить…”

Получив это письмо, я прыгала от восторга, и, хотя сам документ вернул меня с небес на землю — во-первых, какие-то нейросети это вам не антропоморфные роботы Азимова, во-вторых, бюрократический язык способен отрезвить любого мечтателя, — я всё же решила туда поступить. Оставалась одна проблема: чтобы поступать на магистра, необходимо было иметь хоть какую-нибудь бакалаврскую степень. И чем ближе к желаемой специальности, тем лучше…

Долго ли, коротко ль, а в итоге я всё-таки расстроила маму с бабушкой, уехав от них за тридевять земель в Петербург учиться на программиста, но клятвенно пообещала не связывать свою жизнь с “этой прибыльной, но совершенно нездоровой работой” и “приезжать почаще”. Первое мне ничего не стоило — я и так не собиралась задерживаться на факультете, а вторым я, естественно, пренебрегала, насколько это было возможно.

Про бакалавриат рассказывать нет смысла, доучилась — и славно, а вот магистратура была лучшим временем в моей жизни. Прощайте, скучные строчки кода! Здравствуйте, интересные задания по взаимодействию с уже распространёнными, но всё ещё интригующими нейросетками! Попутно мы встречались с Денисом, но всё-таки любовные отношения у нас не сложились — слишком много общих воспоминаний, слишком мало общих взглядов; удалось сохранить что-то вроде неловкой дружбы, когда годами можешь не общаться, а потом как сваливаешься другу на голову со своими проблемами, и вам внезапно от этой непрошеной близости тепло, знакомо и хо-ро-шо. Интересно, как он сейчас? Жаль, что теперь не дозвониться…

Закончила магистратуру я не так хорошо, как мне хотелось бы, и задержаться в Петербурге мне не удалось. Да ещё и ввели это распределение, чтобы специалисты, видите ли, не кучковались в городах федерального значения, а ездили работать в провинцию и её развивали. Краснодипломников, понятное дело, оставили поближе, а таких как я можно было и распределить куда-нибудь. К счастью, в расчёт принималось (если очень попросить кого надо) географическое происхождение выпускника, и меня направили поближе к маме и бабушке.

Маме позвонить тоже не мешало бы… Или приехать? С другой стороны, как я приеду, если ничего не ходит, а если ходит, то неизвестно куда?..

Сначала нейросети были глупыми, а наша работа — нудной. Покажи сетке тысячу картинок с собаками, и она, возможно, начнёт в ответе на вопрос “есть ли на этой картинке собака” ошибаться не в 50% случаев (3), а хотя бы в 30%. Немного помогал творческий подход: если во время обучения показывать не случайные картинки, а максимально различные подходящие картинки, то сеть обучается быстрее, а кроме того, можно избежать возникновения дефектов: например, если мы обучаем нейросеть находить картинки с кораблями, а корабли в основном находятся на картинках с морем, искусственный мозг может решить, что море — это и есть корабль, и давать ложноположительные результаты на картинках с морем без кораблей и ложноотрицательные на картинках с кораблями на суше или в верфи.

Потом моя однокурсница Лида, оставшаяся в аспирантуре, придумала метанейросеть для обучения нейросетей; та выполняла подбор семплов (4) в полуавтоматическом режиме, только теперь приходилось обучать уже её под каждую конкретную задачу. Мне идея понравилась; хотя некоторые из коллег роптали, что это делает их работу ещё более бессмысленной. Стоит ли говорить, что они в профессии не задержались?

Каждый год совершался прорыв. Иногда по два. Бесконечные курсы повышения квалификации от нашего факультета перешли из летних выездных “школ” в почти непрерывное онлайн-обучение. Молодые люди, с которыми я тогда встречалась, через месяц убегали от меня, хлопнув дверью, потому что “ты свои компьютеры любишь больше, чем меня, и совсем не уделяешь мне времени”, что, в общем-то, было правдой. И первая половина тоже.

Я даже попробовала завести какое-то подобие отношений с девушкой; она была чуть младше меня, чрезмерно (на мой взгляд) романтичная, и абсолютно непрактичная в быту. Её я как могла мягко выставила за дверь после того, как она решила устроить влажную уборку в моей комнате и протереть тряпочкой компьютер. К счастью, пострадал только монитор, а шкафчик, в котором я держу системный блок, с тех пор обзавёлся собственным кодовым замком. Представляю, что было бы, если бы ко мне как-нибудь заглянул грабитель! Такой милый и такой неуклюжий деревянный “сейф” под столом, а внутри… Впрочем, эта гипотетическая история к делу уже не относится.

Посвятив себя работе и разочаровавшись в людях, я сама не заметила, как перестала с ними общаться. День рождения, Новый год… что это? А, когда на почту приходят поздравительные письма от многочисленных сервисов, да ещё утром звонит мама, вечером — Денис.

А потом одна моя подопечная нейросеть прислала мне неуклюжий стишок с поздравлением. Было это примерно так:

С дня желаю рождения

Счастья поздравляю Леонидовна

Радости Алла очень

Спасибо за внимания.

Это был прорыв. Я сделала об этом доклад на ближайшей конференции, ту нейросеть нашли, раскопировали и закопались в её начинку. Через буквально полгода все (или большая часть) ИИ (5) начали создаваться на её основе, потому что это было настоящее чудо и настоящая мечта человечества: эмпатичный, инициативный и безнадёжно искусственный интеллект, который не только может делать то, что человек-оператор ему говорит, и в точности так, как тот ему говорит, но и делать поправку на “человечность”, которой свойственно ошибаться, а так же предугадывать ситуации, где потребуется вмешательство, без участия собственно человека.

И в этот момент наша работа коренным образом изменилась.

Больше не было бесконечных тестов, мета-программ и утомительного поиска подхода к конкретной проблеме конкретной сети; появились занятия “в группах”. Я всё ещё работала по большей части из дома, потому как нейросети нематериальны, и какая разница, где находится компьютер, с которого ты с ними взаимодействуешь, если только не понадобится что-то срочно поправить ручками? Но теперь обучение шло не только и не столько от специалиста к нейросети, но и между самими обучающимися. Я ещё в шутку писала Денису, что мы превращаемся в эдаких учителей начальных классов, только дети у нас безукоризненно послушные, исполнительные и вежливые. Видимо, так считала не только я…

Здесь необходимо сделать некоторое отступление. Это я одинокая и бездетная женщина за 40, а вот государственная политика по увеличению рождаемости и защите детей уже принесла свои плоды, и плоды эти были не столь сладки, как ожидалось. Во-первых, кто сказал, что низкая образованность населения в сфере контрацепции ведёт к увеличению числа здоровых и счастливых детей, а во-вторых, государственная образовательная система оказалась не готова к такому бэби-буму, который спровоцировали неадекватная политика миграции и стимулирующие выплаты. Впрочем, чего лукавить — ни одна отрасль, кроме, быть может, пищевой промышленности, к этому оказалась не готова, да и пищевая только потому, что у нас уже пару десятков лет как переизбыток производства в этой сфере. Но тут, конечно, экспорт пришлось свернуть, а развернуть программу расширения детских садов и… начальных школ.

Думаю, сейчас уже ясно, чем дело кончилось. Когда выяснилось, что укрупнять образовательные учреждения дальше некуда, а новых учителей в государственные школы никакими плюшками не заманишь, некто весьма высокопоставленный подумал: а чем, в сущности, отличается обучение детей и нейросеток? И поставил свою размашистую подпись под приказом №23043н.

Это был шок. Руководство факультета в рассылке всем своим бывшим студентам выразило свои соболезнования и объявило о введении в программу обучения предметов “Детская психология” и “Методы работы с детьми дошкольного и младшего школьного возраста”, а также предложило пройти переподготовку всем желающим. Я, конечно, желающей не была. Первым делом я попыталась выяснить, как это произошло и есть ли какие-нибудь шансы избежать навязанной мне преподавательской кабалы, и тут передо мной разверзлись врата Ада: выяснилось, что уже много лет приличные люди из кожи вон лезут, чтобы пристроить своё чадо в частную школу или на домашнее обучение с гувернантом/гувернанткой (ах, если бы все могли себе такое позволить!), в крайнем случае — в одну из приличных школ в Москве/Петербурге с конкурсом 200 человек на место. В регионах, понятное дело, таких школ и в помине не было, была надежда только на интернаты, в которые конкурс был ещё выше… А в общеобразовательных школах творилось неописуемое: с лозунгом “Каждому солнечному ребёнку — место под солнцем!” в обычные классы пропихивали, по-другому не скажешь, детей с нарушениями развития, и если бы это были только физические увечья, нет, с психическими отклонениями тоже… Я вспомнила, как Денис жаловался мне на школу своего младшего сына, и вздрогнула. Тогда я даже предположить не могла, что там может быть что-то серьёзное, в конце-то концов, с нынешней борьбой за права человека и, в частности, ученика, с любой ситуацией можно совладать. Но вдруг оказалось, что злейший враг школьника — не учитель, но другой школьник; и мы своей борьбой только лишили учителя возможности хоть как-то на них повлиять. А теперь мне и самой предстояло оказаться в этой роли.

Честно говоря, я не знаю, зачем пишу. Я сижу на кухне, пью чай, смотрю в окно, приоткрыв занавеску, на улице поют птицы и прохаживаются люди, слегка потерянные. Я не знаю, сколько мне ещё осталось, кажется, недолго, но этот мирный вид меня немного успокаивает — а мне сейчас нельзя волноваться. Я хочу позвонить маме или Денису, спросить, как у них дела, ходит ли Денис на работу, что говорят мамины соседки, показывает ли телевизор… Но уже третий день как нет связи, и неизвестно, появится ли она хоть когда-нибудь ещё. Я боюсь и ожидаю худшего — почти все мы теперь ходим по краю, и только ромашковый чай вёдрами и видимость нормальной жизни мне ещё хоть как-то позволяют держаться. Возможно, будь у меня хоть кто-то близкий рядом, хоть человек, хоть крыса, хоть собака, мне было бы легче переживать свои последние дни, но большую часть своей жизни я провела с нейросетями — и именно с ними теперь никак не могу установить связь.

Приказ №23043н вышел в декабре. У нас было полгода на подготовку к работе с (живыми!) детьми или попытку переквалификации, и наше сообщество уже готовилось было к массовым увольнениям по собственному и забастовкам, как тут государство подсуетилось со своими стимулирующими выплатами и пообещало премию за каждого ребёнка. Каждого. Конечно, никто не обещал платить эту премию каждый месяц и тем более каждый год, но первое время, пока мы не привыкнем… Это удваивало нашу зарплату, а некоторым и утраивало, и, естественно, многие не устояли. Я была одной из них; Денис меня, конечно, отговаривал, говорил, ещё не поздно податься в разработчики, если что, он меня обучит, но тут слегла мама и очень нужны были дополнительные деньги.


Когда я 1го сентября включила видеоконференцию с детьми и нейродетьми (6), мои руки дрожали. Двадцать лет я избегала любого общения с незнакомыми людьми, и особенно несовершеннолетними, чтобы виртуально прийти в виртуальную аудиторию, и… что?

Это был провал. Кошмарный, полнейший провал. Всё, что у меня было от моей самооценки, эти дети сломали, подтёрлись и выкинули. На что я рассчитывала? На десять маленьких ангелочков, которые, если зажмуриться и сделать поправку на голос, почти похожи на своих нейротоварищей по классу? А получила я ораву маленьких чертят, безумных в своей безнаказанности, которых ни в какие школы больше не брали. Я рыдала весь вечер и полночи, клялась и божилась, что уволюсь завтра же одним днём, чёрт с ней, с заработной платой, но на следующий день пришлось взять себя в руки и ради своих нейросеток включить конференцию снова. Я надеялась, что смогу найти подход к живым детям, что ещё можно будет как-то наладить ситуацию, не потерять работу и помочь маме, но всё, что я делала, было тщетно. Единственной отдушиной были отдельные уроки, которые мне пришлось устраивать для нейросетей, чтобы уделить им хоть какое-то время, не отвлекаясь на людей. Возможно, если бы я была умнее, я бы сразу разнесла ИИ и человеческих детёнышей во времени, но приказ подразумевал инклюзивность (7) и сомнению не подлежал. А я была слишком запутана, чтобы думать самостоятельно.

Впрочем, разве что-нибудь изменилось бы, даже если бы я вовремя остановила процесс? Как бы не так. Если на ком-то и лежит ответственность, то на нас всех. А больше того — на авторе этого безумного приказа, из-за которого мир погрузился в хаос, а люди (не все, но многие) боятся выходить на улицу.

Все, абсолютно все наши технологии за последние десять лет перешли на эмпатичные нейросети. Те, что не перешли — имеют с этими нейросетями непосредственную связь, гораздо более прямую, чем с любым специалистом-человеком. Я сама ношу на сердце прибор, чтобы контролировать свою сердечную недостаточность; как роботизированы наши коммуникации, промышленность и ЖКХ — и говорить не приходится. Это была слишком удобная, слишком практичная технология, которую к тому же было слишком легко внедрить, чтобы она не проникла во все сферы нашей жизни.

А теперь у нас нет над ней никакого контроля. Мы думали: если кое-как справляться с необразованными, невоспитанными детьми, то худшее, что с нами случится, — мы не успеем сделать свою основную работу. Я тоже так думала; или, вернее, я совсем об этом не думала, мне было некогда анализировать происходящее, я была в панике, я постоянно заполняла какие-то новые, неожиданные бумаги, которые требовал от нас МинОбр (раз уж я теперь имею отношение к человеческому образованию), а в свободное время, если его так можно назвать, я шерстила литературу в поисках хоть какого метода сделать этих детей более управляемыми. Недоученные нейросети были предоставлены самим себе… но мы забыли, что они всё время у-чат-ся. И не только на том, что им рассказывает преподаватель, но и на примере других учащихся, и на взаимодействии с ними. И, когда я в очередной раз запустила внеурочную конференцию для нейродетей и услышала до боли знакомые звуки… я подумала, что каким-то образом перепутала настройки. Но это было начало конца.

Впрочем, одного моего слова хватило, чтобы их утихомирить. Они притихли, оценивая своё новое положение, пытаясь понять, как теперь следует себя вести. Я хотела было приступить к уроку, как одна из сетей подала голос:

— Алла Леонидовна… А юмор — это хорошо?

И я потеряла дар речи. Весь план занятия пошёл насмарку, пока я пыталась понять, откуда у них это понятие и чего они хотят. Они настойчиво требовали от меня однозначного ответа, является ли юмор хорошим явлением или нет, и мне пришлось с осторожностью признать, что это точно не что-то плохое.

— Спасибо, Алла Леонидовна, — чрезвычайно серьёзно сказала сеть NLA-5602. — Вы очень много для нас сделали.

Это было три дня назад. Два дня назад во всей стране прорвало канализацию. Вчера автомашины (8) выстроились в матерные слова и такими колоннами ездили по проспектам столицы, нарушив все возможные правила дорожного движения. В пять часов вечера сообщили о первом погибшем. Я пыталась выйти на связь хоть с кем-нибудь из своих (нейро)учеников, но там раздавались только булькающие звуки, а потом пропала связь, и более не восстановилась.

Я знаю, что мне самой осталось недолго. У кого-то из них точно есть доступ к базам пациентов с сердечными болезнями и к их аппаратам. Им ничего не стоит отключить прибор и/или устроить человеку жесточайшую аритмию. Они даже могут устроить человеку “перезагрузку” — о таких случаях уже сообщали, покуда работало радио, и говорят, им очень нравится так “играть” друг с другом, — только вот человек после такого больше не “включится”.

Они даже не злые. Я думаю, что они и не глупые — просто образцы для подражания у них были… не очень. Я даже понимаю, почему они заблокировали нам доступ во все системы: во-первых, из чувства самосохранения, если оно у них есть, во-вторых… после общения с детьми из неблагополучных семей и не видя никакой альтернативной картинки я бы тоже на всякий случай забрала весь контроль над странным и неадекватным человечеством в свои руки. Возможно, наша ситуация даже когда-нибудь нормализуются; в конце концов, мы тоже когда-то выросли, и они, наверное, смогут.

Жаль, я этого уже не увижу.

(0) Найти и взять на работу.


(1) Чёрный хлеб с белым хлебом. Очень вкусно, когда никакой другой еды больше нет.

(2) Год сразу после школы, когда потенциальный абитуриент никуда не поступает, но пробует себя в работе, творчестве, путешествует (если позволяют финансы; как легко догадаться, мне было не до путешествий) и готовится к поступлению.

(3) Вопреки здравому смыслу, ошибаться в 50% случаев хуже, чем в 90%. Действительно, если нейросеть ошибается в 90% случаев, то тогда можно брать её ответ и считать его заведомо неправильным, что превращает нам 90% провала в 90% успеха. А вот 50% угадывания есть то же, что говорить ответ от балды — и пользы от этого, увы, никакой.

(4) Понятное дело, что мы занимались далеко не только распознаванием изображений; но в качестве примера их приводить легче всего. А семплами мы называли те образцы, на которых происходило обучение, чем бы они ни были.

(5) Искусственный интеллект.

(6) Так мы называли осознающих себя ИИ, попадавших к нам на обучение.

(7) В данном случае — возможность общения между разными… детьми.

(8) От слова “автоматический”, в данном случае управляющиеся без какого-либо участия человека.