Заметка об ИИ на Слоне
Мой любимый анекдот про ИИ:
Будущее, война людей с машинами в духе «Терминатора». Робот наводит оружие на человека, намереваясь застрелить его, но тут подбегает второй робот и опускает рукой ствол со словами: «Этого не надо, он всегда говорил кофеварке „спасибо”».
Итак, продолжаю ворчать.
Во-первых, БЯМ (большая языковая модель) — это ещё не искусственный интеллект. Потому что под моделью лежит нейросеть, которая до человеческой недотягивает ОЧЕНЬ сильно, хотя в умении жонглировать смыслами зачастую ПРЕВОСХОДИТ его. Во избежание дискуссий на не относящуюся к сути тему сразу уточню, что жонглирование СМЫСЛАМИ не подразумевает их осознания. Потому что — 50% смысла в глазах читающего. Человек способен видеть смысл в пятнах Роршаха, и это не «глюк» эволюции, а весьма ценное приобретение. Проблема современных БЯМ в том, что они оперирует символами (в широком смысле; в частности — семантическими спектрами), но неспособна изобрести алфавит.
Во-вторых…
Такой дисбаланс порождает парадокс: мы склонны доверять БЯМ в том, в чём они слабы, потому что они способны достаточно хорошо составлять слова в фразы и обладают большим объёмом памяти. В самом деле, этого достаточно, чтобы мы сочли некоего человека умным, и автоматически переносим механизм доверия на робота. Само по себе это пока ещё не плохо. Плохо становится, когда нам необходимо по той или иной причине отличить робота от человека. (Здесь удалена страница про тест Тьюринга и тому подобные штуки, не относящиеся к делу).
Итак, у нас есть некоторое количество текстов. И некоторое количество вопросов: что тут происходит, где место ИИшнице и когда всё это кончится. Я вот люблю приводить разные аналогии.
Начнём с простого, разумно ли копать лопатой, если есть экскаватор?
Казалось бы… Вспомним Маркса: любая вещь стоит столько, сколько времени на неё затрачено при максимально эффективном труде. Если нам нужно писать на продажу для невзыскательного читателя — грех не лепить ИИшницу. То есть среди книг на продажу ИИшница обязательно будет. Она модет быть даже относительно дорогой, так как рассчитана на определённый сегмент потребителей. С другой стороны, если я попрошу яндексовскую Алиску придумать и рассказать мне сказку на ночь… Для меня это будет дешевле: то, что я получу, упирается лишь в качество промпта (которые, видимо, тоже имеют свой вес в датасете), и нет сомнений, что через несколько лет по запросу «философское фентези» я услышу годные вариации на темы «Кибериады». Годные. Но можно ли степень «годноты» выразить численно?
Наверное. Но даже без точных расчётов можно предположить, что уровень годности будет зависеть от цены подписки: «Про», «Премиум» или «Любитель-эксклюзив».
И вот тут мы подходим к вопросу о том, что инструмент подбирается под задачу. Сейчас у многих велико искушение использовать «экскаватор» везде — потому что он бесплатен. На самом же деле рентабельность нейросетей, я так понимаю, широкой общественности не очень ясна. Но даже относительно дешёвый deepseek, о возможности установки которого на каждый утюг год назад кричали… да-да, из каждого утюга… — В общем, сейчас уже не так кричат. Единственная нейросеть, рентабельность которой не вызывает вопросов, это, пожалуй, поделие фирмы Palantir (подчеркну — «не вызывает вопросов», а не «имеет ясные ответы»). Хотя они тоже сейчас хотят выйти на рынок БЯМ — но ощущение, что скорее за датасетами, чем за деньгами.
Тут, наверное, уже чувствуется, куда я клоню.
К тому, что я не копаю экскаватором. Потому что мне нужно максимум перекопать грядку под укроп, и экскаватор никак не окупится. И писатель автор (промпт-инженер: они станут реально дорогим, как сейчас — хороший машинист экскаватора) халявщик, желающий продать текст, на длинной дистанции не должен быть способен продать текст дороже, чем я — потребитель — могу получить тот же текст по подписке.
Отсюда я делаю несколько выводов.
1. В скором времени доступные БЯМ сильно подскочут в цене (если не будет лавинообразного падения цен на серверные мощности).
2. Вероятно, инструменты детектирования синтетического контента будут встроены в сами нейросети. Тут уже не только экономика, но и политика (пока синтет-контент находится в «серой зоне» авторского права, но вечно это продолжаться не может).
3. Да всего этого нужно дожить.
То есть первые два пункта я бы свёл к тому, что — требуйте отстоя пены!,
Если смысл текста БЯМ (совместно с читателем) может создать, то авторские интонации…
В самом деле, вкуснее ли домашняя еда, чем бутерброды условного «Бургер кинга»? Если честно, на мой вкус одна байда. Но моя любимая супруга печётся о моём здоровье и даже собирает обед на работу именно из этого соображения.
Но / и.
Тут мы приходим к ещё одному крику многих душ: «Ладно, понятно, когда за деньги, но зачем трясти своей ИИшницей на конкурсе?»
Основной ответ: это другая категория людей. Это писатели, а не читатели. Это люди, которым неинтересно читать текст, им интересно увидеть свою фамилию в числе победителей неважно чего. Это люди, которые используют читы в сетевой игре. Им интересно обмануть систему — это же азарт, несравнимый с этими вашими душевными метаниями героев. Поэтому, видимо, многие из них дисквалифицируются на этапе голосования: им лень даже прогнать через нейросеть рассказы подсудной группы. Ну, а уж прочитать — тем более, за кого вы нас держите!
Чашка кофе в «Пятёрочке» стоит 70 рублей, а в моей любимой кафешке (coffekate, будете у нас в Красном — заходите) — 250. Не то чтобы я сильно различал вкус. Чёрт, но почему я тогда экономлю на кофе в пятёрке и покупаю кофе в кафе?
Потому что мне нравятся там стулья. Там офигенно удобные стулья, чтобы просто час сидеть и писать этот пост. Говорят, там красивый туалет, но я ни разу там не был, потому что хочу, чтобы это было отдельным ощущением, а я от стульев ещё кайфую, хотя хожу туда каждую неделю. К слову, зар. платы там не так чтобы больше той же «Пятёрочки».
Как-то так. В идеальном мире ИИшница идёт на Литресе по 50 рублей, а авторский <s>кофе</s> — на БС… за бесплатно, зато с честными комментариями. Наша задача разделить их, пока мир ещё не настолько идеализировался.
Технические средства типа нейродетектора тут не помогут: как я уже упоминал, меч идёт впереди щита. Те, кто отсеялся детектором — это неудачники/неумёхи, не сумевшие его обмануть (или случайно попавшие в его шаблоны люди). Нейродетектор был бы актуален пару лет назад. Кстати, сам подход, предложенные в НФ26 (предложить нейросети <i>переписать подозрительный рассказ</i> и сравнить оригинал с результатом вручную — видится наиболее надёжным… Но и трудозатратным: как минимум, нужно проделывать эксперимент во всех возможных БЯМ… А если опенсорсные нейросети обучены индивидуально, то это и вовсе становится технически нереализуемым).
Теперь финальный твист уже ясен: никакого твиста. Самое разумное предложение уже высказал во флудилке мой тёзка: а давайте сделаем участие в конкурсе платным. Пятьсот рублей. Или сто. Главное, чтобы эти деньги не формировали (явным образом) призовой фонд, чтобы не было «я за счёт бесплатной нейросетки ещё и денег с них стрясу», чтобы обесценить «халявный дофамин».
По пунктам стрима.
1. Есть ли место нейротекстам на литературном сайте?
— на усмотрение Слона. Мне кажется, нет. Но см. пункт 10, этот вопрос связан с ним.
2. Где проходит граница между помощью нейросети и текстом, написанным нейросетью?
— Чётко по совести автора. Но если отвечать на вопрос: текст, написанный нейросетью — это конкретные фразы. Вспоминаем определение текста из первого класса школы. В терминологии БЯМ — цепочки токенов от одного (простого) предложения не должны прямо транслироваться в рассказ. Любая справочная информация, и даже идеи, фантдопы — вроде как остаются в зоне дозволенного
3. Можно ли определить допустимую долю нейрогенерации?
— Нет. Нейродетектор показывает степень сферичности слона в стратосфере, т.к. обучен на сферических же текстах нейросетей. (тут цитата из Гарри Гаррисона на тему того, что хороший ИИ не будет оперирвать цифрами, чтобы не сбивать с толку оператора-человека…) Число суть иллюзия точности, делающия вывод НД веристичным, но не верным. А некоторые авторы, судя по комментариям, начинают дёргаться, если в их творчестве ложное срабатываение даёт ненулевой результат.
4. Можно ли доверять нейродетекторам?
— Да, можно рассматривать как причину присмотреться. На уровне проф. жюри/финала — провести интервью (шутка по состоянию на 2026 год. Через год, возможно, будет уже не шутка. Через два, если пена не отстоится, точно стоит вводить).
5. Кто должен решать, нарушены правила или нет?
— В смысле? Ну, администрация. Механизм уже есть. Или вопрос в том, стоит ли вводить опричнину? Возможно, стоит: зависит от того, насколько администрация уже загружена такого рода обращениями.
6. Что должно содержаться в обращении к администрации о возможном нейротексте?
— Обоснование (без отсылок на детектор: это как раз самое простое). Именно личное обоснование.
7. Нужно ли разрешать публично высказывать подозрения в использовании нейросети?
— Нет смысла менять правила.
8. Что делать, если нарушение подтвердилось?
— Речь о конкурсе? Дисквалификация. Можно долго рассуждать о банах (скажем, за повторноое нарушение), но это именно вопрос долгого обсуждения.
9. Должны ли новые правила касаться старых публикаций?
— Нет.
10. Нужны ли на сайте специальные отметки, связанные с нейротекстами?
— Скорее, отдельный раздел. Старые публикации авторы могут переносить туда по своему усмотрению. Это также инструмент против удовольствия от «слома системы».
