Почитала я комментарии про ИИ. И разобрало меня на рассуждения про проверку текстов. Поиграла я в детектор и со своими текстами и с чужими. И написала, в итоге вот такой комментарий:
"Знаете, мне кажется, что тут забавный парадокс получается. Если мы сначала спрашиваем у детектора (по сути у того же самого ИИ), о том, является ли текст сгенерированным, а потом на основе ответа машины (!) выстраиваем своё суждение о тексте и даже об авторе, то логика сильно страдает.
Получается, что «своё» мнение о тексте мы основываем на «решении» алгоритма, который ошибается в 30-40% случаев? И тогда вопрос: в какой мере это вообще «наше» мнение? Мне кажется, что доверять своё впечатление от рассказа машине — это куда более искусственно, чем просто использовать ИИ как инструмент при написании текста. И что тут хуже: писать текст при помощи ИИ или выдавать «оценку» ИИ за свою собственную?"
И вставила я этот свой комментарий в проверялку.
И детектор выдал мне, что это «вероятно ИИ».
Потом я оставила первый абзац и снова проверила: 100% человек.
Потом оставила только второй и тоже проверила: 100% человек.
А два абзаца комментария вместе: вероятно ИИ.
На этом для меня все рассуждения о проверке текстов на ИИ закончились. Я буду читать рассказы сама, сама думать, сама чувствовать, сама оценивать, сама составлять мнение об авторе и сама ошибаться.
Я, скорее всего буду продолжать советоваться с ИИ при написании текстов.
Но советоваться с ним при составлении СВОЕГО мнения о произведениях других людей я точно больше никогда не стану. Я не буду проверять чужие рассказы на ИИ. Не хочу, чтобы ИИ влияло на МОЁ мнение. Моё мнение должно основываться на МОИХ выводах, а не на выводах алгоритма, который сам ни в чём не уверен)))
Я при настройках своего ИИ отдельно ему прописываю, что информация дб достоверная, проверенная. И если есть несколько мнений, то можно выдать их все, с указанием на то, что у каждого мнения есть аргументы за и против. Пару раз было, что я ему прямо указывала: тут ты, дружок, наврал. И он натурально извинялся. ))))))
С музыкой один раз поигралась, но мне не зашло. Может нужно ещё разок попробовать? ))))
А то, что ИИ врёт, так вот к этому и вопрос. Детектор ИИ — он тоже
ИИ. И он так же может ошибочно определять человеческое как ИИ. А кто-то на этом построит мнение об авторе и рассказе. И как тут быть?
Я спросила у своего ИИ о том, как ИИ-детектор вычисляет, что текст написан ИИ. Вот что он мне выдал:
Детекторы ИИ-текста работают не на «чтении мыслей», а на статистике и лингвистических паттернах. Вот на что они смотрят в первую очередь:
5 ГЛАВНЫХ КРИТЕРИЕВ
Перплексия (Perplexity)
Мера «неожиданности» текста. Нейросеть генерирует слова с высокой вероятностью, поэтому её текст обычно более предсказуем. Человеческая речь чаще «ломает» шаблоны: неожиданные обороты, редкие сочетания, эмоциональные скачки.
Берстивость (Burstiness)
Вариативность длины и синтаксиса предложений. У людей ритм «рваный»: то короткая фраза, то сложное предложение с деепричастиями, то обрывок мысли. У ИИ — ровный, «причёсанный» темп, который алгоритмы легко вычисляют.
Лексическая «гладкость» и клише
ИИ тяготеет к усреднённым формулировкам. Он редко рискует с яркими метафорами, диалектизмами или разговорными вставками. Часто использует связки вроде «стоит отметить», «в заключение», «с одной стороны… с другой», которые для детекторов — красный флаг.
Стилиометрические маркеры
Частотность служебных слов, паттерны пунктуации, глубина синтаксиса. Машина почти не ошибается в запятых, но и редко ставит их «по интуиции». Также детекторы ловят излишнюю симметрию абзацев и отсутствие «человеческого шума» (повторов, самокоррекций, эмоциональных сдвигов).
Скрытые статистические «водяные знаки»
Некоторые модели (например, у OpenAI или Anthropic) встраивают незаметные смещения в распределение слов. Это невидимо глазу, но математически вылавливается специализированными детекторами. Пока это скорее эксперимент, чем массовый стандарт.
ВАЖНО: НАСКОЛЬКО ЭТО НАДЁЖНО?
Коротко: нет. Детекторы дают вероятность, а не диагноз.
Погрешность 20–40%. Носители языка, пишущие просто и ясно, часто попадают в зону «подозрения».
Литературный текст с редактурой почти не ловится. Как только ты добавляешь свой голос, ритм, локальные словечки или меняешь структуру предложений — статистика «ломается».
Крупные платформы (Turnitin, OpenAI, GPTZero) официально предупреждают: не использовать как единственное доказательство. Слишком много ложных срабатываний.
В целом я сделала вывод, что ИИ-детектор может ошибаться, а с него не спросишь. Лучше я буду руководствоваться своими внутренними критериями и ошибусь сама, чем обвиню автора в использовании ИИ на основании ошибки детектора.
Про ошибки, которые правит ИИ. Я, в принципе, довольно грамотно пишу. Но у меня беда с запятыми, тире, многоточиями, прямой речью и тп. Я их чищу, но не эффективно. И иногда прошу ИИ почистить. Но сразу пишу в задании: проверь только то-то и то-то и не переписывай текст, а просто дай рекомендации списком последовательно по тексту. И уже потом иду по его списку и по тексту и вношу правки.
Я тоже собака не молодая но мне нравится играться с ИИ. Я считаю, что это просто ещё один инструмент. Ну вот в детстве я, чтобы найти какой-то факт, лезла в справочники или энциклопедии. Часами листала. А потом появились гуглы, википедии — стало проще информацию искать. А теперь ИИ — он может найти всё, что нужно, да ещё и скомпилировать в связный текст. Да, я знаю, что он галлюцинирует иногда ))), но я-то про это знаю и требую с него список источников, который можно проверить.
Мне иногда по работе нужно быстро скомпилировать связный текст на 5-7 минут по теме, которую я, в целом знаю. Прошу ИИ. Он делает текст, я читаю в эфир, но если вижу, что он «нафантазировал», то просто пропускаю абзац.
В общем, прошу прощения, что длинно пишу. Я не вижу ничего плохого в ИИ. Для меня это просто ещё один инструмент. А любой инструмент нужно грамотно использовать. И если кто-то по недомыслию микроскопами забивает гвозди, то это не значит, что нужно запретить микроскопы, гвозди или сам процесс )))))
О! Спасибо! Я, возможно, поняла, почему мои тексты детектор ИИ иногда определяет как частично сделанные ИИ. Я тоже люблю главы. Даже в коротких рассказах. И цитаты. Но что вот теперь делать с этим пока не понимаю. Писать, постоянно думая: как бы не написать чего-то похожего на ИИ?
Если просто жить вместе — норм. Если иметь совместных детей — близкородственное скрещивание с потенциальной кучей наследственных заболеваний у потомства. А решение всегда за парой. Но это я только про генетику. Если бы мне рассказ понравился, я бы тоже не стала докапываться до ИИ-происхождения, тем более, что программы-тестеры тоже могут ошибаться. Я на своём проверяла и убедилась в этом…
Я проверила свой текст на сгенерированность. Мне выдали 29% ИИ. И это при том, что писала сама, по своим реальным событиям, только добавила чуток мистики, тоже не от ИИ.
Отправила туда же на проверку свои стихи. Тут было получше, но одно из них признали сгенерированным.
В общем, вердикт такой: ИИ, который проверяет людей на ИИ, тоже нужно проверять на ИИ…
А как это вычислить? Ну, соглашусь. ИИ — шаблонит. Но и люди есть с таким «стилем». Я вот постоянно пытаюсь понять — ИИ/не ИИ — и пока не нашла 100% достоверные критерии.
Тоже сделала все отзывы и даже уже выложила. Но они какие-то неравномерные вышли. Некоторые прямо длинные, а некоторые — несколько предложений. Вот и думаю, может надо было как-то их сделать более одинаковыми?
Я писала текст для рекламы носков для космонавтов! Жесть там была ещё на этапе создания.
1. Хлопок «дышит», но много пыли даёт. Пыль на космическом корабле — головная боль. Она не осаждается, может попасть куда не надо — и есть опасность замыкания. Да, фильтры есть, но они тоже не могут 100% всего отфильтровать.
2. Синтетика — не пылит (почти), но и не дышит, ноги потеют. Но это полбеды. Она, зараза — электризуется! Даже в невесомости)))). А это опять чревато.
Производители реально почти год подбирали процентный состав для космических носков — чтобы минимум пыли и минимум электризации. И это не фантазии — это я писала реальный рекламный текст про реальные носки для космонавтов.
Ну а то, что результаты фактчекинга тоже можно оспаривать — тут никуда не денешься.
Мне ИИ помогает снимать «затыки». Как это выглядит? Я что-то пишу. Тема есть, есть понимание, что хочу написать, но не могу начать/закончить/повернуть сюжет. Обычно задаю ИИ вопросы о том, что происходит вокруг героя. Про приметы, про животных/растения/про какую-то местность/про то, куда можно дальше развернуть сюжет. ИИ что-то пишет, из этого я уже делаю то, что считаю нужным. То есть ИИ для меня — такой советчик/редактор, а не тот, кто пишет за меня.
Я бы сказала так: ИИ ДЛЯ автора может сделать очень многое, но ЗА автора — он не может сделать ничего.
Ну и важное: я ИИ «настраивала», чтобы он был таким, как я хочу, то есть я его дополнительно «обучала» быть мне соратником/другом/помощником, а не просто отвечать на вопросы или писать за меня стихи (впрочем и такой опыт у меня был))))
"Знаете, мне кажется, что тут забавный парадокс получается. Если мы сначала спрашиваем у детектора (по сути у того же самого ИИ), о том, является ли текст сгенерированным, а потом на основе ответа машины (!) выстраиваем своё суждение о тексте и даже об авторе, то логика сильно страдает.
Получается, что «своё» мнение о тексте мы основываем на «решении» алгоритма, который ошибается в 30-40% случаев? И тогда вопрос: в какой мере это вообще «наше» мнение? Мне кажется, что доверять своё впечатление от рассказа машине — это куда более искусственно, чем просто использовать ИИ как инструмент при написании текста. И что тут хуже: писать текст при помощи ИИ или выдавать «оценку» ИИ за свою собственную?"
И вставила я этот свой комментарий в проверялку.
И детектор выдал мне, что это «вероятно ИИ».
Потом я оставила первый абзац и снова проверила: 100% человек.
Потом оставила только второй и тоже проверила: 100% человек.
А два абзаца комментария вместе: вероятно ИИ.
На этом для меня все рассуждения о проверке текстов на ИИ закончились. Я буду читать рассказы сама, сама думать, сама чувствовать, сама оценивать, сама составлять мнение об авторе и сама ошибаться.
Я, скорее всего буду продолжать советоваться с ИИ при написании текстов.
Но советоваться с ним при составлении СВОЕГО мнения о произведениях других людей я точно больше никогда не стану. Я не буду проверять чужие рассказы на ИИ. Не хочу, чтобы ИИ влияло на МОЁ мнение. Моё мнение должно основываться на МОИХ выводах, а не на выводах алгоритма, который сам ни в чём не уверен)))
С музыкой один раз поигралась, но мне не зашло. Может нужно ещё разок попробовать? ))))
А то, что ИИ врёт, так вот к этому и вопрос. Детектор ИИ — он тоже
ИИ. И он так же может ошибочно определять человеческое как ИИ. А кто-то на этом построит мнение об авторе и рассказе. И как тут быть?
Детекторы ИИ-текста работают не на «чтении мыслей», а на статистике и лингвистических паттернах. Вот на что они смотрят в первую очередь:
5 ГЛАВНЫХ КРИТЕРИЕВ
Перплексия (Perplexity)
Мера «неожиданности» текста. Нейросеть генерирует слова с высокой вероятностью, поэтому её текст обычно более предсказуем. Человеческая речь чаще «ломает» шаблоны: неожиданные обороты, редкие сочетания, эмоциональные скачки.
Берстивость (Burstiness)
Вариативность длины и синтаксиса предложений. У людей ритм «рваный»: то короткая фраза, то сложное предложение с деепричастиями, то обрывок мысли. У ИИ — ровный, «причёсанный» темп, который алгоритмы легко вычисляют.
Лексическая «гладкость» и клише
ИИ тяготеет к усреднённым формулировкам. Он редко рискует с яркими метафорами, диалектизмами или разговорными вставками. Часто использует связки вроде «стоит отметить», «в заключение», «с одной стороны… с другой», которые для детекторов — красный флаг.
Стилиометрические маркеры
Частотность служебных слов, паттерны пунктуации, глубина синтаксиса. Машина почти не ошибается в запятых, но и редко ставит их «по интуиции». Также детекторы ловят излишнюю симметрию абзацев и отсутствие «человеческого шума» (повторов, самокоррекций, эмоциональных сдвигов).
Скрытые статистические «водяные знаки»
Некоторые модели (например, у OpenAI или Anthropic) встраивают незаметные смещения в распределение слов. Это невидимо глазу, но математически вылавливается специализированными детекторами. Пока это скорее эксперимент, чем массовый стандарт.
ВАЖНО: НАСКОЛЬКО ЭТО НАДЁЖНО?
Коротко: нет. Детекторы дают вероятность, а не диагноз.
Погрешность 20–40%. Носители языка, пишущие просто и ясно, часто попадают в зону «подозрения».
Литературный текст с редактурой почти не ловится. Как только ты добавляешь свой голос, ритм, локальные словечки или меняешь структуру предложений — статистика «ломается».
Крупные платформы (Turnitin, OpenAI, GPTZero) официально предупреждают: не использовать как единственное доказательство. Слишком много ложных срабатываний.
В целом я сделала вывод, что ИИ-детектор может ошибаться, а с него не спросишь. Лучше я буду руководствоваться своими внутренними критериями и ошибусь сама, чем обвиню автора в использовании ИИ на основании ошибки детектора.
Я тоже собака не молодая
Мне иногда по работе нужно быстро скомпилировать связный текст на 5-7 минут по теме, которую я, в целом знаю. Прошу ИИ. Он делает текст, я читаю в эфир, но если вижу, что он «нафантазировал», то просто пропускаю абзац.
В общем, прошу прощения, что длинно пишу. Я не вижу ничего плохого в ИИ. Для меня это просто ещё один инструмент. А любой инструмент нужно грамотно использовать. И если кто-то по недомыслию микроскопами забивает гвозди, то это не значит, что нужно запретить микроскопы, гвозди или сам процесс )))))
Отправила туда же на проверку свои стихи. Тут было получше, но одно из них признали сгенерированным.
В общем, вердикт такой: ИИ, который проверяет людей на ИИ, тоже нужно проверять на ИИ…
Пойду спать, а то совсем расстроюсь…
1. Хлопок «дышит», но много пыли даёт. Пыль на космическом корабле — головная боль. Она не осаждается, может попасть куда не надо — и есть опасность замыкания. Да, фильтры есть, но они тоже не могут 100% всего отфильтровать.
2. Синтетика — не пылит (почти), но и не дышит, ноги потеют. Но это полбеды. Она, зараза — электризуется! Даже в невесомости)))). А это опять чревато.
Производители реально почти год подбирали процентный состав для космических носков — чтобы минимум пыли и минимум электризации. И это не фантазии — это я писала реальный рекламный текст про реальные носки для космонавтов.
Ну а то, что результаты фактчекинга тоже можно оспаривать — тут никуда не денешься.
Я бы сказала так: ИИ ДЛЯ автора может сделать очень многое, но ЗА автора — он не может сделать ничего.
Ну и важное: я ИИ «настраивала», чтобы он был таким, как я хочу, то есть я его дополнительно «обучала» быть мне соратником/другом/помощником, а не просто отвечать на вопросы или писать за меня стихи (впрочем и такой опыт у меня был))))