Очередной скандал вокруг письма с помощью ИИ случился, что вполне уместно, с Папой Римским. 25 мая 2026 года Ватикан опубликовал первую энциклику Папы Льва XIV Magnifica Humanitas, датированную 15 мая, о защите человеческой личности в эпоху искусственного интеллекта. Уже через несколько дней люди скармливали её Pangram — детектору, который внезапно стал респектабельным инструментом литературных и академических подозрений. Некоторые фрагменты, по-видимому, были помечены как написанные с помощью ИИ, и обвинение было легко понять: Папа, или по крайней мере Ватикан, использовал ИИ, чтобы написать об ИИ.
Моя реакция была примерно такой: ну хорошо, и что дальше? Энциклики и без того проходят через институциональное редактирование, работу аппарата, консультации, правки, перевод и сглаживание в духе комитетской работы. Если какой-то ватиканский чиновник использовал Claude, чтобы превратить идеи Папы Льва в прозу, по-настоящему важными остались бы те же вопросы: точен ли документ, продуман ли он и стоит ли его читать. Но должен признать, что я был неправ.
Во второй части моей серии об ИИ я писал, что детекторы письма с ИИ плохи и, вероятно, такими и останутся. Pangram заставил меня передумать: за ним стоят независимые доказательства, он заявляет об очень низкой доле ложных срабатываний и стал тем детектором, к которому обращаются, когда подозревают нераскрытое использование ИИ при письме. Келси Пайпер недавно написала об утверждениях Pangram Labs о том, что несколько отмеченных премиями рассказов были сгенерированы ИИ или написаны при его существенном участии, а Маттео Вонг из The Atlantic теперь написал о растущем влиянии Pangram в школах, издательском деле, журналистике и в целой экономике обвинений в письме с ИИ.
Работающий детектор делает этические вопросы более острыми, потому что он искушает воспринимать происхождение текста как приговор. Именно поэтому шутка об использовании Pangram для отсеивания текстов, написанных человеком, звучит острее, чем кажется поначалу: во многих случаях написанный с помощью ИИ текст может быть более читабельным и полезным, чем неподготовленная человеческая проза. Если лежащие в основе данные надёжны, человеческая борьба на уровне отдельных предложений добавляет немногое.
Должен также честно сказать, что я здесь заинтересованная сторона. Я — тот самый пресловутый ИИ-профессор, который с гордостью пишет с помощью ИИ. Эссе, доказывающее, что детекция ИИ может превратиться в полицию статуса, удобным образом оказывается защитой моей собственной практики, так что читателям стоит задаться вопросом, не провожу ли я границу так, чтобы это льстило мне самому.
Спектр происхождения
Этика письма с ИИ начинается с обещания, которое дал автор. Автор может дать обещание учителю, редактору, читателю, институту или адресату. Этический вопрос зависит от этого обещания раньше, чем от показателя детектора.
Начнём с того, в чём скептики правы. Студенческое задание, в котором ИИ прямо запрещён, — очевидный случай. Конкурс художественной литературы, обещающий открывать новых авторов-людей, — ещё один. Соболезнование относится к иной категории, чем экзамен, но если скорбящий человек ждёт слов именно от вас, передача эмоционального акта машине ощущается как предательство.
Некоторые решения также требуют ответственного человеческого суждения. Если я решаю, получит ли кто-то стипендию или грант, происхождение текста имеет значение, потому что соискатель вправе рассчитывать именно на моё суждение. ИИ может помочь организовать доказательства или проверить их согласованность, но оценочный акт должен оставаться моим.
Последствия тоже важны. Чем влиятельнее решение и чем сильнее оно зависит от личного суждения, тем весомее аргумент в пользу того, чтобы знать, кто или что его приняло. Человеческое усмотрение может быть и хуже усмотрения ИИ: комитет может быть предвзятым или произвольным, а хорошо спроектированная система ИИ со временем способна сделать некоторые решения более последовательными.
Есть и особое правило для высказываний от первого лица. Когда я пишу «я думаю» или «я чувствую», это убеждение действительно должно быть моим. ИИ может помочь мне сформулировать его, проверить на прочность или сделать менее неуклюжим. Но он не может породить само убеждение.
Исследования и журналистика располагаются ближе к середине. Подпись под текстом — это обещание, что автор отвечает за утверждения, доказательства и решения. Она никогда не означала, что автор лично набрал каждое предложение без помощи поисковиков, литературных редакторов, соавторов, переводчиков, а теперь и больших языковых моделей. Если под аргументом стоит моё имя, аргумент должен быть моим; проза может быть написана с помощью.
Многое в техническом письме ближе к стороне «важно содержание». Если я прошу ИИ описать график, написать абзац о методологии или перевести результат регрессии на нормальный язык, главный вопрос — верен ли результат. Мне всё равно нужно проверить цифры и отвечать за итоговый текст. Точность и ответственность несут моральный вес.
На дальнем краю — административные сообщения, где сам человеческий акт письма почти никого не волнует. Если кафедра просит вас отправить вежливое письмо с подтверждением заседания комитета, используйте ИИ свободно. Здесь важен лишь один критерий: правдиво ли и ясно ли это письмо.
Один показатель ИИ не может ответить на этический вопрос. Один и тот же уровень помощи ИИ может быть безобидным в административном письме, полезным в техническом отчёте, сомнительным в личном эссе и недопустимым в учебном задании, где ИИ запрещён. Контекст — это и есть суть, даже когда сама детекция точна.
У детекции тоже есть спектр
Этика детекции должна следовать за этикой использования. Если учитель велел студентам писать без ИИ для конкретного задания, детектор может быть частью процедуры проверки академической честности. Но показатель Pangram никогда не должен быть единственным доказательством — особенно учитывая, как многое стоит для студентов на кону.
Творческие конкурсы сталкиваются с похожей проблемой. Аргумент Пайпер о премии Commonwealth Short Story Prize стоит воспринимать всерьёз, потому что литературные премии отчасти связаны с человеческим мастерством. Если премия вознаграждает голос автора-человека, полностью сгенерированная ИИ работа нарушает саму её предпосылку. Организатор может разрешить ИИ, запретить ИИ или создать отдельную категорию. Одного доверия для решения проблемы недостаточно.
С рецензированием сложнее. Сет Лазар привёл сильнейший вариант аргумента в пользу детекции в ответ на мой более ранний пост о Pangram: сгенерированный ИИ научный поток может превратиться в атаку на рецензирование по типу «отказ в обслуживании». Стоимость производства правдоподобно выглядящих статей обваливается, а обязанность их читать остаётся затратной. В таком контексте детектор может помочь сберечь скудный ресурс рецензирования.
Но и аргумент о рецензировании всё равно зависит от цели. Если цель — поймать студентов, нарушающих явное правило, то мишень — это происхождение текста. Если цель — защитить рецензентов от никчёмных заявок, то происхождение — лишь косвенный показатель: детектор оценивает вероятность того, что текст написан ИИ, но никогда — вероятность того, что он плох. Настоящая мишень — плохая работа: выдуманные данные, фальшивые ссылки, несуществующие методы и статьи без вопроса, на который стоило бы отвечать. Детектор может помочь отсортировать часть этого, но кому-то всё равно придётся проверять сами утверждения.
Меня беспокоит, что мы будем выслеживать тире, не замечая выдуманных данных под ними. Это был бы очень академический способ упустить суть: безупречное внимание к поверхностному маркеру и почти никакого внимания к тому, говорит ли текст что-то правдивое.
Почему раскрытие в основном не работает
Очевидный компромисс — раскрытие. Разрешить людям использовать ИИ, обязать их сообщать об этом и позволить читателям самим решать, насколько это важно. Это звучит привлекательно, потому что превращает помощь ИИ в информацию и снижает моральный накал.
Во второй части серии об ИИ я доказывал, что нормы раскрытия рушатся под давлением стимулов, которые они же создают. Часть аргумента, касающаяся детекторов, теперь нуждается в пересмотре, потому что Pangram, похоже, работает гораздо лучше, чем я ожидал. Но часть про раскрытие по-прежнему кажется мне верной.
Чем этически сомнительнее использование ИИ, тем сильнее стимул его скрывать. У студента, использовавшего ИИ после обещания писать самостоятельно, у участника конкурса, подавшего написанный машиной текст на премию для авторов-людей, или у исследователя, использовавшего ИИ, чтобы замаскировать фальшивые ссылки, есть все основания молчать.
Раскрывать информацию скорее всего будут те, кто использует ИИ в малозначимых случаях: чистит абзац, переводит график или превращает черновые заметки в читабельную прозу, которую всё равно считает своей. Именно в этих случаях раскрытие имеет наименьшее значение. Вероятное равновесие — мир, полный ритуальных признаний о безобидной помощи ИИ, тогда как по-настоящему обманные случаи остаются скрытыми, пока кто-нибудь их не расследует.
Раскрытие всё же может помочь, когда оно само объясняет работу, как здесь. Редакторам, учителям, конкурсным комитетам и тем, кто наделён институциональной властью, тоже следует ясно сообщать правила, которые они применяют. Но если вся система держится на честном признании, она будет наказывать добросовестных и оставлять в покое расчётливых.
Новая граммар-полиция
Я знаю, что выражение «граммар-нацизм» резкое, и я вкладываю в него вполне конкретный смысл. Я родился в Советском Союзе, и российская элитарная культура бывает крайне чувствительна к грамматике, произношению, ударениям и мелким маркерам статуса, зашитым в речь. На практике исправление грамматики нередко работало и как социальная сортировка: не та школа, не тот регион, не то семейное происхождение или не тот тип образования могли проступить в том, как ты говоришь.
В Америке есть своя версия этого. Академический английский полон статусных сигналов, маскирующихся под стандарты. Правильная беглость заставляет вас звучать умно ещё до того, как кто-либо проверит, правы ли вы, а неверный акцент или оборот могут заклеймить вас как несерьёзного человека ещё до того, как ваш аргумент вообще выслушают.
Детекция ИИ превращает эту старую привычку в новый технический ритуал. Те же люди, что когда-то надзирали за грамматикой, теперь надзирают за «приметами ИИ»: тире, плавными переходами, шаблонными метафорами, странно сбалансированными абзацами, прозой, которая выглядит чуть-чуть слишком чистой. Иногда они правы. У письма с ИИ действительно есть узнаваемые паттерны — именно поэтому у меня есть целое руководство по стилю, полное таких примет.
Если кто-то прочитал текст, узнал что-то новое, а затем свёл разговор к одной подозрительной фразе, то «панграмматический» инстинкт впустую потратил время всех участников. Внимание читателя должно идти прежде всего к утверждению, доказательствам и итогу, а надзор за стилем стоит приберечь для случаев, когда проза действительно мешает пониманию или сигнализирует об обмане.
Эта статусная динамика очень знакома. Показатель детектора даёт наукообразное разрешение отмахнуться от работы, не читая её внимательно. Выигрывают обычно состоявшиеся авторы и обладающие полномочиями привратники, способные превратить субъективное суждение в число. Обвинение становится особенно удобным против авторов более низкого статуса и людей, которые плохо пишут по-английски, но теперь могут использовать ИИ, чтобы переводить, составлять черновики и достучаться до англоязычной аудитории. Слишком гладко — выглядит фальшиво. Слишком неуклюже — выглядит низкокачественно. В любом случае привратник выигрывает.
Логика морального заражения усугубляет проблему. Стоит начать относиться к участию ИИ как к скверне, и любой след помощи становится достаточным, чтобы осудить всю работу целиком. Это странный стандарт для мира, где человеческое письмо всегда было социально производимым — редакторами, рецензентами, соавторами, переводчиками и тем предложением, что вы прочли вчера.
Самое смешное из возможных равновесий уже наступило. Инструменты ИИ пишут прозу, которая слишком ясна, детекторы наказывают за ясность, а затем новые инструменты-«гуманизаторы» переписывают прозу, чтобы она выглядела более неуклюжей. TIME недавно описал людей, которые вставляют ошибки и странности, чтобы не звучать как ИИ. Это Grammarly наоборот: сделать текст хуже, чтобы он выглядел более подлинным.
Что делать вместо этого
Я выступаю за скромность детекторов. Pangram стоит использовать только там, где происхождение текста — часть договорённости: экзамены с явным запретом на ИИ, конкурсы, обещающие человеческое мастерство, или институциональные условия, где источник текста — часть самой работы. Институциональное правило должно быть написано до того, как обращаются к показателю: нужно определить, какое использование ИИ нарушит обещание и какая процедура обжалования следует за высоким показателем.
Во многих областях стандарт может быть совсем простым: если вы ставите своё имя под работой, вы за неё отвечаете. Вы отвечаете за факты, утверждения, ошибки, вкус, структуру и суждение. Если ИИ помог вам подготовить точное техническое резюме — хорошо. Если ИИ помог вам быстрее произвести чушь — это на вашей совести.
Поскольку внимание — дефицитный ресурс, люди всё равно будут полагаться на короткие пути. Они будут доверять знакомым именам, уважаемым журналам, редакторам с послужным списком, друзьям, прочитавшим работу, и институтам, которым есть что терять, если они публикуют хлам. Это несовершенно и часто несправедливо. Чужаки и новички платят свою цену, когда фильтром становится репутация. Но репутация хотя бы подотчётна во времени. Если журнал, премия, профессор или автор раз за разом одобряют плохую работу, люди могут это заметить.
Показатель Pangram — это другое. Он даёт быструю догадку о происхождении текста и подталкивает нас перестать читать, прежде чем мы спросили, что текст делает. Pangram, похоже, работает, так что вопрос больше не в том, можем ли мы обнаружить ИИ. Вопрос в том, что нам делать с этой информацией. Используйте её, когда происхождение — часть сделки и ставки оправдывают расследование. Воспринимайте её как повод для суждения, но никогда — как замену суждению.
Если работа фальшива, ошибочна, заимствована, эмоционально нечестна или нарушает ясное правило — скажите об этом и действуйте соответственно. Если работа точна, полезна и принадлежит человеку, чьё имя под ней стоит, то факт, что Codex, Claude или ChatGPT помогли собрать предложения, — слабое основание для скандала. Скандалом было бы выстраивание культуры, в которой все учатся делать текст хуже, чтобы он сошёл за человеческий.
Последнее раскрытие, раз уж весь текст именно об этом вопросе: эссе выше было написано целиком в Codex на основе нескольких часов моих надиктованных мыслей, прежних постов, сохранённых инструкций по стилю и недавних обменов в соцсетях. Обложку и схему спектра тоже сделал Codex. Это не был запрос «в один заход». Мы прошли больше десятка итераций, в основном дорабатывая аргумент и схему. Да, сейчас я использую Codex чаще, чем Claude Code. Да, я прочитал черновик перед публикацией, но вообще не редактировал прозу построчно. По моей же собственной схеме это эссе располагается на стороне «важно содержание», и я за него отвечаю.