Najnowszy skandal związany z pisaniem przez AI nadszedł, co znamienne, wraz z papieżem. 25 maja 2026 roku Watykan opublikował pierwszą encyklikę papieża Leona XIV, Magnifica Humanitas, datowaną na 15 maja, poświęconą ochronie osoby ludzkiej w epoce sztucznej inteligencji. W ciągu kilku dni ludzie zaczęli wprowadzać ją do Pangrama, detektora, który nagle stał się szacownym narzędziem literackiej i akademickiej podejrzliwości. Niektóre fragmenty zostały podobno oznaczone jako wspomagane przez AI, a oskarżenie było łatwe do zrozumienia: papież, a przynajmniej Watykan, użył AI, by pisać o AI.
Moja reakcja brzmiała w gruncie rzeczy: dobrze, i co z tego? Encykliki już przechodzą przez instytucjonalne redagowanie, pracę zespołu, konsultacje, rewizje, tłumaczenia i komitetowe wygładzanie. Gdyby jakiś watykański urzędnik użył Claude’a, by przekuć idee papieża Leona w prozę, istotne pytania nadal dotyczyłyby tego, czy dokument jest rzetelny, przemyślany i wart przeczytania. Muszę jednak przyznać, że się myliłem.
W Części II mojej serii o AI napisałem, że detektory pisania AI są kiepskie i prawdopodobnie takie pozostaną. Pangram zmienił moje zdanie: ma za sobą niezależne dowody, deklaruje bardzo niski odsetek fałszywych alarmów i stał się detektorem, po który ludzie sięgają, gdy podejrzewają nieujawnione pisanie przez AI. Kelsey Piper napisała niedawno o twierdzeniach Pangram Labs, że kilka nagrodzonych opowiadań było wygenerowanych przez AI lub w znacznym stopniu przez nią wspomaganych, a Matteo Wong z The Atlantic pisał właśnie o rosnącej potędze Pangrama w szkołach, wydawnictwach, dziennikarstwie i całej gospodarce oskarżeń o pisanie przez AI.
Działający detektor sprawia, że kwestia etyki staje się pilniejsza, bo kusi ludzi, by traktować pochodzenie tekstu jako werdykt. Dlatego żart o używaniu Pangrama do odfiltrowywania treści napisanych przez człowieka jest celniejszy, niż się początkowo wydaje: w wielu sytuacjach pisanie wspomagane przez AI może być bardziej czytelne i bardziej użyteczne niż nieasystowana ludzka proza. Jeśli dane leżące u podstaw są solidne, ludzkie zmagania na poziomie zdań niewiele wnoszą.
Powinienem też uczciwie przyznać, że jestem tu stroną zainteresowaną. Jestem tym osławionym profesorem od AI, który z dumą pisze z jej pomocą. Esej dowodzący, że wykrywanie AI może stać się policjowaniem statusu, jest wygodnie obroną mojej własnej praktyki, więc czytelnicy powinni zapytać, czy nie wytyczam granicy w sposób, który mi schlebia.
Spektrum pochodzenia
Etyka pisania z pomocą AI zaczyna się od obietnicy, którą złożył piszący. Piszący może złożyć obietnicę nauczycielowi, redaktorowi, czytelnikowi, instytucji lub odbiorcy. Pytanie etyczne zależy od tej obietnicy, zanim zależeć będzie od wyniku detektora.
Zacznijmy tam, gdzie sceptycy mają rację. Zadanie studenckie, które jednoznacznie zakazuje AI, to przypadek oczywisty. Konkurs literacki, który obiecuje wyróżniać nowych ludzkich autorów, to kolejny. List kondolencyjny należy do innej kategorii niż egzamin, ale jeśli ktoś pogrążony w żałobie oczekuje słów od ciebie, zlecenie tego emocjonalnego aktu maszynie wydaje się zdradą.
Niektóre decyzje wymagają też odpowiedzialnego ludzkiego osądu. Jeśli decyduję, czy ktoś otrzyma stypendium lub grant, pochodzenie tekstu ma znaczenie, bo aplikującemu należy się mój osąd. AI może pomóc uporządkować materiał dowodowy lub sprawdzić spójność, ale akt oceny musi pozostać mój.
Liczą się też konsekwencje. Im bardziej wpływowa jest decyzja i im bardziej zależy ona od osobistego osądu, tym silniejszy argument za tym, by wiedzieć, kto lub co ją podjął. Ludzkie uznanie może być też gorsze niż uznanie AI: komisja może być stronnicza lub arbitralna, a dobrze zaprojektowany system AI może z czasem podejmować niektóre decyzje bardziej spójnie.
Istnieje też szczególna reguła dla twierdzeń w pierwszej osobie. Kiedy piszę „myślę” lub „czuję”, to przekonanie powinno faktycznie być moje. AI może pomóc mi to sformułować, poddać próbie lub uczynić mniej niezgrabnym. Nie może jednak dostarczyć samego przekonania.
Badania naukowe i dziennikarstwo sytuują się bliżej środka. Podpis autora to obietnica, że stoi on za twierdzeniami, dowodami i decyzjami osądu. Nigdy nie oznaczał, że autor osobiście wystukał każde zdanie bez pomocy wyszukiwarek, redaktorów, współautorów, tłumaczy czy teraz LLM-ów. Jeśli moje nazwisko widnieje pod argumentem, argument musi być mój; proza może być wspomagana.
Wiele pism technicznych należy bliżej strony, na której liczy się treść. Jeśli proszę AI, by opisała wykres, napisała akapit o metodzie lub przełożyła wynik regresji na zrozumiały język, ważne pytanie brzmi, czy efekt jest poprawny. Wciąż muszę zweryfikować liczby i wziąć odpowiedzialność za ostateczny tekst. Rzetelność i odpowiedzialność niosą ciężar moralny.
Na drugim krańcu znajdują się wiadomości administracyjne, w których niemal nikt nie dba o ludzki akt pisania. Jeśli wydział prosi cię o wysłanie uprzejmej notatki potwierdzającej posiedzenie komisji, korzystaj z AI bez skrępowania. Istotnym standardem jest to, czy notatka jest prawdziwa i jasna.
Pojedynczy wynik AI nie może odpowiedzieć na pytanie etyczne. Ten sam poziom wspomagania przez AI może być nieszkodliwy w mailu administracyjnym, użyteczny w raporcie technicznym, wątpliwy w eseju osobistym i dyskwalifikujący w zadaniu klasowym z zakazem AI. Kontekst jest sednem, nawet gdy samo wykrywanie jest trafne.
Wykrywanie też ma swoje spektrum
Etyka wykrywania powinna podążać za etyką użycia. Jeśli nauczyciel polecił uczniom pisać bez AI przy konkretnym zadaniu, detektor może być częścią procesu dbania o uczciwość akademicką. Wynik Pangrama nigdy nie powinien być jedynym dowodem, zwłaszcza biorąc pod uwagę stawkę dla uczniów.
Konkursy literackie stają przed podobnym problemem. Argument Piper dotyczący Commonwealth Short Story Prize należy potraktować poważnie, bo nagrody literackie po części dotyczą ludzkiego rzemiosła. Jeśli nagroda wynagradza głos ludzkiego autora, w pełni wygenerowane przez AI zgłoszenie narusza jej założenie. Organizator może dopuścić AI, zakazać AI lub stworzyć osobną kategorię. Samo zaufanie nie rozwiąże problemu.
Recenzja naukowa jest trudniejsza. Seth Lazar przedstawił najmocniejszą wersję argumentu za wykrywaniem w odpowiedzi na mój wcześniejszy wpis o Pangramie: wygenerowane przez AI wyniki badań mogą stać się atakiem typu odmowa usługi wymierzonym w recenzję naukową. Koszt wytwarzania wiarygodnie wyglądających artykułów się załamuje, podczas gdy obowiązek ich czytania pozostaje kosztowny. W tym kontekście detektor może pomóc zachować ograniczone zdolności recenzenckie.
Przypadek recenzji naukowej wciąż zależy od celu. Jeśli celem jest przyłapanie studentów naruszających wyraźną regułę, pochodzenie tekstu jest celem. Jeśli celem jest ochrona recenzentów przed bezwartościowymi zgłoszeniami, pochodzenie jest jedynie przybliżeniem: detektor szacuje prawdopodobieństwo, że tekst pochodzi od AI, nigdy zaś prawdopodobieństwo, że jest zły. Prawdziwym celem jest zła praca: zmyślone dane, fałszywe cytowania, nieistniejące metody i artykuły bez pytania wartego odpowiedzi. Detektor może pomóc część z tego wstępnie posegregować, ale ktoś wciąż musi sprawdzić faktyczne twierdzenia.
Obawiam się, że będziemy policjować myślniki, ignorując zmyślone dane pod nimi. To byłby bardzo akademicki sposób, by zgubić sedno: wyśmienita uwaga poświęcona powierzchownemu znacznikowi, a niewiele temu, czy rzecz mówi cokolwiek prawdziwego.
Dlaczego ujawnianie najczęściej zawodzi
Oczywistym kompromisem jest ujawnianie. Pozwólmy ludziom korzystać z AI, wymagajmy, by to deklarowali, i pozwólmy czytelnikom zdecydować, jak bardzo to istotne. Brzmi to atrakcyjnie, bo traktuje wspomaganie przez AI jako informację i obniża temperaturę moralną.
W Części II serii o AI dowodziłem, że normy ujawniania załamują się pod ciężarem tworzonych przez siebie zachęt. Część argumentu dotycząca detektorów wymaga teraz korekty, bo Pangram wydaje się działać znacznie lepiej, niż się spodziewałem. Część dotycząca ujawniania nadal wydaje mi się słuszna.
Im bardziej wątpliwe etycznie jest użycie AI, tym silniejsza zachęta, by to ukryć. Student, który użył AI po obietnicy samodzielnego pisania, uczestnik konkursu, który zgłosił napisaną przez maszynę fikcję do nagrody za pisanie ludzkie, lub badacz, który użył AI, by przykryć fałszywe cytowania — wszyscy mają wszelkie powody, by milczeć.
Ludzie najbardziej skłonni do ujawnienia to ci, którzy używają AI w sposób o niskiej stawce: poprawiają akapit, tłumaczą wykres lub zamieniają surowe notatki w czytelną prozę, którą wciąż uważają za własną. To także przypadki, w których ujawnianie ma najmniejsze znaczenie. Prawdopodobnym stanem równowagi jest świat pełen rytualnych potwierdzeń nieszkodliwego wspomagania przez AI, podczas gdy naprawdę zwodnicze przypadki pozostają ukryte, dopóki ktoś ich nie zbada.
Ujawnianie może jednak pomóc, gdy samo ujawnienie wyjaśnia pracę, jak ma to miejsce tutaj. Redaktorzy, nauczyciele, jury konkursów i osoby sprawujące władzę instytucjonalną powinni również jasno określać reguły, które egzekwują. Ale jeśli cały system opiera się na uczciwym wyznaniu, będzie karał sumiennych, a strategicznych użytkowników zostawi w spokoju.
Nowe policjowanie gramatyki
Wiem, że zwrot „nazizm gramatyczny” jest szorstki, i mam na myśli coś konkretnego. Urodziłem się w Związku Radzieckim, a rosyjska kultura elit potrafi być niezwykle wyczulona na gramatykę, wymowę, akcent i drobne znaczniki statusu wpisane w mowę. W praktyce poprawianie gramatyki często pełniło zarazem funkcję sortowania społecznego: niewłaściwa szkoła, niewłaściwy region, niewłaściwe pochodzenie rodzinne lub niewłaściwy rodzaj wykształcenia mogły przeniknąć przez sposób, w jaki mówisz.
Ameryka ma własną wersję tego zjawiska. Akademicki angielski jest pełen sygnałów statusu udających standardy. Właściwy rodzaj biegłości sprawia, że brzmisz mądrze, zanim ktokolwiek sprawdzi, czy masz rację, a niewłaściwy akcent lub idiom może naznaczyć cię jako niepoważnego, zanim twój argument zostanie wysłuchany.
Wykrywanie AI zamienia ten stary nawyk w nowy techniczny rytuał. Ci sami ludzie, którzy kiedyś policjowali gramatykę, teraz policjują „znamiona AI”: myślniki, gładkie przejścia, ogólnikowe metafory, dziwnie wyważone akapity, prozę, która wydaje się odrobinę zbyt czysta. Czasem mają rację. Pisanie AI rzeczywiście ma rozpoznawalne wzorce, dlatego mam przewodnik stylu pełen takich przykładów.
Jeśli ktoś czyta tekst, dowiaduje się czegoś nowego, a potem sprowadza rozmowę do jednego podejrzanego zwrotu, instynkt pangramatyczny zmarnował czas wszystkich. Uwaga czytelnika powinna trafić najpierw do twierdzenia, dowodów i wniosku, a policjowanie stylu należy zachować na przypadki, gdy proza faktycznie blokuje zrozumienie lub sygnalizuje oszustwo.
Ta dynamika statusu jest aż nazbyt znajoma. Wynik detektora daje wyglądające na naukowe przyzwolenie, by odrzucić pracę bez uważnego jej przeczytania. Korzystają na tym zwykle uznani autorzy i posiadający referencje strażnicy, którzy potrafią zamienić decyzję osądu w wynik liczbowy. Oskarżenie staje się szczególnie wygodne wobec autorów o niższym statusie i osób, które nie piszą dobrze po angielsku, ale mogą teraz użyć AI, by tłumaczyć, redagować i dotrzeć do anglojęzycznej publiczności. Zbyt dopracowane wygląda na fałszywe. Zbyt niezgrabne wygląda na niskiej jakości. Tak czy inaczej, strażnik wygrywa.
Logika moralnego skażenia pogarsza sprawę. Gdy zaangażowanie AI traktuje się jak nieczystość, każdy ślad wspomagania wystarcza, by potępić całą pracę. To dziwny standard dla świata, w którym ludzkie pisanie zawsze było wytwarzane społecznie przez redaktorów, recenzentów, współautorów, tłumaczy oraz zdanie, które przeczytałeś wczoraj.
Najzabawniejszy możliwy stan równowagi już nastał. Narzędzia AI piszą prozę zbyt jasną, detektory karzą tę jasność, a potem nowe narzędzia „humanizujące” przepisują prozę, by wyglądała bardziej niezgrabnie. TIME opisał niedawno ludzi wprowadzających błędy i dziwactwa, by nie brzmieć jak wygenerowani przez AI. To Grammarly na odwrót: pogarszać pismo, by wyglądało na bardziej autentyczne.
Co robić zamiast tego
Opowiadam się za skromnością detektora. Pangrama należy używać wyłącznie tam, gdzie pochodzenie tekstu jest częścią umowy: egzaminy z wyraźnym zakazem AI, konkursy obiecujące ludzkie rzemiosło lub sytuacje instytucjonalne, w których źródło tekstu jest częścią zadania. Regułę instytucjonalną należy spisać, zanim sprawdzi się wynik: określić, jakie użycie AI naruszyłoby obietnicę i jaka procedura odwoławcza następuje po wysokim wyniku.
W wielu dziedzinach standard powinien być całkiem prosty: jeśli stawiasz swoje nazwisko pod pracą, bierzesz ją na siebie. Bierzesz na siebie fakty, twierdzenia, błędy, gust, strukturę i osąd. Jeśli AI pomogła ci stworzyć rzetelne podsumowanie techniczne, dobrze. Jeśli AI pomogła ci szybciej produkować bzdury, to twój problem.
Ponieważ uwaga jest dobrem rzadkim, ludzie nadal będą polegać na skrótach. Zaufają nazwiskom, które znają, czasopismom, które szanują, redaktorom z dorobkiem, znajomym, którzy przeczytali pracę, i instytucjom, które mają coś do stracenia, jeśli opublikują śmieci. To rozwiązanie niedoskonałe i często niesprawiedliwe. Outsiderzy i nowicjusze płacą cenę, gdy filtrem staje się reputacja. Ale przynajmniej reputacja jest rozliczalna w czasie. Jeśli czasopismo, nagroda, profesor lub autor wciąż firmuje złą pracę, ludzie mogą to zauważyć.
Wynik Pangrama jest inny. Daje szybkie przypuszczenie co do pochodzenia tekstu i zachęca, byśmy przestali czytać, zanim zapytamy, co tekst robi. Pangram zdaje się działać, więc pytanie nie brzmi już, czy potrafimy wykryć AI. Pytanie brzmi, co powinniśmy z tą informacją zrobić. Korzystaj z niej, gdy pochodzenie jest częścią umowy, a stawka uzasadnia dochodzenie. Traktuj ją jako bodziec do osądu, nigdy jako jego substytut.
Jeśli praca jest fałszywa, błędna, splagiatowana, emocjonalnie nieuczciwa lub stanowi naruszenie jasnej reguły, powiedz to i postąp odpowiednio. Jeśli praca jest rzetelna, użyteczna i należy do osoby, której nazwisko widnieje pod nią, fakt, że Codex, Claude lub ChatGPT pomógł złożyć zdania, jest słabą podstawą do skandalu. Skandalem byłoby budowanie kultury, w której wszyscy uczą się pogarszać pisanie, by mogło uchodzić za ludzkie.
Ostatnie ujawnienie, skoro cały tekst dotyczy tej kwestii: powyższy esej został napisany w całości w Codeksie, na podstawie kilku godzin moich podyktowanych myśli, wcześniejszych wpisów, zapisanych instrukcji stylu i niedawnych wymian w mediach społecznościowych. Obraz okładkowy i wykres spektrum również stworzył Codex. Nie był to pojedynczy prompt. Przeszliśmy przez ponad tuzin iteracji, głównie dopracowując argument i wykres. Tak, używam teraz Codeksa częściej niż Claude Code. Tak, przeczytałem szkic przed publikacją, ale w ogóle nie redagowałem prozy zdanie po zdaniu. Według mojego własnego wykresu ten esej sytuuje się po stronie spektrum, na której liczy się treść, i stoję za nim.