최신 AI 글쓰기 스캔들은 마침맞게도 교황과 함께 도착했습니다. 2026년 5월 25일, 바티칸은 교황 레오 14세의 첫 회칙 Magnifica Humanitas(5월 15일자)를 발표했습니다. 인공지능 시대에 인간을 어떻게 보호할 것인가를 다룬 문서입니다. 며칠 만에 사람들은 이 문서를 Pangram에 입력하고 있었습니다. Pangram은 어느새 문학적·학술적 의심의 점잖은 도구로 자리 잡은 탐지기입니다. 일부 구절이 AI의 도움을 받은 것으로 표시되었다고 하는데, 그 비난은 이해하기 쉬웠습니다. 교황이, 아니면 적어도 바티칸이, AI에 관한 글을 쓰는 데 AI를 사용했다는 것입니다.
제 반응은 기본적으로 이랬습니다. 그래서, 그게 뭐 어떻다는 거죠? 회칙은 이미 제도적 초안 작성, 실무진 작업, 자문, 수정, 번역, 그리고 위원회식 다듬기 과정을 거칩니다. 어느 바티칸 관계자가 Claude를 사용해 레오 교황의 생각을 문장으로 옮겼다고 하더라도, 정작 중요한 질문은 여전히 그 문서가 정확한가, 사려 깊은가, 읽을 가치가 있는가입니다. 그러나 제가 틀렸다는 점은 인정해야겠습니다.
저는 AI 시리즈 2부에서 AI 글쓰기 탐지기는 형편없으며 앞으로도 그럴 것이라고 썼습니다. Pangram은 제 생각을 바꿔놓았습니다. 그것은 제3자의 근거를 갖추고 있고, 매우 낮은 거짓 양성률을 주장하며, 공개되지 않은 AI 글쓰기를 의심할 때 사람들이 찾는 탐지기가 되었습니다. 켈시 파이퍼는 최근 여러 수상작 단편소설이 AI로 생성되었거나 상당 부분 AI의 도움을 받았다는 Pangram Labs의 주장에 관해 썼고, TIME의 매튜 웡은 학교, 출판, 저널리즘, 그리고 AI 글쓰기 비난 경제에서 Pangram이 키워가는 영향력에 관해 The Atlantic에 글을 썼습니다.
작동하는 탐지기는 윤리 문제를 더 시급하게 만듭니다. 사람들로 하여금 출처를 곧 판결로 취급하도록 유혹하기 때문입니다. 그렇기에 Pangram을 써서 인간이 쓴 글을 걸러낸다는 농담은 처음 들리는 것보다 더 날카롭습니다. 수많은 상황에서 AI의 도움을 받은 글은 도움 없는 인간의 글보다 더 읽기 쉽고 더 유용할 수 있습니다. 바탕에 깔린 데이터가 탄탄하다면, 문장 단위의 인간적 고투는 기여하는 바가 거의 없습니다.
저 또한 이 문제의 이해당사자라는 점을 솔직히 밝혀야겠습니다. 저는 AI의 도움을 받아 자랑스럽게 글을 쓰는 그 악명 높은 AI 교수입니다. AI 탐지가 지위 단속이 될 수 있다고 주장하는 글은 편리하게도 제 자신의 관행을 옹호하는 셈이니, 독자들은 제가 저에게 유리한 방식으로 선을 긋고 있는 것은 아닌지 물어야 합니다.
출처의 스펙트럼
AI 글쓰기 윤리는 글쓴이가 한 약속에서 출발합니다. 글쓴이는 교사, 편집자, 독자, 기관, 또는 수신자에게 약속할 수 있습니다. 윤리적 질문은 탐지기 점수에 의존하기에 앞서 그 약속에 의존합니다.
회의론자들이 옳은 지점에서 시작해 봅시다. AI를 명시적으로 금지한 학생 과제가 가장 명백한 사례입니다. 새로운 인간 작가를 발굴하겠다고 약속한 창작 글쓰기 공모전도 마찬가지입니다. 조의를 표하는 편지는 시험과는 다른 범주에 속하지만, 슬픔에 잠긴 누군가가 당신의 말을 기대하고 있다면, 그 정서적 행위를 기계에 외주하는 일은 배신처럼 느껴집니다.
어떤 결정은 책임 있는 인간의 판단을 요구합니다. 제가 누군가에게 장학금이나 연구비를 줄지 결정하는 자리라면, 출처가 중요합니다. 지원자는 제 판단을 받을 자격이 있기 때문입니다. AI는 증거를 정리하거나 일관성을 점검하는 데 도움을 줄 수 있지만, 평가라는 행위 자체는 제 몫으로 남아야 합니다.
결과 또한 중요합니다. 결정이 영향력이 클수록, 그리고 개인의 판단에 더 많이 의존할수록, 누가 혹은 무엇이 그 결정을 내렸는지 알아야 할 이유가 강해집니다. 인간의 재량이 AI의 재량보다 나쁠 수도 있습니다. 위원회는 편향되거나 자의적일 수 있고, 잘 설계된 AI 시스템은 결국 어떤 결정을 더 일관되게 내릴 수도 있습니다.
1인칭 주장에 대해서는 별도의 규칙이 있습니다. 제가 “나는 생각한다” 혹은 “나는 느낀다”라고 쓸 때, 그 확신은 실제로 제 것이어야 합니다. AI는 표현을 다듬고, 압박 테스트를 하고, 어색함을 줄이도록 도울 수 있습니다. 그러나 확신 그 자체를 공급할 수는 없습니다.
연구와 저널리즘은 중간에 더 가깝습니다. 바이라인은 저자가 주장, 증거, 판단에 책임진다는 약속입니다. 그것은 저자가 검색 엔진, 교열자, 공저자, 번역자, 그리고 이제는 LLM의 도움 없이 모든 문장을 직접 타이핑했다는 의미였던 적이 없습니다. 제 이름이 어떤 주장에 붙어 있다면 그 주장은 제 것이어야 하지만, 문장은 도움을 받아도 됩니다.
상당수 기술적 글쓰기는 내용이 중요한 쪽에 더 가깝습니다. 제가 AI에게 차트를 설명하거나, 방법론 문단을 쓰거나, 회귀분석 결과를 평이한 영어로 옮기라고 요청한다면, 중요한 질문은 그 결과물이 정확한가입니다. 그래도 저는 숫자를 검증하고 최종 글에 책임을 져야 합니다. 도덕적 무게는 정확성과 책임이 짊어집니다.
스펙트럼의 맨 끝에는 인간이 글을 쓰는 행위에 거의 아무도 신경 쓰지 않는 행정적 메시지가 있습니다. 어느 학과가 위원회 회의를 확인하는 정중한 메모를 보내라고 한다면, AI를 마음껏 쓰십시오. 관련된 기준은 그 메모가 사실에 부합하고 명확한가뿐입니다.
단 하나의 AI 점수가 윤리적 질문에 답할 수는 없습니다. 동일한 수준의 AI 도움이 행정 이메일에서는 무해하고, 기술 보고서에서는 유용하고, 개인 에세이에서는 미심쩍고, AI 금지 수업 과제에서는 자격 박탈 사유가 될 수 있습니다. 기저의 탐지가 정확하더라도, 맥락이 핵심입니다.
탐지에도 스펙트럼이 있다
탐지의 윤리는 사용의 윤리를 따라야 합니다. 교사가 특정 과제에서 AI 없이 쓰라고 학생들에게 말했다면, 탐지기는 학문적 진실성 절차의 일부가 될 수 있습니다. 다만 학생들에게 걸린 것이 큰 만큼, Pangram 점수가 유일한 증거가 되어서는 결코 안 됩니다.
창작 공모전도 비슷한 문제에 부딪힙니다. 코먼웰스 단편소설상에 관한 파이퍼의 주장은 진지하게 받아들여야 합니다. 소설 공모전은 부분적으로 인간의 솜씨에 관한 것이기 때문입니다. 공모전이 인간 작가의 목소리를 보상하는 것이라면, 전적으로 AI가 생성한 출품작은 그 전제를 위반합니다. 주최 측은 AI를 허용하거나, 금지하거나, 별도 부문을 만들 수 있습니다. 신뢰만으로는 이 문제가 해결되지 않습니다.
동료 심사는 더 까다롭습니다. 세스 라자르는 제 이전 Pangram 글에 대한 응답으로 친(親)탐지 입장의 가장 강력한 버전을 제시했습니다. AI가 생성한 연구물은 동료 심사에 대한 서비스 거부 공격이 될 수 있다는 것입니다. 그럴듯해 보이는 논문을 만드는 비용은 붕괴하는 반면, 그것을 읽어야 하는 의무는 여전히 비쌉니다. 그런 맥락에서 탐지기는 희소한 심사 역량을 보존하는 데 도움이 될 수 있습니다.
그래도 동료 심사 사례는 목표에 따라 달라집니다. 명시적 규칙을 어긴 학생을 잡는 것이 목표라면, 출처가 표적입니다. 가치 없는 투고로부터 심사자를 보호하는 것이 목표라면, 출처는 대리 지표일 뿐입니다. 탐지기는 어떤 글이 AI일 확률을 추정할 뿐, 그것이 형편없을 확률은 결코 추정하지 못합니다. 진짜 표적은 형편없는 작업물입니다. 환각으로 지어낸 데이터, 가짜 인용, 존재하지 않는 방법론, 그리고 답할 가치가 있는 질문조차 없는 논문 말입니다. 탐지기가 그중 일부를 분류하는 데는 도움이 될지 몰라도, 실제 주장은 누군가가 여전히 점검해야 합니다.
제 걱정은 우리가 그 밑에 깔린 환각 데이터는 무시한 채 em 대시나 단속하게 되리라는 것입니다. 그것은 매우 학자다운 방식으로 본질을 놓치는 일일 겁니다. 표면적 표식에는 절묘한 주의를 기울이면서, 그것이 진실을 말하는지에는 거의 관심을 두지 않는 것이죠.
공개가 대체로 실패하는 이유
뻔한 타협안은 공개입니다. 사람들이 AI를 쓰게 하되 그 사실을 밝히도록 요구하고, 그것이 얼마나 중요한지는 독자가 판단하게 하는 것입니다. 이는 AI 도움을 하나의 정보로 취급하고 도덕적 온도를 낮추기에 매력적으로 들립니다.
저는 AI 시리즈 2부에서 공개 규범이 그것이 만들어내는 유인 아래 무너진다고 주장했습니다. 그 주장의 탐지기 부분은 이제 수정이 필요합니다. Pangram이 제 예상보다 훨씬 잘 작동하는 것으로 보이기 때문입니다. 하지만 공개에 관한 부분은 여전히 옳아 보입니다.
AI 사용이 윤리적으로 미심쩍을수록, 그것을 숨길 유인은 강해집니다. 직접 쓰겠다고 약속해 놓고 AI를 쓴 학생, 인간 글쓰기 공모전에 기계가 쓴 소설을 낸 출품자, 또는 가짜 인용을 덮으려고 AI를 쓴 연구자는 모두 침묵할 충분한 이유가 있습니다.
공개할 가능성이 가장 높은 사람은 위험이 낮은 방식으로 AI를 쓰는 사람들입니다. 문단을 다듬거나, 차트를 옮기거나, 거친 메모를 자신이 책임지는 읽을 만한 글로 바꾸는 경우 말입니다. 그런데 바로 그런 경우가 공개가 가장 덜 중요한 경우이기도 합니다. 결국 도달할 만한 균형은 무해한 AI 도움에 관한 의례적 고지로 가득 찬 세상이고, 정작 기만적인 경우는 누군가 조사하기 전까지 숨겨진 채로 남는 것입니다.
공개 그 자체가 작업을 설명할 때는, 지금 이 글이 그러하듯, 여전히 도움이 될 수 있습니다. 편집자, 교사, 공모전 심사위원, 그리고 제도적 권한을 행사하는 사람들 역시 자신이 집행하는 규칙을 분명히 밝혀야 합니다. 그러나 시스템 전체가 정직한 고백에 기댄다면, 그것은 양심적인 사람을 처벌하고 전략적인 사용자는 내버려 둘 것입니다.
새로운 문법 단속
“문법 나치즘”이라는 표현이 거슬린다는 것을 알지만, 저는 이것으로 구체적인 무언가를 가리킵니다. 저는 소련에서 태어났는데, 러시아 엘리트 문화는 문법, 발음, 강세 패턴, 그리고 말 속에 박힌 작은 지위 표식에 극도로 민감할 수 있습니다. 실제로 문법 교정은 종종 사회적 분류 역할을 겸했습니다. 잘못된 학교, 잘못된 지역, 잘못된 가정 배경, 또는 잘못된 종류의 교육이 말투를 통해 새어 나올 수 있었던 것입니다.
미국에는 미국 나름의 버전이 있습니다. 학술 영어는 기준인 척하는 지위 신호로 가득합니다. 올바른 종류의 유창함은 누군가 당신이 옳은지 확인하기도 전에 당신을 똑똑하게 들리도록 만들고, 잘못된 억양이나 표현은 당신의 주장이 청취되기도 전에 당신을 진지하지 못한 사람으로 낙인찍을 수 있습니다.
AI 탐지는 이 오래된 습관을 새로운 기술적 의례로 바꾸고 있습니다. 한때 문법을 단속하던 바로 그 사람들이 이제 “AI 표식”을 단속합니다. em 대시, 매끄러운 전환, 진부한 비유, 묘하게 균형 잡힌 문단, 조금 지나치게 깔끔해 보이는 글 말입니다. 때로는 그들이 옳습니다. AI 글쓰기에는 알아볼 수 있는 패턴이 있고, 그래서 제게는 그런 패턴으로 가득한 스타일 가이드가 있습니다.
누군가 어떤 글을 읽고, 새로운 것을 배우고 나서, 대화를 의심스러운 표현 하나에 관한 것으로 만든다면, 그 Pangram식 본능은 모두의 시간을 낭비한 것입니다. 독자의 주의는 먼저 주장, 증거, 그리고 얻는 바로 향해야 하며, 문체 단속은 그 글이 실제로 이해를 가로막거나 기만의 신호를 보내는 경우를 위해 아껴두어야 합니다.
이 지위 역학은 매우 익숙합니다. 탐지기 점수는 글을 꼼꼼히 읽지 않은 채 묵살할 수 있는, 과학처럼 보이는 면허를 줍니다. 그 덕을 보는 사람들은 보통 판단의 문제를 점수로 바꿀 수 있는 기성 작가와 자격을 갖춘 문지기들입니다. 이 비난은 지위가 낮은 작가들, 그리고 영어를 잘 쓰지는 못하지만 이제 AI를 써서 번역하고 초안을 쓰고 영어권 독자에게 다가갈 수 있는 사람들에게 특히 편리해집니다. 너무 매끄러우면 가짜처럼 보이고, 너무 어색하면 질이 낮아 보입니다. 어느 쪽이든 문지기가 이깁니다.
도덕적 오염 논리는 문제를 더 악화시킵니다. AI의 개입이 불순함처럼 취급되면, 도움의 흔적만 있어도 작업물 전체를 단죄하기에 충분해집니다. 이는 인간의 글쓰기가 늘 편집자, 심사자, 공저자, 번역자, 그리고 어제 당신이 읽은 문장에 의해 사회적으로 생산되어 온 세상에서는 이상한 기준입니다.
가장 우스운 균형은 이미 도래했습니다. AI 도구는 지나치게 명료한 글을 쓰고, 탐지기는 그 명료함을 처벌하며, 그러면 새로운 “휴머나이저” 도구가 그 글을 더 어색해 보이도록 다시 씁니다. TIME은 최근 사람들이 AI가 쓴 것처럼 들리지 않으려고 실수와 어색함을 일부러 끼워 넣는다고 보도했습니다. 이것은 거꾸로 된 Grammarly입니다. 더 진짜처럼 보이도록 글을 더 나쁘게 만드는 것이죠.
대신 무엇을 해야 하는가
저는 탐지기 겸손을 주장하고 있습니다. Pangram은 출처가 합의의 일부인 경우에만 사용해야 합니다. AI 금지 규칙이 명시된 시험, 인간의 솜씨를 약속한 공모전, 또는 글의 출처가 직무의 일부인 제도적 상황 말입니다. 제도적 규칙은 점수를 참조하기 전에 미리 작성되어야 합니다. 어떤 AI 사용이 약속을 위반하는지, 그리고 높은 점수가 나온 뒤 어떤 이의제기 절차가 따르는지를 정해 두어야 합니다.
많은 영역에서 기준은 꽤 단순해야 합니다. 작업물에 당신의 이름을 붙였다면, 그것은 당신의 것입니다. 사실, 주장, 오류, 취향, 구조, 그리고 판단이 모두 당신의 것입니다. AI가 정확한 기술 요약을 만드는 데 도움을 줬다면, 좋습니다. AI가 헛소리를 더 빨리 만드는 데 도움을 줬다면, 그건 당신 책임입니다.
주의는 희소하기에, 사람들은 여전히 지름길에 기댈 것입니다. 그들은 아는 이름, 존중하는 저널, 실적 있는 편집자, 그 글을 읽은 친구, 그리고 쓰레기를 내면 잃을 것이 있는 기관을 신뢰할 것입니다. 그것은 불완전하고 종종 불공정합니다. 평판이 필터가 되면 외부인과 신참은 대가를 치릅니다. 그러나 적어도 평판은 시간이 지나며 책임을 집니다. 어떤 저널, 공모전, 교수, 또는 작가가 형편없는 작업물을 계속 보증한다면, 사람들은 알아챌 수 있습니다.
Pangram 점수는 다릅니다. 그것은 글의 출처에 관한 빠른 추측을 던지면서, 그 글이 무엇을 하고 있는지 묻기도 전에 읽기를 멈추도록 유혹합니다. Pangram은 작동하는 것 같으니, 이제 질문은 우리가 AI를 탐지할 수 있는가가 아닙니다. 질문은 그 정보로 무엇을 해야 하는가입니다. 출처가 거래의 일부이고 걸린 것이 조사를 정당화할 때 사용하십시오. 그것을 판단을 위한 자극으로 다루되, 결코 판단의 대체물로 다루지는 마십시오.
작업물이 가짜이거나, 틀렸거나, 표절이거나, 정서적으로 기만적이거나, 명확한 규칙을 위반한 것이라면, 그렇다고 말하고 그에 맞게 행동하십시오. 작업물이 정확하고, 유용하며, 이름을 붙인 사람이 책임지는 것이라면, Codex나 Claude나 ChatGPT가 문장을 조립하는 데 도움을 줬다는 사실은 스캔들의 근거로는 빈약합니다. 진짜 스캔들은 모두가 글을 더 나쁘게 만들어 인간 행세를 하게 만드는 문화를 세우는 일일 것입니다.
마지막 공개입니다. 이 글 전체가 바로 이 질문에 관한 것이니까요. 위의 에세이는 제가 구술한 여러 시간 분량의 생각, 이전 글들, 저장해 둔 스타일 지침, 그리고 최근의 소셜 미디어 대화를 바탕으로 전적으로 Codex에서 작성되었습니다. 표지 이미지와 스펙트럼 차트도 Codex가 만들었습니다. 이것은 한 번의 프롬프트로 끝낸 작업이 아닙니다. 우리는 열두 번이 넘는 반복을 거쳤는데, 대부분 주장과 차트를 다듬는 작업이었습니다. 맞습니다, 저는 지금 Claude Code보다 Codex를 더 많이 쓰고 있습니다. 맞습니다, 저는 발행 전에 초안을 읽었지만 문장을 한 줄도 직접 손보지는 않았습니다. 제 자신의 차트에 따르면 이 에세이는 스펙트럼에서 내용이 중요한 쪽에 놓이며, 저는 그것을 지지합니다.