AI 생성 콘텐츠 범람 속 진위 판별의 어려움과 언론 윤리 문제 대두

최근 온라인상에서 '마고 블랑샤(Margaux Blanchard)'라는 가명으로 활동한 프리랜서 기자가 사실은 AI로 생성된 인물이라는 의혹이 제기되면서, AI 기술 발전이 가져온 저널리즘의 새로운 도전 과제가 부각되고 있습니다. 해당 기자가 작성한 기사를 게재했던 여러 매체들은 현재 관련 기사를 삭제하고 사실 확인 절차를 재점검하는 등 후속 조치를 취하고 있습니다.

이 사건의 발단은 영국의 언론 전문 매체인 프레스 가제트(Press Gazette)가 '마고 블랑샤'의 기사가 AI로 작성되었을 가능성이 높다고 보도하면서 시작되었습니다. 프레스 가제트는 블랑샤가 온라인 게임 '마인크래프트' 내에서 결혼식을 진행하는 방식에 대한 기사를 작성했으며, 이후 지급 방식에 대한 이례적인 요청으로 인해 의심을 받게 되었다고 밝혔습니다. 해당 기사를 게재했던 와이어드(Wired)는 기사 삭제 후 "적절한 사실 확인 절차를 거치지 않았으며, 상급 편집자의 최종 검토를 받지 못했다"고 인정했습니다. 이 외에도 다섯 곳의 매체가 블랑샤의 기사를 삭제했으며, 비즈니스 인사이더(Business Insider)는 진위 여부에 대한 우려로 다른 작가들의 1인칭 기사까지 추가로 삭제했습니다.

한편, '마고 블랑샤' 계정의 작성자는 자신을 '앤드류 프렐런(Andrew Frelon)'이라고 밝히며 블랑샤의 무죄를 주장했습니다. 그러나 '앤드류 프렐런' 역시 가명이며, 그의 주장 역시 높은 수준의 회의론으로 받아들여지고 있습니다. 프레스 가제트와의 직접적인 메시지 교환에서 블랑샤는 처음에는 AI 작성 의혹을 부인하다가, 프리랜서 기자가 종종 필명을 사용한다고 주장했습니다. 이후 "내 진짜 이름은 앤드류 프렐런"이라고 밝혔으나, 캐나다 CBC 뉴스는 프렐런의 실제 이름이 팀 보처(Tim Boucher)이며 퀘벡에 거주하는 웹 플랫폼 안전 및 정책 전문가라고 보도했습니다.

언론과 AI: 신뢰를 잃은 메시지의 시대

'앤드류 프렐런'은 지난 7월에는 AI로 생성된 가상 밴드 '더 벨벳 선다운(The Velvet Sundown)'을 대변하는 X 계정을 개설하고 언론과 접촉하여 헤드라인을 장식하기도 했습니다. 당시 프렐런은 자신이 미디어 클라이언트를 위해 "완전히 자율적인 AI 시스템이 신뢰할 수 있는 뉴스 기사를 충분한 품질로 생산하여 최상급 매체에 판매할 수 있는지"에 대한 질문에 답하기 위한 "실행 가능한 데이터"를 제공하기 위해 블랑샤 사기를 저질렀다고 주장했습니다. 그는 트렌드를 찾아내거나 만들어내고, 거의 개입 없이 투고를 작성하고 발송할 수 있는 에이전트 AI 시스템을 구축했다고 설명했습니다. 그러나 해당 게시물에는 '풍자' 및 '픽션'이라는 태그가 붙었습니다.

이와 유사한 사례로, 시티 AM 매거진(City AM Magazine)의 편집자는 나이로비에 기반을 둔 또 다른 AI 사용 가짜 프리랜서 기자를 추적했습니다. 시티 AM 편집자인 스티브 디닌(Steve Dinneen)은 블랑샤로부터 '웰빙에 집착하고 번아웃에 지친 사람들을 위한 새로운 지위 상징'으로 포지셔닝할 수 있는 '침묵의 댄스 파티'에 대한 제안을 받았다고 밝혔습니다. 디닌은 소셜 미디어 콜아웃을 통해 새로운 작가들에게 독특한 아이디어를 요청했지만, AI로 작성된 것으로 보이는 쓸모없는 제안이 급증하고 있다고 토로했습니다. 그는 또한 조셉 웨일스(Joseph Wales)라는 가명으로 활동한 미국 기반 작가가 사실은 나이로비에 거주하는 윌슨 카루아(Wilson Kaharua)라는 인물임을 밝혀냈습니다. 카루아는 AI를 사용하여 제안서를 작성했으며, 일부 회사로부터는 암호화폐로 대금을 지급받거나 다크 웹에서 구매한 가짜 운전면허증과 가명으로 등록된 페이팔 계정을 사용한 것으로 드러났습니다.

이러한 사건들은 AI 기술의 발전이 언론 산업에 미치는 영향과 함께, 정보의 진위 여부를 판별하는 능력의 중요성을 다시 한번 강조하고 있습니다. 언론 매체들은 AI 생성 콘텐츠의 범람 속에서 신뢰성을 유지하기 위해 더욱 강화된 사실 확인 절차와 윤리적 기준을 마련해야 할 필요성에 직면해 있습니다.