📌 에디터의 노트 : 니콜라스 알렉산더 디아코풀로스 미국 노스웨스턴대 교수(커뮤니케이션연구 & 컴퓨터과학부)는 '컴퓨테이셔널 저널리즘'을 언급할 때 빠지지 않고 등장하는 연구자입니다. 최근에는 '뉴스 자동화하기 : 어떻게 알고리즘은 미디어를 다시 쓰고 있는가'라는 저서를 펴내 많은 주목을 받기도 했습니다.

현재 그는 네덜란드 암스테르담 IVIR에서 안식년을 보내고 있는데요. 이 와중에 'Generative AI In the Newsroom'이라는 흥미로운 프로젝트를 진행하고 있습니다. 생성 AI를 뉴스룸이 책임감 있게 활용하기 위한 공동 연구라고 할 수 있습니다. 이 프로젝트의 일환으로 다양한 생성 AI 관련 콘텐츠도 함께 소개를 하고 있는데요. 더코어에서는 닉 디아코풀로스 교수의 허락을 얻어 국내 언론 산업에 도움이 될 만한 글들을 번역해 소개할 계획입니다.이 글은 그가 작성한 글 'The State of AI in Media: From Hype to Reality'를 번역한 것입니다. 흔쾌히 번역을 허락해주신 닉 디아코풀로스 교수님에게 진심으로 감사의 말씀을 드립니다.

참고로 닉 디아코풀로스 교수는 국내 언론사들에게도 자신의 프로젝트를 소개해 주길 원했습니다.

AI는 수년 동안 미디어 업계에서 뜨거운 화두였으며, 종종 과장과 부풀려진 기대치를 불러일으켰습니다. IBM은 1958년 최초의 자동 뉴스 요약 데모를 출시했습니다. 그 오랜 역사를 고려할 때, 기술이 성숙해지고 뉴스 제작에 더욱 통합됨에 따라 한 걸음 물러서서 AI가 미디어 환경에 미치는 실제 영향을 평가하는 것이 도움이 됩니다. 이 글에서는 뉴스 미디어에서 AI의 확산과 과장 요소에 대해 이야기하고, 그 원동력과 시사점을 살펴볼 것입니다.

생산성의 정점을 향해

최근 몇 년 동안 AI는 데이터 마이닝, 자동화된 콘텐츠 생성, 배포 등 뉴스 제작의 다양한 측면에 꾸준히 도입되어 왔으며, 그 중 많은 부분을 제 저서인 '뉴스 자동화': 알고리즘이 미디어를 다시 쓰는 방법'이라는 책에도 기록되어 있습니다. 최근 성공적인 AI 구현 사례로는 2020년 미국 대선 기간 동안 데이터 마이닝을 사용하여 팁 시트를 생성한 워싱턴포스트와 자동화된 콘텐츠 생성을 통해 230개 이상의 뉴스룸을 위한 지역 콘텐츠를 생성한 가넷의 로컬라이저 프로젝트가 있습니다. 머신러닝을 활용하여 여러 헤드라인 중에서 가장 실적이 좋은 헤드라인을 결정하는 A/B 헤드라인 테스트와 같은 기술은 퍼블리셔의 클릭률을 개선하는 데 효과적인 것으로 입증되었으며, 수천 개의 뉴스룸에서 일상적으로 사용되고 있습니다. 마찬가지로, 뉴욕타임스에서 사용하는 것과 같은 스마트 페이월은 일반 구독자를 유료 구독자로 전환하는 것을 최적화하는 데 사용할 수 있는 기능입니다.

적어도 지난 몇 년 동안은 과장에서 벗어나고 있는 것처럼 보였고, 산업 종사자들은 자연어 생성, 추천 시스템, 기타 머신러닝 접근 방식과 같은 AI 기술이 편집 및 뉴스 비즈니스에서 실제 가치를 창출하는 방법을 정확히 파악하기 위해 노력하는 중이었습니다.

A/B 테스트, 자동화된 콘텐츠 제작, 오디오 트랜스크립션, 언어 번역, 최적화된 페이월과 같은 AI 애플리케이션은 이제 상당히 보편화되었으며 점점 더 눈에 띄지 않게 되었습니다. 더 이상 뉴스 조직에서 이러한 내용을 자랑하는 것을 자주 듣지 못합니다. AI의 보편화는 Gmail의 맞춤법, 문법, 개인화된 글쓰기 제안과 같은 일상적인 도구에서도 분명하게 드러납니다. 정보 처리에 AI의 일부가 점점 더 많이 포함되면서 뉴스 미디어에 대한 AI의 영향을 피할 수 없게 될 것입니다. 결국 AI는 주머니 속에 있는 휴대폰처럼 어디에나 존재하게 될 것이며, 우리는 그 존재를 거의 알아차리지 못할 것입니다.

생성 AI의 과장됨

이러한 발전과 '기존' AI를 생산적인 방식으로 통합하려는 경향에도 불구하고, 생성 AI는 기술의 잠재적 피해와 오용에 대한 우려와 함께 과장으로 다시 주목을 받고 있습니다. 생성 AI는 이미 합성 뉴스 앵커를 만들거나 정치 광고를 포함한 광고용 동영상 콘텐츠를 개발하는 등 뉴스 미디어와 그 밖의 분야에서 다양한 방식으로 활용되고 있습니다. 생성 모델은 데이터 추출 및 평가와 같은 분석 작업부터 문서 재작성 및 요약, 기사 삽화와 같은 생성 작업까지 뉴스 작업을 지원할 수 있는 다양한 기능을 제공합니다.

그러나 결과물의 부정확성, 오보(misinformation) 및 정보 환경 오염 가능성 등 생성 AI의 한계가 바로 주요 요인입니다. 예를 들어, Bing의 채팅 검색 결과에 대한 초기 테스트에서 테스트에 사용한 쿼리의 약 절반에서 정확도 문제(출처 어트리뷰션 포함)가 있음을 발견했습니다. 생성 AI가 널리 보급됨에 따라 기술을 책임감 있게 배포하고 과장된 용도와 실제 위험 및 기능을 구분하는 방법에 집중하는 것이 중요합니다.

검색, 광고, 오보 등 제너레이티브 AI에 대해 과대 포장되고 있는 모든 가능성을 살펴볼 때, 실제로 우리에게 필요한 것은 생성 AI의 구체적인 기능과 특정 뉴스룸 업무를 어떻게 지원하는지에 대해 보다 냉정하게 생각하는 접근 방식입니다. 제 생각에 우리에게 필요한 것은 '타이어를 차는'(kick the tires) 단계로 빠르게 이동하여 실제로 어디에 유용할 수 있는지 확인하는 것입니다. 이것이 바로 제가 뉴스룸 프로젝트에서 제너레이티브 AI를 시작한 이유이기도 합니다.

과장과 자동화 수준

그렇다면 현재 진행 중인 AI 과장된 형태와 미디어 제작 전반에 걸쳐 일상적으로 사용되고 있는 AI 기술이 모두 존재한다는 사실을 어떻게 이해해야 할까요?

저는 달성 가능한 자동화 수준이 과장된 AI와 눈에 띄지 않는 AI를 구분하는 데 중요한 요소라고 생각합니다. 사람의 노동력을 대체할 수 있는 고도로 자동화 가능한 작업은 눈에 띄지 않는 경향이 있습니다. AI에 작업을 위임하고 기대에 부응하는 성능을 발휘할 것이라고 믿으면 (인간은) 잊어버리게 됩니다. 낮은 단계의 자동화는 사용자가 계속 제어할 수 있는 대화형 인터페이스를 사용하여 인간의 노동력을 보완하게 됩니다.

하이프 주기(Hype-Cycle)는 전체 작업(또는 작업으로 구성된 전체 작업 모음)이 자동화될 수 있는지 여부에 대한 불확실성을 기반으로 합니다. 불확실한 상황에서는 불분명한 이익과 경쟁에 대한 두려움을 바탕으로 자원을 모을 수 있기 때문에 자본은 과장를 좋아합니다. 동시에 자율성과 통제감을 유지하고 목적의식이나 유익한 고용을 잃지 않기 위해 (일반적으로) 낮은 수준의 자동화를 선호하는 노동계의 두려움에 의해 과장이 강화되기도 합니다.

물론 때때로 인공지능은 업무의 자동화 수준을 높일 만큼 충분히 발전하기도 합니다. 하지만 우리는 어떤 업무가 정말 자동화가 가능한지, 아니면 일부만 가능한지, 아니면 아예 자동화를 시도하는 것이 불합리한 것은 아닌지 끊임없이 평가해야 합니다. 작업의 계층적 특성으로 인해 작업과 하위 작업을 면밀히 분석하여 자동화를 통해 수행할 수 있는 부분이 있는지 확인해야 합니다.

요컨대, 눈에 보이지는 않지만 널리 퍼져 있는 AI 애플리케이션은 대체로 안정성과 신뢰성이 입증되면서 자동화의 상위 단계로 진입했습니다. 요약과 같이 계속해서 과장을 불러일으키는 작업(IBM이 1958년에 시작한 작업)은 엄격한 편집 표준을 유지하면서 높은 수준의 자동화를 구현할 준비가 아직 되어 있지 않습니다. 하지만 AI가 그 정점에 있을지도 모른다는 것은 항상 큰 문제입니다.

자동화와 제너레이티브 AI

그렇다면 생성 AI는 자동화 계층 구조에서 어느 단계까지 올라갈 수 있을까요?

제가 여기서 한 것처럼 직접 물어볼 수도 있습니다. 뉴스 제작과 관련된 작업을 입력한 다음, 전문적인 표준을 유지하면서 생성 AI를 사용하여 계층적 작업 분석을 수행하고 자동화 가능성을 평가하도록 요청했습니다.

녹색으로 표시된 부분은 높은 전문적 표준을 유지하면서 자동화할 수 있다고 GPT4가 생각하는 작업입니다. 바로 눈에 띄는 것은 녹색이 많지 않다는 것입니다. 녹색은 지루하다고 생각할 수 있는 작업에만 사용되며, 과장된 작업에는 사용되지 않습니다.

하지만 또 다른 트렌드는 노란색과 주황색이 많이 보인다는 것입니다. 이러한 작업은 AI가 확실히 도움을 줄 수 있지만 사람이 감독해야 하는 작업입니다. 그래픽, 차트 또는 인포그래픽을 만드는 것과 같은 작업입니다. 예, 제너레이티브 AI가 확실히 도움을 줄 수 있지만 편집자가 필요합니다.

그리고 빨간색으로 표시된 부분은 현재로서는 AI가 전혀 도움이 되지 않는 작업입니다.

물론 이러한 작업을 자세히 살펴보면 작업은 항상 계층적이기 때문에 일부 하위 작업도 어느 정도 자동화할 수 있습니다.

여기서 중요한 점은 대부분의 뉴스 업무가 AI를 통해 어느 정도 도움을 받을 수 있지만 아직 자동화 가능성이 높은 수준은 아니라는 점입니다. 따라서 AI는 저널리스트가 사용하는 도구 내에서 보이지 않는 정도까지만 활용될 것입니다.

이제 이러한 작업에 대한 GPT-4의 등급을 반드시 신뢰할 필요는 없습니다. 우리 앞에 놓인 작업의 상당 부분은 실제로 어떤 작업이 자동화될 수 있고 어떤 작업이 진정으로 사람이 개입해야 하는지를 파악하는 것입니다. 하지만 전반적으로 합리적인 출발점이라고 생각합니다.

뉴스룸 도구: 디자인, 노무 및 관리

결국 우리가 진정으로 만들어야 하는 것은, 도구를 사용하는 사람이 전체 작업을 제어하되, 높은 수준의 신뢰성과 안정성으로 하위 작업을 자동화할 수 있는 AI의 지원을 받는 AI 기반 도구라는 것입니다. 여기서 강조해야 할 핵심 단어는 바로 '디자인'(설계)입니다.

뉴스룸은 업무의 미래를 설계하고 인간의 능력, 통제 및 감독과 최첨단 AI 기능을 결합하는 방법에 대해 고민해야 합니다. 완전히 자동화할 수 있는 영역의 경계가 이동함에 따라 업무를 다시 설계해야 할 수도 있습니다. 최초의 전기 모터가 개발되었을 때, 공장에서 모터를 최대한 활용하기 위해 레이아웃을 완전히 재설계해야 한다는 사실을 깨닫는 데는 수년이 걸렸습니다. 여기에서도 마찬가지입니다. 경우에 따라서는 뉴스 제작 방식을 완전히 다시 상상해야 할 수도 있습니다. 이를 위해서는 창의적이고 반복적인 작업이 필요하며, 사람들이 자율성과 통제권을 유지할 수 있도록 특화된 인터페이스를 구축해야 합니다.

또한 뉴스룸은 뉴스 가치를 통합하는 AI 기술을 어떻게 설계할지 고민해야 하며, 이러한 시스템의 결과물이 편집자의 요구와 관련하여 신뢰할 수 있고 직업의 윤리적 약속을 여전히 충족할 수 있도록 해야 합니다. 또한 이는 뉴스 미디어가 거대 기술 기업으로부터 어느 정도 독립성을 유지할 수 있도록 하는 데 중요한 역할을 할 수 있습니다.

이러한 업무의 혼성화는 미디어 산업의 노동에 중요한 영향을 미칩니다. AI 기술은 종종 시스템 유지 관리 및 검증과 관련된 새로운 유형의 업무를 창출합니다. 따라서 개인은 이러한 변화에 적응하기 위해 재교육을 받거나 기술을 향상시켜야 할 수도 있습니다.

또한 AI 기반 뉴스 제작으로의 전환을 관리하려면 노동자에게 미치는 영향과 AI에서 파생되는 가치에 대해 신중하게 고려해야 합니다. 여기에는 관리(management)가 중요합니다.

트랜스크립션 AI(받아적기 AI)와 같은 것을 중심으로 매니지먼트를 생각해 봅시다. 만약 제가 트랜스크립션 AI를 사용하는 기자라면, 인터뷰를 직접 받아적을 필요가 없기 때문에 하루에 두 배의 인터뷰를 할 수 있다고 가정해 보겠습니다. 경영진은 이제 기사 수를 두 배로 늘릴 수 있다고 말할 수 있습니다. 또는 이제 각 기사에 대해 두 배의 소스를 확보하고 소싱의 품질과 다양성을 개선할 것이라고 말할 수도 있습니다. 또는 같은 수의 스토리를 작성하지만 원래 업무에 포함되지 않았던 다른 업무도 수행해야 한다고 말할 수도 있습니다. 이러한 모든 옵션은 뉴스 조직과 AI를 통해 얻을 수 있는 가치의 유형, 그리고 개별 작업자와 업무 경험에 미치는 영향에 따라 서로 다른 의미를 갖습니다.

이미 할리우드에서는 미국작가조합의 파업이 진행 중이며, 경영진을 협상 테이블로 끌어들이기 위해 AI를 주요 주제로 삼고 있습니다. 노조에 가입한 언론인이 장기적으로 더 유리할 것입니다(아직 노조에 가입하지 않았다면 지금 가입하세요!). 지금이 바로 경영진을 테이블로 불러내어 AI 증강 뉴스 제작으로의 전환이 노동자에게 불리하지 않은 방식으로 관리될 수 있도록 해야 할 때입니다.

끝으로, 과대 광고 주기를 지나 미디어에서 AI의 진정한 잠재력에 집중하는 것이 중요합니다. 여기에는 작업의 자동화 가능성을 평가하고, 인간 작업자를 지원하고, 기술 개발을 지원하는 AI 도구와 인터페이스를 설계하고, 전략적이고 인간적으로 전환을 관리하는 것이 포함됩니다. 이를 통해 미디어 업계는 편집 표준을 유지하고 인력의 원활한 전환을 보장하면서 AI 기술의 이점을 누릴 수 있습니다.