GPT 개발에 6개월의 멈춤을 요구하고 있습니다. 2,000명이 넘는 유명 인사들이 공개 서한에 서명을 하고 있습니다. 서명인에는 일론 머스크, 유발 하라리 등 유명인이 있습니다. 이 청원은 인공지능 공상 과학에  기반한 공포를 불러일으키고 인공지능의 실제 위험은 무시하는 오류를 범하고 있습니다.

수 천명이 넘는 연구자, 전문가 그리고 테크 유명인 등이 "Pause AI Experiments"라는 공개 서한에 서명하고 있습니다. 일론 머스크에 반감이 있는 분들은 그의 이름이 오른 청원을 심각하게 받아들일 필요가 없다고 말할 수도 있습니다. 머스크 참여 여부는 중요하지 않습니다. 하지만 서명에는 매우 존경받는 연구자들도 참여하고 있습니다.
저는 이 공개서한의 일부 내용에는 동의하지만, 이 청원 내용 전체는 비생산적이고 위험하다고 판단합니다. 이 청원은 정확히 무엇을 요구하고 있을까요? 무엇이 문제일까요? 이 질문에 답을 찾기 위해 먼저 공개서한의 내용을 분석하겠습니다.

• 서명자들은 인공지능이 "사회와 인류에 심각한 위험"을 초래한다고 확신합니다. 여기까지는 논쟁의 여지가 없습니다. 여기에 동의하지 못할 사람은 없을 것입니다.
• 이번 청원의 핵심은 "인간과 경쟁하는 지능(human-competitive intelligence)"에 놓여 있습니다. 이 청원은 인공지능의 효과가 긍정적이고 그 위험을 관리할 수 있다는 확신이 설 때만 인공지능이 개발되어야 한다고 주장하고 있습니다.
• 공개서한에는 네 가지 핵심 질문이 포함되어 있습니다.

• 이 네 개의 질문은 모두 수사학적입니다. 질문을 이렇게 하면 대답은 네 번 모두 '아니오'입니다. 때문에 공개서한은 OpenAI가 앞으로 최소 6개월 동안 GPT-4보다 더 강력한 인공지능에 대한 연구를 더 이상 진행하지 말 것을 요구하고 있습니다. OpenAI가 이 요구를 거부하면 정부가 나서 모라토리엄-강제 결정-을 시행해야 한다고 주장하고 있습니다.
• 이 6개월 동안 인공지능 기업들과 독립 전문가들은 인공지능 설계 및 계발을 위한 안전 표준을 마련해야 합니다. 이를 통해 당분가 더 강력한 LLM를 향한 경쟁이 둔화될 수 있습니다. (거대)언어모델(LLM)은 그 효과를 예측할 수 없는 블랙박스이기 때문입니다.
• 동시에 인공지능 개발자는 정부와 협력하여 효과적인 인공지능 규제를 위한 가이드라인을 만들어야 합니다. 새로운 인공지능 전문 규제 기관, 통제 및 감독, 합성 미디어에 대한 표시 또는 라벨링 시스템, 인공지능으로 인한 피해에 대한 책임, 인공지능의 안전한 연구를 위한 공적 자금 지원, 인공지능이 촉발한 경제적, 정치적 격변을 관리하기 위한 기관 등이 필요합니다.