[정책]OpenAI, AI 악용한 여론 조작 작전 2건 적발 및 차단

무슨 일이야

OpenAI가 자사 인공지능 기술을 악용한 두 건의 여론 조작 및 영향력 공작(influence operations)을 차단했다고 밝혔습니다.

해당 작전 세력은 실존하지 않는 '가짜 기자' 신분을 만들거나 위장용 '싱크탱크'를 내세우는 방식을 사용했습니다. 이들은 이러한 가짜 전면 조직을 통해 특정 지정학적 메시지를 확산시키려 했던 것으로 드러났습니다.

왜 중요해

생성형 AI가 단순 스팸을 넘어 그럴듯한 신분과 전문 기관으로 위장하는 정교한 여론 조작에 쓰이고 있음을 보여줍니다. 주요 AI 플랫폼들이 자사 모델이 악의적인 선전전이나 정보 조작에 악용되는 것을 막기 위해 감시와 차단 조치를 강화하고 있다는 점도 확인됩니다.

짚고 넘어갈 점

배후 세력이 누구인지, 구체적으로 어떤 지정학적 이슈를 다루었는지, 그리고 어떤 AI 모델이 어떻게 악용되었는지에 대한 상세한 기술적 내역은 이번 짧은 발표 내용만으로는 확인하기 어렵습니다.

참고: OpenAI