이란의 Storm-2035라는 단체가 미국 대통령 선거 및 기타 주제에 영향을 미치기 위한 콘텐츠를 제작하고 유포하기 위해 ChatGPT 챗봇을 오용한 것에 대해 OpenAI가 조치를 취했습니다.
Microsoft의 지원을 받는 이 AI 회사는 미국 대선 후보에 대한 논평, 가자 분쟁, 이스라엘의 올림픽 참가 등 다양한 이슈에 대한 콘텐츠를 생성하여 소셜 미디어와 웹사이트를 통해 공유한 것으로 확인되었습니다.
조사 결과, 이 그룹은 긴 기사와 짧은 소셜 미디어 댓글을 작성하는 데 ChatGPT를 사용한 것으로 밝혀졌습니다. 이러한 노력에도 불구하고 이 작전이 많은 청중을 끌어들이는 데는 성공하지 못했다고 OpenAI는 보고했습니다.
이 그룹의 소셜 미디어 게시물은 대부분 좋아요, 공유, 댓글 등의 상호작용이 거의 없었으며, 웹 기사가 소셜 미디어 플랫폼에서 주목을 받았다는 증거도 없었습니다.
OpenAI는 Storm-2035와 관련된 계정의 서비스 사용을 금지했으며, 정책을 위반하려는 새로운 시도를 경계하고 있습니다. 이번 조치는 지난 8월 초 Microsoft 위협 인텔리전스 보고서에서 Storm-2035가 미국 유권자 그룹과 적극적으로 소통하며 성소수자 인권과 이스라엘-하마스 분쟁과 같은 이슈에 대한 양극화 콘텐츠를 사용하여 정치 담론에 영향을 미치는 것으로 확인된 이후 나온 것입니다.
현재 미국 대통령 선거는 민주당 후보인 카말라 해리스와 공화당 후보인 도널드 트럼프가 치열한 경쟁을 벌이고 있으며, 11월 5일 선거를 앞두고 있습니다. 지난 5월, OpenAI는 이미 온라인에서 자사 모델을 이용해 기만적인 활동을 하려던 5건의 비밀 작전을 중단시킨 바 있습니다.
로이터 통신이 이 기사에 기여했습니다.이 기사는 인공지능의 도움을 받아 번역됐습니다. 자세한 내용은 이용약관을 참조하시기 바랍니다.