캘리포니아주가 인공지능(AI) 규제를 위한 광범위한 법안을 제정할 준비를 하고 있습니다. Scott Wiener 주 상원의원이 발의한 SB 1047 법안이 중요한 표결을 앞두고 있습니다. 이미 주 상원에서 32-1로 통과된 이 법안은 개발 비용이 1억 달러를 초과하거나 상당한 컴퓨팅 파워가 필요한 고급 AI 모델에 대한 안전성 테스트를 도입하고자 합니다. 또한 AI 모델 오작동 시 비활성화 프로토콜을 수립하고 제3자 안전 감사를 의무화하려고 합니다.
이 법안은 또한 주 법무장관에게 규정을 준수하지 않는 개발자들을 고소할 수 있는 권한을 부여하며, 특히 AI가 중요한 정부 시스템을 위협하는 상황에서 이를 적용할 수 있습니다. 더불어 AI 남용을 폭로하는 내부고발자를 보호하는 조항도 포함하고 있습니다.
이러한 안전 조치에도 불구하고, Nancy Pelosi, Ro Khanna, Zoe Lofgren을 포함한 여러 캘리포니아 민주당 의원들이 이 법안에 반대 의사를 표명했습니다. 특히 Pelosi는 SB 1047이 잠재적으로 해로울 수 있다고 비판하며, AI 개발자들을 캘리포니아에서 떠나게 만들고 혁신에 중요한 오픈소스 AI 모델에 영향을 줄 수 있다고 지적했습니다.
기술 업계의 우려에 대응하여 Wiener 의원은 법안을 수정했습니다. 정부 AI 감독 위원회 설립을 제거하고 위증에 대한 형사 처벌을 삭제했지만, 민사 소송은 여전히 가능한 옵션으로 남아있습니다.
이러한 변경 사항으로 인해 Elon Musk와 AI 스타트업 Anthropic과 같은 인물들의 지지를 얻었으며, Anthropic은 초기의 우려가 상당히 해소되었다고 인정했습니다.
그러나 Alphabet의 Google, Meta, OpenAI와 같은 주요 기술 기업들은 여전히 우려를 표명하고 있습니다. Meta는 이 법안이 캘리포니아의 AI 개발을 저해할 수 있다고 경고했으며, OpenAI는 SB 1047이 성장을 억제하고 인재들을 주에서 떠나게 할 수 있다고 우려하며 연방 차원의 규제를 주장했습니다.
기술 분야에서 이 법안을 지지하는 Geoffrey Hinton, Daniel Kokotajlo, Yoshua Bengio와 같은 AI 선구자들은 이것이 AI 기술의 책임 있는 개발과 배포를 위한 올바른 방향으로 나아가는 단계라고 믿고 있습니다.
Reuters가 이 기사에 기여했습니다.이 기사는 인공지능의 도움을 받아 번역됐습니다. 자세한 내용은 이용약관을 참조하시기 바랍니다.