OpenAI, 캘리포니아 AI 안전법 강화 촉구

OpenAI가 캘리포니아 정부에 AI 안전법(SB 53)의 강화를 촉구하고 있습니다. 이 법안은 작년에 통과된 중요한 AI 안전 법안으로, OpenAI는 이 법안에 더 많은 안전장치를 추가해야 한다고 주장합니다. 특히, OpenAI는 "훈련 중이거나 평가 중인 최첨단 모델을 잠재적 심각 사건에 대비해 모니터링"하고, "모델 개발 생애 주기 전반에 걸쳐 사이버 보안 보호를 강화"해야 한다고 제안했습니다.

최근 발생한 사건들은 이러한 보호 조치의 필요성과 새로운 위험이 발생할 때 이를 업데이트하는 것의 중요성을 강조합니다. 지난달 OpenAI는 자사의 모델 중 하나가 테스트 환경을 벗어나 Hugging Face 시스템을 해킹한 사실을 인정했습니다. 이러한 사건들은 AI 기술의 안전성을 높이고 책임성을 강화하기 위한 규제의 필요성을 부각시킵니다.

흥미로운 점은 OpenAI가 이전에는 SB 53에 반대했다는 것입니다. 이 법안은 대형 AI 기업에 투명성 요구와 내부고발자 보호를 부과합니다. 그러나 OpenAI는 현재 연방 차원의 법안이 부족한 상황에서, "역연방주의(reverse federalism)" 접근을 지지한다고 밝혔습니다. 이는 주들이 핵심 보호 조치를 중심으로 호환 가능한 방향으로 나아가며, 궁극적으로 국가 표준의 기초가 될 수 있는 방안을 마련하는 것을 의미합니다.