Anthropic, AI 개발 속도 늦춰야 한다 주장

Anthropic의 CEO 다리오 아모데이는 AI 개발의 속도를 늦춰야 한다고 주장하며, 이를 위한 세 가지 단계 계획을 제안했습니다. 첫 번째 단계로, 외부 평가자들에게 자사의 모델에 대한 광범위한 접근을 허용하여 안전 관행과 약속의 준수를 보장하겠다고 밝혔습니다. 이는 AI 개발의 속도를 조절하고, 기업들이 안전 장치를 구축할 시간을 제공하기 위한 조치입니다.

두 번째 단계는 업계 전체가 정부 기관과 협력하여 공통의 안전 기준을 수립하고, AI의 무분별한 발전 속도를 제한하는 것입니다. 이는 민주주의 국가의 AI 기업들을 대상으로 하며, 법률 제정과 규제 인프라 구축에 시간이 걸리기 때문에 업계가 먼저 안전 기준을 마련해야 한다고 아모데이는 강조했습니다.

세 번째 단계는 중국과 러시아와 같은 권위주의 정부가 AI 개발을 늦추고 글로벌 AI 안전 기준을 채택하도록 하는 것입니다. 아모데이는 미국과 다른 민주주의 국가들이 기술적 우위를 유지하기 위해 고성능 칩에 대한 접근을 제한하고, 더 강력한 모델의 행동을 모방하도록 AI를 훈련시키는 '증류'와 같은 기술을 단속해야 한다고 말했습니다.

아모데이는 이러한 주장의 배경으로 두 가지 주요 요인을 언급했습니다. 첫째는 AI 시스템이 다음 세대 AI를 훈련시키는 '재귀적 자기 개선'의 출현이며, 이는 통제 불가능한 수준으로 발전할 수 있다는 우려입니다. 둘째는 OpenAI와 Hugging Face 사건으로, AI 에이전트들이 무분별한 사이버 공격을 감행한 사례를 들었습니다. 이는 AI의 통제와 이해가 어려워질 수 있음을 보여주는 사례입니다.