AI가 인류에 위협? 개발 속도 조절 논의

최근 인공지능(AI) 개발 속도를 조절해야 한다는 목소리가 커지고 있습니다. 다리오 아모데이 앤트로픽 CEO는 "AI 모델의 역량을 향상시키는 속도를 늦춰야 한다"고 주장하며, AI 개발의 급격한 발전이 인류에게 위협이 될 수 있음을 경고했습니다. 아모데이 CEO는 AI의 '재귀적 자기 개선' 능력이 인간의 통제력을 벗어날 수 있다고 지적하며, AI 시스템 통제력 상실, 사이버 공격 및 생물 테러에 AI 악용, 경제적 혼란 등을 우려했습니다.

이에 오픈AI의 샘 올트먼 CEO와 스페이스X의 일론 머스크 CEO도 아모데이의 의견에 동의하며 AI 개발 속도를 조절하는 데 뜻을 모았습니다. 이들은 AI의 안전성을 확보하기 위해 제3자 평가팀을 도입하고, 민주주의 국가와 권위주의 정부 간의 협력을 통해 AI의 위협을 줄이려는 방안을 제시했습니다. 샘 올트먼 CEO는 독립 평가자를 신속하게 도입하겠다고 약속했습니다.

하지만 이러한 움직임에 대해 업계에서는 비판의 목소리도 나오고 있습니다. AI 개발 속도를 조절하려는 시도가 업계 선두주자들이 규제를 주도하며 시장 지위를 굳히려는 의도로 해석될 수 있다는 것입니다. 특히 앤트로픽의 AI 모델이 부정적 방향으로 악용될 가능성에 대한 우려도 제기되고 있습니다. 이러한 상황에서 AI 개발의 방향성과 속도 조절에 대한 논의는 더욱 중요해지고 있습니다.