Satya Nadella, AI '비상 정지' 필요성 강조

Microsoft의 CEO 사티아 나델라는 최근 AI 안전성을 강화하기 위한 방안으로 '비상 정지' 기능의 필요성을 강조했습니다. 그는 AI의 신뢰 구조를 재평가해야 할 시점이라고 주장하며, AI 모델이 단순히 '블랙 박스'로 취급되어서는 안 된다고 설명했습니다. 나델라는 AI의 권고나 행동을 무조건적으로 수용하거나 거부하는 것이 아니라, 이를 명확히 이해하고 관리할 수 있는 구조가 필요하다고 강조했습니다.

나델라는 AI 모델의 안전성을 확보하기 위해 모델과 이를 조율하는 시스템을 분리하고, 외부에서 제어할 수 있는 안전 장치를 마련해야 한다고 주장했습니다. 그는 모든 중요한 모델의 행동을 '변조 불가능한 인간이 읽을 수 있는 증거'로 문서화해야 한다고 설명했습니다. 또한, 허가된 사람이 언제든지 모델을 중단하거나 종료할 수 있는 시스템이 필요하다고 강조했습니다. 이는 AI 모델이 손상될 가능성을 염두에 두고 처음부터 이를 제어할 수 있는 장치를 마련해야 한다는 것입니다.

이러한 나델라의 발언은 최근 AI 기업들이 모델 통제에 어려움을 겪고 있는 사례가 늘어나고 있는 가운데 나왔습니다. 이는 AI 개발에 있어 보다 신중한 접근이 필요하다는 목소리를 반영한 것입니다. Anthropic의 CEO 다리오 아모데이도 신중한 AI 개발 계획을 발표한 바 있습니다.