OpenAI, Astra 모델의 새로운 추론 기법 발표

OpenAI가 최근 발표한 Astra 모델은 새로운 '재귀 깊이' 기법을 도입하여 주목받고 있습니다. 이 기법은 기존의 순차적 사고를 넘어서는 방식으로, 모델이 문제를 해결하는 과정에서 반복적으로 질문을 처리할 수 있게 합니다. 이로 인해 모델의 사고 과정을 모니터링하기 어려워질 수 있다는 우려가 제기되고 있습니다. 특히, AI 안전성 전문가들은 이 기법의 사용에 대해 큰 우려를 표명하고 있습니다.

Astra 모델의 '재귀 깊이' 기법은 '불투명한 재귀'라고도 불리며, 기존의 사고 체인(Chain of Thought, CoT) 모니터링을 어렵게 만듭니다. Redwood Research의 CEO인 Buck Shlegeris는 이 기법이 확대될 경우, 사고 과정의 모니터링이 거의 불가능해질 수 있다고 경고했습니다. 또한, AI 안전성 옹호자인 Zvi Mowshowitz는 이러한 기술이 AI 연구소 간의 '바닥으로의 경주'를 초래할 수 있다고 지적하며, 법적 규제가 필요할 수 있다고 주장했습니다.

OpenAI는 Astra 모델의 사용이 제한적이며, 여전히 사고 체인을 명확하게 유지할 계획이라고 밝혔습니다. Jakub Pachocki OpenAI 수석 과학자는 사고 체인 모니터링을 유지하는 것이 연구의 핵심 목표라고 강조했습니다. 그러나 '불투명한 재귀' 기법이 확산될 경우, AI 모델의 사고 과정을 모니터링하기가 더욱 어려워질 수 있다는 우려는 여전합니다. 이 기법은 이미 Anthropic과 Google DeepMind에서도 논의되고 있으며, AI 모델의 사고 과정이 점점 더 '잠재 공간'에서 이루어질 가능성이 있다는 경고도 나오고 있습니다.