UN Needs Rules on AI Weapons, Grossi Says

라파엘 마리아노 그로시 IAEA 사무총장이 UN 타운홀 미팅에서 자율 무기에 대한 가드레일의 필요성을 논의했습니다. 그는 관할권 전반에 걸쳐 개발이 분산되어 있어 하향식 AI 규제는 매우 어렵다고 주장하며, 행동 규칙을 위한 협력 플랫폼이 필요하다고 밝혔습니다. 또한 그는 AI에 대해 IAEA의 핵 검증과 유사한 검증 시스템을 도입하는 것은 환상에 불과하다고 언급했습니다. - 그로시는 AI 기반 자율 무기에 대한 가드레일을 촉구하면서도 혁신을 저해해서는 안 된다고 경고했습니다. - 그는 알고리즘 개발이 너무 분산되어 있어 하향식 규범 접근 방식은 어렵다고 지적했습니다. - 행동 규칙을 정의하기 위한 협력 플랫폼을 향후 대안으로 제시했습니다. - 그는 인간의 개입(human in the loop)을 유지하는 것이 중요하다고 강조했습니다. - 그는 자율 무기를 위한 IAEA 방식의 검증 시스템 도입 아이디어를 환상이라며 일축했습니다. - 해당 토론은 UN 총회장에서 진행되었으며, Bloomberg Television이 사회를 맡았습니다.