“핵무기 관한 모든 행동은 인간이 통제해야”…61개국, 군사용 AI 규범 선언

군사적 목적의 인공지능 활용 기준과 규범을 논의하는 회의가 서울에서 폐막한 가운데, 참가국들이 핵무기 관련 결정은 AI가 아닌 인간이 통제해야 한다는 내용의 선언을 발표했습니다.

지난해 네덜란드에 이어 올해 서울에서 열린 '인공지능의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM)'에 참가한 96개국 가운데 61개국은 회의 결과 문서인 '행동을 위한 청사진(Blueprint for Action)'을 채택했습니다.

참가국들은 해당 문서에서 인공지능이 "핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"고 밝혔습니다.

또한 "국가 및 테러 집단을 포함한 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요가 있다"고 밝혔습니다.

아울러 '무책임한 행위자'들이 군사 분야 인공지능 역량을 획득하거나 오용하지 못하도록 강력한 통제·보안 조치 마련이 필요하다고 강조했습니다.

참가국들은 인공지능의 군사적 활용이 상황인식과 정밀·효율성 증대 등 다양한 혜택을 가져올 수 있고 평화 유지에 도움이 될 수 있다고 평가하면서도, 설계상 오류나 편향에 의한 비의도적 결과, 기술 악용, 군비경쟁, 분쟁 발생 가능성 확대 등의 부작용도 인정한다고 밝혔습니다.

이에 따라 참가국들은 인공지능을 적용한 결과를 기계가 아닌 인간이 책임져야 하고, 이같은 기술의 활용이 국내법과 국제법을 준수해야 한다는 기준 등에 동의했습니다.

이 문서는 법적 구속력을 갖지는 않지만, 국제사회에서 인공지능 관련 규범을 마련하는 과정에 영향을 줄 거로 보입니다.

회의 공동 주최국인 한국 정부는 이번 결과 문서를 토대로 유엔총회에서 후속 논의를 추진할 예정입니다.

이스라엘과 중국 등 35개국은 회의에는 참석했지만 결과 문서에는 서명하지 않았습니다.

REAIM 회의는 지난해 네덜란드에서 처음 열린 이후 이번이 두 번째 개최입니다.

어제(9일)부터 이틀간 서울에서 개최된 회의는 한국과 네덜란드, 싱가포르, 케냐, 영국이 공동 주최했으며 96개국 대표단과 민간 단체, 학자들이 참여했습니다.

[사진 출처 : 연합뉴스]