정치ㅣ국제

'군사용 AI' 행동 청사진 채택…"인간 아닌 기계에 책임 전가 안 돼"

놀아줘 작성
작성일 2024.09.10 16:02

6 조회
0 추천
목록

2차 REAIM 고위급 회의 폐막…'인간의 책임성' 못박아

구속력 없는 선언적 문서 한계…특정국가 한정 땐 흔들

외교부 "민감분야 원칙 도출에 의의…유엔서 논의 기대"

[서울=뉴시스] 전신 기자 = 9일 서울 중구 롯데호텔에서 열린 2024 인공지능(AI)의 책임있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의)에서 '인공지능(AI)이 국제 평화와 안보에 미치는 영향' 주제의 본회의 1세션이 진행되고 있다. 2024.09.09.

[email protected]

[서울=뉴시스] 변해정 기자 = 10일 서울에서 채택된 '행동을 위한 청사진(Blueprint for Action·블루프린트 포 액션)'에는 "군사용 인공지능(AI)가 '핵무기 없는 세계'라는 궁극적 목표를 저해하지 않도록 국내·국제법 체제에 합치하는 방식으로 개발·배치·이용하며 그 효과에 대한 책임과 책무는 기계에게 전가될 수 없다"는 내용이 담겼다.

AI가 군비경쟁을 불러 일으킬 수 있음을 인정하고, 군사 분야에서 AI 활용 시 인간의 책임성을 문서로 못박은 것이다.

하지만 법적 구속력을 가지는 '조약'이 아니라는 점이 한계다. 우크라이나를 침공한 러시아는 애당초 초청 대상국에서 제외된데다 이해관계가 얽힌 일부 국가들도 서명에 참여하지 않아 AI 기술의 활용이 가져올 윤리적 문제는 여전히 숙제로 남아 있다.

이날 오후 서울 중구 롯데호텔에서 개최된 '2024 제2차 AI의 책임있는 군사적 이용에 관한 고위급회의’(REAIM 고위급 회의) 폐회식에서는 이같은 내용의 결과문서가 채택됐다.

◇1차 회의 '행동촉구' 기반…한 발 더 나아간 희망적 '미래구상'

이날 채택된 문서는 지난해 2월 네덜란드 헤이그에서 열린 1차 회의에서 제시된 '행동 촉구(Call to Action·콜 투 액션)'을 기반으로 한다. 행동 촉구는 '군사적 AI의 책임있는 사용' 의제에 대한 공통 인식을 확인하고 다자간 협력을 촉구하는 게 골자다.

이 문서는 더 나아가 AI를 군사적으로 이용하는 데 인간의 책임성을 명확히 했다.

이는 ▲AI가 국제 평화와 안보에 미치는 영향 ▲AI의 책임있는 군사적 이용을 위한 조치 ▲군사분야 AI의 미래 거버넌스 구상 등 크게 3가지로 나눠 정리했다.

문서는 "군사분야 AI 적용이 국제 평화·안보 및 안정을 유지하며 저해하지 않는 방식으로 개발·배치·이용돼야 한다"면서 "인도주의적·법적·안보적·기술적·사회적 또는 윤리적 관점에서 다양한 도전과 위험과 연관될 수 있으며 이러한 도전과 위험은 식별되고, 평가되며, 다뤄져야 한다"고 적시했다.

이를 위해 국제연합(UN) 헌장, 국제인도법, 국제인권법을 포함해 적용 가능한 국제법과 지역 기구를 포함한 여타 법적 체제에 합치하도록 적용돼야 함을 촉구하고 있다.

문서는 또 "인간은 군사분야 AI 적용의 활용과 효과에 대한 책임과 책무를 지며, 이러한 책임과 책무는 어떠한 경우에도 기계에게 전가될 수 없다"면서 AI 적용이 군사 분야에서 위험을 야기할 수 있음을 인정했다.

위험 중에서도 ▲설계상 오류 ▲데이터·알고리즘·여타 편향에 인한 비의도적 결과 ▲기술의 잠재적 오용 또는 악용 ▲AI 적용과 군비경쟁, 오판, 긴장고조, 분쟁 발생의 역치 하향화 위험 등을 포함한 국제적·지역적 분쟁 및 안정의 복합적인 역학 간 상호작용 등에서 유래할 수 있다고 봤다.

특히 군사분야에서 잠재적으로 큰 영향을 초래할 수 있어 특별한 정책적 관심을 요하는 AI 적용으로 ▲AI 기반 무기체계 ▲전투 작전 관련 AI 기반 의사결정 지원 체계 ▲AI를 이용한 사이버 작전 ▲AI를 이용한 전자전 ▲AI를 이용한 정보전 등을 포함시켰다.

문서는 "위험을 줄이기 위한 적절한 보호장치 마련을 통해 AI 적용의 신뢰성을 보장해야 한다"면서 "핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다"고 적시했다.

다만 군사분야 AI 위험을 막기 위한 강력한 통제 및 보안 조치들이 여타 비군사적 분야에서의 AI 혜택에 대한 평등한 접근을 저해해서는 안 된다는 점을 분명히 했다.

각 국가 및 지역의 군사분야 AI 기술이 서로 다른 다양한 단계에 놓여 있는데다 상이한 안보 환경에 처해있는 만큼 관련 논의는 개방적·포용적으로 이뤄져야 하며, AI 기술 관련 연구·개발·실험·혁신 노력을 방해해선 안 된다는 데도 의견을 같이 했다.

문서는 "기술의 급속한 개발과 발전에 발맞추기 위해 군사분야 AI의 거버넌스에 대한 유연하고 균형적이며 현실적인 접근이 필요하다는 점을 인정한다"며 "인류의 미래를 위해 책임있는 AI를 정립하는 노력을 이어가는 과정에서 국가들의 동참을 초청하며 여타 유관 이해관계자들이 이를 지지·관여하는 것을 환영한다"고 강조했다.

◇한계 극복이 관건…韓, '유엔 주도' 기대

그러나 행동 청사진은 회의의 결과물을 담은 일종의 '선언적' 문서로, 법적 구속력이 있는 조약과는 차이가 있다.

더욱이 회의에 초청받지 못한 러시아와 대만 등 여타 국가와 회의에 참석하고도 서명하지 않은 국가의 경우 이를 이행할 것을 기대하기란 어렵다.

우리 정부가 군사용 AI에 대한 국제 논의를 특정 국가가 아닌 유엔 주도로 이뤄지기를 희망하는 것도 이런 이유에서다.

외교부 당국자는 최근 기자들과 만나 "회의 결과문서는 조약도 유엔 결의도 아니지만 군사라는 민감 분야의 활용에 있어 인류가 짚고 넘어가야 할 원칙을 편집해냈다는 데 의의가 있다"면서 "더 많은 국가들이 참여하기를 바라고 있다"고 전했다.

또 다른 외교부 당국자는 "이번 회의에 불참했거나 문서 서명을 하지 않았다고 해서 동참하지 않은 것은 아니다. 추후에 참석해 동의(서명 참여)할 수도 있다"면서 "향후 여러 국가 및 국제기구 차원에서 관련 레짐(규범)을 마련하는 과정을 겪을 것이며 유엔 총회에서도 다루게 되지 않을까 생각한다"고 언급했다.

여기에도 이견은 존재한다. 익명을 요구한 한 당국자는 "국제 평화·안보를 향한 한발 더 나아간 걸음을 내디딘 회의였지만 다수 국가가 서명하지 않아 앞으로의 논의가 더 치열해질 것임이 확인됐다"고 말했다.

출처 : 뉴시스

[ 읽기 : 0 / 쓰기 : 0 / 댓글 : 10 / 공유 : 50 ]