오만 무산담에서 바라본 호르무즈 해협의 선박들 [로이터]

[해양수산일보= 임우혁 기자] 인공지능(AI)이 잘못 생성하거나 분석한 정보가 군사작전에 활용되면서 미국과 중국 간 충돌로 이어질 뻔했다는 보도가 나오면서 군사 분야의 AI 활용 위험성이 다시 부각되고 있다.

미국과 중국은 오는 24일 워싱턴에서 열리는 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석의 정상회담에서 AI 위험 관리 문제를 주요 의제 가운데 하나로 논의할 예정이다. 로이터통신도 이번 정상회담에서 무역과 대만, 이란 문제와 함께 AI 거버넌스와 위험 관리가 논의될 것으로 전망했다.

논란의 발단은 지난 4월 미국과 이란의 긴장이 고조되던 시기에 발생한 해상 작전이다.
당시 미군은 이란 국적 선박 투스카호를 나포했다. CNN 보도에 따르면 미 해군 구축함 USS 스프루언스가 선박에 정선을 요구했지만 응하지 않자 엔진을 무력화했고, 이후 미 해병대가 선박에 승선해 장악했다.

이 과정에서 중국과 이란 사이의 군사 물자 거래 가능성을 둘러싼 긴장도 높아졌다. 제시된 보도에 따르면 중국 국적 선박이 핵무기 관련 부품을 싣고 이란으로 향하고 있다는 정보가 미군에 전달되면서 또 다른 선박 나포 작전이 검토됐고, 군용기가 출동하고 병력이 승선을 준비하는 단계까지 진행됐다.

그러나 실제 작전 직전 해당 정보가 AI에 의해 잘못 식별된 것으로 확인되면서 작전이 중단된 것으로 전해졌다. 사실이었다면 중국 국적 선박에 미군이 직접 승선하는 상황으로 이어질 수 있었던 만큼 군사적 긴장이 급격하게 고조될 위험이 있었다는 것이다.

이번 사례는 AI가 군사·정보 분야에 빠르게 도입되는 상황에서 잘못된 분석이나 허위 정보가 실제 군사행동의 판단 근거가 될 수 있다는 위험성을 보여준다.

이 때문에 미중 양국 사이에서도 AI 경쟁과 별도로 공동의 위험을 관리하기 위한 대화 필요성이 제기되고 있다. 스콧 베선트 미 재무장관은 최근 중국과의 고위급 협상에서 AI가 초래할 수 있는 ‘공동의 위험’을 논의할 의향이 있다는 입장을 밝혔다.

다만 양국이 AI 개발 자체의 속도를 늦추는 데 합의할지는 불확실하다. 미국과 중국 모두 AI를 경제·안보 경쟁의 핵심 기술로 보고 있어 규제와 안전 문제를 놓고 상당한 입장 차이가 있는 것으로 전해졌다.

오는 미중 정상회담에서는 AI뿐 아니라 군사적 오판을 줄이기 위한 소통 문제와 무역, 대만, 이란 문제 등도 폭넓게 다뤄질 전망이다. 특히 AI가 군사적 의사결정 과정에 깊숙이 들어오는 상황에서 인간의 최종 판단과 검증 절차를 어떻게 확보할지가 새로운 안보 현안으로 떠오르고 있다.