미국 국방부에 따르면 터키산 드론이 조종사의 명령 없이도 인공지능(Artifiical Intelligence, 이하 AI) 프로그램 오류로 사람을 공격할 수 있다고 주장했다.

전투형 드론에 AI가 내장될 경우 목표물을 인식하고 공격하는 프로그램이 설정된다. 미국방부는 현재 AI기술로는 타겟이 사물인지 사람인지 식별하는 것은 완벽하지 않다고 분석했다.

특히 터키의 공격형 드론인 ‘Kargu-2’가 사람을 공격할 수 있는 자율비행 시스템을 갖추고 있다고 지적했다. Kargu-2 드론은 2019년 발생한 리비아 내전에 투입된 것으로 알려졌다.

국제연합(UN) 보고서에 따르면 2019년 발생된 리비아 내전에 Kargu-2 드론이 투입돼 한 이민 센터를 공습한 바 있다. 그 결과 민간인 40명이 사망하고 60명이 부상을 입었다.

당시 드론을 투입한 리비아국민군(LNA)은 민간인을 겨냥한 것이 아니라고 주장했다. 미국방부는 드론이 정확한 물체 인식을 수행하지 못한 참사라며 Kargu-2를 ‘치명적인 자율무기’라고 규정했다.

현재까지 인간을 상대로 한 자율형 무기체계는 없다. 하지만 드론처럼 AI 시스템이 용이하게 적용되는 경우, 기계학습의 오차로 사람을 공격 목표물로 인식하는 것은 한순간이다.

한편, 이번 미국방부의 주장이 최근 확장되고 있는 터키의 군용드론 사업을 저지하려는 의도일 수 있다며 정치적 시선으로 바라보는 이들도 적지 않다.

▲터키 드론제조사 STM의 Kargu 드론 소개(출처 : STM 홈페이지)