서울 -12.1º
미세먼지 좋음
을 활용해 무기를 조종할 수 있다는 것이 확인...'))
최근 인공지능(AI)을 활용해 무기를 조종할 수 있다는 것이 확인돼 살상용 AI의 위험성이 부각되고 있다. 인명 피해를 막기 위해 군사 분야에서 AI를 활용하려 하고 있지만 안전성을 보장하기는 힘든 상황이다.
12일 정보통신 매체 기즈모토는 영미권 커뮤니티 사이트 레딧에 개발자가 발사 명령을 읽으면 옆에 있는 소총이 빠르게 주변 벽을 겨냥하고 발사하는 장면을 담은 영상을 소개했다.
해당 개발자가 챗GPT에게 전면 왼쪽과 오른쪽에서 공격받고 있다고 말한 다음 적절하게 대응하라고 명령하자 소총이 빠르고 정확하게 발사된다.
해당 시스템은 최근 출시한 리얼타임 API에 의존해 사용자의 명령을 해석해 구현한다. 여기에 사용되는 명령은 ‘왼쪽으로 돌려(Turn left)’와 같은 명령이다. 개발자는 이를 기기가 읽을 수 있는 언어로 구현하는 것이 매우 간단하다고 설명했다.
오픈 AI는 성명을 발표하고 소총 AI를 만든 개발자를 차단했다고 밝혔다. 오픈 AI는 자사 제품을 사용해 무기를 개발하거나 개인 안전에 영향을 줄 수 있는 특정 시스템을 자동화하는 것을 금지하고 있다.
오픈 AI는 “우리는 정책 위반을 사전에 파악했고 문의를 받기 전 활동을 중단하라고 개발자에게 알렸다”고 전다.
AI가 발전하면서 AI 기술을 전쟁에 이용하는 방안 또한 꾸준히 논의돼 왔다. 무인 로봇이나 무인 드론을 통해 전쟁을 수행할 수 있게 된다면 인명 피해를 줄일 수 있기 때문이다. 실제로 미국 육군은 2024년 10월 AI 소총을 탑재한 사족보행 로봇개를 공개하기도 했다.
국내에서도 한국항공우주산업이 유·무인 전투기 운용에 활용이 가능한 AI 조종사를 개발 중이며 한화에어로스페이스는 2024년 말 개인화기 탑재가 가능한 AI 다목적 무인 차량 아리온스멧을 개발한 바 있다.
그러나 AI가 인간을 죽일 수 있게 된다는 점에서 AI 살상 무기를 금지해야 한다는 주장도 나온다. AI가 오작동할 가능성이 있기 때문이다.
한국국방연구원은 2024년 발표한 ‘AI 자율 무기체계 시험평가의 도전요인과 시사점’ 보고서를 통해 “AI 자율 무기체계의 안전한 운용을 보장할 수 있는 시험평가체계가 현재는 마련돼 있지 않으므로 오작동에 대한 대비책으로 의사결정 및 작동에 인간의 개입이 보장돼야 한다”고 지적한 바 있다.
여기에 인간이 직접 살상용 AI에 명령을 내릴 수 있다는 점에서 AI에게 악의적인 명령을 내린다면 AI가 거부하지 않는다는 것 또한 문제가 된다.
익명을 요구한 한 AI 개발자는 “예를 들어 인종차별주의자가 지나가는 사람들 중 흑인만 골라서 쏘라고 명령한다면 AI는 그 명령을 그대로 따를 것이고 규모가 큰 조직이라면 특정 인물의 사진이나 인적 정보를 입력해 거기에 해당하는 사람들만 쏘는 것도 불가능이 아니다”라며 “여러 가지 규제를 만들 순 있겠지만 규제를 무시하고 악용하려고 한다면 방지할 방법이 있는지 의문”이라고 말했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요2
좋아요0
감동이에요0
화나요0
슬퍼요0
연재기획 ‘반대세의 비밀’ 
연재소설 ‘최초의 당신’
기사제보 
