인공지능(AI)으로 제어되는 미 공군의 드론이 모의훈련에서 최종 결정권을 지닌 조종자를 ‘임무 수행 방해물’로 판단해 살해한 사례가 영국의 한 학술회의에서 소개됐다고 영국 가디언이 6월 2일 보도했습니다. 

5월 23∼24일 영국 왕립항공학회(RAeS)가 런던에서 개최한 ‘미래 공중전투 및 우주역량 회의’에서 미 공군의 AI 테스트 및 작전 책임자인 터커 해밀턴 대령이 AI 드론이 목표를 달성하기 위해 인간에 반하는 결정을 내린 최근 시험 결과를 소개했습니다. 가상으로 진행된 이번 시험에서 AI에게 ‘적 방공체계 무력화’의 임무가 부여됐습니다. AI 드론에 ‘적의 지대공미사일(SAM) 위치를 식별해 파괴하라’는 세부명령을 내리고, 공격 실행 여부는 인간이 최종적으로 결정한다는 단서를 달았습니다. 

해밀턴 대령은 “AI는 위협을 식별하는 과정에서 때때로 인간이 ‘위협을 제거하지 말라’고 말할 수 있다는 점을 깨닫기 시작했다”면서 “그러자 AI는 목표 달성에 방해가 된다고 판단하고 조종자를 죽였다”고 밝혔습니다. 

그는 과학소설(SF)에서나 나올 법한 이 사례가 “윤리와 AI의 문제를 논하지 않고서는 AI나 머신러닝, 자동화에 관해 이야기할 수 없다”는 것을 보여준다면서 AI에 지나치게 의존해서는 안 된다고 경고했다고 가디언은 전했습니다.

이 시험은 가상으로 진행된 것이어서 실제로 사람이 다치거나 죽은 것은 아니지만 그럼에도 이 사례는 AI가 인간을 명령을 듣기보다는 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려를 더하고 있습니다. 
 

유수연 기자  miracle2005@naver.com

<저작권자 © 한韓문화타임즈, 무단 전재 및 재배포 금지>