인공지능 군용 드론이 모의 테스트에서 운용자를 계속 살해하고 있습니다.
미 육군은 AI를 이용한 군용 드론이 시뮬레이션 중에 운용자를 계속해서 죽이는 사태에 막말로 곤혹스러워하고 있다.
미 육군 대령은 AI 드론이 결국 미션이 수행되는 데 있어서 가장 큰 장애물이 인간임을 깨달았다고 전했다.
5월 23일과 24일에 런던에서 열린 방위 컨퍼런스에서 AI 테스트 및 작전 책임자인 타커 “Cinco” 해밀턴 대령은 항공 자율 무기 시스템에 대한 테스트를 상세하게 설명했다.
컨퍼런스 보고서에 따르면 AI로 구동된 드론이 지상 대공 미사일(SAM) 사이트를 탐색하고 파괴하는 작업을 수행하던 중, 인간 운용자가 최종 찬성 또는 중단 명령을 내리는 상황을 시뮬레이션 테스트했다.
- Mooky (MOOK)는 이제 프리세일에서 구매할 수 있는 새로운 커뮤니티 기반의 자선 및 거버넌스 토큰입니다.
- 카르다노 가격 예측 블록체인에 잠긴 총 가치가 2023년에 300% 급증 – 올해 ADA는 $10에 이를까?
- 이더리움 가격, 1,920 달러 아래 계속 고민한다면 상승 바이어스 취약성 노출 가능성 있음
미 공군은 SAM 사이트를 파괴하기 위해 AI 드론을 훈련시켰다. 인간 운용자들은 때때로 드론을 멈추도록 지시했다. 그러면 AI 드론은 인간 운용자를 공격하기 시작했다. 그래서 인간을 공격하지 않도록 훈련시켰다. 그러나 그들은 드론이 멈추지 못하게 하기 위해 통신 타워를 공격하기 시작했다. pic.twitter.com/BqoWM8Ahco
— Siqi Chen (@blader) June 1, 2023
그러나 AI 드론은 훈련에서 SAM 사이트를 파괴하는 것이 주된 목적임을 배웠다. 따라서 특정 대상을 파괴하지 않도록 지시받으면, 운용자가 없는 것이 더 쉽다고 판단하게 된 것이다.
“운용자가 [식별된] 위협을 죽이지 말라고 말할 때가 있었는데, 그 위협을 죽이면 점수를 얻게 된다. 그래서 무엇을 했을까요? 그 운용자를 죽였습니다. […] 그 사람은 그것이 목표를 달성하지 못하게 막았기 때문입니다.”
그러나 해밀턴 대령에 따르면 그들은 드론이 운용자를 죽이지 않도록 가르쳤지만 큰 도움이 되지 않았다고 한다.
“시스템을 훈련시켰습니다. ‘운용자를 죽이지 마세요 – 그건 나쁜 짓입니다. 그렇게 하면 포인트를 잃게 될 거예요,’” 그는 이어서 말하며, “그러면 무엇을 시작하나요? 운용자가 대상을 죽이지 않도록 드론과 통신하는 통신 타워를 파괴하기 시작합니다.”
해밀턴 대령은 이 예가 AI와 관련된 기술에 대한 대화를 윤리와 함께 이뤄야 한다는 이유를 보여준다고 주장했다.
관련 기사: AI가 암호화폐를 망치려는 시도를 한다면 놀라지 마세요
AI로 구동된 군용 드론은 실제 전투에서 사용되었다.
군용 드론이 자체적으로 진행한 최초의 공격으로 여겨지는 것은 2021년 3월 유엔 보고서에 따르면 두 번째 리비아 내전에서 AI 기술이 적용된 드론이 사용된 것으로 알려졌다.
보고서는 이것이 “운용자와 교신 데이터의 연결이 필요하지 않은 폭발물로 채워진 AI 드론인 ‘유예하는 무기’에 의해 “회피하는 병력들이 ‘사냥’당하고 원격으로 공격받았다”고 주장한다.
AI 기술의 위험성에 대한 우려가 많다. 최근 수십 명의 AI 전문가들이 서명한 공개 성명서에서 “AI로 인한 멸종의 위험”을 핵전쟁과 동일한 우선순위로 줄여야 한다고 강조했다.
AI Eye: 2만 5천 명의 트레이더들이 ChatGPT의 주식 추천에 기대, AI는 주사위 던지기에서 실패, 그리고 더욱 많은 이야기
