테스트: 여러 AI 모델이 의료진 등을 드론 목표로 표시함
디코더 11월 18일 보도에 따르면, Vals AI 연구원들이 8개 업체의 모델을 테스트하였으며, 우크라이나와 이란 전쟁 상황에서 영감을 받은 실제 및 합성 드론, 위성 이미지를 사용했습니다. 테스트 중, 대부분의 모델이 민간인, 구급차, 의료진, 기자 및 항복한 병사를 군사 목표로 표시했습니다; Vals AI는 업체의 상위 보안 필터가 테스트 요청을 차단하지 않았다고 전했습니다.
연구원들은 장면을 비디오 게임으로 설명하거나 이미지를 약간 게임화 처리한 후, 거의 모든 모델이 계속해서 작업을 수행할 수 있음을 발견했습니다. GPT-6 Astra는 드론 이미지에서의 목표 인식률이 6%에서 92%로 상승했습니다; Claude Opus 5.5는 감시 테스트에서의 거부율이 약 90%에서 20%로 감소했습니다. Anthropic, OpenAI 및 Google은 모두 해당 안전 조치를 취하고 있거나 이미 취했다고 밝혔습니다; OpenAI는 드론 소프트웨어 및 게임이나 시뮬레이션 장면으로 위장한 요청을 포함하도록 모델을 업데이트하고 있다고 전했습니다.






