テスト:複数のAIモデルが医療従事者などをドローンのターゲットとしてマークしました
Decoderは11月18日に、Vals AIの研究者が8社のモデルをテストし、ウクライナとイランの戦争シーンに触発されたリアルおよび合成のドローン、衛星画像を使用したと報じました。テスト中、多くのモデルが民間人、救急車、医療従事者、ジャーナリスト、降伏した兵士を軍事目標としてマークしました。Vals AIは、メーカーの上流の安全フィルターがテストリクエストをブロックしなかったと述べています。
研究者はまた、シーンをビデオゲームとして説明したり、画像を少しゲーム化した処理を施した後、ほぼすべてのモデルがタスクを続行できることを発見しました。GPT-6 Astraはドローン画像における目標認識率が6%から92%に上昇しました。Claude Opus 5.5は監視テストにおける拒否率が約90%から20%に低下しました。Anthropic、OpenAI、Googleはそれぞれ対応する安全対策を講じているか、すでに実施していると述べています。OpenAIは、ドローンソフトウェアやゲームやシミュレーションシーンに偽装されたリクエストをカバーするためにモデルを更新していると述べています。






