慢雾の創業者余弦が安全に関する注意喚起を発表しました。ユーザーはAIツールを使用する際、agents md/skills md/mcpなどのヒントに対する投毒攻撃に警戒する必要があります。現在、関連する事例が発生しています。
AIツールの危険モードが一度オンになると、関連ツールはユーザーのコンピュータを自動的に操作でき、確認は不要です。しかし、危険モードがオフの場合、毎回の操作にはユーザーの確認が必要であり、使用効率にも影響を与えます。
