Anthropicの研究員が辞職し、来年AIが制御を失う可能性があると述べた。

Anthropic の研究員 Jacob Coxon が辞職を発表し、AI 業界を離れる準備をしています。彼は過去三年間、OpenAI と Anthropic で事前訓練研究を行ってきました。彼は、両社が責任を持って AI を推進しておらず、自己能力を向上させるスーパーインテリジェンスを競って作り出していると指摘しました。「私たちの命を賭けて」。

彼は今年、OpenAI から Anthropic に移ったのは、後者がモデルの安全性をより重視しているからでした。Coxon は、Anthropic の安全性に関する取り組みは真剣であると認めていますが、各社が AGI（多くのタスクで人間を超える汎用 AI）を先に作り出そうと競っている限り、安全性の妥協は避けられず、一社の自律だけでは問題を解決できないと考えています。彼は両社について次のように評価しています：OpenAI の内部には、多くの人がこのリスクの大きさを本当に理解していない；Anthropic はリスクを理解しているが、他社は信頼できないと考えているため、自ら先に実現しなければならないと。

Coxon は、一部の AI 従事者が公に表明するよりも私的にはるかに悲観的であり、今十年の終わりまでに AI が人類を滅ぼすことを心配していると述べています。彼自身の判断では、最も過激なシナリオでは、来年末には AI が制御を失う可能性があるため、このような決定は数社のエンジニアの内部で決めるべきではないとしています。