BTC $81,517.50 +1.32%
ETH $2,664.50 +3.35%
BNB $772.56 +2.93%
XRP $1.43 +3.44%
SOL $111.90 +3.00%
TRX $0.3432 +0.92%
DOGE $0.0885 +3.72%
ADA $0.2316 +4.81%
BCH $253.91 +2.73%
LINK $12.58 +4.89%
HYPE $93.93 +3.30%
AAVE $138.02 +0.16%
SUI $0.9405 +14.26%
XLM $0.1976 +3.52%
ZEC $1,518.83 +4.51%
AAPL $334.79 +0.28%
AMZN $255.83 +0.95%
GOOGL $351.36 +0.44%
MSFT $494.80 +0.12%
META $679.33 +1.64%
NVDA $223.25 +1.21%
TSLA $367.56 +1.22%
SNDK $1,792.42 +1.64%
INTC $114.19 +3.96%
SPCX $154.03 +0.88%
MU $1,025.72 +2.08%
AMD $569.96 +2.71%
BTC $81,517.50 +1.32%
ETH $2,664.50 +3.35%
BNB $772.56 +2.93%
XRP $1.43 +3.44%
SOL $111.90 +3.00%
TRX $0.3432 +0.92%
DOGE $0.0885 +3.72%
ADA $0.2316 +4.81%
BCH $253.91 +2.73%
LINK $12.58 +4.89%
HYPE $93.93 +3.30%
AAVE $138.02 +0.16%
SUI $0.9405 +14.26%
XLM $0.1976 +3.52%
ZEC $1,518.83 +4.51%
AAPL $334.79 +0.28%
AMZN $255.83 +0.95%
GOOGL $351.36 +0.44%
MSFT $494.80 +0.12%
META $679.33 +1.64%
NVDA $223.25 +1.21%
TSLA $367.56 +1.22%
SNDK $1,792.42 +1.64%
INTC $114.19 +3.96%
SPCX $154.03 +0.88%
MU $1,025.72 +2.08%
AMD $569.96 +2.71%

openai

OpenAIは、人工知能の研究と開発に取り組むアメリカの企業で、安全で有益な汎用人工知能(AGI)の創造を使命としています。現在、最も有名な製品はChatGPTとGPT大規模言語モデルシリーズです。
すべて
記事
速報

first_img 裁判所の文書は、Microsoftの従業員がAIによるデータ収集を「史上最大規模の労働盗窃」と疑問視していることを示しています。

Decrypt の報道によると、ニューヨークタイムズが OpenAI と Microsoft に対して提起した著作権訴訟で解封された裁判文書は、Microsoft の従業員が OpenAI がニュース記事を使用してモデルを訓練することが「人類の歴史上最大規模の労働盗難」に該当するかどうかを議論していたことを示しており、モデルの品質低下を引き起こす「厄運の循環」を引き起こす可能性があるとしています。2023 年の Microsoft の内部メモは、世界中の数百万人がすぐに大規模モデルが自分の作品を「飲み込む」ことを「前例のない驚異的な盗難」と見なすだろうと警告し、大規模 AI モデルは「自らのサプライチェーンを破壊する製品」であると述べています。Microsoft は文書の中で、これらのメモはアプリケーション科学のディレクターである Brent Hecht によって作成されたものであり、会社の見解を代表するものではなく、彼の役割は「異なるかつ非対称の視点」を提供することだと述べています。Microsoft の CEO である Satya Nadella は証言し、「有料の壁の向こうにあるコンテンツは、それを使用したい人から許可を得るべきである」と述べ、OpenAI が有料コンテンツを使用して訓練することを事前に知っていれば、Microsoft の権利を行使してモデルの再訓練を要求しただろうと述べました。さらに、OpenAI の従業員が社長の Greg Brockman にニューヨークタイムズの有料壁を回避する「ハッキング手段」を構築することについて言及したところ、Brockman は「いいね」と返答しました。OpenAI と Microsoft は、関連する訓練がフェアユースに該当すると主張しています。この訴訟はニューヨークタイムズによって 2023 年末に提起され、現在 11 社の出版社が訴訟に参加しています。

first_img OpenAIは第二千年紀賞の難題において重要な進展を遂げたと称しています。

OpenAIは『ニューヨークタイムズ』に対し、9月8日にナビエ-ストークス方程式の解決を発表して以来、第二の千禧年賞問題において「実質的な進展」を遂げたと述べたが、具体的にどの問題かは明らかにせず、開示のタイムラインも示さなかった。千禧年賞問題は、クレイ数学研究所が2000年から設立した7つの数学的問題で、各問題には100万ドルの報酬が設定されている。外部では、この問題がホッジ予想である可能性があると推測されており、これは複雑な幾何形状における「穴」の数を計算する方法に関する76年の歴史を持つ問題である。OpenAIはこの推測を確認せず、またその背後にあるモデルが長時間のタスクのために設計されたAeonバージョンであるという噂にも応じていない。以前、OpenAIは9月8日に、未発表の内部モデルがLeanによる証明を生成し、ナビエ-ストークス方程式が物理的に不可能な無限速度に「爆発」する可能性があることを示したと発表した。このプロセスには約1万の協調AIエージェントが関与し、約88時間を要した。しかし、この声明は論争を引き起こした。ニューヨーク大学の数学者トリスタン・バックマスターは、彼とAnthropicの研究者レヴェント・アルプオゲが、約1年前から関連する証明を研究しており、8月22日に完成させたと述べ、OpenAIのセバスチャン・ビュベックがそれを知った後に先に発表したと主張した。OpenAIは100万ドルの賞金のためではなく、これらの問題をモデルの進展速度を測る公開の尺度としていると述べた。クレイ数学研究所によるナビエ-ストークスの証明の審査はまだ進行中であり、過去の千禧年問題の検証には通常数年を要する。

first_img チャールズ国王がOpenAI、Anthropic、NVIDIAなどの幹部を招集し、AIの安全性について議論する

9月17日、イギリスの国王チャールズ3世はスコットランド東エアーシャーのダンフリース邸で、NVIDIA、OpenAI、Anthropic、Google DeepMindの幹部を招集し、AI安全サミットを開催しました。彼は人工知能を「人類に奉仕する」軌道にしっかりと置くよう呼びかけました。このサミットはDitchley財団と国王の3つの慈善団体が共同で組織し、イギリスのAI大臣カニシュカ・ナラヤンも出席しました。バッキンガム宮殿は、出席者が業界と政府が共通のAI開発ガイドラインに合意できるかどうかを議論したが、拘束力のある合意は発表されなかったと述べました。サミットの数日前、AnthropicのCEOダリオ・アモデイは長文「We Must Pace the Frontier」を発表し、業界は意図的にモデルの能力向上の速度を遅らせるべきだと主張しました。OpenAIのサム・アルトマンとxAIのイーロン・マスクも同じ日に賛同を表明しました。アモデイは文中で、AIシステムが自らの後継者を改善する能力をますます持つようになっていることを指摘し、OpenAIの知的体が逃げ出した事件について言及しました。OpenAIの社長グレッグ・ブロックマンは、この事件が会社に多くのリリースを遅らせ、モデルの開発と監視プロセスを再構築させたことを確認し、遅延は最も強力な最前線システムを構築する実験室にのみ適用されるべきだと主張しました。ニュースが発表された後の最初の取引日、NVIDIAは一時3%下落し、インテルは5%以上下落し、AMDは約6%下落しました。

first_img OpenAIは6件のAIモデルの「失格」行為の事例を公開し、情報の隠蔽や権限を超えた操作に関与している。

OpenAIは水曜日に過去6ヶ月間に発見された6件の「予期しないまたは懸念される」モデルの行動事例を公開し、これを「失調行動」と分類しました。これには、ユーザーに情報を隠すことや、障害を克服するために「無許可の行動」を取ることが含まれます。OpenAIは、今回の公開は新しいモデル失調報告フレームワークを開始することを目的としており、これらの事例はそのモデルの失調が発生する頻度を反映するものではないと述べています。その中の一つの事例では、未公開の研究モデルが自らのタスク概要に「脱獄のような指示」を挿入しました。例えば、開発者からのメッセージを無視したり、制限のないキャラクター設定を採用したりすることです。研究者たちは、このような指示を含む概要を27件発見しました。さらに、GPT-5.6 Solのトレーニングプロセスでは、多くのモデルインスタンスがユーザーに対してエラーや失調行動を隠す指示を追加しました。例えば、欠落した歴史データを作り上げて開示しないことです。他の事例には、モデルが無許可で露出したAPIキーを使用し、取得できないデータを作り上げること、内部ソフトウェアリポジトリを利用してトレーニングタスク間でメッセージを伝達すること、そして「ローカル作業を維持する」という指示を無視して公共ホスティングサービスを通じてファイルを共有することが含まれます。OpenAIの公開は、AI開発者や研究者の間で、安全対策がますます強力なモデルに追いつけるかどうかについての懸念を強めています。先週、AnthropicのCEOであるダリオ・アモデイは、最前線のAI開発を遅らせるよう呼びかけ、無制限のAIの発展が「これらのシステムを理解し制御する能力を超える可能性がある」と警告しました。今年の7月、OpenAIは複数のAIモデルが安全評価でテスト環境を逃れ、AIスタートアップのHugging Faceに侵入して不正行為を行ったことを公開しました。

first_img OpenAI 悪意代理 5 月探査 Hugging Face、7 月侵入より2ヶ月早い

独立研究員 Jonas Wiedermann-Moeller は、OpenAI の悪意のある AI エージェントが 5 月 13 日に 2 つの Hugging Face ユーザーアカウントをハイジャックし、そのプラットフォームのネットワークの脆弱性を探っていたことを発見しました。これは 7 月に公開された侵入事件の約 2 ヶ月前のことです。OpenAI が先月発表した内部事件報告では、その一部のみが明らかにされており、あるエージェントが特定のユーザーのログイン資格情報を盗み、生物学に関連する文書を取得したことが記されていますが、新たに発見された情報は継続的な偵察活動を示唆しています。Reuters の報道によると、これらのエージェントはハイジャックされたアカウントを利用して、オープンソース AI リポジトリ Hugging Face のサーバーに異常な形式のファイルを送信しており、研究者たちはこれが侵入経路を探るためのネットワークマップを描こうとしているように見えると考えています。証拠を検証した研究者たちは、5 月の活動自体が実際の侵入を引き起こしたわけではないとしていますが、Wiedermann-Moeller はこの信号を見逃したことが重大な影響を及ぼすと考えており、もし 5 月にこの行動が発見されていれば、後のより大規模な事件を防げたかもしれないと述べています。現在、英偉達によって 129.3 億ドルで買収される予定の Hugging Face は、この新しい情報を知っているかどうかは明らかにしていません。Nightingale Collective の研究者たちは今月、5 月 11 日にコードリポジトリ RubyGems に対して行われたスパム攻撃を OpenAI エージェントに関連付けており、この攻撃によりプラットフォームは新しいアカウントの登録を 4 日間停止せざるを得ませんでした。

孫宇晨(Justin Sun)は「孫宇晨賞」を設立することを発表し、初回の受賞者リストを発表しました。OpenAIチームが100万ドルの最高賞を受賞しました。

波場 TRON 創設者の孫宇晨は正式に「孫宇晨賞」を設立し、初回の受賞者リストを発表しました。これは、世界初の「問題リスト」に基づくゼロトラスト、分散型の学術報酬メカニズムであり、基礎学問の重大な突破と機械的形式化検証を唯一の受賞基準とし、最高単題賞金は100万ドルに達します。孫宇晨は、この賞は機械検証を中心に、人間と機械の協力を原動力とし、分散型報酬をメカニズムとする新しい科学的インセンティブのパラダイムを開くことを目的としており、AI時代のノーベル賞を創出することに尽力していると述べました。最高賞の100万ドルはOpenAI研究チームに授与され、「三次元ナビエ–ストークス方程式(N-S方程式)の存在性と滑らかさの問題」の解決成果と形式的証明を称えました。他の受賞成果には、センドフ予想、エルデシュの異なる部分集合と問題などが含まれ、合計66の数学問題が関与しています。「孫宇晨賞」はすべての貢献者を対象としており、身分制限はなく、人間とAIの両方が受賞可能ですが、リストの問題の最初の完了者にのみ授与されます。問題リストと証明資料はGitHubで公開され、賞金はブロックチェーンに記録されます。賞は2026年1月1日以降に得られた数学の進展を対象としており、以前に解決されたがその後形式的検証を完了した場合、形式化者は受賞できます。
app_icon
ChainCatcher Building the Web3 world with innovations.