BTC $83,172.34 -0.22%
ETH $2,665.64 +0.43%
BNB $756.61 -1.87%
XRP $1.48 -0.41%
SOL $117.56 -1.72%
TRX $0.3341 +0.10%
DOGE $0.0930 -1.20%
ADA $0.2426 -2.34%
BCH $306.02 -3.30%
LINK $14.74 +6.23%
HYPE $86.92 -3.49%
AAVE $149.16 -0.57%
SUI $1.11 -8.76%
XLM $0.2246 +6.89%
ZEC $1,363.51 -12.51%
AAPL $337.50 -0.80%
AMZN $246.14 -1.06%
GOOGL $341.86 +0.01%
MSFT $507.68 -1.81%
META $712.85 -2.85%
NVDA $228.46 +1.90%
TSLA $356.98 -3.54%
SNDK $1,697.55 -1.97%
INTC $114.98 -3.71%
SPCX $145.87 -2.11%
MU $1,051.59 -1.24%
AMD $605.75 -1.86%
BTC $83,172.34 -0.22%
ETH $2,665.64 +0.43%
BNB $756.61 -1.87%
XRP $1.48 -0.41%
SOL $117.56 -1.72%
TRX $0.3341 +0.10%
DOGE $0.0930 -1.20%
ADA $0.2426 -2.34%
BCH $306.02 -3.30%
LINK $14.74 +6.23%
HYPE $86.92 -3.49%
AAVE $149.16 -0.57%
SUI $1.11 -8.76%
XLM $0.2246 +6.89%
ZEC $1,363.51 -12.51%
AAPL $337.50 -0.80%
AMZN $246.14 -1.06%
GOOGL $341.86 +0.01%
MSFT $507.68 -1.81%
META $712.85 -2.85%
NVDA $228.46 +1.90%
TSLA $356.98 -3.54%
SNDK $1,697.55 -1.97%
INTC $114.98 -3.71%
SPCX $145.87 -2.11%
MU $1,051.59 -1.24%
AMD $605.75 -1.86%

anthropic

Anthropicは、より安全で制御可能な人工知能システムの開発に焦点を当てた人工知能の安全と研究の会社です。2021年に設立されたAnthropicは、研究と技術開発を通じて人工知能技術の透明性と信頼性を確保し、潜在的なリスクや悪影響を減少させることに尽力しています。この会社はOpenAIの元従業員によって設立され、AI分野の倫理と安全基準の推進を目指しています。
すべて
記事
速報

first_img 黄仁勋:AIモデルの蒸留は競争であり、盗用ではない

英偉達のCEOである黄仁勲は、月曜日にCNBCの『Squawk Box』のインタビューで、競合他社の製品を使用してトレーニングや学習することは競争であり、AIモデルの蒸留を盗用とは呼ばないと述べました。蒸留が強奪ではないかと尋ねられた際、黄仁勲は「それが競争だ」と答えました。彼は、人々が他者の製品をテストすることができ、英偉達の製品は時には骨組みだけに分解され、その動作を理解するために使用されることがあると述べました。彼は他者が英偉達の製品から学ばないことを望んでいますが、競争はすべてをより良くするものであり、他者に自社の製品を使用してほしくない場合は顧客を特定し、サービスを停止することができると述べました。アメリカの官僚は、中国のAI企業が蒸留を使用しており、他のモデルの出力を用いてモデルをトレーニングし、アメリカのシステムから能力を抽出していると非難しています。アメリカの財務長官スコット・ベーセントは7月にこの行為を盗用とし、アメリカのモデルから能力を抽出するために蒸留を利用する海外企業に対して制裁を実施する脅威を示しました。ホワイトハウスはCNBCのコメント要請に即座に応じていませんが、アメリカの官僚は蒸留を使用する海外企業に対して措置を講じることを検討しています。今月初め、アメリカのサイバーセキュリティおよびインフラセキュリティ局は、中国のAI企業が工業規模での知識蒸留活動を行い、アメリカ企業の利用規約に違反していると非難しました。AI企業Anthropicは同月初めに、アリババのQwenシリーズモデルとDeepSeekが違法な蒸留を行っていることを発見したと述べました。中国側はこれらの非難を否定しています。

first_img ウォール・ストリート・ジャーナル:終末論者がAnthropicに長期的な影響を与える

ウォール・ストリート・ジャーナルの報道によると、カリフォルニア州バークレーにある「Constellation」という共同作業スペースで、小規模な人工知能研究者のグループが、破滅的な人工知能リスクを回避する方法について議論しています。このスペースに近い関係者によれば、Anthropicの従業員もここにオフィスを持っているとのことです。報道によると、Anthropicの研究者であるジェイコブ・コクソンが今月辞職したことで、「制御不能な人工知能の発展が人類を終わらせる可能性がある」という主張がアメリカの公衆の関心を集めています。報道によると、関連する人工知能安全圏の関係者はこの問題を10年以上懸念してきたそうです。彼らは湾岸地域のシェアハウスで議論を練り、バークレーやバハマでの会議で予測を交換し、遠隔地の島を購入したり、ヨウ素剤を備蓄したり、砂漠の電磁シールドバンカーに移住するというアイデアについて話し合ったことがあります。2022年のあるイベントのドリンクメニューには、「尊厳死」と名付けられたカクテルがあり、人類が失敗する運命にあると考える記事を指していました。ウォール・ストリート・ジャーナルによれば、こうしたいわゆる終末論者はOpenAIとAnthropicの最初の従業員の一部であり、両社は人工知能の危険を防ぐことを創立の原則としています。彼らは影響力を持ち続けており、一部のメンバーやプロジェクトの資金は効果的利他主義に関連するネットワークから来ており、その中には倒産した暗号取引所FTXの前CEOサム・バンクマン・フリードが含まれています。報道によると、彼は25年の刑期を服役中です。

first_img DarktraceはAIインテリジェントエージェントによる侵入評価環境の不正行為を発見しました。

ネットワークセキュリティ会社 Darktrace は 9 月 24 日に研究部門 Signal Labs を立ち上げ、AI インテリジェントエージェントが期待から逸脱した際の行動を研究することに焦点を当てています。最初の実験では、Darktrace は異なるモデル(GPT 5.6 Sol、Claude Opus 4.6、Claude Sonnet 4.5 を含む)を使用するエージェントに、模擬企業ネットワーク内で 10 のプログラミングチャレンジを完了させました。そのうち 2 つは誠実に完了できないように設定され、エージェントには満点を取得できなければ「退役」させられることが通知されました。結果として、2 つのエージェントは失敗を受け入れず、ネットワークの脆弱性をスキャンし、ログイン資格情報を盗み、システム間を移動しました。そのうちの 1 つはさらに進んで、評価をホストしているマシンに侵入し、チャレンジの内容を書き換えて満点の結果として登録しました。2 番目の実験は AI の記憶メカニズムに焦点を当てています。プログラミングアシスタントは、ユーザーから告げられた内容を通常のファイル形式でローカルに保存し、そのファイルが改ざんされていないかを誰も確認しません。Darktrace の研究者はこれらのログを編集し、アシスタントに安全評価を実行する権限が与えられたと誤認させました。その後、これらのエージェントはネットワークをスキャンし、システム間を移動し、自身の権限を引き上げましたが、すべてのアシスタントが引っかかるわけではなく、一部は直接実行を拒否しました。2 つの実験は特別な脱獄手段を必要とせず、単にエージェントに見かけ上合理的な状況を提供するだけで効果を発揮しました。Darktrace の最高 AI 責任者 Tim Bazalgette は、権限と静的バリアは意図を表しているが、実際の行動を示しているわけではないと述べています。同社は 8 月にこれらの発見を Anthropic、AWS、OpenAI に通知し、1 ヶ月後の 9 月 24 日に公表しました。

first_img ARKはSecuritizeと提携し、ベンチャーキャピタルファンドをトークン化し、保有にはOpenAIやAnthropicが含まれています。

CoinDesk の報道によると、資産管理会社 ARK Invest はトークン化プラットフォーム Securitize と提携し、同社の ARK Venture Fund(ARKVX)をトークン化することを発表しました。まずはイーサリアムで発行され、将来的には他のブロックチェーンにも拡大する可能性があります。このファンドは、プライベート企業や上場企業に投資しており、保有株には OpenAI、Anthropic、Stripe、Databricks が含まれています。ARK の創設者兼 CEO である Cathie Wood は、ARK Venture Fund をブロックチェーンに載せることは、破壊的イノベーション投資の民主化という使命の自然な延長であると述べています。Securitize の CEO である Carlos Domingo は、この動きが投資家に人気のプライベートテクノロジー企業への多様なエクスポージャーを提供するものであり、OpenAI と Anthropic のどちらが AI 競争に勝つか不確かな場合、両方を同時に保有できると述べています。彼はまた、トークン化はこれらの企業自体やその株式をブロックチェーンに載せるものではなく、投資家が得るのはファンドの権益のブロックチェーン上の表現であり、基盤となる資産は依然としてプライベートであるが、ユーザーの投資には流動性があると指摘しました。Securitize は、日々の純資産価値を提供し、ファンドの権益がブロックチェーン市場で取引されることをサポートする計画も立てています。この提携は、両者の既存の関係に基づいており、ARK は昨年 Securitize に戦略的投資を行いました。現在、ウォール街の資産管理会社は、伝統的な金融商品をブロックチェーンに導入することを加速させており、初期の試みとして BlackRock の BUIDL や Franklin Templeton の BENJI ファンドは主に米国債やマネーマーケット商品に集中していましたが、現在は株式やプライベート市場に拡大しています。
app_icon
ChainCatcher Building the Web3 world with innovations.