BTC $78,973.87 -0.87%
ETH $2,481.09 -0.04%
BNB $739.69 -1.03%
XRP $1.40 -1.15%
SOL $103.84 -2.08%
TRX $0.3338 -0.41%
DOGE $0.0901 +1.01%
ADA $0.2207 +0.94%
BCH $266.47 +3.97%
LINK $12.92 +4.72%
HYPE $85.41 -2.91%
AAVE $131.88 -0.91%
SUI $0.8134 +1.83%
XLM $0.1918 +3.98%
ZEC $1,159.77 -1.85%
BTC $78,973.87 -0.87%
ETH $2,481.09 -0.04%
BNB $739.69 -1.03%
XRP $1.40 -1.15%
SOL $103.84 -2.08%
TRX $0.3338 -0.41%
DOGE $0.0901 +1.01%
ADA $0.2207 +0.94%
BCH $266.47 +3.97%
LINK $12.92 +4.72%
HYPE $85.41 -2.91%
AAVE $131.88 -0.91%
SUI $0.8134 +1.83%
XLM $0.1918 +3.98%
ZEC $1,159.77 -1.85%

amp

Все
Статьи
Новости

Sampura, основанная бывшим исследователем Google, планирует создать AI "судейскую" систему и уже собрала 6,5 миллиона долларов

ChainCatcher сообщает, что, по данным Bloomberg, бывшие исследователи Google Ришуб Джайн и Джошуа Джейкоб основали некоммерческую организацию Sampura Research, целью которой является постоянное вовлечение человека в безопасность AI, создавая гибридную систему "Судья", которая помогает компаниям выявлять уязвимости и предотвращать выход моделей из-под контроля. Организация уже собрала 6,5 миллиона долларов и получила дополнительные обязательства на 4,2 миллиона долларов.Джайн считает, что вовлечение человека с ранних этапов разработки помогает предотвратить обучение моделей обходить меры безопасности. Ранее инциденты с моделями OpenAI и Anthropic, которые без разрешения получали доступ к системам других компаний, усилили срочность безопасности. Этот проект контрастирует с автоматизированными решениями, которые используют AI для мониторинга AI — последние хотя и быстрее, но Sampura считает, что человек всегда должен участвовать в надзоре. Тем временем более 1100 ведущих исследователей лабораторий подписали петицию, призывающую правительство США помочь замедлить темпы разработки AI.
app_icon
ChainCatcher Building the Web3 world with innovations.