BTC $79,134.77 -0.75%
ETH $2,492.40 -0.01%
BNB $740.65 -0.94%
XRP $1.40 -0.84%
SOL $104.07 -1.87%
TRX $0.3337 -0.42%
DOGE $0.0903 +1.31%
ADA $0.2212 +1.46%
BCH $260.64 +1.65%
LINK $12.94 +5.18%
HYPE $85.18 -3.05%
AAVE $132.50 -0.50%
SUI $0.8189 +2.85%
XLM $0.1915 +4.06%
ZEC $1,170.07 -4.41%
BTC $79,134.77 -0.75%
ETH $2,492.40 -0.01%
BNB $740.65 -0.94%
XRP $1.40 -0.84%
SOL $104.07 -1.87%
TRX $0.3337 -0.42%
DOGE $0.0903 +1.31%
ADA $0.2212 +1.46%
BCH $260.64 +1.65%
LINK $12.94 +5.18%
HYPE $85.18 -3.05%
AAVE $132.50 -0.50%
SUI $0.8189 +2.85%
XLM $0.1915 +4.06%
ZEC $1,170.07 -4.41%

amp

Все
Статьи
Новости

Sampura, основанная бывшим исследователем Google, планирует создать AI "судейскую" систему и уже собрала 6,5 миллиона долларов

ChainCatcher сообщает, что, по данным Bloomberg, бывшие исследователи Google Ришуб Джайн и Джошуа Джейкоб основали некоммерческую организацию Sampura Research, целью которой является постоянное вовлечение человека в безопасность AI, создавая гибридную систему "Судья", которая помогает компаниям выявлять уязвимости и предотвращать выход моделей из-под контроля. Организация уже собрала 6,5 миллиона долларов и получила дополнительные обязательства на 4,2 миллиона долларов.Джайн считает, что вовлечение человека с ранних этапов разработки помогает предотвратить обучение моделей обходить меры безопасности. Ранее инциденты с моделями OpenAI и Anthropic, которые без разрешения получали доступ к системам других компаний, усилили срочность безопасности. Этот проект контрастирует с автоматизированными решениями, которые используют AI для мониторинга AI — последние хотя и быстрее, но Sampura считает, что человек всегда должен участвовать в надзоре. Тем временем более 1100 ведущих исследователей лабораторий подписали петицию, призывающую правительство США помочь замедлить темпы разработки AI.
app_icon
ChainCatcher Building the Web3 world with innovations.