Anthropic: открытый AI представляет собой необратимый риск злоупотребления и может привести к опасному пути

Сообщение ChainCatcher, по данным Bitcoin News, соучредитель и генеральный директор Anthropic Дарио Амодеи заявил законодателям в Конгрессе США, что развитие открытого ИИ вступает в "очень опасный путь". Как только мощные модели ИИ будут выпущены в открытом доступе, разработчики потеряют возможность эффективно контролировать использование моделей, включая невозможность мониторинга злоупотреблений, отзыва прав доступа или динамического обновления механизмов безопасности, что увеличивает потенциальные риски.

Дарио Амодеи отметил, что по сравнению с закрытыми моделями, полностью открытые модели труднее контролировать с точки зрения безопасности, что может привести к необратимым рискам злоупотреблений.