Сооснователь DeepMind заявил, что AGI может быть достигнута в течение нескольких лет, призвав создать передовой регулирующий орган для стандартов AI

Сообщение ChainCatcher, согласно которому соучредитель Google DeepMind Демис Хасабис недавно опубликовал прогноз, что общая искусственная inteligencia (AGI) может быть достигнута всего за несколько лет, а ее революционное влияние будет в 10 раз больше, чем у промышленной революции, и скорость развития будет в 10 раз быстрее. Он отметил, что с учетом растущих потенциальных рисков передовых моделей в таких областях, как кибербезопасность, ядерная энергия и биология, отрасли срочно необходимо создать надежную защиту для будущих AI-систем с автономностью и способностью к самоулучшению.

Чтобы сбалансировать технологические инновации и риски безопасности, Хасабис призвал США возглавить создание "агентства передовых стандартов AI", аналогичного Финансовой индустрии регулирования (FINRA). Это агентство планирует использовать модель государственно-частного партнерства или саморегулирующейся организации, управляемой независимыми техническими экспертами и представителями открытого программного обеспечения, в основном действуя через инвестиции отрасли. Его основная функция заключается в разработке динамических научных оценочных протоколов, на начальном этапе требующих от передовых лабораторий добровольной подачи на рассмотрение за 30 дней до выпуска модели, с планами в конечном итоге перейти к обязательным тестам на доступ к рынку, в то время как не передовые модели стартапов или академических учреждений будут освобождены от этого. Эта структура направлена на то, чтобы справиться с неизвестными кризисами через технологически ориентированный механизм проверки и на этой основе продвигать международное сообщество к достижению глобального консенсуса по управлению рисками AI.