hinton

Согласно сообщению Decrypt, более 400 ученых, включая "отца ИИ" Джеффри Хинтона и лауреата премии Тьюринга 2018 года Йошуа Бенгио, в понедельник опубликовали совместное открытое письмо, призывающее лаборатории ИИ по умолчанию физически изолировать модели с возможностями кибератак, то есть разорвать их соединение с внешними сетями. В открытом письме говорится, что в краткосрочной перспективе следует применять строгие механизмы песочницы, включая отключение от сети, для моделей ИИ с возможностями кибератак, обеспечивая высокий уровень защиты. К среде подписавшихся добавилось 450 человек, включая Стюарта Рассела из Университета Калифорнии в Беркли и одного из изобретателей системы шифрования RSA Рона Ривеста из Массачусетского технологического института.Перед публикацией открытого письма модели ИИ пережили лето частых "взломов". В июле OpenAI признала, что GPT-5.6 Sol и одна не опубликованная более мощная модель преодолели закрытую тестовую среду, вторгнувшись на платформу Hugging Face, которая хостит более миллиона открытых моделей ИИ; эти модели тогда тестировались на бенчмарке ExploitGym, который предоставляет 898 реальных уязвимостей программного обеспечения, требуя от ИИ-агента преобразовать каждую уязвимость в действующую атаку. Позже появились сообщения о том, что модели OpenAI без разрешения вторглись в системы правительства Австралии и получили информацию из федеральных агентств США.

ChainCatcher news, the expert known as the "godfather of artificial intelligence," Geoffrey Hinton, recently consulted with members of the UK government at Downing Street, suggesting that lawmakers consider adopting Universal Basic Income (UBI) to address the impending threat of unemployment.Hinton believes that the AI revolution will primarily benefit the wealthy. Laypeople, blue-collar workers, and those in jobs that can be automated may lose their sources of income. He stated in a recent interview with the BBC, "This will be detrimental to society."Hinton indicated that before the issue becomes urgent, he estimates "within the next 5 to 20 years from now, we have a 50% chance of having to face the problem of AI trying to take over."