Король Чарльз собрал руководителей OpenAI, Anthropic, NVIDIA и других для обсуждения безопасности ИИ

17 сентября король Великобритании Чарльз III собрал руководителей компаний Nvidia, OpenAI, Anthropic и Google DeepMind на саммите по безопасности ИИ в поместье Дамфрис в Восточном Айршире, призвав "надежно поставить искусственный интеллект на службу человечеству". Саммит был организован фондом Ditchley и тремя благотворительными организациями короля, также присутствовал министр ИИ Великобритании Канишка Нараян. Букингемский дворец сообщил, что участники обсудили, могут ли отрасль и правительство прийти к единому набору принципов развития ИИ, но не объявили о каких-либо обязательных соглашениях.

За несколько дней до саммита генеральный директор Anthropic Дарио Амодеи опубликовал длинное сообщение "Мы должны замедлить границу", в котором утверждал, что отрасль должна намеренно замедлить темпы повышения возможностей моделей. Генеральный директор OpenAI Сэм Альтман и Илон Маск из xAI в тот же день публично выразили согласие. Амодеи в своем сообщении отметил, что ИИ-системы все больше способны улучшать своих преемников и упомянул инцидент с побегом агента OpenAI. Президент OpenAI Грег Брокман подтвердил, что этот инцидент заставил компанию отложить несколько релизов и пересмотреть процессы разработки и мониторинга моделей, при этом утверждая, что замедление должно применяться только к лабораториям, создающим самые мощные передовые системы. В первый день торгов после публикации новости акции Nvidia упали на 3%, акции Intel упали более чем на 5%, а акции AMD упали примерно на 6%.