amodei

Недавно компания Anthropic представила законопроект о безопасности ИИ членам Конгресса США, который вызвал сомнения со стороны сторонников безопасности ИИ в США. Законопроект устанавливает высокие барьеры для экстренной остановки опасных моделей правительством, риски должны касаться таких ситуаций, как биологическое оружие, кибератаки или неконтролируемый ИИ, и могут привести к более чем 50 смертям или тяжелым травмам, или к убыткам более 1 миллиарда долларов; некоторые положения также могут ограничить полномочия регулирования со стороны государственных властей.Руководитель стратегического отдела организации по безопасности ИИ Encode AI Натан Кальвин затем проанализировал решения Anthropic за последний год. В феврале этого года компания изменила свои изначально строгие политики безопасности: ранее она обещала приостанавливать обучение или выпуск, если меры безопасности не соответствуют возможностям модели, новая политика больше не требует от компании самостоятельно останавливать разработки на более рискованных этапах, поскольку конкуренты могут воспользоваться этим моментом. В то же время компания вложила огромные вычислительные мощности, создала команду по разработке чипов и поручила Claude выполнять больше задач по разработке ИИ.21 октября генеральный директор Anthropic Дарио Амодеи опубликовал длинное сообщение в X, чтобы опровергнуть критику. Он признал, что компания допустила некоторые ошибки, но настаивал на том, что стремление к самым современным возможностям ИИ не противоречит миссии безопасности, и заявил, что компания придерживается принципа соревнования, только оставаясь на переднем крае технологий, она сможет способствовать повышению стандартов безопасности в отрасли. Он перечислил девять решений в области безопасности, которые обошлись компании в коммерческую цену, включая ограничение открытого доступа к моделям уровня Mythos на несколько месяцев и строгое ограничение запросов, связанных с биологией. Обновленная дорожная карта безопасности компании от 19 октября утверждает, что существующая политика в основном направлена на развертывание опасных моделей, в будущем может потребоваться прямое ограничение скорости разработки, и планируется представить соответствующие предложения по политике до 15 января 2027 года или объяснить, почему они не были представлены.

Согласно сообщению Axios, союзники Трампа атакуют генерального директора компании искусственного интеллекта Anthropic Дарио Амодеи, представляя его как одного из представителей "апокалипсиса искусственного интеллекта" и основателей движения эффективного альтруизма. Источники сообщают, что во время промежуточных выборов союзники могут нацелиться на Anthropic, когда будут опровергать его предупреждения о безопасности искусственного интеллекта; из-за его политической позиции и обеспокоенности вопросами безопасности искусственного интеллекта он считается легкой мишенью. Это вызывает беспокойство у инвесторов, так как компания готовится к ожидаемому рекордному первичному публичному размещению акций.Сообщается, что на этой неделе в Белом доме начала циркулировать записка, пытающаяся представить эффективный альтруизм как маргинальную, культовую группу, оторванную от мейнстрима США; Axios утверждает, что получил этот документ. Записка была написана политическим консультантом Трампа, не работающим в Белом доме, который утверждает, что эффективный альтруизм "создал трубопровод апокалипсиса искусственного интеллекта" и ставит Амодеи в основополагающее положение в этом движении, одновременно упоминая его сестру, президента Anthropic Даниэлу Амодеи, называя эти связи "узлами Anthropic". Один из источников, близких к правительству, сказал, что Амодеи олицетворяет идеологию и глобалистский инновационный путь, противоречащие президентской программе "Америка прежде всего".Anthropic всегда держалась на расстоянии от эффективного альтруизма. Даниэла Амодеи в репортаже 2025 года для Wired заявила, что не согласна с этим термином. Дарио Амодеи в интервью настаивал на том, что он не является членом этого движения и подчеркивал преимущества искусственного интеллекта.

Сообщение ChainCatcher, по данным Bloomberg, AI компания Anthropic PBC планирует передать акции с дополнительными голосами генеральному директору Дарио Амодеи и другим соучредителям перед подготовкой к IPO. Этот шаг направлен на то, чтобы гарантировать, что команда основателей сохранит доминирующий контроль над стратегическим направлением компании после ее выхода на биржу. Эта структура двойного акционерного капитала уже довольно распространена в технологической отрасли, основатель Meta Марк Цукерберг и основатель Snap Эван Шпигель также владеют аналогичными акциями с суперголосами.