OpenAI и Anthropic, как сообщается, обсуждали взаимное тестирование больших моделей

Согласно сообщениям СМИ, Anthropic и OpenAI рассматривали возможность подписания юридически обязывающего соглашения для взаимного стресс-тестирования своих крупных моделей. Ранее в этом году обе компании и их юридические команды обсуждали этот план, позволяя конкурентам глубоко тестировать последние доступные модели друг друга для выявления потенциальных рисков или уязвимостей безопасности. Такие тесты применимы только к коммерческим моделям, и обе стороны согласились не сохранять данные друг друга. В сообщении не уточняется, достигли ли стороны окончательного соглашения.

В последнее время идея внедрения какой-либо формы рецензирования среди ведущих AI-лабораторий привлекла внимание. Генеральный директор SpaceX Илон Маск на прошлой неделе предложил, чтобы несколько ведущих американских компаний по созданию крупных моделей, а также некоторые китайские AI-компании позволили конкурентам проводить перекрестное тестирование. Маск заявил: все AI-компании имеют набор инструментов для тестирования, и позволить каждой компании использовать инструменты тестирования других может быть лучшим способом обеспечить свою безопасность.

Ранее в этом месяце исследователь Anthropic Джейкоб Коксон объявил о своей отставке и предупредил ведущие компании в области искусственного интеллекта о том, что ускорение разработки без надлежащих мер защиты может быть опасным. Затем генеральный директор Anthropic Дарио Амодей опубликовал сообщение с призывом к отрасли замедлить темпы разработки AI и ввести механизмы оценки третьими сторонами. В прошлую пятницу Anthropic объявила о сотрудничестве с Accenture, которая будет выступать в качестве третьей стороны для оценки безопасности и соблюдения норм их передовых AI-моделей.