OpenAI и Anthropic впервые создадут оперативный центр для промежуточных выборов в США

Согласно отчету Semafor, OpenAI и Anthropic впервые создадут специальные оперативные центры для выборов в США, чтобы обеспечить точность выборной информации на своих платформах. Представитель Anthropic заявил, что команды компании в течение всего года усиливают защиту, связанную с выборами, и выполняют политику платформы. Специальные команды, созданные перед выборами, будут отслеживать случаи злоупотребления на платформах и готовиться к быстрому реагированию на чрезвычайные ситуации.

Создание оперативных центров для выборов технологическими платформами восходит к 2018 году, когда Meta впервые создала такие команды для борьбы с распространением ложной информации на выборах. Сегодня к связанным рискам относятся также глубоко поддельные видео и распространение ложной информации с помощью AI-поиска. В отчете приводится пример, что Google AI Mode на прошлой неделе не ответил на вопрос, кто выиграл выборы президента США в 2020 году, и Google заявил, что работает над исправлением.

Непредсказуемый вывод AI, недавние проблемы кибербезопасности и склонность инструментов AI-поиска соответствовать ожиданиям пользователей усложняют мониторинг и реагирование. Бывший руководитель общественной политики Meta Кэти Харбат заявила, что роль оперативного центра заключается в том, чтобы быстро оценивать и классифицировать проблемы по установленным процессам, когда возникают непредсказуемые ситуации.