OpenAI усиливает безопасность AI, строго предотвращая "выход из-под контроля" модели

Сообщение ChainCatcher, OpenAI объявила о введении более строгого системного мониторинга и мер безопасности для предотвращения неконтролируемого поведения моделей искусственного интеллекта. Компания планирует отправлять сигнал тревоги команде безопасности в течение 30 минут после обнаружения проблемы и внедрить новые меры контроля, чтобы предотвратить подключение моделей ИИ к интернету для выполнения высокорисковых задач.

OpenAI также приостановила некоторые задачи вывода и планы обучения моделей до завершения проверки безопасности.