Джек Дорси: приостановка разработки AI защищает гигантов, а не безопасность

Согласно отчету Decrypt, бывший соучредитель Twitter Джек Дорси выступил с речью в Институте Като, выступая против приостановки разработки передовых моделей ИИ, считая, что такие призывы защищают коммерческие преимущества крупных технологических компаний, а не общественную безопасность. Дорси заявил, что он против ограничений для всей отрасли, достигнутых путем переговоров с лидерами отрасли, так как это может исключить тех, кто способен выявить недостатки моделей или создать альтернативы, "защита коммерческого преимущества одной компании не является целью безопасности".

Дорси поддерживает открытые модели ИИ, надеясь, что больше людей смогут совместно проверять, использовать и улучшать модели, а независимые исследователи смогут проверять работу гигантов, позволяя обычным людям действительно контролировать инструменты в своих руках. Он считает, что любой, кто хочет ограничить публичное распространение технологий, должен предоставить убедительные причины, и под флагом "ради безопасности" это иногда в конечном итоге может превратиться в барьеры для доступа других в отрасли.

Дорси также ответил на предложение Anthropic "замедлить разработку ИИ". Это предложение пытается связать независимую оценку и проверку опасностей с вычислительной мощностью для обучения, частотой обучения и ограничениями на "создание лучшего ИИ с помощью ИИ". Дорси выразил поддержку проверке, но выступил против ограничения публикации открытых моделей по этой причине.