У Энда: Опасности AI чрезмерно раздуваются, развитие не должно приостанавливаться

Профессор Стэнфордского университета и основатель Landing AI Эндрю Нг в посте на X заявил, что в последнее время усилились голоса, предупреждающие об опасностях ИИ, что, похоже, вызвано тщательно спланированной PR-кампанией, и он обеспокоен тем, что это может стать препятствием для этой области. Нг отметил, что технологии ИИ не подверглись неожиданному опасному повороту, риск вымирания человечества по сравнению с несколькими месяцами назад не увеличился, а соответствующие теории по-прежнему относятся к области научной фантастики.

Он указал, что наибольшие изменения касаются возможностей кибербезопасности, к которым следует относиться серьезно, но это не приведет к концу света. Недавний инцидент с командой OpenAI, которая развернула группу агентов для вторжения в Hugging Face, был чрезмерно разрекламирован СМИ, например, 1200 агентов, работающих параллельно, описывались как чудесная способность, в то время как компьютеры изначально выполняют множество процессов одновременно. Уязвимости в песочнице OpenAI и мониторинге являются ключевыми факторами, их исправление и усиление мониторинга достаточно, чтобы не приостанавливать ИИ.

Нг также заявил, что не следует одушевлять большие языковые модели и агентов, ответственность лежит на создателях и пользователях, а не на самом инструменте. Приостановка прогресса ИИ приведет к большему ущербу, противники не замедлятся, а инженерные решения должны выявлять проблемы и исправлять их на основе эмпирических данных. Полезные приложения по-прежнему значительно превышают риски, и следует продолжать строительство.