Хуан Жэньсюн: в будущем телекоммуникационные базовые станции могут развиться в распределенные AI сети, все телекоммуникационные операторы будут предоставлять AI вычислительную мощность

21 октября генеральный директор NVIDIA Хуан Жэньсюнь на конференции GTC в Берлине заявил, что в будущем все телекоммуникационные операторы будут предоставлять вычислительные мощности ИИ, а телекоммуникационные базовые станции могут развиться в распределенные сети ИИ. Он сравнил экономику ИИ с пятислойным тортом, состоящим из энергии, вычислительных мощностей, фабрик ИИ, моделей и приложений, и в своем выступлении отметил, что на уровне вычислительных мощностей присутствует только логотип компании NVIDIA. Другие уровни включают энергетические компании, такие как Siemens Energy и Schneider Electric, строителей фабрик ИИ Nscale и Firebird, а также европейские компании по моделям ИИ Mistral, юридической ИИ компании Legora и инструмента перевода DeepL. Хуан Жэньсюнь также отметил, что стоимость строительства дата-центра мощностью 1 ГВт в настоящее время составляет около 50 миллиардов долларов, включая расходы на землю, электроэнергию, строительство, вычислительное оборудование, хранение и охлаждение.

В то же время NVIDIA представила DSX Pod AI фабрику, ускоряющую развертывание инфраструктуры ИИ в Европе; DSX Pod может сократить время развертывания до 14 дней; европейская промышленная экосистема совместно с NVIDIA DSX создает самую энергоэффективную фабрику ИИ в мире.

По информации, платформа DSX AI фабрики использует замкнутое жидкостное охлаждение и сухие охладители, что снижает объем воды, используемой для охлаждения, до почти нуля, и при масштабе в 2 ГВт может экономить до 54 миллионов литров воды в день. Программное обеспечение DSX MaxLPS может помочь операторам сократить потребление энергии до 30% при одинаковом выходе токенов.

NVIDIA представила архитектуру OpenShell, интегрирующую инфраструктуру Веры Рубин, центральный процессор Веры (CPU), процессор обработки данных BlueField-4 (DPU) и программное обеспечение OpenShell для безопасного выполнения, что помогает компаниям в массовом строительстве, запуске и управлении агентами ИИ, а также в мониторинге их поведения и обеспечении безопасности. Эта архитектура постоянно мониторит поведение агентов с помощью безопасной платформы NVIDIA Sentry, работающей на BlueField-4, и реализует политики безопасности на аппаратном уровне. Когда агент пытается нарушить границы, установленные программным обеспечением, система может изолировать его и остановить работу за миллисекунды. NVIDIA утверждает, что система Vera Rubin NVL72 может достигать в 30 раз большей пропускной способности на мегаватт при нагрузке агентов, а NVIDIA Sentry может увеличить емкость агентов до 20%. Эта архитектура поддерживает корпоративные среды, такие как Linux, Kubernetes, Microsoft Windows и может быть расширена до периферийных устройств. Компании, такие как Microsoft, Google Cloud, Dell Technologies, Cisco, OpenAI, Anthropic и другие, участвуют в соответствующем сотрудничестве.

Обновление в процессе…….