BTC $77,583.95 -1.49%
ETH $2,422.15 -2.11%
BNB $688.10 -0.21%
XRP $1.35 -2.44%
SOL $100.02 -3.09%
TRX $0.3229 -2.57%
DOGE $0.0817 -2.02%
ADA $0.1973 -1.84%
BCH $247.62 -1.29%
LINK $11.25 -2.04%
HYPE $82.91 -1.06%
AAVE $132.13 +4.25%
SUI $0.7259 -0.85%
XLM $0.1751 -1.71%
ZEC $835.78 -2.29%
BTC $77,583.95 -1.49%
ETH $2,422.15 -2.11%
BNB $688.10 -0.21%
XRP $1.35 -2.44%
SOL $100.02 -3.09%
TRX $0.3229 -2.57%
DOGE $0.0817 -2.02%
ADA $0.1973 -1.84%
BCH $247.62 -1.29%
LINK $11.25 -2.04%
HYPE $82.91 -1.06%
AAVE $132.13 +4.25%
SUI $0.7259 -0.85%
XLM $0.1751 -1.71%
ZEC $835.78 -2.29%

서버

전체
뉴스 플래시

first_img 구글은 AI 서버 메모리 비용이 75%를 초과했다고 발표하며 소프트웨어와 하드웨어의 이중 전략을 추진하고 있다

SEMICON Taiwan 2026 메모리 고峰 포럼이 1일 개최되었으며, Alphabet 산하 Google Cloud 공급망 인프라 수석 이사 Nikhil Cherian은 다중 모드 및 혼합 전문가 아키텍처의 보급에 따라 AI 연산이 계산 능력 제한에서 메모리 제한으로 전환되었으며, 고성능 메모리가 AI 서버 하드웨어 자재 목록 비용의 75% 이상을 차지한다고 지적했습니다. 용량, 대역폭 및 전력 소비 병목 현상에 직면하여 Google은 추론 및 훈련 하드웨어 분산, 무손실 양자화 소프트웨어 알고리즘 등의 소프트웨어 및 하드웨어 이중 경로 전략을 통해 AI 메모리 병목 현상을 극복하고 있습니다.Google은 하드웨어 아키텍처에서 분산 전략을 채택하여 저지연 추론을 위한 TPU 8i와 초대규모 훈련을 전문으로 하는 TPU 8t를 출시했습니다. TPU 8i는 288 GB 고주파 대역폭 메모리를 장착하고 있으며, 칩의 SRAM 용량을 3배 확대하여 384 MiB로 증가시켰고, 동적 대화 상태 및 키 값 캐시를 칩 내부에 배치하여 제로 칩 외 지연을 실현했습니다. TPU 8t는 9600개의 칩으로 구성된 초대형 연산 클러스터를 통해 HBM 공유 풀링이 2 PB 규모에 도달하여 칩 외 데이터 전송 병목 현상을 제거하고 TPU Direct Storage 기술과 결합했습니다.Google은 훈련이 필요 없는 TurboQuant 무손실 양자화 알고리즘을 개발하여 대모델의 키 값 캐시를 32비트에서 3비트로 압축하고, 정확도 손실 없이 6배 메모리 사용량을 줄이며, 8배 주의 연산 가속을 가져오고, 구세대 DRAM 통합 기술을 도입하여 부품 수명을 연장했습니다.

hot_img 인텔과 AMD는 중국 서버 고객과 장기 CPU 공급 계약을 체결하려고 하며, 일부 제품 가격은 올해 40% 이상 상승할 예정이다

로이터 통신에 따르면, AI 데이터 센터 수요 급증으로 인해 서버 CPU 공급이 긴축되면서, 인텔과 AMD는 중국 서버 고객과 장기 구매 약속에 대해 협상 중이며, 계약은 일반적으로 1년 공급량을 고정하고 일부 논의는 2년 또는 그 이상의 기간을 포함하고 있습니다. AI 연산력 구축에 힘입어 CPU 수요는 AI 가속기에서 주류 프로세서로 확대되었으며, 일부 서버 CPU 제품은 중국 시장에서 연간 누적 가격 상승폭이 **40%**를 초과하고, 월별 상승폭은 최고 **10%**를 초과했습니다.인텔 CEO Lip-Bu Tan은 4월에 Xeon 서버 CPU 수요가 "공급을 지속적으로 초과하고 있다"고 언급했으며, 회사는 1분기에 여러 장기 계약을 체결했으며, 그 중에는 구글과의 다년 계약도 포함되어 있습니다. AMD는 서버 CPU 시장 예측을 2030년 1200억 달러를 초과하도록 상향 조정했습니다. 보도에 따르면, 중국은 세계 최대 서버 시장 중 하나로, 데이터 센터 및 AI 연산력 클러스터의 빠른 구축이 인텔과 AMD 프로세서에 대한 경쟁을 심화시키고 있으며, 중국 구매자들은 동시에 미국의 첨단 AI GPU 수출 제한에 직면해 있습니다. 인텔은 목요일에 분기 실적을 발표할 예정이며, CPU 부족이 시장의 관심 초점이 될 것으로 예상됩니다.
app_icon
ChainCatcher Building the Web3 world with innovations.