구글, 퇴역 서버 분해하여 DDR4로 메모리 부족 대응

구글 공급망 인프라 고위 이사 Nikhil Cherian은 메모리 병목 현상을 극복하기 위해 구글이 소프트웨어 및 하드웨어 솔루션을 개발하고, 퇴역 서버를 분해하여 DDR4 구성 요소를 회수하여 내부 회수 공급망을 구축하고 있다고 밝혔습니다. 구글은 이전 세대 DDR4를 새로운 세대 인공지능 서버에 연결할 수 있는 특별한 하드웨어 어댑터를 설계했으며, 퇴역 서버를 수입하여 그 DDR4 모듈을 회수하여 재활용하고 있습니다.

Cherian은 인공지능 산업이 계산 제한에서 메모리 제한으로 빠르게 전환하고 있으며, 고성능 메모리가 주어진 인공지능 서버 자재 목록 비용의 약 75%를 차지한다고 말했습니다. 골드만삭스 보고서에 따르면, 3분기 메모리 가격은 계속 상승할 것이며, 개인용 컴퓨터 DRAM 가격은 18%에서 23% 상승할 것으로 예상되고, 서버 DRAM 가격은 13%에서 18% 상승할 것으로 보입니다. Trendforce 데이터에 따르면, 8월 현물 시장에서 DDR4 8GB와 DDR5 8GB 가격은 각각 142달러와 133달러로 상승했습니다.

구글이 올해 출시한 두 가지 TPU ASIC는 메모리를 최적화 설계하였으며, 메모리 수요를 원래의 6분의 1로 줄일 것으로 기대하고 있습니다. TPU8i 칩은 전용 계층 메모리 설계를 채택하여 고속 DDR5 메모리 아키텍처를 통해 호스트 수준의 작업을 수행하며, 각 칩은 288GB의 HBM3e 고대역폭 메모리를 탑재하고 있습니다.