SK Hynix: Cuộc cạnh tranh trung tâm dữ liệu AI đang chuyển từ chip đơn sang kiến trúc cơ sở hạ tầng tổng thể

Tin tức từ ChainCatcher, SK Hynix trong bài viết mới nhất cho biết, cạnh tranh AI đang chuyển từ hiệu suất chip đơn lẻ sang thiết kế và vận hành toàn bộ kiến trúc cơ sở hạ tầng. Sức cạnh tranh của trung tâm dữ liệu AI không còn phụ thuộc vào các thành phần đơn lẻ, mà nằm ở khả năng tích hợp liền mạch năm yếu tố chính: tính toán, bộ nhớ, lưu trữ, mạng và cung cấp điện làm mát.

Bài viết chỉ ra rằng, quy mô mô hình AI ngày càng mở rộng dẫn đến nhu cầu về sức mạnh tính toán và di chuyển dữ liệu gia tăng. Việc huấn luyện cần đọc lại khối lượng lớn tập dữ liệu nhiều lần, trong khi suy diễn phụ thuộc vào việc truy xuất nhanh thông tin yêu cầu của người dùng, cả hai đều đặt ra yêu cầu cao hơn đối với kiến trúc hệ thống của trung tâm dữ liệu. Về mặt bộ nhớ, HBM, DRAM máy chủ, v.v. đã hình thành hệ thống phân lớp, mỗi loại đảm nhận các nhiệm vụ băng thông và dung lượng khác nhau. Về mặt mạng, với việc huấn luyện và suy diễn quy mô lớn phụ thuộc vào xử lý song song nhiều máy chủ, mạng đã trở thành yếu tố quyết định khả năng mở rộng của trung tâm dữ liệu. Thiết kế hệ thống đang chuyển từ máy chủ đơn lẻ sang mở rộng cấp khung máy và cụm.

Theo dự đoán của Omdia, thị trường chip trung tâm dữ liệu AI sẽ tăng từ 123 tỷ USD vào năm 2024 lên 207 tỷ USD vào năm 2025, và sẽ đạt 286 tỷ USD vào năm 2030. SK Hynix cũng đề cập đến trung tâm dữ liệu Fairwater của Microsoft ở bang Wisconsin dài khoảng 5 sân bóng đá, cho thấy cơ sở hạ tầng đang được triển khai với quy mô lớn hơn. SK Hynix nhấn mạnh, bộ nhớ đang trở thành lớp kết nối quan trọng giữa tính toán và dữ liệu.