Amazon ra mắt công cụ mã nguồn mở TorchNeuron, hạ thấp rào cản chuyển sang chip tự phát triển

Tài Liên Xã ngày 20 tháng 10 đưa tin, Amazon đã ra mắt công cụ mã nguồn mở TorchNeuron vào ngày 19 theo giờ địa phương, nhằm giảm bớt rào cản cho các nhà phát triển khi chuyển từ chip của NVIDIA sang chip tự phát triển của mình, thách thức rào cản phần mềm mà NVIDIA xây dựng dựa trên CUDA. Theo báo cáo, công cụ này cho phép mã AI viết bằng PyTorch chạy trên chip AI tự phát triển của Amazon mà không cần phải viết lại. PyTorch được Meta duy trì và được mô tả là khung mã nguồn mở mà hầu hết các nhà phát triển AI sử dụng.

Bộ phận thiết kế chip của Amazon, Annapurna Labs, cho biết, nhờ vào TorchNeuron, các nhà phát triển chỉ cần chỉnh sửa một cấu hình để cùng một mã có thể chạy trên chip Trainium tự phát triển. Amazon đã công bố ra mắt công cụ này vào ngày 19 theo giờ địa phương và dự kiến sẽ phát hành công khai dưới dạng mã nguồn mở tại hội nghị PyTorch ở San Jose, California vào ngày 20.

Phó giám đốc phần mềm của Annapurna Labs, Colin Brace, cho biết trong một cuộc phỏng vấn: việc ra mắt TorchNeuron nhằm giảm thiểu các bước mà các nhà phát triển cần thực hiện để thử nghiệm chip tự phát triển của Amazon, và xuất phát từ cách làm việc hiện tại của khách hàng. Ông tiết lộ đã có hơn 30 khách hàng sớm sử dụng, bao gồm các lĩnh vực như robot, mô hình thế giới và AI giọng nói, và cho biết việc chuyển sang chip của Amazon có thể tiết kiệm chi phí.