Amazon представила инструмент с открытым исходным кодом TorchNeuron, снижая барьер для перехода на собственные чипы

Финансовое агентство 20 октября сообщает, что Amazon 19 числа по местному времени запустила инструмент с открытым исходным кодом TorchNeuron, целью которого является снижение барьеров для разработчиков, переходящих с чипов NVIDIA на собственные чипы компании, бросая вызов программным барьерам, построенным на CUDA. По сообщениям, этот инструмент позволяет запускать AI-код, написанный на PyTorch, на собственных AI-чипах Amazon без необходимости переписывать его. PyTorch поддерживается Meta и описывается как открытая платформа, используемая большинством разработчиков AI.

Отдел проектирования чипов Amazon Annapurna Labs сообщил, что с помощью TorchNeuron разработчики могут изменить всего одну настройку, чтобы запустить один и тот же код на собственных чипах Trainium. Amazon объявила о запуске этого инструмента 19 числа по местному времени и планирует его бесплатный открытый релиз на конференции PyTorch в Сан-Хосе, штат Калифорния, 20 числа.

Вице-президент по программному обеспечению Annapurna Labs Колин Брейс в интервью заявил, что запуск TorchNeuron направлен на сокращение шагов, необходимых разработчикам для тестирования собственных чипов Amazon, исходя из существующих рабочих процессов клиентов. Он сообщил, что более 30 ранних клиентов уже используют этот инструмент, охватывающий такие области, как робототехника, мировые модели и голосовой AI, и отметил, что переход на чипы Amazon может сократить затраты.