Tether выпустила 191,4 миллиарда токенов STEM, ставя на местные малые модели "объяснительной способности"

Крупный игрок на рынке стейблкоинов Tether сегодня представил QVAC Genesis III, набор синтетических обучающих данных для областей науки, технологий, инженерии и математики, объемом 19.143 миллиарда токенов и охватывающий 159.6 миллиона документов.

Сообщается, что Tether надеется улучшить способности малых AI-моделей к рассуждению и обучению, чтобы больше AI-ассистентов могли работать непосредственно на ноутбуках, мобильных телефонах и локальных серверах, уменьшая зависимость от крупных облачных моделей.

Genesis III продолжает данные, заложенные в Genesis I и Genesis II, охватывая 19 учебных курсов, связанных с биологией, химией, физикой, математикой, информатикой, медициной, электротехникой и машинным обучением, ориентированных на старшие классы, университеты и профессиональные приложения. Tether утверждает, что набор данных будет сосредоточен на обучении моделей объяснению путей решения задач, распознаванию ошибок в рассуждениях и предоставлению исправлений, а не только на выводе окончательных ответов.

Согласно тестовым результатам, представленным Tether, модель с 1.7 миллиарда параметров, обученная на данных Genesis III, достигла коэффициента успешных ответов 99.45% в соответствующих бенчмарках. По сравнению с моделью Cosmopedia-v2 аналогичного объема токенов, Genesis III показал улучшение на 28.57, 21.35 и 15.03 процентных пункта в бенчмарках ARC-Easy, ARC-Challenge и MMLU STEM соответственно.