Google выпустила Gemini Decision 1, цена ввода 0,10 долларов США за миллион токенов

Google выпустила Gemini Decisions API, базовая модель - Gemini Decision 1. Сундар Пичаи и Логан Килпатрик представили эту модель. Она обрабатывает закрытые наборы решений, оценивая варианты в одном прямом вычислении, а не генерируя текст по токенам. Модель поддерживает бинарные решения, множественный выбор и шкальную оценку, множественный выбор до 255 вариантов, может принимать текст, изображения, аудио, видео и PDF, максимальное количество вопросов за один запрос - 1000, контекстное окно составляет 256K, время отклика от конца до конца составляет около 150 до 250 миллисекунд и возвращает уровень уверенности для каждого ответа.

Цена за ввод составляет 0.10 долларов США за миллион токенов, вывод не тарифицируется. Google сообщает, что эта цена примерно в пять раз ниже, чем у Flash-Lite. Проект начался с внутреннего прототипа Google DeepMind, небольшая команда доставила модель и интерфейс примерно через шесть недель. Самостоятельное тестирование Google показало, что Decision 1 опережает модель принятия решений TypeSafe Jev 1.14 по 5 из 7 общих бенчмарков, JevBench составляет 92.2%, Jev 1.14 - 90.0%. Цена ввода Jev составляет 0.042 долларов США за миллион токенов.