Tencent Hunyuan Open Hy4 вес, поддержка миллиона токенов контекста
Команда Tencent Hunyuan открыла веса модели флагмана Hy4 с нативной многомодальной архитектурой. Hy4 использует архитектуру смешанных экспертов (MoE), общее количество параметров составляет 770 миллиардов, каждый токен активирует 49 миллиардов параметров, длина контекста составляет 1 миллион токенов.
Команда Tencent Hunyuan также выпустила системную карту Hy4, которая включает отчет по оценке безопасности, и планирует провести онлайн-вопрос-ответ в сообществе r/LocalLLaMA на Reddit в пятницу с 8 до 10 утра по тихоокеанскому времени, чтобы ответить на вопросы о модели серии Hy.
Связанные теги






