BTC $61,483.53 -3.08%
ETH $1,723.41 -4.15%
BNB $567.09 -3.21%
XRP $0.9566 -1.74%
SOL $71.95 -3.76%
TRX $0.3089 -0.79%
DOGE $0.0568 -3.91%
ADA $0.1480 -3.15%
BCH $203.63 -1.56%
LINK $8.77 -3.83%
HYPE $65.09 -3.62%
AAVE $102.10 -7.06%
SUI $0.6912 -4.66%
XLM $0.1321 -3.58%
ZEC $847.93 -8.80%
AAPL $350.38 -1.20%
AMZN $255.92 -5.32%
GOOGL $272.41 -4.91%
MSFT $494.75 -3.26%
META $587.60 -5.12%
NVDA $143.63 -5.67%
TSLA $372.00 -3.55%
SNDK $747.36 -4.58%
INTC $54.43 -2.33%
SPCX $135.72 -6.40%
MU $669.93 -6.91%
AMD $472.61 -11.72%
BTC $61,483.53 -3.08%
ETH $1,723.41 -4.15%
BNB $567.09 -3.21%
XRP $0.9566 -1.74%
SOL $71.95 -3.76%
TRX $0.3089 -0.79%
DOGE $0.0568 -3.91%
ADA $0.1480 -3.15%
BCH $203.63 -1.56%
LINK $8.77 -3.83%
HYPE $65.09 -3.62%
AAVE $102.10 -7.06%
SUI $0.6912 -4.66%
XLM $0.1321 -3.58%
ZEC $847.93 -8.80%
AAPL $350.38 -1.20%
AMZN $255.92 -5.32%
GOOGL $272.41 -4.91%
MSFT $494.75 -3.26%
META $587.60 -5.12%
NVDA $143.63 -5.67%
TSLA $372.00 -3.55%
SNDK $747.36 -4.58%
INTC $54.43 -2.33%
SPCX $135.72 -6.40%
MU $669.93 -6.91%
AMD $472.61 -11.72%

hy4

전체
글
뉴스 플래시

텐센트 혼위안 오픈소스 Hy4 플래시, 세 가지 버전 한 번에 출시

텐센트 혼위안이 공식적으로 Hy4 flash를 오픈 소스화했으며, 모델 발표가 있은 지 단 이틀이 지났습니다. 이번에 한 번에 세 가지 버전의 모델 가중치를 공개했습니다: Hy4 flash는 지시 미세 조정이 완료된 공식 모델로, 대화, 추론 및 인공지능 작업에 직접 사용할 수 있습니다; Hy4 flash-FP8은 8비트 양자화 버전으로, 주로 배포 시의 메모리 사용량을 줄이는 데 사용됩니다; Hy4 flash Base는 지시 미세 조정이 이루어지지 않은 사전 훈련된 기본 모델로, 개발자가 계속해서 훈련하고 맞춤화할 수 있도록 편리합니다.Hy4 flash의 총 매개변수는 224B에 달하며, 매번 추론 시 12B가 활성화됩니다. FP8 양자화가 이루어졌음에도 불구하고, 배포 장벽은 여전히 낮지 않습니다. 텐센트는 GitHub, Hugging Face, ModelScope 및 GitCode에서 다운로드를 개방했으며, 커뮤니티에서도 다양한 하드웨어 환경에서 실행할 수 있도록 GGUF 양자화 버전을 제작했습니다. 모델은 Tencent Hy License를 사용하며, 개발자가 프로토콜에 따라 가중치를 사용하고 수정할 수 있도록 허용하지만, 라이센스 조건이 부여됩니다; 대형 모델 API 서비스 제공자는 정해진 수익 또는 사용자 규모 기준에 도달할 경우 별도로 허가를 받아야 합니다. 770B 매개변수를 가진 플래그십 Hy4에 대해서는 텐센트가 여전히 오픈 소스를 가속화하고 있으며, 현재 구체적인 발표 일정은 공개되지 않았습니다.

텐센트 혼위안이 Hy4 플래시를 발표했으며, 총 매개변수는 224B, 활성화는 12B입니다

텐센트 혼위안이 플래시라는 이름의 첫 번째 모델 Hy4 flash를 공식 발표했으며, Hy4 시리즈에서 플래그십과 저비용 플래시 두 가지 등급을 형성합니다. Hy4 flash의 총 매개변수는 224B이며, 그 중 64B는 Engram 기억 매개변수로, 매 추론 시 12B가 활성화됩니다. 이는 Hy4의 770B 총 매개변수와 49B 활성화 매개변수보다 낮지만, 여전히 다중 모드 및 100만 토큰 컨텍스트를 지원합니다.Engram은 DeepSeek가 이전에 제안한 조건 기억 기술로, 일부 일반적인 텍스트 패턴을 빠르게 조회할 수 있는 기억 테이블에 저장하여, 모델이 테이블을 조회하여 정보를 얻고 반복 계산을 줄입니다. Hy4 flash의 백만 토큰 입력 가격은 0.5 위안, 출력은 2 위안, 캐시 적중은 0.02 위안으로, Hy4의 API 정가에 비해 각각 12배, 9배, 15배 낮아졌습니다. Hy4는 현재 50% 한정 할인도 제공하며, 실제 가격 차이는 정가 차이보다 작습니다.텐센트 공식 테스트에서 PPT 협동 편집 점수는 Hy4의 78.9에서 74.0으로 감소했으며, 단일 작업 비용은 1.714 위안에서 0.105 위안으로 줄어들어 약 원래의 16분의 1이 되었습니다. 자동화 작업 점수는 56.2에서 52.2로 감소했으며, 각 작업 비용은 0.908 위안에서 0.038 위안으로 줄어들었습니다. Terminal-Bench 4.0 터미널 운영 테스트에서 Hy4 flash는 19.2점을 얻었고, 플래그십 Hy4는 44.4점을 기록했으며, ProgramBench 프로그래밍 테스트는 30.0점에서 16.0점으로 감소했습니다.

first_img 텐센트 혼원 발표 및 오픈소스 Hy4 프리뷰, 총 매개변수 770B, 활성화 49B

텐센트 혼원은 새로운 세대의 대형 언어 모델 Hy4 preview를 발표하고 오픈 소스화했습니다. 이 모델은 총 파라미터 770B, 활성화 파라미터 49B를 가지고 있으며, 컨텍스트 길이는 1M를 초과하고, 코드, 사무, 과학 등 실제 생산성 작업에서 강력한 능력을 보여주며 오픈 소스 모델의 첫 번째 대열에 안정적으로 자리 잡고 있습니다. Hy4 preview는 모델 크기, 컨텍스트 길이, 데이터 규모에서 모두 상당히 확장되었으며, 소프트웨어 엔지니어링, 게임, 금융, 보안 등 텐센트 전문가의 고품질 데이터와의 공동 구축을 통해, 그리고 WorkBuddy와 같은 제품과의 깊은 협력을 통해 실제 장면에서의 성능을 향상시켰습니다.소프트웨어 엔지니어링에서 이 모델은 장기 개발 작업의 이해, 계획, 디버깅 및 검증 능력을 강화하여, Three.js 미니어처 마을과 같은 복잡한 프론트엔드 프로젝트를 제로에서 구축할 수 있습니다; 게임 개발 측면에서는 한 문장으로 플레이 가능한 프로토타입을 생성할 수 있으며, Unity에서 완전한 데모를 완성할 수 있습니다; 스마트 오피스는 복잡한 재무 감사 작업을 처리할 수 있으며, 여러 문서에서 필터링, 분석 및 전달을 완료할 수 있습니다; 과학 연구는 분자 동역학 시뮬레이션과 같은 작업에서 속도를 높이고, 초기적으로 재귀적 자기 개선 폐쇄 루프를 형성합니다.Hy4 preview는 WorkBuddy/CodeBuddy 국내판 및 국제판, 원보, ima 등 텐센트 제품에서 체험할 수 있으며, 텐센트 클라우드 Tokenhub와 OpenRouter를 통해 API 호출로도 이용할 수 있습니다. WorkBuddy/CodeBuddy는 2주간의 한정 무료 활동을 진행할 예정입니다. 혼원 대모델은 인프라 재구성 이후 평균 2개월마다 대버전을 반복적으로 업데이트하며, preview 선행, 정식 버전 후속의 방식으로 지속적으로 최적화하고 있습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.