BTC $61,982.50 -1.50%
ETH $1,743.63 -1.98%
BNB $573.16 -1.34%
XRP $0.9575 -0.49%
SOL $72.61 -1.45%
TRX $0.3091 -0.31%
DOGE $0.0571 -2.42%
ADA $0.1487 -1.82%
BCH $204.82 -0.32%
LINK $8.86 -2.09%
HYPE $65.97 -1.35%
AAVE $103.24 -5.51%
SUI $0.6978 -3.24%
XLM $0.1319 -3.21%
ZEC $862.23 -5.07%
AAPL $351.32 -0.79%
AMZN $256.68 -4.96%
GOOGL $273.64 -4.21%
MSFT $495.61 -3.10%
META $590.40 -4.64%
NVDA $144.68 -4.77%
TSLA $371.03 -3.79%
SNDK $747.36 -4.58%
INTC $54.60 -1.75%
SPCX $136.30 -5.86%
MU $678.07 -5.65%
AMD $476.90 -10.88%
BTC $61,982.50 -1.50%
ETH $1,743.63 -1.98%
BNB $573.16 -1.34%
XRP $0.9575 -0.49%
SOL $72.61 -1.45%
TRX $0.3091 -0.31%
DOGE $0.0571 -2.42%
ADA $0.1487 -1.82%
BCH $204.82 -0.32%
LINK $8.86 -2.09%
HYPE $65.97 -1.35%
AAVE $103.24 -5.51%
SUI $0.6978 -3.24%
XLM $0.1319 -3.21%
ZEC $862.23 -5.07%
AAPL $351.32 -0.79%
AMZN $256.68 -4.96%
GOOGL $273.64 -4.21%
MSFT $495.61 -3.10%
META $590.40 -4.64%
NVDA $144.68 -4.77%
TSLA $371.03 -3.79%
SNDK $747.36 -4.58%
INTC $54.60 -1.75%
SPCX $136.30 -5.86%
MU $678.07 -5.65%
AMD $476.90 -10.88%

추론

전체
글
뉴스 플래시

first_img 온라인 전파 자료: Ascend 950DT 추론 성능이 H200의 86%에 달함

11월 18일, AI 콘텐츠 계정 Max For AI는 제목이 《승등 950DT 성능 테스트 및 경영 효익 측산 보고서》인 자료가 컴퓨팅 관련 커뮤니티에서 유포되었다고 전했다. 자료 날짜는 올해 10월로 표기되어 있으며, 내용은 중국 이동 내부 테스트 보고서로 나타난다. 자료에 따르면, 10월 10일, 중국 이동의 여러 부서가 합동 팀을 구성하여 화웨이 연추호 연구개발 센터에 가서 64 카드 승등 950DT 초 노드를 사용하여 지표 GLM 5.2와 DeepSeek V4 Pro에 대한 실측을 진행했다.자료에서 제공된 성능 데이터는 GLM 5.2, 16K 입력 / 2K 출력 장면을 기준으로 한다. 단일 카드 총 처리량 측면에서, 승등 910B4는 169 tokens/s, 910C는 483 tokens/s, 950DT는 1951 tokens/s로 각각 910B4의 11.5배, 910C의 4배에 해당한다. 자료는 vLLM 데이터를 인용하여 해당 장면에서 엔비디아 H200을 약 2200 tokens/s로 추정하며, 950DT는 H200의 약 89%에 해당한다; 또 다른 7K/2K 데이터는 약 82%에 해당한다. 자료의 최종 결론은 950DT의 추론 성능이 H200의 86%에 도달한다고 명시하고 있다.비용 측산 측면에서, 자료는 집단 구매 가격에 따라 8 카드 서버 가격을 나열했다: 950DT는 약 297만 위안, 910C는 약 215만 위안, 910B4는 약 65만 위안이다. 장비, 유지보수, 부대시설 및 IDC를 포함하고 5년 동안 분산한 후, 월 비용은 각각 약 6.36만 위안, 4.87만 위안 및 1.61만 위안이다. 자료에 따르면, 950DT의 단위 비용 추론 성능은 약 910C의 3.1배, 910B4의 2.9배에 해당한다. 맨 금속 임대료는 950DT가 매달 8.43만 위안, H200은 약 13만 위안으로 추정되며, 950DT의 추론 성능 가격 비율이 H200보다 약 30% 높다고 명시하고 있다.

first_img AI 추론 칩 회사 모신이 거의 10억 위안 C+ 라운드 자금을 완료했습니다

과학혁신판 일보 보도에 따르면, AI 추론 칩 회사 모신 인공지능 기술(심천) 유한공사가 최근 약 10억 위안의 C+ 라운드 자금을 완료했다고 발표했다. 투자자는 인애 자본, 해탕 기금, 동항 석유, 비구 자본, 파이라 자본, 중재 자본 등이 포함된다. 이번 자금은 희소 전용 추론 칩의 소프트웨어 및 하드웨어 업그레이드, 차세대 칩의 사전 연구, 희소 계산 산학연 협력에 사용될 예정이다. 회사는 이번 자금 조달이 지난 라운드의 약 10억 위안 자금 조달로부터 약 5개월이 지났으며, 두 라운드의 누적 자금 조달이 약 20억 위안에 달한다고 밝혔다.올해 5월에 공개된 C 라운드 자금 조달에는 심창투자, 대만구 공동가정, 리딩 자본, 윤성 자본 등의 기관이 참여했으며, 카이쉰 창투, 성경가성, 암산 과학기술 등의 기존 주주들이 계속 투자했다. 모신은 2018년에 설립되었으며, 본사는 심천에 위치하고 있으며, 주로 AI 추론 칩, 계산 카드 및 관련 소프트웨어를 개발하여 데이터 센터 및 산업 고객에게 서비스를 제공한다. 창립자 겸 CEO 왕웨이는 카네기 멜론 대학교 전자 및 컴퓨터 공학 석사 배경을 가지고 있으며, 퀄컴과 인텔에서 근무한 경험이 있다.회사는 자사 개발한 Antoum 칩을 탑재한 S4, S30, S40 등의 계산 카드를 출시했으며, 각각 하나, 세 개, 네 개의 칩을 탑재하고 있다. 회사는 올해 연말까지 차세대 계산 카드 SP200을 출시하고 업그레이드된 소프트웨어 스택 SECA를 발표할 계획이다. 회사에 따르면, 그들의 추론 클러스터는 북서부, 남서부, 화동, 화북 등 지역에 배치되었으며, 주요 통신 사업자와 협력을 구축했다. 2026년 3분기 매출은 수배 성장할 것으로 예상되지만, 수익 금액 및 성장 비교 기준은 아직 공개되지 않았다.

Anthropic은 제로 지식 증명 기술을 AI 추론에 적용하여 모델이 "바꿔치기"되는 것을 방지합니다

Anthropic은 FlashProve를 오픈 소스하여 암호화폐 분야에서 일반적으로 사용되는 zkSNARK(제로 지식 증명) 기술을 AI 모델 추론에 적용했습니다.이 기술은 거래 세부 정보를 공개하지 않고도 블록체인 거래의 유효성을 증명할 수 있습니다. Anthropic은 이를 사용하여 또 다른 문제를 해결하고자 합니다: 사용자가 고가의 AI 모델 API를 구매했을 때, 서비스 제공자가 저렴한 모델로 몰래 교체했는지 어떻게 알 수 있을까요?FlashProve는 서비스 제공자가 모델 가중치에 대한 암호화된 지문을 생성한 후, 추론 결과에 대한 수학적 증명을 제공합니다. 사용자는 모델 가중치를 얻을 필요도 없고, 모델을 다시 실행할 필요도 없이 지정된 출력이 미리 약속된 가중치 집합에서 나온 것인지 확인할 수 있습니다. Claude도 이 시스템의 개발 및 최적화에 참여했습니다.Anthropic은 이미 Meta의 4000억 매개변수 모델 Llama 4 Maverick에서 실험을 완료했습니다. 1024개의 토큰 컨텍스트를 처리할 때 생성된 증명은 약 19MB이며, 일반 CPU로 검증하는 데 약 17초가 소요됩니다.하지만 현재 각 증명은 하나의 출력 토큰만 검증할 수 있으며, 전체 답변을 검증할 수는 없습니다. 증명을 생성하는 데 필요한 GPU 계산 시간은 일반 추론의 약 70--95배에 달합니다. 앞으로 이를 통해 몰래 모델을 교체한 API 서비스 제공자를 찾아낼 수 있을지는 증명 비용이 언제 낮아질 수 있을지에 달려 있습니다.

first_img 마이크론은 물리 AI 전용 엣지 추론 메모리를 개발하고 있습니다

미광기술 부사장 이철은 서울 COEX에서 열린 한국 반도체 전시회 SEDEX 2026에서 회사가 물리 AI를 위한 엣지 추론 메모리 EIM을 개발 중이라고 밝혔다. 업계는 이 제품이 2028년 하반기에 양산될 것으로 예상하고 있다. 미광은 EIM을 LPDDR6에 적용하여 자율주행, 휴머노이드 로봇 등 저전력 DRAM에 대한 수요를 충족시키기 위해 주요 고객과 관련 제품에 대해 논의하고 있다.과학기술 창업판 일보에 따르면, EIM은 AI 칩과 메모리 사이에 위치하며, LPDDR을 논리 칩 위에 스택하여 고속으로 추론 데이터를 처리하는 방식이다. 계산 아키텍처는 아직 완전히 공개되지 않았다. 이철은 현재 로봇 AI 모델이 약 10억에서 20억 개의 파라미터를 가지고 있으며, 대역폭 수요는 높지 않다고 말했다. 더 발전된 비주얼 언어 모델이 등장한 후에는 LPDDR만으로는 부족하며, HBM이 결국 휴머노이드 로봇에 사용될 것이라고 덧붙였다. 미광은 앞으로 고성능 휴머노이드 로봇이 약 200 GB DRAM과 4 TB 저장소를 필요로 할 것으로 예상하고 있으며, 현재 서비스형 로봇은 약 12 GB DRAM과 256 GB 저장소를 사용하고 있다.미광 CEO 산자이 메로트라는 휴머노이드 로봇의 단일 저장 용량이 일반 L2+ 승용차의 약 10배에 해당하며, 저장 산업은 2030년 전후로 수십 년간 지속적인 수요 증가에 들어갈 것이라고 말했다. 그 이유는 수백 개의 센서 데이터를 동기화 처리해야 하며, 로컬에서 대규모 모델을 밀리초 수준으로 제어해야 하기 때문이다. Counterpoint Research는 전 세계 휴머노이드 로봇 DRAM 수요가 올해 약 8300 Tbit에서 2030년에는 약 17.2만 Tbit으로 증가할 것으로 예상하고 있다.
app_icon
ChainCatcher Building the Web3 world with innovations.