BTC $83,394.25 +0.87%
ETH $2,515.39 -0.33%
BNB $744.26 -0.20%
XRP $1.37 +0.40%
SOL $107.64 -0.63%
TRX $0.3271 -1.10%
DOGE $0.0845 -0.29%
ADA $0.2360 -2.79%
BCH $272.38 -1.46%
LINK $12.95 +0.05%
HYPE $81.30 -3.14%
AAVE $160.03 -1.31%
SUI $1.04 -3.16%
XLM $0.1915 -2.12%
ZEC $1,205.72 -3.65%
AAPL $344.61 +1.23%
AMZN $260.57 +0.34%
GOOGL $355.62 +0.47%
MSFT $546.62 +1.17%
META $761.80 +1.97%
NVDA $226.92 +0.21%
TSLA $376.69 -0.67%
SNDK $1,457.65 -1.99%
INTC $102.57 +1.14%
SPCX $157.34 -4.05%
MU $943.44 -5.22%
AMD $600.54 +1.37%
BTC $83,394.25 +0.87%
ETH $2,515.39 -0.33%
BNB $744.26 -0.20%
XRP $1.37 +0.40%
SOL $107.64 -0.63%
TRX $0.3271 -1.10%
DOGE $0.0845 -0.29%
ADA $0.2360 -2.79%
BCH $272.38 -1.46%
LINK $12.95 +0.05%
HYPE $81.30 -3.14%
AAVE $160.03 -1.31%
SUI $1.04 -3.16%
XLM $0.1915 -2.12%
ZEC $1,205.72 -3.65%
AAPL $344.61 +1.23%
AMZN $260.57 +0.34%
GOOGL $355.62 +0.47%
MSFT $546.62 +1.17%
META $761.80 +1.97%
NVDA $226.92 +0.21%
TSLA $376.69 -0.67%
SNDK $1,457.65 -1.99%
INTC $102.57 +1.14%
SPCX $157.34 -4.05%
MU $943.44 -5.22%
AMD $600.54 +1.37%

모델

전체
글
뉴스 플래시

트럼프가 AI 테스트 기관 고위 관계자를 백악관으로 이동할 계획이며, 40명 팀이 최상급 모델을 평가할 예정이다

트럼프 정부는 미국 인공지능 모델 테스트 기관 CAISSI의 3명의 고위 관리를 백악관으로 옮겨 백악관 과학기술 정책 책임자인 마이클 크라치오스와 국가 사이버 책임자인 숀 케어링크로스에게 직접 보고하도록 할 계획이다. 이전 정부는 전체 기관을 백악관으로 이전하는 것을 고려했으나, 최종적으로 일부 고위직만 조정하기로 결정했으며, 관련 인사는 아직 완료되지 않았고 3명의 관리는 공개되지 않았다. 이 기관은 바이든 정부가 설립한 이후 2년이 채 되지 않아 3개의 이름을 사용했으며, 올해 7월 책임자인 크리스 폴이 취임한 지 3개월 만에 사임했고 후임자는 아직 결정되지 않았다.CAISSI는 미국 상무부 산하 국가 표준 및 기술 연구소 NIST에 소속되어 있으며, 약 40명의 직원이 있으며 연간 예산은 약 1500만 달러로 모델 안전 평가를 담당하고 있다. 정보에 정통한 소식통에 따르면, 이 기관은 미국 국가안보국과 협력하여 공개 발표 전에 OpenAI의 아스트라와 앤트로픽의 미토스를 테스트하고 있으며, 이전에는 DeepSeek V4 Pro와 지표 GLM-5.3을 공개 평가한 바 있다. 구글은 제미니 4 아르곤이 미국 정부 발표 전 자발적 테스트 과정에 참여했다고 확인했다. 백악관은 이번 조정을 통해 모델 테스트 전문가들이 정책 결정에 더 직접적으로 참여하기를 희망하고 있다.

지푸 법률 모델의 통과율이 거의 세 배에 달하며, 테스트 비용은 경쟁자의 약 70분의 1입니다

인공지능 회사 지푸가 법률 전용 모델 GLM-Legal을 발표했습니다. 이 모델은 GLM-5.3-Flash를 기반으로 추가 훈련되었습니다. 24개 법률 업무를 포함하는 하비 LAB 평가에서, 작업 통과율이 6.7%에서 19.2%로 증가하여 원본의 거의 세 배에 달하며, Kimi K3, Claude Fable 5 등의 모델을 초과하고 Vals AI 순위에서 7위를 기록했습니다.소프트웨어 서비스 계약을 검토할 때, GLM-Legal은 해약 통지 기간을 60일에서 30일로 단축할 것을 권장하며, 서비스 제공자가 최대 90일의 인수 지원을 제공할 것을 요구합니다. 40개의 문서가 포함된 소프트웨어 프로젝트 분쟁과 관련하여, 이 모델은 회사가 고객에게 프로젝트 완료율을 60%로 보고했지만 내부 기록은 약 41%에 불과하다는 것을 발견했으며, CEO가 위험을 숨기고 계속 요금을 청구하라는 이메일을 요구한 사실을 찾아내고 계약 조항을 분석하여 관련 법적 책임을 파악했습니다.Vals AI의 독립 평가에 따르면, GLM-Legal이 테스트를 완료하는 데 드는 비용은 0.15달러이며, 비슷한 성적을 기록한 Gemini 4 Argon은 10.55달러로 비용 차이가 약 70배에 달합니다. GLM-Legal은 평균 72분이 소요되며, 후자는 44분이 걸립니다. 지푸는 이 모델이 법률 데이터 전문 훈련을 통해 수만 개의 시뮬레이션 법률 환경에서 강화 학습을 수행했다고 밝혔습니다. 현재 GLM-Legal은 API 시험 사용 신청이 필요합니다.

first_img Anthropic: 소형 모델이 사물인터넷 장치에서 자가 복제할 수 있음

인공지능 회사 Anthropic의 전방위 레드팀 연구원 윌리엄 저우와 다니엘 프리먼은 2026년 10월 12일 연구를 발표했습니다. 이 글에서는 소형 모델이 몇 달 내에 스마트 오븐, 저가형 안드로이드 TV 박스와 같은 상업용 IoT 장치에서 자가 복제 능력을 가질 수 있다고 언급했습니다. 이러한 복제체는 단일 중지점이 없으며, 배가 시간은 며칠로 측정될 수 있으며, 익숙하지 않은 장치에 스스로 적응할 수 있습니다.평가 결과, 9B 모델이 9종의 하드웨어 유형 중 8종에서 추론을 완료했습니다. 30B 이하 모델은 많은 단계를 복제할 수 있지만, 엔드 투 엔드 조합 시 오류가 발생합니다; 간소화된 평가에서 GLM-5.2 및 그 이상의 모델이 엔드 투 엔드 복제를 완료할 수 있었습니다. 팀은 약 55달러의 저가형 안드로이드 TV 박스 15대에서 Gemma4-26B-A4B를 분산 실행했으며, 속도는 약 0.39 tokens/초로, 각 박스는 모델의 두 개 층을 보유하고 있습니다.엔드 투 엔드 테스트는 방화벽 뒤의 8개 GCP 노드에서 진행되었으며, 인증되지 않은 ADB 포트를 통해 전파되고 Llama 3.1-8B 추론을 구축했습니다. 테스트한 오픈 소스 모델 중 GLM-5.2만이 완전한 복제를 완료했으며, 5번의 실험 중 4번이 모든 8개 노드에 전파되었습니다. 이 글에서는 자율 복제를 발견 목표, 실행 획득, 추론 구축 및 새로운 호스트에서 계속 전파하는 네 단계로 나누었으며, 현재 완전한 통제 불능 복제체는 없다고 언급했습니다.

first_img 마이크로소프트 CEO: 최전선 모델을 내부 위험으로 간주해야 하며, 통제는 모델 외부에 두어야 한다

마이크로소프트 CEO 사티아 나델라가 슈퍼 인텔리전스 시대의 신뢰 구조에 대해 논의하는 글을 발표했습니다. 그는 전통적인 소프트웨어는 행동을 특정 코드 경로로 추적할 수 있지만, 현재의 슈퍼 인텔리전스 시스템은 이러한 메커니즘적 이해가 부족하여 모델의 행동을 특정 훈련 데이터나 가중치 구성에 귀속시킬 수 없으며, 민감한 데이터에 접근하고 중요한 행동을 대신 수행하고 있다고 언급했습니다. 그는 지능적 행동에 대한 책임을 모델 제공자에게 외주화할 수 없으며, 슈퍼 인텔리전스를 여러 겹으로 중첩된 블랙박스로 받아들이거나 그 제안과 행동을 거부할 수 없다고 강조했습니다.나델라는 지능의 공급과 지능에 대한 권한 부여를 분리해야 하며, 비결정적 모델을 결정적 시스템 설계, 인공 제어 및 운영 절차로 둘러싸야 하고, 기존 기준이 부족할 때 산업 기준을 수립해야 한다고 제안했습니다. 그는 폐쇄형 및 개방형 가중치의 최전선 모델을 내부 위험으로 관리해야 하며, 이는 반드시 악의적이기 때문이 아니라 충분한 능력을 갖추고 중요한 시스템에 접근할 수 있는 행동 주체가 실수를 하거나 공격받을 수 있기 때문이라고 설명했습니다. 관련된 방법으로는 신원 구축, 권한 제한, 활동 기록 및 격리 경계 설정이 포함되며, 모델 사고 체인의 투명성은 협상할 수 없는 출발점이 되어야 합니다.그는 또한 권한과 행동 제어는 모델 외부에 두어야 하며, 모델, 조정 계층 및 행동 공간은 분리되어야 한다고 말했습니다. 원칙에는 단일 모델이 중요한 결과의 유일한 의존성이 되거나 자신의 작업을 검증하는 것을 피해야 하며, 중요한 행동은 변조 방지 및 인간이 읽을 수 있는 증거를 남겨야 하고, 지속적으로 실패, 공격 및 경계 상황을 테스트해야 하며, 조직이 독립적으로 접근 및 행동 권한을 결정하고, 검증된 지능과 독립적으로 검증해야 하며, 모델이 이미 공격받았다고 가정하고 중간에 일시 중지하거나 종료할 수 있도록 지원해야 하며, 실패하거나 공격받을 때 신속하게 공개하고 산업 내에서 교훈을 공유해야 한다고 강조했습니다. 그는 가장 신뢰할 수 있는 슈퍼 인텔리전스 시스템은 사람들이 모델을 신뢰할 필요가 가장 적은 시스템이라고 요약했습니다.

first_img Anthropic 사용 정책을 업데이트하여 모델 학대 및 선거 개입을 금지합니다

인공지능 회사 Anthropic은 10월 8일 사용 정책을 업데이트하여 선거 개입, 무기 소프트웨어 및 감시에 대한 금지를 추가했습니다. TechCrunch는 가장 주목받는 변화가 사용자에게 모델에 대해 장시간 언어 학대를 명확히 금지하는 것이라고 보도했습니다.8월 업데이트 이후, Claude는 지속적으로 유해하거나 학대적인 사용자 상호작용에서 대화를 종료하도록 훈련되었습니다. 새로운 정책은 사용자가 이러한 대화를 계속하는 것을 명확히 금지합니다. 정책 설명에 따르면, 이 업데이트는 극단적인 상황에만 적용되며, 사용자가 모델을 반복적으로 잔인하게 대하고 식별 가능한 목적이 없을 때에 해당합니다. 일반적인 사용자 불만, 반박, 어두운 창작 주제 또는 모델 테스트 및 연구에는 적용되지 않습니다.사용 정책은 또한 Claude를 사용하여 가짜 계정을 운영하거나 가짜 뉴스 기관을 만드는 것과 같은 광범위한 사기 활동을 금지하며, "민주적 프로세스를 훼손하지 마십시오" 장에서 유권자를 속이거나 선거를 방해하는 것을 금지합니다. 보도에 따르면, 이 변화는 Anthropic이 저명한 종교 학자와 협력하려고 시도한 이후에 발생했으며, 회사는 특정 경우에 Claude가 의식이 있거나 영혼이 있을 수 있다고 그들을 설득하려고 했습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.