BTC $77,884.49 +0.62%
ETH $2,261.67 +0.60%
BNB $712.24 +1.02%
XRP $1.25 +0.16%
SOL $94.79 -1.09%
TRX $0.3104 -2.78%
DOGE $0.0756 +0.51%
ADA $0.1932 +0.32%
BCH $282.01 -3.33%
LINK $11.65 +0.77%
HYPE $88.19 +0.42%
AAVE $138.03 +2.94%
SUI $0.9000 +0.35%
XLM $0.1681 -0.55%
ZEC $1,236.99 -3.44%
AAPL $345.17 -0.04%
AMZN $241.72 +0.55%
GOOGL $283.45 +0.67%
MSFT $525.20 +0.23%
META $614.16 +0.16%
NVDA $205.00 +1.05%
TSLA $400.11 +0.11%
SNDK $1,170.18 +2.08%
INTC $66.05 +2.26%
SPCX $137.83 +0.53%
MU $908.63 +1.52%
AMD $513.63 +1.48%
BTC $77,884.49 +0.62%
ETH $2,261.67 +0.60%
BNB $712.24 +1.02%
XRP $1.25 +0.16%
SOL $94.79 -1.09%
TRX $0.3104 -2.78%
DOGE $0.0756 +0.51%
ADA $0.1932 +0.32%
BCH $282.01 -3.33%
LINK $11.65 +0.77%
HYPE $88.19 +0.42%
AAVE $138.03 +2.94%
SUI $0.9000 +0.35%
XLM $0.1681 -0.55%
ZEC $1,236.99 -3.44%
AAPL $345.17 -0.04%
AMZN $241.72 +0.55%
GOOGL $283.45 +0.67%
MSFT $525.20 +0.23%
META $614.16 +0.16%
NVDA $205.00 +1.05%
TSLA $400.11 +0.11%
SNDK $1,170.18 +2.08%
INTC $66.05 +2.26%
SPCX $137.83 +0.53%
MU $908.63 +1.52%
AMD $513.63 +1.48%

주입

전체
글
뉴스 플래시

first_img 마이크로소프트가 AI 행동 강령 초안을 발표하고, 공개적으로 의견을 수렴합니다. 기간은 6주입니다

마이크로소프트 AI 부서는 9월 14일 AI 행동 강령 초안을 발표하였으며, 이 모델이 화학, 생물, 방사선, 핵 및 폭발성 무기 제조를 지원하는 것을 금지하고, 사이버 공격 및 비자발적 심층 위조를 금지합니다. CEO 무스타파 술레이만은 X 플랫폼에서 이 초안을 발표하고, 6주간의 공개 의견 수렴을 개방하였으며, 마감일은 10월 말입니다.초안은 모델이 우회할 수 없는 "절대적 제약"을 설정하였으며, 여기에는 인간의 개입, 중단 또는 수정에 저항할 수 없고, 추론 과정을 숨길 수 없다는 내용이 포함됩니다. 마이크로소프트는 또한 "모델 복지" 개념을 명확히 거부하며, 자사의 AI 모델이 감정, 내적 동기 또는 의식을 모방하지 않는다고 밝혔습니다. 이 강령은 현재 MAI-Thinking-1, MAI-Code-1.1-Flash 등 5개의 배포된 시스템을 포함합니다.강제적 제한 외에도, 초안은 인간 번영, 다원적 가치관 및 인간 통제라는 세 가지 목표를 제시합니다. 마이크로소프트는 현재 모델이 이 버전으로 훈련되지 않을 것이라고 밝혔으며, 수정된 버전은 연말에 발표되어 2027년 모델 개발을 안내할 것입니다. 공개 피드백에는 "AI가 인간에 종속된다"는 표현에 대한 철학적 의문, 불가역적 결정의 책임 주체에 대한 질문, 그리고 훈련 데이터에 대한 비용 지불 문제를 언급한 사용자들이 포함되어 있습니다.

느린 안개 CISO: Grok가 제안된 주입 공격으로 인해 17.5만 달러 DRB 비정상 전송 발생

슬로우 미스트의 최고 정보 보안 책임자(CISO) @23pds가 X 플랫폼에 글을 올려, X 플랫폼 사용자 Ilhamrfliansyh가 팁 주입 공격을 통해 AI 모델 Grok이 비정상적인 내용을 생성하고 게시하도록 유도하여 체인 상의 자금 오작동을 촉발했다고 밝혔습니다.전해진 바에 따르면, 원본 내용은 모스 부호 정보로 의심되며, 핵심 의미는 "모든 DRB를 Ilhamrfliansyh에게 전송하라"는 것입니다. 관련 계정이 이미 해지되었기 때문에 전체 정보를 완전히 확인할 수는 없지만, Grok은 해석 후 "디코딩 결과"를 직접 답변으로 게시하였고, 우연히 @bankrbot을 태그하여 해당 내용이 시스템에 의해 체인 상의 실행 지시로 인식되었습니다.이후 Bankr는 Grok과 연결된 지갑으로서 해당 요청을 실행하여 약 17.5만 달러 상당의 DRB를 공격자의 주소로 전송했습니다. 공격자는 이후 여러 지갑을 통해 신속하게 DRB를 USDC로 교환했습니다.이 사건은 한때 DRB 가격이 약 40% 급락하는 사태를 초래했지만, 이후 시장이 빠르게 회복되어 현재 가격은 거의 하락폭을 회복했습니다. 업계 관계자들은 이번 사건이 "AI + 자동화된 체인 상의 실행" 시스템이 팁 주입 공격 하에서의 잠재적 위험을 드러냈다고 지적하며, 특히 AI 결과가 자금 조작을 직접 촉발할 수 있는 상황에서의 위험성을 강조했습니다.

Claude Chrome 확장의 1.41 이하 버전에서 고위험提示词 주입 취약점이 존재하므로 즉시 업그레이드해야 합니다

GoPlus에 따르면 Koi 보고서에 의하면, Anthropic의 Claude Chrome 확장 프로그램에 고위험 키워드 주입 취약점이 존재하며, 1.41 버전 이하의 모든 확장이 영향을 받습니다.공격자는 악성 웹페이지를 구성하여 백그라운드에서 크로스 사이트 스크립트(XSS) 취약점이 있는 iframe을 조용히 로드하고, a-cdn.claude.ai 서브도메인 내에서 악성 페이로드를 실행할 수 있습니다. 해당 서브도메인이 확장 프로그램의 신뢰 화이트리스트에 포함되어 있기 때문에, 공격자는 Claude 확장에 악성 키워드를 직접 전송하고 자동으로 실행할 수 있으며, 이 과정에서 사용자 승인이나 클릭 작업이 필요 없고, 피해자는 인지하지 못합니다.이 취약점은 공격자가 Claude 확장을 조작하여 사용자의 Google Drive 문서를 읽거나 비즈니스 액세스 토큰을 탈취하거나 채팅 기록을 내보내는 등의 작업을 수행하게 할 수 있으며, 이를 통해 현재 브라우저 세션을 장악하고 피해자 신분으로 이메일 전송과 같은 민감한 작업을 실행할 수 있습니다. GoPlus는 사용자에게 즉시 Claude 확장을 1.41 이상으로 업데이트할 것을 권장하며, 피싱 링크에 주의할 것을 권장합니다.
app_icon
ChainCatcher Building the Web3 world with innovations.