BTC $82,406.10 +0.75%
ETH $2,419.42 -0.03%
BNB $725.48 +0.53%
XRP $1.31 +0.58%
SOL $105.15 +0.76%
TRX $0.3312 -0.58%
DOGE $0.0795 -0.09%
ADA $0.2206 -0.14%
BCH $277.00 +0.06%
LINK $12.15 +1.01%
HYPE $79.45 +0.32%
AAVE $151.16 -1.49%
SUI $0.9994 +0.99%
XLM $0.1787 +0.29%
ZEC $1,172.27 +2.23%
AAPL $345.20 +0.72%
AMZN $253.36 +1.82%
GOOGL $343.62 +1.32%
MSFT $534.51 +1.61%
META $719.20 +1.81%
NVDA $217.99 +2.17%
TSLA $357.94 +2.01%
SNDK $1,338.62 +5.25%
INTC $92.61 +4.02%
SPCX $148.60 +2.39%
MU $900.14 +3.87%
AMD $543.29 +3.25%
BTC $82,406.10 +0.75%
ETH $2,419.42 -0.03%
BNB $725.48 +0.53%
XRP $1.31 +0.58%
SOL $105.15 +0.76%
TRX $0.3312 -0.58%
DOGE $0.0795 -0.09%
ADA $0.2206 -0.14%
BCH $277.00 +0.06%
LINK $12.15 +1.01%
HYPE $79.45 +0.32%
AAVE $151.16 -1.49%
SUI $0.9994 +0.99%
XLM $0.1787 +0.29%
ZEC $1,172.27 +2.23%
AAPL $345.20 +0.72%
AMZN $253.36 +1.82%
GOOGL $343.62 +1.32%
MSFT $534.51 +1.61%
META $719.20 +1.81%
NVDA $217.99 +2.17%
TSLA $357.94 +2.01%
SNDK $1,338.62 +5.25%
INTC $92.61 +4.02%
SPCX $148.60 +2.39%
MU $900.14 +3.87%
AMD $543.29 +3.25%

검토

전체
글
뉴스 플래시

first_img 애플이 App Store 심사를 확장하며, 위반된 AI 심층 위조 애플리케이션은 하차될 것입니다

애플은 App Store 심사 규칙을 확장하여 AI 생성의 비자발적 친밀한 이미지를 규제에 포함한다고 발표했습니다. 플랫폼은 이전에 성적 콘텐츠를 금지했으며, 새로운 규칙은 개발자가 AI 생성의 심층 위조 콘텐츠를 적극적으로 예방하고 제거할 것을 요구합니다. 만약 효과적으로 조치를 취하지 않을 경우, 이러한 위반 콘텐츠를 포함한 애플리케이션은 강제로 삭제될 것입니다.업데이트된 1.2 조항은 특히 AI 콘텐츠 생성 애플리케이션을 언급하며, Grok와 같은 논란이 있는 제품을 지목했습니다. 이전에 사용자들은 xAI 소속의 Grok가 노출 및 성적 암시의 심층 위조 이미지를 제작하는 데 사용되었다고 불만을 제기했습니다. 올해 초, 애플은 xAI에 이러한 콘텐츠의 확산을 허용할 경우 Grok가 App Store에서 제거될 것이라고 경고했습니다. 이후 xAI는 보안 조치를 배치하고 업데이트된 버전이 승인되었습니다.추가된 2.5.19 조항은 이른바 "바꿔치기"에 대해 다루고 있으며, 개발자가 제출한 심사 버전 외에 새로운 기능이나 모듈을 숨길 경우, 특히 승인 후에 "탈의"와 같은 유해 기능을 활성화할 경우 App Store 및 Apple Developer Program에서 동시에 제거될 수 있습니다. 제5절 업데이트는 인신매매 또는 아동 착취 애플리케이션에 대한 금지를 대체 애플리케이션 배포 채널로 확장할 것입니다. 애플은 개발자가 이러한 규칙을 위반할 경우 관련 애플리케이션을 제거하고 개발자 자격을 종료할 것이라고 밝혔습니다.

a16z crypto: AI는 현대 암호학을 해독할 수 없지만, 보안 검토를 가속화할 수 있습니다

a16z 크립토는 스탠포드 대학교 교수 댄 보네(Dan Boneh), a16z 크립토 파트너 에디 라자린(Eddy Lazzarin) 등 전문가를 초청하여 AI가 암호학에 미치는 위협에 대해 논의했습니다. 전문가들은 최근 AI가 수학 분야에서 이룬 진전이 암호학 성과를 포함하지 않으며, 특정 암호학 가설의 안전성 저하를 증명하지 않았다고 지적했습니다.전문가들은 현대 암호학이 특정 수학 문제에 대해 효율적인 알고리즘이 존재하지 않는다는 가정에 의존하고 있으며, 만약 이 가정이 성립한다면 AI가 아무리 강력하더라도 존재하지 않는 알고리즘을 찾을 수 없다고 말했습니다. 이 가정은 컴퓨터 과학에서 해결되지 않은 P 대 NP 문제와 관련이 있으며, 현재 AI의 진전은 이 문제에 전혀 미치지 못하고 있습니다.전문가들은 AI가 암호학 검토 시간을 대폭 단축할 수 있다고 생각하며, 과거 10년이 걸렸던 가설 검증이 이제는 모델이 한 달 동안 실행하여 해킹을 시도할 수 있게 되었다고 말했습니다. 동시에 양자 위협으로 인해 추진된 이전 작업이 일부 AI 위험에 대한 준비를 제공했으며, 암호의 민첩성이 시스템이 약점을 발견했을 때 방법을 전환하는 데 도움을 줄 수 있습니다. 개발자에게 가장 직접적인 기회는 소프트웨어 배포 전에 AI를 활용하여 더 많은 취약점을 발견하는 것입니다.

first_img 플로리다 여성, Claude로 일기 쓰고 Anthropic이 검토 후 신고

Decrypt에 따르면, 미국 플로리다주 보니타 스프링스의 여성 카를리 미셸 헬러가 클로드를 일기처럼 사용한 혐의로 체포되었다. 조사관들은 그녀가 9월 26일에 "사격" 리 카운티 보안관 사무실에 대한 내용을 작성했으며, 다음 날 새로운 총을 구입했다고 밝혔다고 전했다. Anthropic의 안전 시스템은 이러한 대화를 심각한 내용으로 표시하였고, 플랫폼은 인력 검토 팀에 이 사건을 넘겼으며, 후자는 법 집행 기관에 보고하였다. 경찰은 이를 바탕으로 헬러를 특정하고 그녀의 거주지로 가서 그녀를 구금하였으며, 그녀는 서면으로 폭력 위협을 한 혐의로 기소되었고, 사건은 11월에 재판이 열릴 예정이다.Anthropic의 소비자 약관은 사용자 입력, 출력 또는 행동을 법 집행 기관에 보고할 권리를 "자체적으로 결정"할 수 있음을 명확히 하고 있다. 2026년 9월 10일에 발효된 개인정보 보호정책 또한 회사가 심각한 피해를 예방하기 위해 공개하는 것이 합리적으로 필요하다고 선의로 믿을 경우 경찰과 데이터를 공유할 수 있도록 허용하고 있다. 사용자가 데이터를 모델 훈련에 사용하지 않기로 선택하더라도, Anthropic은 여전히 3개월 이내에 해당 데이터를 사용할 수 있으며, 5년이 아닌; 검토를 위해 표시된 대화는 유해 콘텐츠 탐지 능력을 개선하는 데 사용될 것이다.이는 첫 번째 사례가 아니다. 샌프란시스코 표준지에 따르면, Anthropic은 한 사용자를 경찰에 인계한 바 있으며, 해당 사용자는 AR-15 소총을 구입했다고 주장하며 회사 CEO 다리오 아모데이를 조준경에 놓았다고 전해졌다. 그는 단지 농담이었다고 주장했으며, 보도가 나왔을 때 체포되거나 기소되지 않았고, Anthropic 대변인은 이 사건이 "우리의 보호 프로세스가 예상대로 작동했다"고 말했다.
app_icon
ChainCatcher Building the Web3 world with innovations.