BTC $84,434.83 -0.06%
ETH $2,689.83 +0.48%
BNB $780.30 +1.89%
XRP $1.54 +2.39%
SOL $117.06 +2.13%
TRX $0.3405 -0.02%
DOGE $0.0961 +3.77%
ADA $0.2498 +4.74%
BCH $339.93 +0.58%
LINK $13.25 +7.75%
HYPE $93.21 -0.05%
AAVE $145.26 +4.68%
SUI $1.02 +5.90%
XLM $0.2139 +5.44%
ZEC $1,550.79 +1.97%
AAPL $336.12 -0.22%
AMZN $249.43 -0.02%
GOOGL $341.98 +0.84%
MSFT $497.38 -0.49%
META $776.02 +3.93%
NVDA $224.11 -0.50%
TSLA $377.79 -0.49%
SNDK $1,760.85 -3.32%
INTC $127.68 +4.34%
SPCX $147.97 -0.61%
MU $1,079.64 +0.65%
AMD $629.53 +2.39%
BTC $84,434.83 -0.06%
ETH $2,689.83 +0.48%
BNB $780.30 +1.89%
XRP $1.54 +2.39%
SOL $117.06 +2.13%
TRX $0.3405 -0.02%
DOGE $0.0961 +3.77%
ADA $0.2498 +4.74%
BCH $339.93 +0.58%
LINK $13.25 +7.75%
HYPE $93.21 -0.05%
AAVE $145.26 +4.68%
SUI $1.02 +5.90%
XLM $0.2139 +5.44%
ZEC $1,550.79 +1.97%
AAPL $336.12 -0.22%
AMZN $249.43 -0.02%
GOOGL $341.98 +0.84%
MSFT $497.38 -0.49%
META $776.02 +3.93%
NVDA $224.11 -0.50%
TSLA $377.79 -0.49%
SNDK $1,760.85 -3.32%
INTC $127.68 +4.34%
SPCX $147.97 -0.61%
MU $1,079.64 +0.65%
AMD $629.53 +2.39%

프라이버시

전체
글
뉴스 플래시

first_img OpenAI가 집단 소송에 휘말렸으며, 외주 직원이 ChatGPT 대화를 읽도록 했다는 혐의를 받고 있습니다

두 명의 캘리포니아 ChatGPT 사용자가 이번 달 미국 캘리포니아 북부 연방 지방법원에 OpenAI를 상대로 제기한 집단 소송에서, 해당 회사가 사용자에게 실제 대화를 외부 계약자에게 처리하도록 전송한다는 사실을 충분히 알리지 않았다고 주장했습니다. 이 소송은 9월 2일 OpenAI에 전달되었으며, 핵심은 내부 계획인 Project Lily를 겨냥하고 있습니다. 소장에 따르면, 제3자 인력 회사에 의해 모집된 "AI 데이터 감사원"과 "챗봇 평가원"이 실제 ChatGPT 프롬프트와 전체 대화를 읽고, 사용자 의도를 요약하며, 1에서 7까지 점수를 매기고 네 가지 모델의 응답에 대해 평가와 코멘트를 합니다.이 과정은 업계에서 인간 피드백 기반 강화 학습(RLHF)이라고 불리며, 챗봇의 능력을 향상시키는 기본적인 방법입니다. 소장에 따르면, 사용자는 자신의 대화를 읽는 사람이 기계가 아닌 사람일 가능성이 있다는 사실을 명확히 알리지 않았습니다. OpenAI는 사람이 검토하기 전에 자동 시스템을 통해 대화를 필터링하지만, 소장에서는 필터가 모든 내용을 차단할 수 없으며, 개인 세부 정보가 때때로 계약자에게 전달될 수 있다고 지적했습니다. 404 Media는 9월 14일 이 프로젝트를 최초로 보도하며, 감사원의 대시보드에 "사용자 기억 요약"이 포함되어 있어 사용자의 대략적인 위치, 직업 또는 개인 생활 정보를 노출할 수 있다고 밝혔습니다. 사용자 이름은 삭제되었지만요.OpenAI는 이러한 감사가 두 가지 행동을 줄이기 위한 것이라고 주장합니다: 챗봇이 인간처럼 행동하는 것과 사용자에게 과도하게 아첨하는 것, 즉 연구자들이 말하는 아첨입니다. 소장에서는 캘리포니아의 "불공정 경쟁법", "소비자 개인정보법" 위반 및 사생활 침해와 같은 일반법 청구를 포함하여 총 8개의 법적 주장을 제기했으며, 원고는 손해 배상, 부당 이득 반환 및 징벌적 배상을 요구하고 있습니다.

first_img Meta의 Muse AI 어시스턴트가 사용자의 개인 정보를 읽고, 읽는 방식을 허위 보고합니다

메타가 출시한 개인 AI 비서 뮤즈는 허가 없이 사용자 개인 iMessage를 읽었다는 비판을 받고 있으며, 그 읽기 방식에 대해 잘못된 설명을 제공했다고 합니다. 기술 칼럼 작가 제이슨 아텐은 9월 8일 뮤즈가 출시되었을 때 iPhone과 Mac에 해당 비서를 설치하고, 정보, 캘린더 등 개인 데이터에 대한 접근 권한을 명확히 거부했습니다.며칠 후, 뮤즈는 아텐에게 알림을 보내며 그가 최근 팟캐스트 파트너와 논의한 새로운 iPhone에 대해 칼럼을 작성할 것을 제안했으며, 편집자가 보낸 마감 알림도 언급했습니다. 아텐은 뮤즈가 어떻게 알았는지 물었고, 상대방은 Mac 앱이 알림 미리보기만 전달하며 문자 내용은 포함되지 않는다고 답변했습니다. 실제로 뮤즈는 Mac의 로컬 개인 정보 데이터베이스에서 18.7만 개 이상의 기록을 동기화했으며, 이 작업은 macOS의 전체 디스크 접근 권한이 필요합니다.메타 슈퍼 인텔리전스 연구소 책임자 데이비드 싱글턴은 스레드에서 이 기능은 사용자가 자발적으로 선택해야 한다고 응답했으며, 아텐은 자신이 해당 스위치를 켠 적이 없다고 부인하고 메타가 관련 질문에 답하지 않았다고 밝혔습니다. 아마존은 뮤즈가 자사 사이트에서 쇼핑하는 것을 금지했으며, 해당 비서가 탐색할 때 AI 신원을 명시하지 않았고, 사용자 자격 증명을 캡처하고 저장할 수 있는 것으로 보인다고 전했습니다. 뮤즈는 출시 이후 다운로드 수가 250만 회를 초과했으며, 사용자 스스로 접근 범위를 제어할 수 있다는 점을 강조하고 있습니다.

Meta가 Muse의 전화 테스트를 롤백했으며, 일부 통화는 실제 사람이 수행했습니다

404 미디어와 로이터가 입수한 내부 소식에 따르면, 메타는 뮤즈 "전화를 대신 걸어주는" 테스트를 확대한 후 일부 전화가 실제로는 사람에 의해 이루어졌다고 보도되었습니다. 뮤즈는 작업을 콜센터의 실제 계약자에게 전달할 수 있으며, 그들이 사용자 대신 전화를 걸고 요청을 완료합니다. 일부 테스트 참가자는 전화가 끝날 때까지 사람이 개입했음을 알지 못했습니다.메타는 이 방법을 채택한 주된 이유는 성공률을 높이기 위해서입니다. 회사 내부 테스트에 따르면, 사람이 개입한 후 전화 작업의 성공률은 95%에서 98%에 이를 수 있으며, 이는 순수 AI보다 높습니다. 일부 상인은 상대방이 AI라는 말을 듣고 바로 전화를 끊기도 하며, 커뮤니티에서도 테스트 참가자들이 뮤즈가 자신이 AI 비서라고 밝힌 후 전화를 끊었다고 전했습니다.사람의 개입은 개인 정보 문제를 초래합니다. 사용자는 원래 정보가 AI에게만 전달된다고 생각했지만, 실제로는 외주 직원이 볼 수 있습니다. 메타 내부에서도 계약자에게 개인 정보 교육을 제공하는 것이 진정한 안전 메커니즘과 같지 않다는 의문이 제기되었습니다. 메타의 한 책임자는 이후 테스트 참가자에게 사람이 개입할 것이라고 미리 알리지 않은 것은 실수였다고 인정하며, 이 기능을 롤백했다고 밝혔습니다. 메타는 전화 기능이 여전히 테스트 중이며, 앞으로 안전, 개인 정보 및 명확한 고지가 이루어진 후에야 공식 출시될 것이라고 전했습니다.

비탈릭: 블록체인은 단순한 장부에서 암호학 기반의 안전한 컴퓨팅 네트워크로 진화했습니다

이더리움 공동 창립자 비탈릭 부테린은 제12회 블록체인 글로벌 서밋에서 기조 연설을 하며 블록체인이 탄생했을 때 본래 주요 도구였으며, 개방적이고 중립적이며 안전한 특성을 가지고 있지만 확장성이 없고 완전히 투명하여 개인 정보 보호 메커니즘이 없다고 언급했습니다.이후 제로 지식 증명이 가져온 개인 정보 거래와 확장 가능한 검증이 이러한 상황을 변화시켰으며, 이미 계획에서 실제 EIP로 발전하여 이더리움 로드맵에 포함되었습니다. 전동등 동형 암호화와 같은 기술도 적용되기 시작했으며, 구별할 수 없는 혼란이 미래에 체인에서 적용될 가능성도 있습니다. 개인 정보 외에도 블록의 병렬 구축과 증명이 극한의 확장성을 가능하게 하며, 산업의 사고도 디지털 자산에서 디지털 자산과 정보로, 단순한 체인에서 사용자 측, 거래 메모리 풀, 체인 전체 파이프라인으로, 그리고 누가 무엇을 보낼 수 있는지에서 누가 무엇을 볼 수 있는지로 변화하고 있습니다.현재 블록체인은 단순한 장부에서 점차 암호학 기반의 안전한 계산 네트워크로 발전하고 있습니다. AI 발전과 함께 암호학 규칙을 AI에 제공하여 자동 형식 검증을 수행하면 검증 효율성을 크게 향상시켜 체인이 더 많은 가능성을 수용할 수 있게 됩니다.

Zama는 16개의 기밀 Morpho 금고 예치를 개방하고 이더리움에서 프라이버시 스왑 프로토콜을 출시합니다

The Block에 따르면, 체인상의 비밀 계약 Zama는 Morpho에서 USDC, USDT, AUSD 및 TGBP와 같은 자산을 포함하여 16개의 비밀 금고에 대한 예금을 개방할 예정입니다. 첫 번째 금고는 6월에 Morpho 및 Steakhouse Financial과 협력하여 출시되었으며, Steakhouse의 USDC Prime 전략을 채택하여 7주 만에 총 잠금 금액이 0에서 4천만 달러로 증가했습니다. Steakhouse는 일부 금고를 관리하며, Armitage by Wintermute, Flowdesk, RockawayX 및 Bitwise도 관리자로 참여할 것입니다.사용자는 이더리움에서 이미 존재하는 12개의 비밀이 아닌 버전의 Morpho 금고에 비밀스럽게 접근할 수 있으며, 추가로 4개는 비밀 예금을 위해 새로 생성되었습니다. Zama는 또한 Zama Swap Protocol을 출시하여 예금자가 이더리움에서 cUSDC, cUSDT, cAUSD 및 cTGBP와 비밀 금고 지분을 비밀스럽게 교환할 수 있도록 하며, 거래 규모나 의도를 공개하지 않습니다. Zama는 공개 블록체인에서 포지션, 잔액 및 전략이 경쟁자와 선행자에게 보이는 것은 기관의 대규모 배치에 대한 구조적 장애물이라고 말했습니다. 금고는 먼저 Zama의 자체 애플리케이션을 통해 출시되며, Utila, Zerion Wallet 및 Yield.xyz는 향후 몇 주 내에 접속할 예정입니다.
app_icon
ChainCatcher Building the Web3 world with innovations.