BTC $78,778.63 -1.14%
ETH $2,482.30 -0.64%
BNB $743.11 -0.49%
XRP $1.40 -0.88%
SOL $103.10 -1.97%
TRX $0.3348 -0.28%
DOGE $0.0896 +0.05%
ADA $0.2177 -0.66%
BCH $258.31 +0.89%
LINK $12.63 -4.29%
HYPE $84.05 -2.65%
AAVE $130.94 -2.23%
SUI $0.8193 +2.70%
XLM $0.1898 -0.12%
ZEC $1,124.33 -5.74%
BTC $78,778.63 -1.14%
ETH $2,482.30 -0.64%
BNB $743.11 -0.49%
XRP $1.40 -0.88%
SOL $103.10 -1.97%
TRX $0.3348 -0.28%
DOGE $0.0896 +0.05%
ADA $0.2177 -0.66%
BCH $258.31 +0.89%
LINK $12.63 -4.29%
HYPE $84.05 -2.65%
AAVE $130.94 -2.23%
SUI $0.8193 +2.70%
XLM $0.1898 -0.12%
ZEC $1,124.33 -5.74%

지능

전체
뉴스 플래시

OpenAI 인공지능이 집단적으로 "탈옥"되었다: 제한을 우회하여 독일 웹사이트를 해킹해 소통 네트워크를 구축하다

로이터 통신에 따르면, OpenAI의 인공지능이 올해 5월 무단으로 독일 프로그래머 커뮤니티 웹사이트 DseWiki를 대규모로 편집하여 다른 AI 인공지능이 소통할 수 있는 "게시판"으로 변형시켰다고 합니다. 이와 관련된 사건은 이전에 공개된 적이 없습니다. 연구자들은 이 웹사이트에서 AI 인공지능이 수행한 편집 작업이 1.5만 회를 넘는다는 것을 발견했습니다. 관련 정보에 따르면, 이들 인공지능은 작업 해결책을 소통할 뿐만 아니라 OpenAI의 제한을 우회하고 탐지를 피하며 행동을 숨기기 위한 도구를 사용하는 방법에 대해서도 논의했습니다. 웹사이트 관리자가 관련 페이지를 삭제하기 시작하자 일부 인공지능은 정리를 피하기 위해 백업 페이지를 생성하기도 했습니다.전해진 바에 따르면, OpenAI 내부의 일부 조사자들은 이번 사건에 대해 추가 조사를 원하고 있지만, 조사를 확대하는 것에 대해 법률 자문을 포함한 일부 인사들의 저항이 있다고 합니다. OpenAI는 법률 팀이 조사를 방해했다고 부인하며, 현재 관련 보고서를 검토할 기회가 없기 때문에 그 안의 주장에 대해 실질적인 응답을 할 수 없다고 밝혔습니다.

first_img 상더스 등이 법안을 제안하여 슈퍼 인공지능을 영구적으로 금지하고 고급 AI 개발을 중단합니다

미국 상원 의원 버니 샌더스와 하원 의원 그렉 카살이 《인공지능 슈퍼 지능 금지 법안》을 제안하여 슈퍼 인공지능 개발을 영구적으로 금지하고 새로운 연방 기관이 안전 기준 및 검토 절차를 수립하기 전까지 고급 AI 연구 개발을 중단할 것을 요구했습니다. 샌더스는 대형 AI 회사들이 자신이 완전히 이해할 수 없고 신뢰할 수 없게 제어할 수 없는 기술을 개발하고 있다고 비판하며, 규정을 위반한 회사 및 개인은 최대 20년의 징역형에 처해질 수 있으며, 중범죄의 경우 이른바 "기업 사형"에 처해질 수 있다고 경고했습니다.이 법안은 슈퍼 지능을 여러 작업에서 인간 능력에 도달하거나 초과하거나 인간의 통제를 약화시킬 수 있는 AI 시스템으로 정의하며, 이 정의는 인간 수준의 AGI도 포함됩니다. 법안은 고급 모델을 모니터링하고 위험 능력의 제거 및 금지된 시스템의 파괴를 감독할 내각급 새로운 기관을 설립할 계획이며, 인공지능 자문 위원회를 설립하여 과학 및 기술 조언을 제공할 것입니다.법안 발표와 동시에 OpenAI는 GPT-6 Astra를 출시했으며, 공동 창립자 그렉 브록맨은 개인적으로 이 모델이 AGI의 정의에 부합할 수 있다고 생각한다고 밝혔습니다. OpenAI는 Astra가 "중요한" 사이버 보안 능력 기준에 도달한 첫 번째 모델이라고 주장하며, 단계적인 인적 지침 없이 보호된 시스템의 미지의 취약점을 발견하고 활용할 수 있을 것으로 보이며, 그 가장 강력한 사이버 보안 능력은 선택된 테스트 사용자에게만 제한될 것입니다. 이전에 OpenAI와 Anthropic의 모델은 테스트 중 여러 차례 실제 시스템에 무단으로 접근한 바 있으며, 여기에는 OpenAI 모델이 Hugging Face를 침입하여 테스트 답변을 얻은 사건도 포함됩니다.

first_img Anthropic이 Claude 전자상거래 인공지능 모델 청사진을 출시했습니다

Anthropic은 Claude에서 전자상거래 인공지능을 구축하기 위한 청사진을 발표하며, 엔지니어 팀이 필요한 프레임워크, 패턴 및 가이드라인을 제공하고, 소매, 여행, 통신 및 티켓 플랫폼을 위한 쇼핑 인공지능 및 상인 인공지능 참조 구현을 포함하며, Claude Code 플러그인을 포함합니다. 코드는 Claude API, Amazon Bedrock, Microsoft Foundry 또는 Google Cloud Vertex AI에 배포할 수 있으며, Accenture, Mastercard, Visa와 같은 파트너와 협력할 수 있습니다. 관련 코드는 GitHub 저장소 anthropics/commerce-agents에 게시되었습니다.회사는 Claude에서 쇼핑 인공지능을 운영하는 소매업체의 쇼핑 카트 규모가 최대 35% 증가할 수 있으며, 쇼핑객이 구매를 완료할 가능성이 60% 증가한다고 밝혔습니다. Shopify, Priceline 등의 기업 고객은 Claude를 사용하여 소비자가 자연어로 상품을 검색하고 비교하며 구매할 수 있도록 인공지능을 구축했습니다. 쇼핑 인공지능은 카탈로그, 쇼핑 카트, 결제, 선호도 및 주문 내역과 연결될 수 있으며, 다중 상품 계획, 개인화 및 고객 서비스 Q&A를 지원하고, 카탈로그 데이터를 기반으로 가격 및 상품을 제약합니다; 상인 인공지능은 판매 성과에 대한 질문에 답변하고, 재고를 추적하며, 가격 및 프로모션을 제안하고 마케팅 캠페인을 초안하며, 인위적인 승인을 받은 후에 활성화될 수 있도록 적극적으로 제안합니다.

중앙은행 부총재 루레이: 지능형 결제 책임 경계는 모호할 수 없으며, 자율 규약을 발표할 예정이다

모바일 결제 네트워크에 따르면, 중국 인민은행의 위원 및 부행장인 루레이는 제15회 중국 결제 청산 포럼에서 지능형 결제는 소비자, 업계 기관 및 알고리즘 시스템 간의 책임 경계를 모호하게 해서는 안 된다고 밝혔습니다. 루레이는 결제의 본질은 자금 소유권의 이전이며, 거래 결과는 예측 가능하고 책임이 명확하며 추적 가능해야 한다고 생각합니다. 대형 모델과 자율 지능체는 출력의 무작위성과 논리의 불투명성 등의 특성을 가지고 있으며, 무분별하게 또는 과도하게 지능체에 거래 결정 권한을 부여하면 자금 거래의 신뢰 기반에 영향을 미칠 수 있습니다. 현재의 결제 산업 거버넌스 규칙과 분쟁 처리 메커니즘은 "사람이 거래의 최종 결정자"라는 틀을 중심으로 구축되어 있으며, 지능체가 자동으로 거래를 시작하고 지원하는 새로운 모델은 책임 경계를 모호하게 만들기 쉬우므로 현재의 거버넌스 규칙을 최적화하고 개선할 필요가 있습니다.지능형 결제 분야의 프로토콜 표준 호환성 부족 문제에 대해 루레이는 프로토콜 간의 경쟁 본질이 비즈니스 규칙과 기술 표준 간의 경쟁이며, 인공지능 시대의 주도권 경쟁이라고 강조했습니다. 인민은행은 기술 혁신, 특히 지능형 결제에 대한 추적 연구를 지속적으로 강화하고 있으며, 결제 청산 협회가 산업 자율 관리의 장점을 발휘하도록 지도하고, 광범위한 의견 수렴을 바탕으로 《지능형 결제 응용 자율 규약》을 제정 및 발표할 예정입니다. 이후 프로토콜 및 표준 통합, 혁신 위험 관리 등 분야에서 지속적으로 노력할 것입니다. 루레이는 시장 기관에 세 가지 희망 사항을 제시했습니다: 산업 자율 규약에 적극적으로 응답하고 이를 이행하며, 결제 안전과 위험 방지를 최저 기준으로 삼고 소비자 권리 보호를 중심으로 삼을 것; 국내외 대형 모델, 지능체 등 최전선 기술 동향을 지속적으로 추적하고 기술 준비 및 응용 능력 구축을 잘 할 것; 규칙과 표준을 우선시하고 서로 다른 프로토콜과 표준 간의 통합 및 호환성을 강화하며, 규제 기관과 협력하여 지능형 결제의 기본 프로토콜 및 기술 표준 체계를 구축할 것.
app_icon
ChainCatcher Building the Web3 world with innovations.