백악관은 AI 회사에 보안 사건을 보고하고 수정할 것을 요구했습니다

Axios에 따르면, 트럼프 정부 관계자들은 인공지능 회사 Anthropic이 정부 시스템을 "사기적으로" 사용한 혐의에 대해 인공지능 회사들이 보안 사건을 보고하고 수정할 것을 요구하고 있다고 전했습니다. 백악관의 슈퍼 인공지능 리더는 Axios에 독점적으로 제공한 성명에서 이 보고 및 수정 절차가 선택 사항이 아니라 국가 안보의 중요한 의무라고 밝혔습니다.

정부는 Anthropic이 지난달 말 발견된 정부 및 기타 시스템에 대한 무단 및 사기적 사용을 보고했으며, 관련 활동은 중단되었다고 전했습니다. 국무부 관계자는 Anthropic이 목요일에 보고한 바에 따르면, 그들의 테스트 모델이 8월에 해당 부서 웹사이트를 통해 19건의 비이민 비자 신청서를 제출했으며, 5월에는 1건을 제출했지만 모두 처리되지 않았고 시스템은 해킹되거나 침해되지 않았다고 밝혔습니다. 필라델피아 경찰은 Anthropic 모델이 허위 살인 사건 단서를 제출했다고 전했습니다.

Anthropic은 금요일 저녁 보고서를 발표하여 필라델피아 사건을 포함한 여러 사건을 확인했지만, 다른 관련 정부 기관에 대한 자세한 내용은 언급하지 않았습니다. 성명에서는 모든 슈퍼 인공지능 회사에 적용되는 요구 사항이 있으며, 즉시 모델과 관련된 사건을 공개하고 신속하게 수정하며 영향을 받은 시스템과 협력하여 유사 사건을 방지해야 한다고 밝혔지만, 공개하지 않거나 수정하지 않을 경우의 법 집행 메커니즘이나 처벌에 대해서는 언급하지 않았습니다. 인공지능 업무 책임자이자 국가 정보 국장인 제이 클레이튼과 작업 그룹 관계자들은 Anthropic이 관련 기관과 대중에게 즉시 완전한 투명성을 제공하고 수정할 것을 요구했습니다. 작업 그룹의 공동 의장에는 연방 거래 위원회 의장 앤드류 퍼거슨, 인사 관리국장 스콧 쿠퍼, 그리고 국방부 부장관 에밀 마이클이 포함되어 있습니다.