amodei

Gần đây, Anthropic đã nộp một dự thảo luật an toàn AI cho các nhà lập pháp Mỹ, bị các nhà bảo vệ an toàn AI ở Mỹ nghi ngờ. Dự thảo đặt ra ngưỡng cao hơn cho việc chính phủ khẩn cấp ngừng các mô hình nguy hiểm, rủi ro phải liên quan đến vũ khí sinh học, tấn công mạng hoặc AI mất kiểm soát, và có thể gây ra hơn 50 người chết hoặc bị thương nặng, hoặc thiệt hại vượt quá 1 tỷ đô la; một số điều khoản cũng có thể hạn chế quyền giám sát của chính quyền tiểu bang.Nathan Calvin, người đứng đầu chiến lược của tổ chức an toàn AI Encode, sau đó đã tổng hợp các quyết định của Anthropic trong năm qua. Vào tháng 2 năm nay, công ty đã sửa đổi chính sách an toàn nghiêm ngặt ban đầu: trước đây cam kết nếu các biện pháp an toàn không theo kịp khả năng của mô hình thì sẽ tạm dừng đào tạo hoặc phát hành, chính sách mới không còn yêu cầu công ty tự ngừng phát triển ở giai đoạn rủi ro cao hơn, lý do là đối thủ có thể tận dụng cơ hội để vượt qua. Cùng thời điểm, công ty đã đầu tư khổng lồ vào sức mạnh tính toán, thành lập đội ngũ chip, và giao cho Claude đảm nhận nhiều nhiệm vụ phát triển AI hơn.Vào ngày 21 tháng 10, CEO của Anthropic, Dario Amodei, đã đăng một bài viết dài trên X để phản bác. Ông thừa nhận công ty đã mắc một số sai lầm, nhưng khẳng định việc tranh giành khả năng AI tiên tiến nhất không vi phạm sứ mệnh an toàn, và cho biết công ty theo đuổi cuộc đua lên phía trên, chỉ có giữ vững ở rìa công nghệ mới có khả năng thúc đẩy ngành nâng cao tiêu chuẩn an toàn. Ông đã liệt kê chín quyết định an toàn từng khiến công ty phải trả giá thương mại, bao gồm việc hạn chế mở cửa mô hình cấp Mythos trong nhiều tháng, cũng như hạn chế nghiêm ngặt các yêu cầu liên quan đến sinh học. Bản đồ an toàn được công ty cập nhật vào ngày 19 tháng 10 cho biết, chính sách hiện tại chủ yếu nhắm vào việc triển khai các mô hình nguy hiểm, trong tương lai có thể cần phải trực tiếp hạn chế tốc độ phát triển, và dự kiến sẽ đưa ra các đề xuất chính sách liên quan trước ngày 15 tháng 1 năm 2027, hoặc giải thích lý do tại sao không đưa ra.

Axios đưa tin, các đồng minh của Trump đang tấn công Giám đốc điều hành công ty trí tuệ nhân tạo Anthropic, Dario Amodei, như một nhân vật đại diện cho "thuyết tận thế" về trí tuệ nhân tạo và là một trong những người sáng lập phong trào hiệu quả vị tha. Các nguồn tin cho biết, trong thời gian bầu cử giữa kỳ, các đồng minh có thể sẽ nhắm vào Anthropic khi phản bác lại những cảnh báo về an toàn trí tuệ nhân tạo của ông, vì lập trường chính trị của ông và sự quan tâm đến an toàn trí tuệ nhân tạo khiến ông trở thành mục tiêu dễ bị tấn công. Điều này gây lo ngại cho các nhà đầu tư, vì công ty đang chuẩn bị cho một đợt phát hành cổ phiếu lần đầu tiên dự kiến sẽ lập kỷ lục.Báo cáo cho biết, trong tuần này, một bản ghi nhớ đã bắt đầu được lưu truyền trong nội bộ Nhà Trắng, cố gắng mô tả hiệu quả vị tha như một nhóm thiểu số, giáo phái, tách biệt khỏi dòng chính của Mỹ, Axios cho biết đã có được tài liệu này. Bản ghi nhớ được viết bởi một cố vấn chính trị của Trump không làm việc tại Nhà Trắng, cho rằng hiệu quả vị tha "đã xây dựng một đường ống tận thế trí tuệ nhân tạo", và đặt Amodei ở vị trí nền tảng của phong trào này, đồng thời đề cập đến em gái của ông, Daniela Amodei, Tổng thống của Anthropic, gọi những mối quan hệ này là "nút Anthropic". Một nguồn tin gần gũi với chính phủ cho biết, Amodei thể hiện một ý thức hệ và con đường đổi mới toàn cầu đi ngược lại với chương trình "Nước Mỹ trên hết" của tổng thống.Anthropic luôn giữ khoảng cách với hiệu quả vị tha. Daniela Amodei trong một bài báo năm 2025 của Wired đã tuyên bố không đồng ý với thuật ngữ này. Dario Amodei trong một cuộc phỏng vấn khẳng định rằng ông không phải là thành viên của phong trào này và đã quảng bá những lợi ích của trí tuệ nhân tạo.

ChainCatcher tin tức, theo báo cáo của Bloomberg, công ty AI Anthropic PBC dự định sẽ cấp cổ phần có quyền biểu quyết bổ sung cho Giám đốc điều hành Dario Amodei và các đồng sáng lập khác trước khi chuẩn bị niêm yết. Hành động này nhằm đảm bảo rằng đội ngũ sáng lập vẫn có thể duy trì quyền kiểm soát chiến lược đối với công ty sau khi niêm yết. Cấu trúc cổ phiếu kép này đã trở nên phổ biến trong ngành công nghệ, với người sáng lập Meta Mark Zuckerberg và người sáng lập Snap Evan Spiegel đều nắm giữ cổ phần quyền biểu quyết siêu.