ultraman

Giám đốc điều hành OpenAI, Sam Altman, đã giới thiệu ba phương án phát triển AI siêu an toàn cho nhân viên vào tuần trước. Phương án đầu tiên là thành lập một tổ chức giám sát toàn cầu tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế, để kiểm tra các mô hình tiên tiến và kiểm toán các biện pháp an toàn. Những người có thông tin cho biết, Altman nghiêng về hướng này.Phương án thứ hai bắt chước Trung tâm Nghiên cứu Hạt nhân Châu Âu, cho phép các phòng thí nghiệm AI lớn hợp nhất thành một tổ chức, hoặc phát triển chung thông qua một cơ quan thống nhất, thay vì tiếp tục cạnh tranh riêng lẻ. Phương án thứ ba cực đoan nhất, được ông gọi là "Phương án Eliezer": một công ty AI tiên phong trong việc cải tiến tự hồi quy, sau đó sử dụng sức mạnh kinh tế áp đảo để kiểm soát sức mạnh tính toán, khiến các nhà phát triển khác không thể theo kịp. Altman mô tả ý tưởng này bằng cách nói "hủy diệt GPU của tất cả các công ty khác", đồng thời cho biết phương án này rất tệ, chỉ là để nêu ra một ví dụ cực đoan về khả năng can thiệp.Ý tưởng "hủy diệt GPU" đến từ nhà nghiên cứu an toàn AI Eliezer Yudkowsky. Ông đã đưa ra một thí nghiệm tư tưởng vào năm 2021, cho phép AI siêu cấp chế tạo ra các máy nano có khả năng tự sao chép để hủy diệt GPU toàn cầu, và cho biết đây chỉ là một ví dụ cực đoan để minh họa mức độ can thiệp, không phải là một kế hoạch được đề xuất để thực hiện. OpenAI đã đề xuất thành lập "Cơ quan Năng lượng Nguyên tử Quốc tế phiên bản AI" vào năm 2023, và người đứng đầu Google DeepMind, Demis Hassabis, cũng đã từng đề xuất thành lập "CERN phiên bản AI". Hiện tại, OpenAI, Google và Anthropic dự định thành lập một tổ chức tiêu chuẩn an toàn chung vào cuối năm nay hoặc đầu năm sau, nhưng vẫn còn bất đồng về trách nhiệm kiểm tra an toàn mô hình. Altman hy vọng sẽ thiết lập giới hạn tốc độ cho phát triển AI, đồng thời cho biết OpenAI hiện không thể nhường lợi thế cạnh tranh cho đối thủ.

Người phát ngôn của OpenAI cho biết, Giám đốc điều hành OpenAI, Sam Altman sẽ trực tiếp thông báo tại cuộc họp công khai của Hội đồng Bảo an Liên Hợp Quốc ở New York vào tuần tới trong khuôn khổ Đại hội đồng Liên Hợp Quốc. Hội đồng Bảo an, gồm 15 quốc gia thành viên, dự kiến sẽ tổ chức cuộc họp về trí tuệ nhân tạo và an ninh quốc tế vào thứ Tư. Cuộc họp được Pháp, quốc gia giữ chức chủ tịch luân phiên của Hội đồng Bảo an vào tháng 9, triệu tập và sẽ do Ngoại trưởng Pháp Jean-Noël Barrot chủ trì.Các nhà ngoại giao cho biết, sự tham gia của các lãnh đạo cấp cao của Anthropic cũng được dự đoán, nhưng vẫn chưa được xác nhận. Phát biểu của Altman dự kiến sẽ tập trung vào sự phối hợp quốc tế, chia sẻ tiêu chuẩn an ninh, cũng như các biện pháp mà OpenAI đã thực hiện để mang lại lợi ích cho toàn cầu. Tài liệu khái niệm mà Pháp chuẩn bị cho cuộc họp đề cập đến những rủi ro của việc lạm dụng trí tuệ nhân tạo một cách ác ý, cũng như tính cấp bách của việc hành động để thúc đẩy sự phát triển an toàn và có trách nhiệm. Hội đồng Bảo an đã tổ chức cuộc họp đầu tiên về rủi ro của trí tuệ nhân tạo vào năm 2023.

Giám đốc điều hành OpenAI Sam Altman sẽ tham dự bữa tiệc quốc gia do Tổng thống Mỹ Donald Trump tổ chức cho nhà lãnh đạo Trung Quốc Tập Cận Bình. OpenAI cho biết, Altman đã được đưa vào danh sách khách mời cho sự kiện vào tuần tới.Nhà Trắng chưa xác nhận ngay lập tức liệu Altman có tham dự bữa tiệc quốc gia này hay không.

Giám đốc điều hành OpenAI Sam Altman trong cuộc phỏng vấn với người dẫn chương trình Ed Ludlow của chương trình Bloomberg The Close cho biết, các nhà phát triển AI hàng đầu đã thể hiện kém trong việc truyền đạt lợi ích của công nghệ này, khiến ngành dễ bị ảnh hưởng bởi những tiếng nói phản đối ngày càng tăng.Altman nói: "Tôi nghĩ toàn bộ ngành đã làm rất tệ trong vấn đề này." "Tôi nghĩ chúng tôi cũng đã làm không tốt, có thể tốt hơn một số người, nhưng kém hơn một số người khác."

Tin tức từ ChainCatcher, Elon Musk đã phản hồi về việc "OpenAI dự định chấm dứt quan hệ hợp tác với Cursor do Cursor bị SpaceX mua lại". Ông cho biết mình "không quan tâm" và chỉ trích CEO OpenAI Sam Altman cùng đồng sáng lập Greg Brockman là không đáng tin cậy, nói rằng họ "đã đánh cắp một tổ chức phi lợi nhuận mã nguồn mở".Trước đó có tin tức, OpenAI dự định chấm dứt hợp tác với Cursor, quyền truy cập trực tiếp vào mô hình sẽ kết thúc vào ngày 12 tháng 11. Đồng sáng lập của Cursor cho biết, họ đang liên lạc với đội ngũ OpenAI để tìm kiếm giải pháp.

Tin tức từ ChainCatcher, theo báo cáo của Business Insider, CEO của OpenAI, Sam Altman, đã cho biết trong podcast của David Senra rằng ông lo ngại rằng AI có thể một ngày nào đó bị kiểm soát bởi một vài công ty, mô hình hoặc cá nhân, khiến phần lớn người tiêu dùng mất quyền nói về cách công nghệ định hình thế giới. Ông cho rằng cách đúng đắn là để mọi người nắm giữ tương lai một cách vững chắc, xã hội và mô hình sẽ cùng nhau tiến hóa.Altman cũng lo ngại rằng AI có thể thoát khỏi sự kiểm soát của con người. Ông chỉ ra rằng nỗi sợ hãi quá mức đối với rủi ro thứ hai có thể dẫn đến tình huống đầu tiên trở thành hiện thực, khi một số người vì lo lắng mà ủng hộ việc hy sinh nhiều tự do để đổi lấy an toàn. Bài viết cho rằng điều này có thể ám chỉ đến CEO của Anthropic, Dario Amodei, người đã nhiều lần cảnh báo về rủi ro của AI và kêu gọi tăng cường quản lý của chính phủ. Anthropic là công ty AI chính thống duy nhất chưa ký tên vào bức thư ủng hộ mô hình trọng số mở.Mặc dù OpenAI chưa mở mã nguồn cho các mô hình tiên tiến, nhưng năm ngoái đã phát hành hai mô hình trọng số mở là gpt-oss-120b và gpt-oss-20b. Altman cũng cho biết, các nhà lãnh đạo AI của Mỹ chưa đủ khả năng trình bày cho công chúng thấy công nghệ này nâng cao quyền tự chủ trong cuộc sống như thế nào, và dự đoán sẽ có một làn sóng khởi nghiệp lớn nhất, AI đang trao quyền cho nhiều người hơn để thành lập các doanh nghiệp nhỏ.

According to ChainCatcher news, as reported by Jinshi, sources say that OpenAI is discussing allowing CEO Sam Altman to hold 7% of the company's shares and restructuring into a for-profit entity. This significant shift would mark the first time Altman gains ownership of the artificial intelligence startup.Sources indicate that the company is considering becoming a public benefit corporation, helping society while achieving profitability. They also mentioned that the transformation is still under discussion, and the timeline has not been determined. An OpenAI spokesperson stated that OpenAI remains "focused on building AI that benefits everyone," adding that "the nonprofit organization is our core mission and will continue to exist."

ChainCatcher news, according to Jiemian News, the Microsoft Build 2024 developer conference was held in Seattle, USA, in the early morning of May 22. The company announced over 50 updates.Among the most noteworthy content are:Team Copilot, transforming personal intelligent assistants into team assistantsMicrosoft Fabric, providing real-time intelligent SaaS solutionsAzure AI, bringing new cutting-edge models and multimodal capabilitiesCobalt chip, updates on self-developed AI chipsAltman's spoiler on OpenAI's new modelOpenAI CEO Altman teased OpenAI's new model at the conference, stating that new modalities and overall intelligence will be key to OpenAI's next model. He mentioned that the model will become smarter, more powerful, and safer, and that GPT-4o will be faster and cheaper. Altman stated, "Now is not the time to delay plans or wait for the next opportunity; this is a special moment, and in the coming years, many things will happen, and many great new things will begin to emerge."