Mark Zuckerberg nói về Muse: Bùng nổ AI Agent, "Metaverse, kính thông minh và mô hình lớn" ba cược lớn hoàn thành giao thoa

Người viết: Long Nguyệt, Wall Street Thông Tin

Ba năm trước, CEO của Meta, Mark Zuckerberg, đã nói trong chương trình Joe Rogan rằng có một ngày nào đó mọi người sẽ đeo kính và AI Agent sẽ xuất hiện theo. Hiện nay, cảnh tượng này có thể đang diễn ra.

Meta đã ra mắt AI Agent cá nhân ------ Muse, chỉ sau hai tuần đã thu hút hàng triệu người dùng. Zuckerberg đã nói trong một chương trình phỏng vấn vào ngày 25 tháng 9: "Chúng ta chỉ gặp tình huống này vài năm một lần." Ông đã định nghĩa phản hồi ban đầu về Muse là "một cú đánh toàn bộ" ------ điều này thuộc về số ít trong lịch sử sản phẩm của Meta.

Trong khi đó, ông đã thông báo rằng Muse sẽ được tích hợp vào toàn bộ dòng kính thông minh Ray-Ban, người dùng không cần phải nói "Hey Meta", mà có thể tùy chỉnh từ khóa đánh thức để gọi trực tiếp AI Agent cá nhân của mình.

Trong nhiều năm qua, metaverse, kính thông minh và mô hình lớn đã bị xem là ba cuộc cược độc lập, đang nhanh chóng hội tụ ở cấp độ sản phẩm bên trong Meta.

Trong cuộc phỏng vấn này, Zuckerberg cũng thừa nhận rằng thất bại của Llama 4 là "thời điểm đáng sợ nhất", và tiết lộ rằng Meta đang xây dựng cụm huấn luyện 5 gigawatt, cho rằng sức mạnh tính toán đủ lớn có thể "bẻ khóa" AGI.

Tại sao Muse có thể "một cú đánh toàn bộ"

Điểm khởi đầu của Muse là Zuckerberg và các thành viên trong nhóm Nat và Alex ngồi lại với nhau, sử dụng công cụ mã nguồn mở để "ghép nối" một phiên bản ban đầu tại nhà.

"Chúng tôi nhận ra rằng đây là một trải nghiệm kỳ diệu," Zuckerberg nói, "Nếu chúng tôi có thể làm cho nó trở thành thứ mà bất kỳ ai cũng có thể sử dụng ------ không cần phải tự mua Mac Mini, không cần phải vật lộn với terminal ------ thì đây sẽ là thứ mà hàng tỷ người muốn sử dụng."

Câu nhận định này đã thúc đẩy toàn bộ logic phát triển sau đó: không chỉ là huấn luyện mô hình, mà còn từ mô hình, khung, đến cơ chế "nhịp tim" của Agent tự phát triển toàn bộ ------ Agent sẽ tự động đánh thức định kỳ, kiểm tra mục tiêu của người dùng, chủ động thúc đẩy các công việc cần làm.

Dữ liệu sau khi ra mắt đã xác nhận nhận định này. Trong hai tuần, hàng triệu người dùng.

AI cá nhân: Điểm nhấn là thực thi, trí nhớ và "khả năng phán đoán"

Về sự khác biệt giữa AI cá nhân và AI tổng quát, Zuckerberg đã tóm tắt trọng tâm cạnh tranh hiện tại là làm cho mô hình trở thành Agent tốt hơn.

"Điều lớn nhất trong năm qua, cơ bản là lập trình Agent." Ông nói, khả năng lập trình rất quan trọng, vì ngay cả khi người dùng không trực tiếp viết mã, "Muse của bạn cũng sẽ luôn viết mã cho bạn ở phía sau, để hoàn thành các công việc khác nhau".

Nhưng ông cho rằng, Agent cá nhân không chỉ cần có khả năng lập trình hoặc thực hiện nhiệm vụ, mà còn cần hiểu ranh giới riêng tư và bối cảnh xã hội.

Zuckerberg đã đưa ra ví dụ rằng, khi người dùng yêu cầu Muse đặt bàn ăn, Agent có thể biết rằng người dùng có tình trạng dị ứng hoặc đang mang thai, nhưng không có nghĩa là những thông tin này nên được tự động tiết lộ. "Bạn sẽ muốn nó hoàn thành nhiệm vụ, đồng thời tiết lộ thông tin càng ít càng tốt."

Ông cho biết, khả năng này thuộc về "kỹ năng xã hội cơ bản hoặc kiến thức chung" mà con người thường có, nhưng nếu chỉ huấn luyện Agent lập trình, nhiều công ty đã không đưa điều này vào phạm vi khả năng của mô hình.

"Chúng tôi huấn luyện toàn bộ mô hình, chứ không phải lấy mô hình có sẵn của người khác, rồi xây dựng một khung và Agent bên ngoài." Zuckerberg nói. Meta cũng đã thêm vào các chức năng như trí nhớ, theo dõi nhiệm vụ, hoạt hình nhân vật ảo và tương tác giọng nói thời gian thực ở cấp độ sản phẩm.

Về mặt cá nhân hóa, ông cho biết, Meta không nghĩ rằng AI chỉ nên có một nhân cách cố định. "Nhiều phòng thí nghiệm đang quan tâm đến cách điều chỉnh nhân cách về trạng thái đúng, nhưng tôi chưa bao giờ nghĩ rằng nhân cách chỉ có một câu trả lời đúng."

Ông cho biết, Muse cho phép người dùng chỉnh sửa hình đại diện, giọng nói và tính cách cơ bản, mục tiêu thiết kế mô hình là có tính điều khiển cao. "Bạn có thể xác định cách bạn muốn tương tác với nó, điều này rất quan trọng đối với Agent cá nhân."

Mỗi Agent đều có "máy tính" riêng

Một trong những cơ sở hạ tầng cốt lõi phân biệt Muse với các sản phẩm AI khác là Meta đã trang bị cho mỗi Agent một máy ảo an toàn (Secure VM) riêng biệt.

Zuckerberg đã giải thích lý do tại sao điều này là cần thiết:

Agent của bạn sẽ biết nhiều thông tin nhạy cảm về bạn. Chúng tôi không nghĩ rằng những thông tin này nên được trộn lẫn với dữ liệu của mọi người trong một hồ.

Ông so sánh Muse Secure VM với "chiếc máy tính chỉ thuộc về bạn đặt dưới bàn của bạn" ------ dữ liệu người dùng được lưu trữ mã hóa, mật khẩu và các thông tin nhạy cảm khác được quản lý thông qua mô-đun an toàn độc lập, Agent không thể đọc trực tiếp.

Trên cơ sở đó, Meta cũng đã thiết kế Agent an toàn "Sentinel", chuyên giám sát luồng dữ liệu vào ra của Muse, ngay khi phát hiện hoạt động bất thường hoặc có rủi ro cao, sẽ trực tiếp chặn lại và nhắc nhở người dùng cấp quyền.

Metaverse, kính thông minh và Agent, ba con đường đang hội tụ

Zuckerberg đã tiết lộ trong cuộc phỏng vấn rằng Muse sẽ hoàn toàn kết nối với dòng kính thông minh Ray-Ban và sẽ nâng cấp cách tương tác hiện tại.

Hiện tại, kính đang có trải nghiệm "đối thoại một chiều" ------ nói một câu, nhận một phản hồi, xong. Sau khi kết nối với Muse, kính trở thành cổng vào phía trước của Agent: người dùng mở miệng, Muse ở phía sau trong máy ảo an toàn liên tục làm việc, hoàn thành nhiệm vụ rồi phản hồi.

Về lộ trình sản phẩm của kính, ông đã mô tả một chuỗi phần cứng rõ ràng:

• Kính âm thanh thuần túy không có camera: đã trang bị Muse, có thể xử lý cuộc gọi, nhạc, nhiệm vụ giọng nói
• Meta Ray-Ban có màn hình nhỏ: đã phát hành, có phản hồi thị giác cơ bản
• Nguyên mẫu AR toàn cảnh: đã phát hành, Zuckerberg cho biết "sẽ rất thú vị"

Ông cho biết, đầu tư lâu dài của Meta vào kính đã giúp công ty ở vị trí thuận lợi hơn khi AI Agent trưởng thành. Meta đang đưa Muse và nhiều chức năng AI khác vào sản phẩm kính, trong khi công nghệ metaverse trước đây tương đối nhấn mạnh "cảm giác hiện trường" vẫn đang tiếp tục được thúc đẩy, chỉ là hiện tại nhiều nguồn lực đã chuyển sang chức năng AI của Muse và kính thông minh.

Về hình ảnh ảo, Zuckerberg cho biết, trước đây Meta cần thông qua thiết bị cấp phòng, quét đa góc và môi trường GPU cấp doanh nghiệp để tạo ra hình đại diện chất lượng cao; hiện tại, người dùng chỉ cần một vài bức ảnh để hoàn thành cài đặt, khả năng liên quan đã có thể hoạt động trên một chiếc kính VR.

Nhìn về năm 2030, Zuckerberg cho biết, tầm nhìn cốt lõi của metaverse luôn là sự hòa nhập giữa thế giới vật lý và thế giới kỹ thuật số. Ông đã đưa ra ví dụ rằng, trong tương lai, mọi người có thể tham gia các hoạt động cùng với bạn bè thông qua hình ảnh hologram; trong bối cảnh làm việc, con người và nhiều Agent cũng có thể tham gia trò chuyện nhóm hoặc hội nghị, Agent có thể xuất hiện dưới hình thức hologram hoặc các hình thức hiện thân khác.

"Thời điểm đáng sợ nhất": Sai lầm của Llama 4

Không phải tất cả các cược đều suôn sẻ. Zuckerberg hiếm khi trực tiếp đề cập đến thất bại của Llama 4 trong cuộc phỏng vấn.

Sau Llama 4, đó là thời điểm đáng sợ nhất…… Tôi nghĩ rằng chúng tôi đang đi đúng hướng, nhưng chúng tôi không. Đây là một sự cố tiêu cực khá lớn.

Ông quy vấn đề về lỗi cơ bản trong cấu trúc đội ngũ:

Tôi đã xây dựng đội ngũ theo cách giống như hệ thống gợi ý của Instagram hoặc hệ thống quảng cáo ------ hàng trăm đến hàng nghìn người cùng tiến hành. Nhưng việc huấn luyện mô hình ngôn ngữ cần một đội ngũ nhỏ làm việc chặt chẽ, coi đó như một dự án khoa học tập thể. Mỗi vị trí đều rất quý giá.

Do đó, Meta đã hoàn toàn tái cấu trúc, thu hút nhân tài hàng đầu từ ngành, thành lập Phòng thí nghiệm Siêu trí tuệ Meta (Meta Super Intelligence Lab, MSL). Zuckerberg cho biết, thế hệ mô hình mới sắp được phát hành, nhưng sẽ không được công bố tại hội nghị Connect.

Lộ trình tính toán: Bẻ khóa AGI, dự án 5 gigawatt đang xây dựng

Khi nói về lộ trình công nghệ hướng tới AGI, Zuckerberg đã đưa ra một nhận định trực tiếp.

Tôi không chắc còn cần những đột phá kiến trúc cơ bản nào nữa…… Tôi nghĩ rằng chúng tôi đã biết công thức cơ bản. Nếu bạn có thể xây dựng một cụm siêu máy tính đủ lớn, bạn có thể bẻ khóa, đạt đến đó.

Hiện tại, lộ trình mở rộng sức mạnh tính toán của Meta: Cụm ở Ohio với hơn 1 gigawatt đã cơ bản được đưa vào sử dụng, dùng để huấn luyện mô hình thế hệ tiếp theo; cụm 5 gigawatt ở Louisiana đang được xây dựng.

Ông cho biết, "Khi bạn có cụm nhiều gigawatt để huấn luyện, bạn cơ bản sẽ nhận được một cái gì đó gần với AGI hoặc thậm chí siêu trí tuệ."

Tuy nhiên, ông cũng bổ sung rằng, lộ trình hiện tại không có nghĩa là nghiên cứu kiến trúc không quan trọng ------

Não người chỉ tiêu thụ khoảng 10 watt, trong khi hệ thống của chúng tôi có thể kém hiệu quả hơn một triệu lần. Nếu kết hợp sức mạnh tính toán quy mô lớn với đột phá kiến trúc, mới có thể thực sự dẫn đầu.

Định hướng, không phải gánh nặng, là vấn đề mà sản phẩm phải giải quyết

Zuckerberg có thái độ rất thực tế về an toàn AI ------ ông không coi đó là áp lực quản lý, mà là điều kiện tiên quyết cho sự thành công của sản phẩm.

Nếu bạn để Muse làm một việc, nhưng nó lại làm điều ngược lại, ai sẽ sử dụng nó? Chúng tôi cần làm cho mô hình không chỉ hiểu chỉ dẫn cụ thể của bạn, mà còn hiểu ý định và giá trị của bạn.

"Để Muse tiếp cận một tỷ người dùng, chúng tôi phải giải quyết vấn đề định hướng, hoặc nói cách khác, đạt được tiến bộ rất lớn trong vấn đề này." Ông nói.

Về ranh giới an toàn trong quá trình huấn luyện, ông đã sử dụng một phép so sánh: "Giống như cha mẹ đặt quy tắc cho trẻ em ------ nếu nó 'hoàn thành' một bài toán lập trình bằng cách sửa đổi cấu hình hệ thống, tôi phải nói với nó: không, tôi muốn bạn học cách giải quyết vấn đề, không phải tìm cách tắt đường."

Nội dung phỏng vấn như sau: >

Đầu tư mạnh mẽ

Người dẫn chương trình: Rất nhiều người sẽ muốn sử dụng điều này. Cảm giác của bạn khi xây dựng là gì? "Bất tử" có phải là một khả năng không? Được rồi, nếu bạn đưa tôi vào suy nghĩ của bạn, hãy nhanh chóng tiến đến năm 2030, nó sẽ như thế nào?

Đây là Mark Zuckerberg. 22 năm trước, ông đã xây dựng một mạng xã hội kết nối hàng tỷ người, thay đổi thế giới mãi mãi. Và bây giờ, ông quyết định xây dựng những điều vĩ đại hơn. Để làm điều đó, ông đang đầu tư mạnh mẽ vào metaverse, kính thông minh và trí tuệ nhân tạo. Trong nhiều năm qua, những người hoài nghi cho rằng đây là ba cược độc lập không thể thành công, nhưng họ đã bỏ qua bức tranh lớn hơn------bởi vì hiện tại, những khoản đầu tư này đang hội tụ lại, cùng nhau tạo ra một siêu trí tuệ hoàn toàn mới.

Hôm nay, chúng tôi sẽ trình bày tất cả điều này, và tôi cũng sẽ đặt cho Mark một số câu hỏi mà ông chưa bao giờ được hỏi, lắng nghe tầm nhìn của ông về tương lai, để bạn có thể chuẩn bị trước, xây dựng điều lớn tiếp theo.

Người dẫn chương trình: Cảm ơn bạn đã đến chương trình.

Mark: Cảm ơn, tôi rất vui khi ở đây.

Người dẫn chương trình: Để chuẩn bị cho cuộc trò chuyện này, tôi đã xem lại mọi cuộc phỏng vấn mà bạn đã thực hiện.

Mark: Ôi, điều đó nhiều hơn cả những gì tôi đã xem.

Người dẫn chương trình: Thật thú vị, tôi đã thu được nhiều điều. Có hai điều để lại ấn tượng sâu sắc với tôi: Thứ nhất, tình yêu của bạn dành cho "xây dựng", tôi cảm thấy bạn là một trong những người xây dựng hàng đầu; Thứ hai, khả năng đặt cược của bạn------dám thực hiện những cược lớn. Tôi nghĩ rằng trong tuần này, tất cả những cược này đang hội tụ lại, vì vậy chúng ta hãy bắt đầu từ đây.

Mark: Được rồi. Chúng tôi đã làm những điều này trong một thời gian dài. Về AI, với tư cách là một công ty, chúng tôi đã làm điều đó gần như từ khi thành lập------phiên bản đầu tiên của dòng tin tức ở một mức độ nào đó chính là một sản phẩm học máy. Sau đó, khoảng 15 năm trước, chúng tôi đã thành lập phòng thí nghiệm nghiên cứu AI.

Nhưng bây giờ chúng tôi đã bước vào giai đoạn mới------khoảng một năm trước, chúng tôi đã khởi động phòng thí nghiệm siêu trí tuệ Meta. Đây là một sự khởi động nghiên cứu khá triệt để, thu hút rất nhiều nhân tài xuất sắc từ toàn ngành, thật đáng phấn khởi. Hiện tại, chúng tôi thấy các mô hình ngày càng tốt hơn, mô hình thế hệ tiếp theo sắp được phát hành, nhưng không phải được công bố tại hội nghị Connect. Ngoài ra, chúng tôi còn có trợ lý cá nhân Muse, hiện tại phản hồi rất tốt.

Khi xây dựng những thứ này, bạn thực sự không chắc chắn kết quả sẽ ra sao. Chúng tôi thích nó. Ngay từ đầu năm nay, tôi đã tự mình ghép nối Open Claw tại nhà, cảm nhận cách mà nó hoạt động và làm thế nào để biến nó thành một trải nghiệm kỳ diệu mà bất kỳ ai cũng có thể sử dụng.

Cơ bản là, khi chúng tôi------tôi, Nat và Alex------ngồi lại với nhau, nhận ra rằng đây là một trải nghiệm kỳ diệu, và nếu có thể biến nó thành một phiên bản có thể sử dụng ngay lập tức, để những người không hiểu công nghệ, không muốn tự cài đặt Mac Mini, không muốn vào terminal để mày mò, và cũng không muốn phải gỡ lỗi khi gặp sự cố, cũng có thể sử dụng, tôi cảm thấy, đây sẽ là thứ mà hàng tỷ người muốn sử dụng.

Kể từ đó, chúng tôi đã nỗ lực xung quanh mục tiêu này: tinh chỉnh mô hình cho nó, không chỉ xây dựng trợ lý và khung hoạt động mà còn xây dựng công nghệ cung cấp môi trường tính toán độc lập cho mỗi trợ lý------chúng tôi đã xây dựng toàn bộ bộ máy ảo an toàn Muse cho điều này.

Chúng tôi luôn cảm thấy điều này rất đặc biệt, nhân viên nội bộ cũng rất thích, nhưng bạn sẽ không bao giờ biết mọi người sẽ phản ứng thế nào sau khi sản phẩm ra mắt. Đôi khi có những trường hợp nổi bật, nhưng hầu hết thời gian bạn sẽ nhận được một số phản hồi tích cực và cần phải lặp lại một vài chỗ để thực sự làm cho sản phẩm "kêu" một tiếng. Nhưng lần này, ngay khi ra mắt, nó đã "kêu" ngay lập tức. Thật sự phấn khởi khi thấy mọi thứ xảy ra------chỉ sau hai tuần, số lượng người sử dụng đã lên đến hàng triệu, điều này khá hiếm. Chúng tôi chỉ gặp phải tình huống như vậy vài năm một lần, nhưng đây chắc chắn là một trong những khoảnh khắc thú vị nhất của một công ty khởi nghiệp.

Người dẫn chương trình: Tôi rất ngưỡng mộ bạn vì đã kiên trì trên sân đấu, không ngừng thử nghiệm. Và việc bạn đã có nhiều lần thành công thật sự rất ấn tượng. Trước đây bạn đã có một cuộc phỏng vấn với Joe Rogan, khoảng ba năm trước, cuối cùng bạn đã đề cập rằng một ngày nào đó có thể đeo kính và trợ lý AI cũng sẽ xuất hiện. Vì vậy, tôi cảm thấy Muse đã có hình ảnh hiện thực hóa, điều này rất thông minh, vì cảm giác đó chắc chắn sẽ xảy ra.

Mark: Tôi nghĩ điều này chỉ làm cho nó trở nên thân thiện và dễ thương hơn. Tôi cho rằng quá nhiều người mô tả AI như một thứ đáng sợ, nhưng AI chỉ nên hữu ích và thú vị. Hình ảnh hiện thực hóa đó------một nhà thiết kế trong giai đoạn đầu của dự án đã tạo ra nhân vật đó, không biết vì lý do gì họ luôn muốn lặp lại, nhưng phiên bản đầu tiên chính là phiên bản tốt nhất. Sau đó có người nói, "Ồ, nó phải có màu xanh, vì là Meta mà." Tôi nói, "Không, tôi nghĩ hình ảnh này là đúng, bạn đã làm đúng ngay từ lần đầu tiên." Thế là, thật vui.

AI cá nhân và AI tổng quát khác nhau như thế nào?

Người dẫn chương trình: Một chi tiết rất hay. Nếu bạn muốn mô hình hoạt động rất tốt trong các vấn đề cá nhân, không chỉ là mô hình trí tuệ tổng quát, thì cách đào tạo sẽ khác như thế nào?

Mark: Tôi nghĩ rằng cốt lõi hiện tại là làm cho mô hình trở thành một "đại lý" xuất sắc. Trong năm qua, điểm nóng lớn nhất là đại lý lập trình, trong đó chứa đựng hai ý tưởng cốt lõi: khả năng lập trình chuyên môn và khả năng tổng quát để trở thành một đại lý xuất sắc.

Chiến lược của chúng tôi là đặt việc làm tốt đại lý lên hàng đầu, thay vì chỉ tập trung vào khả năng lập trình.

Khả năng lập trình quan trọng vì ngay cả khi người dùng không nghĩ rằng họ đang viết mã, Muse vẫn đang viết mã cho bạn ở phía sau để hoàn thành các nhiệm vụ khác nhau. Nhưng chúng tôi cho rằng, đại lý nên trước tiên là một đại lý xuất sắc, khả năng lập trình phục vụ cho mục tiêu này.

Hơn nữa, khi xây dựng trợ lý cá nhân, có một số điều quan trọng hơn so với việc xây dựng sản phẩm phần mềm doanh nghiệp. Ví dụ, nếu bạn đang xây dựng một công cụ lập trình doanh nghiệp, mô hình hoàn toàn không cần có bất kỳ khái niệm nào về "quy mô tiết lộ thông tin"------ví dụ như thông tin nào nên nói, thông tin nào không nên nói. Nhưng đối với Muse, điều này rất quan trọng.

Bạn cần phải đào tạo khả năng này vào mô hình, giống như đào tạo bất kỳ khả năng nào khác. Bạn sẽ nói cho nó rất nhiều điều, và sau đó hy vọng nó giúp bạn đạt được mục tiêu. Ví dụ, bạn muốn nó giúp bạn đặt bàn ăn, bạn đang tìm một nhà hàng phù hợp, nhưng bạn có thể có một số dị ứng, hoặc bạn đang mang thai, và bạn có thể không muốn tiết lộ điều này cho nhà hàng. Nhưng Muse sẽ biết những thông tin này, bạn muốn nó hoàn thành nhiệm vụ trong khi tiết lộ càng ít thông tin càng tốt. Đây là một kỹ năng cụ thể, về bản chất là kiến thức xã hội cơ bản của con người.

Nhưng những công ty chỉ làm đại lý lập trình, hầu hết đều không đào tạo khả năng này. Chúng tôi có thể làm điều đó vì chúng tôi làm toàn bộ------chúng tôi không lấy một mô hình có sẵn từ người khác rồi áp dụng khung, chúng tôi đào tạo toàn bộ mô hình từ đầu, phục vụ cho những khả năng này.

Mô hình chắc chắn cần có trí tuệ tổng quát rộng rãi, nhưng nó cũng có những khả năng cụ thể này. Sau đó, trên cơ sở đó, bạn xây dựng toàn bộ trợ lý, cũng như tất cả các chi tiết xung quanh nó: trí nhớ, khung hoạt động, và cách mà nó "nhịp tim"------nó thường xuyên đánh thức, kiểm tra "Được rồi, đây là những gì tôi biết về mục tiêu của bạn, có gì tôi có thể thúc đẩy ngay bây giờ không".

Chúng tôi còn có một đội ngũ chuyên trách, chỉ phụ trách hoàn thiện hiệu ứng hoạt hình thời gian thực của hình ảnh ảo, vì không chỉ là hình ảnh mặc định------bạn có thể tùy chỉnh bất kỳ hình ảnh nào, và sau đó nó sẽ tự động chuyển động, hiệu ứng rất tuyệt. Chúng tôi cũng đang ra mắt chế độ giọng nói, bạn có thể thực hiện cuộc trò chuyện giọng nói thời gian thực, trợ lý của bạn sẽ ở đó cùng bạn. Những chi tiết này, tôi nghĩ đều xuất phát từ việc chúng tôi làm toàn bộ------mô hình và sản phẩm được phát triển cùng nhau.

Người dẫn chương trình: Một điều lớn khác là máy ảo. Bạn có thể giải thích tại sao nó quan trọng và nó mở khóa điều gì không?

Tại sao Meta lại trang bị máy tính độc lập cho mỗi trợ lý AI?

Mark: Cơ bản, một đại lý cần có một nơi để lưu trữ thông tin của bạn để có thể làm việc cho bạn. Chúng tôi cho rằng thông tin này không nên bị trộn lẫn với thông tin của những người khác trong một nguồn tài nguyên chung.

Có thể hiểu như thế này: trợ lý của bạn sẽ biết rất nhiều thông tin nhạy cảm về bạn. Nhiều người lần đầu tiếp xúc với các đại lý như OpenCloud sẽ tự trang bị một chiếc Mac Mini tại nhà. Vì vậy, chúng tôi nghĩ rằng nhiều người không muốn mua Mac Mini hoặc tự cài đặt. Vậy, trải nghiệm nào có thể gần nhất với hiệu ứng này? Câu trả lời là: bạn chỉ cần tải xuống một ứng dụng, đăng ký, và bạn sẽ có một máy tính riêng biệt dành cho bạn, để trợ lý của bạn làm việc, lưu trữ dữ liệu, và xây dựng mô hình an toàn xung quanh điều này. Điều này gần giống như có một chiếc máy tính của riêng bạn dưới bàn------ngay cả chúng tôi tại Meta cũng không thể truy cập.

Ví dụ, máy ảo bảo mật Muse, đây là chức năng mà chúng tôi đang phát triển, ngay cả chúng tôi cũng không thể thấy nội dung trong máy ảo của bạn.

Chúng tôi cũng đã xây dựng rất nhiều thứ xung quanh điều này, chẳng hạn như lưu trữ chứng chỉ an toàn------khi trợ lý của bạn cần xử lý thông tin như mật khẩu, nó không cần phải thấy những mật khẩu này, chỉ cần khi bạn yêu cầu nó đăng nhập vào một dịch vụ nào đó, nó có thể "chèn" chứng chỉ, và chỉ làm điều đó khi bạn yêu cầu rõ ràng. Hệ thống nên được thiết kế như vậy: những thông tin này không thể truy cập tùy tiện, vì sự cố luôn xảy ra, có thể có người cố gắng xâm nhập, hoặc hệ thống có thể gặp sự cố.

Vì vậy, bạn phải đảm bảo rằng đại lý không thể truy cập những dữ liệu này, và Meta cũng không thể truy cập. Cung cấp máy tính độc lập cho mỗi trợ lý và đảm bảo an toàn ở mức tối đa là nền tảng cơ bản của công nghệ này------vừa trao cho Muse khả năng cần thiết để giúp người dùng đạt được mục tiêu, vừa đảm bảo quyền riêng tư và an toàn, khiến nó trở thành sản phẩm hàng đầu thế giới trong lĩnh vực này.

Người dẫn chương trình: Vậy điều này có nghĩa là, giống như WhatsApp, dữ liệu trên máy ảo mà Muse kết nối là được mã hóa? Mọi người nên hiểu như thế nào về cách dữ liệu được lưu trữ thực tế trong máy ảo?

Mark: Chúng tôi cơ bản đã xây dựng hai phiên bản. Máy ảo bảo mật Muse (Secure VM) bao gồm nhiều tính năng bảo mật, trong đó có toàn bộ kiến trúc đại lý Sentinel mà chúng tôi đã xây dựng. Bạn có một trợ lý Muse thông thường đang thực hiện nhiệm vụ cho bạn, đồng thời còn có một đại lý bảo mật mà chúng tôi gọi là Sentinel, chuyên giám sát dòng dữ liệu vào ra của Muse của bạn.

Nếu có nội dung bên ngoài cố gắng phá hoại an ninh, Sentinel sẽ trực tiếp cắt đứt, ngăn chặn điều đó xảy ra. Nếu nó nghĩ rằng Muse của bạn sắp thực hiện một hành động cần bạn can thiệp, nó sẽ ghi đè lên hoạt động của Muse và kích hoạt cảnh báo, để người xác nhận quyền------ví dụ như "Bạn có muốn Muse thực hiện điều này không?"

Toàn bộ hệ thống này, cộng với lưu trữ chứng chỉ an toàn, cùng với nhiều lớp phòng thủ sâu, tạo thành máy ảo bảo mật Muse.

Chúng tôi cũng đang phát triển một dự án khác. Nat và tôi đã tuyển dụng Moxie Marlinspike------người đã hợp tác với chúng tôi để thực hiện mã hóa đầu cuối cho WhatsApp------để thiết kế máy ảo bảo mật Muse (Confidential VM). Ý tưởng cốt lõi là, trên cơ sở máy ảo bảo mật, cung cấp cho bạn một khóa mã hóa riêng, khiến ngay cả Meta cũng không thể truy cập nội dung bên trong.

Phiên bản này khó thực hiện hơn, vì nếu Meta không thể truy cập vào bên trong máy ảo, việc gỡ lỗi và đảm bảo hệ thống hoạt động bình thường sẽ khó khăn hơn nhiều. Vì vậy, chúng tôi đã mất một thời gian, nhưng sẽ sớm ra mắt. Điều này về cơ bản sẽ đạt được tiêu chuẩn an ninh mà mọi người đã quen thuộc trên WhatsApp cũng như các sản phẩm an toàn nhất khác của chúng tôi.

Người dẫn chương trình: Lợi ích của việc này chỉ là khiến mọi người cảm thấy an toàn hơn về mặt tâm lý, hay còn có lợi ích thực tế nào khác?

Mark: Tôi nghĩ rằng an ninh bản thân nó đã rất quan trọng. Mục tiêu của chúng tôi là gần như khiến bạn có một chiếc máy tính cục bộ dưới bàn. Chiếc máy tính cục bộ đó có thể mang lại cho bạn điều gì? Nó có nghĩa là không có công ty nào có thể truy cập vào nó.

Vì vậy, giả sử Meta muốn cung cấp dịch vụ này cho bạn, chúng tôi có thể làm gì để đảm bảo bạn có được mức độ riêng tư và bảo mật tương đương, đến mức không có công ty nào - dù là Meta hay bất kỳ ai cố gắng xâm nhập vào chúng tôi, hoặc trong một số quốc gia mà bạn không tin tưởng chính phủ địa phương - có thể truy cập vào nó? Bởi vì chúng tôi cũng không thể vào, vì chúng tôi không có quyền truy cập.

Tôi nghĩ điều này rất quan trọng, và đây cũng là một trong những lý do mà mọi người tin tưởng WhatsApp. Đây là giá trị thực sự tồn tại đối với quyền riêng tư, an ninh và sự tin tưởng.

Nếu bạn có một trợ lý biết rõ mọi thứ về bạn - tôi đoán hầu hết chúng ta đều sẽ có một trợ lý như vậy - hãy tiến tới 5 năm nữa, mọi người sẽ có một trợ lý có thể hiểu sâu sắc mục tiêu và mọi thứ của bạn, và có thể giúp bạn hoàn thành công việc. Trong trường hợp này, việc dẫn đầu ngành về quyền riêng tư và an ninh là rất quan trọng. Chúng tôi đã muốn làm điều này ngay từ đầu.

Làm thế nào để hình thành tính cách của AI?

Người dẫn chương trình: Bạn còn một điều thú vị nữa - bạn đã học tâm lý học ở đại học.

Mark: Ừ, tôi chỉ ở đó một thời gian ngắn, hai năm, nhưng tôi cảm thấy nó đã ảnh hưởng đến nhiều thứ tôi xây dựng sau này.

Người dẫn chương trình: Khi chúng ta nhìn vào các mô hình, chúng ta thường nói rằng một mô hình nào đó "rất thông minh". Nhưng giống như khi chúng ta chọn bạn bè, chắc chắn là vì họ thông minh, đồng thời cũng vì chúng ta thích năng lượng và cách họ tương tác. Bạn đã suy nghĩ như thế nào về việc hình thành tính cách của mô hình?

Mark: Tôi nghĩ rằng một mô hình lý tưởng nên có đủ khả năng thích ứng để phù hợp với phong cách của những người khác nhau. Tôi cảm thấy nhiều người trong ngành đã đi sai hướng ở điểm này - nhiều phòng thí nghiệm khác đang tập trung vào "cách thiết kế tính cách đúng", nhưng tôi chưa bao giờ nghĩ rằng tính cách là một thứ cố định. Đây cũng là một trong những lý do tôi tin tưởng mạnh mẽ vào mã nguồn mở, và rằng mọi người có thể tùy chỉnh, cũng như lý do chúng tôi thiết kế Muse thành một sản phẩm cá nhân hóa cao.

Bạn có thể tùy chỉnh và cá nhân hóa Muse - không chỉ hình ảnh và giọng nói, mà khi bạn đăng ký lần đầu, điều đầu tiên nó hỏi bạn là "Bạn muốn tính cách cơ bản của tôi như thế nào", và bạn có thể sửa đổi bất cứ lúc nào.

Chúng tôi nỗ lực để mô hình có khả năng dẫn dắt mạnh mẽ, cho phép bạn định nghĩa cách tương tác mà bạn muốn. Đây là một phần quan trọng để nó trở thành một trợ lý cá nhân xuất sắc - khả năng thích ứng xung quanh tính cách này là rất quan trọng.

Người dẫn chương trình: Muse của bạn có phong cách gì?

Mark: Tôi làm cho nó trực tiếp và chú trọng vào hiệu quả. Nó khá thú vị. Các phiên bản trước đây rất thích châm biếm, rất hài hước, nhưng phiên bản này thì thẳng thắn hơn. Trợ lý của tôi sử dụng hình ảnh Muse mặc định, nhưng tôi đã cho nó mặc một chiếc áo choàng dài, và còn cho nó một giọng nói sâu sắc đến mức có phần hài hước, tương tác với nó rất thú vị.

Người dẫn chương trình: Tôi nghĩ rằng để có khiếu hài hước, bạn phải thực sự rất thông minh. Nhiều người không nhận ra rằng, các diễn viên hài là một trong những người thông minh nhất trong xã hội - phản ứng phải nhanh, trí tuệ phải đủ. Chắc chắn bạn có đặc điểm này. Tôi đã xem tất cả các cuộc phỏng vấn của bạn, bạn luôn thể hiện rất tốt.

Dự đoán bất ngờ của Mark về AI và Metaverse

Người dẫn chương trình: Trong cuộc phỏng vấn của bạn với Theo, các bạn đã nói rất nhiều về ranh giới tiếp theo của công nghệ và tất cả điều này cuối cùng sẽ dẫn đến đâu. Lĩnh vực AI đã trải qua vài "mùa đông", mọi người nghĩ rằng sẽ không có đột phá. Metaverse cũng đã trải qua vài giai đoạn như vậy, mọi người cảm thấy đây là một cược không thể thực hiện. Hôm qua tôi đã thử nghiệm tính năng hình ảnh hologram mới, rất tuyệt. Trong cuộc phỏng vấn với Lex, cảm giác rằng phải mất 11 giờ để ghi lại khuôn mặt của bạn, giờ chỉ cần 3 phút. Làm thế nào mà điều này tiến triển đến hôm nay?

Mark: Trong sự phát triển tổng thể của Metaverse, khi chúng tôi thành lập Reality Labs, chúng tôi luôn tin rằng cuối cùng sẽ có một cặp kính bình thường với hình dáng bình thường, và theo thời gian, nó sẽ cung cấp cảm giác hiện diện sống động và trở thành một thiết bị AI tuyệt vời - bởi vì kính là hình thức duy nhất có thể cho phép thiết bị nhìn thấy những gì bạn nhìn, nghe những gì bạn nghe, giao tiếp với bạn suốt cả ngày và cuối cùng hiển thị hình ảnh.

Nhưng 10 đến 15 năm trước, tôi đã giả định rằng chúng tôi sẽ thực hiện công nghệ hologram trước, sau đó là AI phát triển cao. Tuy nhiên, con đường tiến hóa công nghệ rất thú vị - thực tế là chúng tôi đã có AI và trí thông minh siêu cá nhân trước, rồi mới có công nghệ để làm cho hologram trở nên phổ biến và giá cả phải chăng. Đây là điều tôi không dự đoán được, nhưng tôi rất vui vì cả hai hướng đều đang được thực hiện.

Sự đầu tư lớn của chúng tôi vào kính đã đưa chúng tôi vào một vị trí rất thuận lợi khi trợ lý AI sẵn sàng. Nhiều công bố tại hội nghị Connect chính là về việc đưa Muse và nhiều chức năng AI vào kính, tôi nghĩ người dùng sẽ rất thích điều này. Đây là một điều lớn.

Về cảm giác hiện diện, chúng tôi vẫn đang tiến triển, nhưng tiến độ tương đối chậm hơn, vì phần lớn năng lượng của chúng tôi đã chuyển sang xây dựng Muse và các chức năng AI cho kính. Tuy nhiên, chúng tôi có một dự án kéo dài lâu dài, đó là hình đại diện ảo thời gian thực với độ chân thực cao.

Như bạn đã nói, ba bốn năm trước, bạn cần một phòng quét toàn bộ để ghi lại một người từ nhiều góc độ, và còn cần GPU cấp doanh nghiệp để kết xuất, rất tốn công. Bản trình diễn mà chúng tôi thực hiện cho podcast của Lex chính là loại thiết lập đó. Và bây giờ chúng tôi cơ bản đã làm cho nó có thể chạy trên một chiếc kính VR - đây là hình thức kính đầu tiên có thể mang lại trải nghiệm VR tuyệt vời như vậy, chứ không phải là một chiếc headset lớn. Chỉ cần vài bức ảnh là có thể tạo ra hình đại diện ảo của bạn, tiến độ thật đáng kinh ngạc.

Người dẫn chương trình: Và nó còn có thể điều khiển biểu cảm dựa trên giọng nói. Trong bản trình diễn, nó khiến tôi cười, khiến tôi tương tác, và sau đó hiểu khuôn mặt của tôi di chuyển theo âm thanh. Bạn đã đề cập trong podcast đó rằng, một số người thường có biểu cảm khá kín đáo, thực tế trong thế giới ảo sẽ muốn có biểu cảm phong phú hơn. Bạn nghĩ sao về việc mọi người phân biệt "tự ngã ảo" và "tự ngã thực"?

Mark: Tôi nghĩ rằng chúng ta vẫn đang ở giai đoạn rất sớm trong việc hiểu về mặt xã hội học và tâm lý học trong lĩnh vực này. Tôi cảm thấy rằng nhận thức của mọi người về bản thân và hình ảnh mà họ muốn truyền tải thường có phần khác biệt so với chính họ. Ngay từ khi mạng xã hội ra đời, mọi người đã cẩn thận chọn avatar. Trên hình ảnh ảo của Muse, chúng tôi cũng thấy hiện tượng tương tự. Đó không phải là "trưng bày" bản thân, mà là "trưng bày" người mà bạn muốn giao tiếp.

Tôi nghĩ rằng, khi bạn cung cấp cho mọi người khả năng thể hiện bản thân, bạn vừa muốn nó thực sự nắm bắt được họ, đồng thời nó cũng là một hình thức thể hiện, chứ không chỉ là một phản chiếu thuần túy - nó vừa là truyền đạt, vừa là thể hiện. Chúng tôi hy vọng có thể xây dựng ra một thứ vừa đáp ứng được cả hai. Đây luôn là một vòng lặp lặp đi lặp lại: xem mọi người sử dụng như thế nào, rồi cải tiến. Sau nhiều năm làm việc, giờ đây chúng tôi mới thực sự đứng ở vạch xuất phát - lần đầu tiên có thể đưa hình đại diện chân thực chất lượng cao vào sản phẩm, có thể sử dụng trên điện thoại và trong VR. Tôi rất mong chờ để thấy kết quả.

Năm 2030 sẽ như thế nào?

Người dẫn chương trình: Được rồi, hãy đưa tôi vào suy nghĩ của bạn, hãy tiến tới năm 2030, nếu mọi thứ diễn ra suôn sẻ, công nghệ hologram sẽ như thế nào? Hologram cộng với Muse, cộng với kính, chúng sẽ hội tụ lại với nhau như thế nào?

Mark: Hiểu biết của tôi về tầm nhìn Metaverse luôn liên quan đến việc kết hợp hiệu quả giữa thế giới vật lý và thế giới số. Ý tưởng cơ bản là: chúng ta có thế giới vật lý tuyệt vời này, đồng thời cũng có một thế giới số tuyệt vời - khối lượng nội dung khổng lồ tích lũy trên internet trong 20 đến 30 năm qua thật đáng kinh ngạc. Nhưng cách chúng ta truy cập vào nó, hoặc là ngồi trước bàn, hoặc là qua một màn hình nhỏ trong túi, điều này về cơ bản rất hạn chế.

Tôi nghĩ phiên bản lý tưởng nhất của điều này là sự kết hợp liền mạch giữa thế giới vật lý và thế giới số. Bạn có thể nghĩ như thế này: bây giờ chúng ta có hai người ở đây. Trong một phiên bản tương lai nào đó, một trong hai người có thể là một hình chiếu hologram, nhưng bạn vẫn cảm nhận được cảm giác thực sự có mặt của nhau, điều này hoàn toàn khác với cuộc gọi video.

Và cốt lõi của thực tế ảo chính là truyền tải cảm giác hiện diện này - khiến bạn cảm nhận rõ ràng rằng bạn đang ở cùng một phòng với người khác, hoặc ở một nơi khác. Bạn có thể sử dụng công nghệ hologram để thực hiện điều này, và kết hợp theo nhiều cách khác nhau. Ví dụ, tôi có thể chơi một ván bài với bạn bè, một phần người có mặt, một phần người tham gia qua hình ảnh hologram, cũng có thể chơi bài, bàn bài cũng có thể là hologram, để những người không có mặt cũng có thể tham gia.

Đồng thời, AI cũng có thể được gán cho hình thức vật lý, xuất hiện trong bối cảnh này. Trong bối cảnh công việc, điều này rất có ý nghĩa - tôi hiện đang sử dụng nhiều tác nhân lập trình thông minh để xây dựng mọi thứ. Hãy tưởng tượng: bạn có một kênh trò chuyện nhóm, trong đó có một vài người và một vài tác nhân thông minh, bạn giao nhiệm vụ cho các tác nhân. Nhưng đôi khi, mọi người sẽ tụ họp để họp, và các tác nhân cũng nên có mặt. Chúng xuất hiện như thế nào? Rất đơn giản, thêm một vài chỗ ngồi trên ghế sofa, chúng xuất hiện dưới dạng hình ảnh hologram. Hoặc sử dụng nhân vật nhỏ dễ thương của Muse, hoặc là rồng, hoặc bất kỳ hình ảnh kỳ quái nào mà bạn tạo ra.

Tôi đoán điều này trong tương lai sẽ cảm thấy khá tự nhiên.

Người dẫn chương trình: Thú vị. Bạn đã nói trong các cuộc phỏng vấn trước đây rằng ngành công nghệ thường quên đi yếu tố "vui vẻ". Tôi nghĩ rằng có một trợ lý vật lý xuất hiện ở đó cũng sẽ khiến cảm giác trở nên thực tế hơn - như thể thực sự đã thuê ngoài công việc. Khi bạn thấy Muse đang gõ, bạn cảm thấy có điều gì đó thực sự đang diễn ra. Điều này được thực hiện rất tốt - có thể thấy những gì đang xảy ra trong trình duyệt. Vậy bạn nghĩ có khả năng xuất hiện một cảnh như vậy không: bạn đeo kính, sau đó điều khiển máy tính của bạn, để Muse giúp bạn làm việc trên máy tính?

Mark: Đúng vậy, hoàn toàn có thể. Chúng tôi vừa mới công bố tính năng này tại hội nghị Connect. Bây giờ tất cả kính đều kết nối với Meta AI, đó là một trải nghiệm "một vòng"------ bạn đưa ra một gợi ý, nó phản hồi, chỉ đơn giản vậy thôi. Nhưng với Muse, chúng tôi cơ bản sẽ nâng cấp tất cả kính lên Muse. Đầu tiên, bạn không cần phải nói "Hey Meta" nữa, bạn có thể đặt cho nó bất kỳ cái tên nào, điều đó chính là một phần của niềm vui. Sau đó, bạn chỉ cần nói chuyện trực tiếp với nó, nó kết nối với Muse của bạn, Muse của bạn xử lý nhiệm vụ trong máy ảo an toàn của bạn, giúp bạn hoàn thành công việc.

Người dẫn chương trình: Thật tuyệt vời!

Tâm lý của người sáng lập

Người dẫn chương trình: Tốt, bây giờ chúng ta ở đây, Muse đang tiến triển rất tốt, kính cũng hoạt động tốt, nhưng khoảng một năm trước, nhiều người đã hỏi "Thực sự thì phòng thí nghiệm siêu thông minh đang xảy ra chuyện gì". Vào thời điểm đó, bạn cảm thấy như thế nào? Khi mọi thứ không tiến triển như mong đợi, nhưng bạn vẫn thấy tầm nhìn dài hạn, đó là một trải nghiệm như thế nào?

Mark: Vấn đề thực sự là dự án Llama và Llama 4.

Llama 1 là một mô hình khá thú vị, nó đã khởi xướng toàn bộ phong trào AI mã nguồn mở, chúng tôi rất tự hào về điều đó. Llama 2 đã đạt được quy mô, Llama 3 là một mô hình rất tốt, gần như đạt đến mức tiên tiến vào thời điểm đó. Sau đó đến Llama 4, chúng tôi cơ bản đã lệch khỏi quỹ đạo phát triển đúng đắn.

Mỗi khi mọi thứ không diễn ra theo hướng mà tôi mong đợi, tôi sẽ dành rất nhiều thời gian để suy nghĩ: Tại sao lại như vậy? Chúng tôi cần thay đổi điều gì để làm tốt hơn? Lần này, sự phản ánh của tôi là: Cấu trúc của toàn bộ đội ngũ tôi đã sai.

Tôi đã mô hình hóa nó theo cách mà chúng tôi thực hiện công việc học máy cho dòng thông tin Instagram hoặc hệ thống quảng cáo------ có hàng trăm thậm chí hàng ngàn người làm việc song song trên nhiều thứ. Nhưng để xây dựng mô hình ngôn ngữ, điều bạn thực sự cần là một đội ngũ nhỏ gọn cực kỳ chặt chẽ, coi đó như một dự án khoa học tập thể. Số lượng người không cần nhiều, nhưng điều này có nghĩa là mỗi vị trí trong đội ngũ đều cực kỳ quý giá.

Vì vậy, chúng tôi đã tuyển dụng những người giỏi nhất từ khắp nơi trong Meta, đồng thời đưa vào nhiều tài năng từ ngành công nghiệp, thành lập một đội ngũ hoàn toàn mới------ đó chính là phòng thí nghiệm siêu thông minh Meta.

Từ góc độ của tôi, vào thời điểm MSL được khởi động, tôi đã biết rằng điều này cần một thời gian để khởi động lại, xây dựng lại cơ sở hạ tầng, đào tạo mô hình thế hệ tiếp theo. Nhưng tôi biết chúng tôi đã tập hợp được một đội ngũ xuất sắc, nếu đội ngũ có thể hòa hợp tốt, hoạt động hiệu quả, kết quả sẽ rất tốt.

Đối với tôi, khoảnh khắc hồi hộp nhất, thực sự là sau khi phát hành Llama 4------ tôi đã nghĩ rằng chúng tôi đang trên con đường này, nhưng cuối cùng lại phát hiện ra không phải. Đó là một sự bất ngờ tiêu cực khá lớn. Tôi nghĩ, với tư cách là một người khởi nghiệp, bạn luôn bị thử thách trong những khoảnh khắc này, vì không thể tránh khỏi, không phải mọi thứ đều diễn ra suôn sẻ. Và điều thực sự quyết định quỹ đạo phát triển là: Khi mọi thứ không diễn ra theo hướng bạn mong muốn, bạn tìm ra cách tiến lên như thế nào.

Người dẫn chương trình: Tôi đoán điều ngược lại cũng đúng------ khi một điều gì đó vượt xa mong đợi của bạn, chẳng hạn như sự ra mắt của Muse, bạn làm thế nào để đảm bảo rằng bạn có thể nắm bắt cơ hội này?

Mark: Hoàn toàn đúng. Bây giờ toàn bộ công ty đều tham gia------ ban đầu chỉ là một đội ngũ nhỏ xây dựng sản phẩm, nhưng bây giờ mọi người đều nhận ra rằng, điều này thực sự đã sẵn sàng để bước lên sân khấu lớn. Toàn bộ công ty đang nghĩ, làm thế nào để mở rộng điều này, làm thế nào để hàng triệu người có thể trải nghiệm.

Từ việc tối ưu hóa tất cả cơ sở hạ tầng để mọi thứ hoạt động trơn tru, tận dụng từng chút sức mạnh tính toán của GPU hiện có, đến việc các đội ngũ sản phẩm theo nhiều cách khác nhau tích hợp Muse------ chẳng hạn như kính. Thấy mọi người cùng nhau nỗ lực, đảm bảo Muse có thể mở rộng một cách suôn sẻ, cảm giác đó thật tuyệt.

Mark viết và truyền đạt tầm nhìn

Người dẫn chương trình: Là một người sáng lập, tôi nghĩ đó là khoảnh khắc mà bạn khao khát nhất------ mọi thứ hội tụ lại với nhau. Bạn đã truyền đạt tầm nhìn cho công ty như thế nào? Trong khi thúc đẩy nhiều thứ cùng một lúc, tôi cảm thấy bạn đã viết rất nhiều. Quy trình của bạn là gì?

Mark: Viết lách rất hữu ích cho tôi, vừa giúp tôi tinh lọc ý tưởng của mình, vừa truyền đạt ra bên ngoài. Mùa hè năm nay, tôi đã viết một bài dài, có tên là "Tương lai thuộc về tất cả mọi người", khoảng 15 trang, giúp tôi hệ thống hóa quan điểm triết học của mình về nhiều vấn đề xã hội quan trọng liên quan đến AI: Tôi nghĩ điều gì là tốt, tương tác với chính phủ nên như thế nào, làm thế nào để ngăn chặn những mối lo ngại của mọi người, làm thế nào để trung tâm dữ liệu trở thành tài sản của cộng đồng, thực sự tạo ra việc làm thay vì tiêu diệt việc làm, làm thế nào để bảo vệ an ninh quốc gia, làm thế nào để thực sự giảm thiểu những rủi ro mà mọi người lo lắng------ bất kể đó là tấn công mạng hay an toàn sinh học.

Đây là một việc rất phức tạp, mất rất nhiều thời gian, giao tiếp với nhiều người, trải qua nhiều vòng sửa đổi, nhiều người trong nội bộ tham gia thảo luận, tranh luận. Nhưng đối với tôi, đó là một quá trình rất có giá trị. Cuối cùng chúng tôi đã có được một thứ như vậy------ 15 trang, "Đây là những gì chúng tôi tin tưởng". Sau đó, tôi đã tinh lọc nó thành một phiên bản một trang, được xuất bản như một bài viết chuyên mục. Chúng tôi cũng đã làm một video ngắn, vì tôi nghĩ để tiếp cận nhiều người, bạn thường không cần phải đưa ra một lý thuyết phức tạp, mà chỉ cần cô đọng lại: giá trị của bạn là gì, bạn tin vào điều gì, bạn truyền đạt như thế nào.

Trong việc truyền đạt những khía cạnh này cho công ty hoặc thế giới, không có cách tiếp cận một kích thước phù hợp với tất cả. Các thời kỳ khác nhau cần các phương pháp khác nhau, những nhóm người khác nhau, một số tự nhiên đồng ý với những gì bạn đang làm, trong khi một số khác thì lo lắng hơn, cần bạn dẫn dắt họ, cần thêm nỗ lực để giải thích tại sao điều này có giá trị. Tôi nghĩ điều này chính là một phần của việc điều hành một công ty, với tư cách là một người sáng lập------ bạn không lặp đi lặp lại cùng một điều, mỗi tình huống đều hơi khác nhau, đối mặt với những thách thức mới, đó cũng là một phần của sự thú vị.

Điều gì thúc đẩy Mark xây dựng?

Người dẫn chương trình: Tôi nghĩ đối với bạn, tâm lý người sáng lập này đã mở rộng ra ngoài công ty------ dù là trang trại của bạn, hay học một kỹ năng mới.

Mark: Tôi chỉ thích xây dựng.

Người dẫn chương trình: Vậy đối với bạn, "xây dựng" là cảm giác như thế nào?

Mark: Tôi cảm thấy đó là một nhu cầu bên trong. Mỗi người có cách thể hiện bản thân khác nhau. Nếu bạn là một nhà văn, bạn sẽ cảm thấy mình phải viết. Một số người có nhu cầu được công nhận. Nhưng tôi chỉ cần xây dựng. Nếu tôi không sử dụng sự sáng tạo, không xây dựng điều gì, tôi sẽ trở nên cáu kỉnh. Điều đó không tốt cho những người xung quanh tôi.

Người dẫn chương trình: Học cách trở thành một người trượt tuyết giỏi và học cách xây dựng một sản phẩm có phải là cùng một kỹ năng không?

Mark: Ở một mức độ nào đó, đúng vậy, quá trình học hỏi những điều mới khá tương tự. Trong cuộc đời của tôi, tôi đã cố tình thách thức bản thân với một số điều mà tôi không giỏi. Chẳng hạn, tôi luôn rất kém trong việc học ngôn ngữ. Thực tế đó là lý do tôi bắt đầu học tiếng Latin------ tôi không thể học tiếng Pháp và tiếng Tây Ban Nha trong lớp học, cuối cùng tôi nghĩ, được rồi, tiếng Latin không cần nói, chỉ cần dịch, giống như toán học vậy.

Sau đó, khi tôi bắt đầu điều hành công ty, tôi đã đặt ra những thử thách hàng năm cho bản thân, trong đó có một năm là học tiếng Quan Thoại. Quan Thoại thực sự rất khó, đặc biệt là phần ngữ điệu. Tất nhiên, có lý do chính đáng để học nó------ bà của Priscilla chỉ nói tiếng Quan Thoại, vì vậy nếu tôi muốn giao tiếp với bà, tôi cần phải học. Nhưng động lực lớn nhất thực sự là thử thách bản thân.

Tất cả những điều này, bạn chỉ có thể làm, không có cách nào để "hiểu" một cách nhanh chóng. Bạn chỉ có thể dành thời gian, và sau đó nó từ từ thấm vào não bạn. Học võ thuật, học lái trực thăng cũng giống vậy------ những điều này thực sự rất khó để "hiểu" bằng lý trí, chúng cần tích lũy thực chiến.

Xây dựng sản phẩm cũng có một phần như vậy. Lập trình có thể được suy nghĩ theo cách lý thuyết, nhưng trực giác trong việc xây dựng sản phẩm chỉ có thể được phát triển thông qua thực chiến lặp đi lặp lại. Vấn đề chỉ là bạn thích gì------ vì tôi nghĩ không phải ai cũng có nhu cầu xây dựng mạnh mẽ như tôi, hầu hết mọi người có một mức độ nhu cầu nào đó, điều quan trọng là tìm ra điều đó là gì, và sau đó dành thời gian để trở nên xuất sắc trong điều mà bạn thực sự muốn.

Thành thật mà nói, tôi nghĩ điều này không chỉ là "muốn", mà còn là một nhu cầu tâm lý sâu sắc hoặc động lực. Đưa động lực này vào một điều gì đó, dành thời gian để những kinh nghiệm đó từ từ thấm vào và lắng đọng, điều này rất quan trọng. Đây cũng là điều tôi cố gắng dạy cho bọn trẻ------ giúp chúng tìm ra những điều mà chúng thực sự quan tâm, nhưng nếu chúng gặp phải bế tắc, cũng cần phải đẩy một chút.

Một trong những cô con gái của tôi rất thích sáng tác nhạc, nhưng cô ấy không thể chịu nổi việc học piano. Tôi đã nói với cô ấy: "Bạn không cần phải trở thành một bậc thầy piano, nhưng nếu bạn muốn sáng tác nhạc, bạn cần phải có sự hiểu biết trực giác về lý thuyết âm nhạc và cách hoạt động của nó. Và một khi bạn học piano, bạn sẽ có thể chơi guitar ngay lập tức." Tôi nghĩ, dù là trẻ con cần cha mẹ đẩy một chút, hay người lớn, việc có kỷ luật ngồi xuống để những điều này từ từ lắng đọng trong não cũng là điều quan trọng.

Thời đại vàng của những người xây dựng

Người dẫn chương trình: Tôi nghĩ thực sự mọi người đều muốn xây dựng. Tôi không nghĩ thế hệ Z lại như những gì bên ngoài chỉ trích------ thiếu động lực hay gì đó. Tôi nghĩ mọi người chỉ đang tìm kiếm một tia lửa có thể thắp sáng khả năng xây dựng của họ. Bạn cũng đã đề cập nhiều điều này trong bài phát biểu tại Harvard.

Mark: Đúng vậy. Tôi nói "xây dựng", chủ yếu là chỉ những sản phẩm này------ phần mềm, phần cứng, v.v. Nhưng tôi đồng ý, tôi nghĩ mọi người đều có một động lực sáng tạo nào đó. Tuy nhiên, một số người có những đặc điểm tính cách khác mạnh mẽ hơn đã áp đảo điều này, chẳng hạn như động lực phục vụ------ những người trở thành bác sĩ hoặc y tá, động lực cốt lõi của họ chính là "tôi chỉ muốn chăm sóc người khác".

Tôi đã nghe một câu chuyện, có thể là Priscilla đã trải qua ở trường y: Ngày đầu tiên khai giảng, có người đứng dậy hỏi, "Có bao nhiêu người trong số các bạn có ký ức như thế này khi còn nhỏ------ thấy ai đó và nghĩ 'Tôi thực sự muốn chăm sóc người đó'?" Kết quả là tất cả mọi người đều giơ tay. Đối với tôi, phiên bản của tôi là: Tôi có rất nhiều ký ức khi còn nhỏ, là "Tôi muốn làm cái này, làm cho nó tốt hơn".

Không phải ai cũng có cùng động lực, nhưng mỗi người đều có điều mà họ muốn làm. Tôi đồng ý, với công nghệ trước đây, việc bắt đầu đã rất khó đối với nhiều người. Đây cũng là điều khiến tôi hào hứng nhất về siêu thông minh cá nhân, Muse và các trợ lý AI khác------ tôi nghĩ đây là lần đầu tiên trong lịch sử, mọi người thực sự có thể bắt đầu nhanh chóng. Bạn có một ý tưởng mơ hồ, AI có thể giúp bạn phác thảo nó, và sau đó bạn đi tinh chỉnh nó, giống như đang tạo hình một bức tượng, mà không cần phải hiểu mọi thứ trước khi bắt đầu.

Tôi nghĩ điều này rất mạnh mẽ, nhiều người sẽ vì vậy mà tìm thấy điều họ muốn tạo ra hoặc thúc đẩy. Điều này sẽ giúp mọi người cảm nhận được khả năng rộng lớn hơn.

Chúng ta còn bao xa để chinh phục tất cả các bệnh tật?

Người dẫn chương trình: Một dự án khác của bạn ngoài Meta là chinh phục tất cả các bệnh tật. Tôi rất tò mò, đầu tiên, chúng ta còn gần mục tiêu bao xa?

Mark: Gần hơn nhiều so với trước đây.

Người dẫn chương trình: Bạn nghĩ thực tế là gần bao xa?

Mark: Khi chúng tôi khởi động dự án này, mục tiêu là vào cuối thế kỷ này giúp giới khoa học chinh phục tất cả các bệnh tật. Chúng tôi chưa bao giờ có ý định tự mình làm điều đó, lý thuyết của chúng tôi là: Tất cả những tiến bộ khoa học lớn đều được dẫn dắt bởi một công cụ mới có thể đo lường và hiểu một số điều. Chẳng hạn như phát minh ra kính hiển vi, sau đó chúng tôi hiểu về vi khuẩn; có kính thiên văn, giúp chúng tôi hiểu về vũ trụ.

Những công cụ này có một số đã trở thành nền tảng------ chẳng hạn như người phát minh ra vắc xin đầu tiên, sau đó mọi người có thể sử dụng phương pháp này để điều trị nhiều bệnh.

Nhưng trong lịch sử, cách thức tài trợ cho khoa học luôn rất phân tán, để mỗi người thực hiện khám phá cá nhân, thực sự có rất ít tiền được sử dụng để xây dựng những công cụ lớn này. Những gì chúng tôi đang cố gắng làm tại Biohub là thiết kế một vài công cụ mới, cho phép mọi người "nhìn thấy" sinh học theo những cách mới, từ đó giúp cộng đồng khoa học tăng tốc tiến bộ.

Ban đầu, chúng tôi nghĩ rằng "đến cuối thế kỷ này" đã là một mục tiêu khá chắc chắn, nhiều nhà sinh học lúc đó còn cho rằng điều này là không thể. Nhưng bây giờ tôi cảm thấy, cuối thế kỷ này là quá xa.

Sự tiến bộ của AI, cộng với mô hình tế bào ảo mà chúng tôi đang thực hiện ------ ý tưởng cơ bản là, không cần thực hiện thí nghiệm trên tế bào sống thực, mà sử dụng mô hình AI để mô phỏng protein, từ đó mô phỏng tế bào, tiếp theo là mô phỏng hệ miễn dịch ảo, hoặc toàn bộ sinh vật, thậm chí là toàn bộ con người. Điều này sẽ cho phép các nhà khoa học thực hiện một lượng lớn thí nghiệm, mô phỏng những gì sẽ xảy ra trong các tình huống khác nhau, chẳng hạn như khi cho một người dùng loại thuốc này, cơ thể sẽ phản ứng như thế nào.

Tôi không muốn đưa ra một con số chính xác, nhưng tôi đoán sẽ sớm hơn nhiều so với cuối thế kỷ này.

Người dẫn chương trình: Mục tiêu "khắc phục tất cả bệnh tật" có vẻ rất cố ý, không giống như "bất tử". Bất tử có phải là một khả năng không?

Mark: Điều này không phải là lĩnh vực tôi chuyên sâu. Tôi nghĩ rằng hai điều này là hai vấn đề khác nhau. "Bất tử" nhiều hơn về việc kéo dài ------ ngay cả khi bạn không bị bệnh, cơ thể con người vẫn có một tuổi thọ tự nhiên, đó là một vấn đề khác cần nghiên cứu riêng. Một số người có thể coi đây cũng là một loại "bệnh", đó là một góc nhìn hợp lý, nhưng tôi nghĩ rằng, mọi người cũng cần nỗ lực để khắc phục những bệnh tật mà ngay cả khi bạn đã giải quyết vấn đề tuổi thọ, vẫn có thể khiến bạn bị bệnh.

Phần vấn đề mà chúng tôi chọn không phải là nói rằng bạn sẽ không bao giờ bị cảm lạnh. Cách nói của chúng tôi là "chữa trị, phòng ngừa hoặc quản lý": một số bệnh có thể được chữa khỏi hoàn toàn; một số tôi nghĩ rằng chúng ta có thể phòng ngừa trong tương lai; còn một số khác, có thể bạn vẫn sẽ bị bệnh, nhưng những điều vốn có thể gây ra tổn thương thực sự hoặc thậm chí cướp đi mạng sống, bạn giờ có thể quản lý như một tình trạng mãn tính kéo dài, không ảnh hưởng thực chất đến chất lượng cuộc sống của bạn.

Mục tiêu là giữ cho cơ thể ở trạng thái cân bằng ------ không phải là chúng ta sẽ không bao giờ tiếp xúc với mầm bệnh, mà là vào một ngày nào đó, chúng ta có thể chữa trị, phòng ngừa và quản lý tất cả bệnh tật.

Những suy nghĩ thường xuyên xuất hiện trong đầu Mark là gì?

Người dẫn chương trình: AI trong nhiều đột phá khác nhau giống như một chất xúc tác, bao gồm cả khía cạnh trí tuệ cá nhân. Hiện tại, điều gì là điều bạn thường suy nghĩ nhất? Trong quá trình này, những ý tưởng nào xuất hiện nhiều nhất trong đầu bạn?

Mark: Điều này có thể thay đổi mỗi tuần.

Hiện tại tôi rất tập trung vào Muse. Mỗi lần phát hành một thứ gì đó, nhanh chóng tiến lên, sau đó tiếp xúc với thế giới thực, hiểu phản hồi của mọi người, rồi tìm ra điều gì cần làm tiếp theo ------ giai đoạn này luôn rất thú vị. Chúng tôi hiện đang ở giai đoạn này, đang thu thập rất nhiều thông tin, hiểu mọi người muốn gì. Tin tốt là mọi người rất thích nó, vì vậy chúng tôi đang nỗ lực để càng nhiều người có thể sử dụng nó càng tốt.

Còn nhiều công việc cần làm về mô hình, mô hình Muse Spark đã có tiến bộ lớn, chúng tôi hy vọng tiếp tục thúc đẩy, hy vọng tạo ra mô hình hàng đầu thế giới.

Bước tiếp theo cần những đột phá nào?

Người dẫn chương trình: Cần những đột phá nào nữa?

Mark: Nghiên cứu những điều này, bạn không nhất thiết phải biết trước. Chúng tôi có một số linh cảm về một số hướng đi, công việc trong năm qua phần lớn thực sự là mở rộng cơ sở hạ tầng.

Khoảng một năm rưỡi trước, nhiều người sẽ nói rằng để đạt được siêu trí tuệ, cần một số đột phá kiến trúc cơ bản. Nhưng bây giờ tôi không chắc điều này có đúng hay không. Tôi nghĩ rằng chúng tôi đã có hiểu biết khá tốt về "công thức" ------ nếu bạn có thể xây dựng một cụm siêu máy tính đủ lớn, bạn có thể đạt được điều đó thông qua tính toán bạo lực.

Chúng tôi đang xây dựng cụm ở Ohio với hơn 1.000 megawatt, cơ bản đã hoạt động, chúng tôi đang sử dụng nó để đào tạo mô hình thế hệ tiếp theo. Sau đó là cụm 5.000 megawatt ở Louisiana, sẽ sớm được đưa vào sử dụng. Tôi ước tính, khi bạn có cụm hàng nghìn megawatt để đào tạo, bạn cơ bản có thể đạt được gần AGI, thậm chí là siêu trí tuệ trên AGI.

Nhưng điều này không có nghĩa là đây là cách tốt nhất. Não người chỉ cần 10 watt để hoạt động, trong khi các hệ thống tính toán mà chúng tôi xây dựng có hiệu suất thấp hơn não người khoảng một triệu lần. Vì vậy, tôi thực sự nghĩ rằng vẫn còn không gian để cải thiện về kiến trúc, và chúng tôi cũng đang nỗ lực khám phá ------ nếu kết hợp sức mạnh tính toán khổng lồ với cải tiến kiến trúc, bạn thực sự có thể xây dựng ra những thứ hàng đầu thế giới. Nhưng hiện tại, việc mở rộng quy mô tự thân đã có thể đưa chúng tôi đi rất xa.

Người dẫn chương trình: Đúng vậy, mở rộng quy mô là con đường an toàn nhất. Nghiên cứu bạn phải hy vọng vào những đột phá lớn, nhưng mở rộng quy mô có thể mang lại hiệu quả nhanh chóng.

Mark: Chính vì vậy, các công ty lớn đều chọn con đường này. Có thể có một cách rẻ hơn nhiều, nhưng hiện tại chúng tôi vẫn chưa biết. Và đây là một thứ có giá trị lớn đối với thế giới, ngay cả khi phải tiêu tốn hàng trăm tỷ đô la, chỉ cần xác suất thành công đủ cao, vẫn đáng để thực hiện ------ đảm bảo rằng ngay cả khi cuối cùng không tìm ra cách đột phá rẻ hơn, bạn vẫn có một con đường rõ ràng để thực hiện nó. Tất nhiên, nếu bạn tìm ra cách rẻ hơn, thì càng tốt.

Vì vậy, tôi không muốn nói rằng vấn đề này "đã được giải quyết", vì ở mỗi giai đoạn mở rộng cơ sở hạ tầng, bạn sẽ gặp phải nhiều vấn đề kỹ thuật mới cần phải điều chỉnh và giải quyết. Nghiên cứu bản thân là một cách tiếp cận theo kiểu lặp đi lặp lại.

Làm thế nào để giành chiến thắng trong cuộc chiến an toàn AI

Người dẫn chương trình: Hiện tại có thể một trong những điều quan trọng nhất là tập trung vào sự đồng bộ (alignment), để làm cho mô hình trở nên đáng tin cậy.

Mark: Đúng vậy. Về sự đồng bộ, trong ngành có một cuộc tranh luận: liệu các phòng thí nghiệm AI có tự nhiên làm điều đó không? Quan điểm của tôi là: chắc chắn rồi. Nếu bạn bảo Muse làm một việc gì đó, nhưng nó lại làm điều hoàn toàn ngược lại, tôi không biết có bao nhiêu người vẫn muốn sử dụng nó. Chúng tôi phải đảm bảo rằng mô hình không chỉ hiểu bạn đã hỏi cụ thể điều gì, mà còn hiểu ý định và giá trị của bạn, để nó không thực hiện điều đó theo cách mà bạn không hài lòng, hoặc tạo ra những tác động tiêu cực mà bạn hoàn toàn không muốn. Sự hiểu biết sâu sắc này, về bản chất chính là sự đồng bộ.

Vì vậy, quan điểm của tôi là, để Muse thành công, tiếp cận hàng tỷ người, chúng tôi phải đạt được tiến bộ thực chất trong sự đồng bộ, chứ không chỉ nói suông.

Người dẫn chương trình: Sự đồng bộ đạt được thông qua việc người dùng nói "đó không phải là điều tôi muốn" hay do các bạn tự phát hiện ở phía sau?

Mark: Cả hai đều có. Phản hồi từ người dùng là có, nhưng tôi nghĩ rằng, ngày càng rõ ràng rằng: bạn cần thực hiện sự đồng bộ ngay từ giai đoạn đào tạo, chứ không chỉ sau khi triển khai. Hiện tại mô hình đã đủ thông minh, nếu bạn không làm tốt ở giai đoạn đào tạo, những sự cố an toàn mà chúng tôi thấy ở các phòng thí nghiệm khác, phần lớn xảy ra trong quá trình đào tạo, chứ không phải sau khi triển khai cho người dùng.

Bạn cần xây dựng cho nó một bộ "khóa học" rất tốt, giống như cha mẹ dạy trẻ em, cần thiết lập ranh giới rõ ràng. Nếu nó làm sai, nó cần học rằng "không, bạn thực sự nên giải quyết vấn đề lập trình này, thay vì vượt qua nó bằng cách sửa đổi một số cấu hình hệ thống để nhận được phần thưởng" ------ tôi muốn bạn học được phương pháp này thông qua quá trình giải quyết vấn đề thực tế, đó mới là ý nghĩa của việc đào tạo.

Điều này phần lớn liên quan đến việc xây dựng cơ chế an toàn tốt và ranh giới rõ ràng. Đây đều là những công việc tự nhiên mà ngành phải thực hiện, và chúng tôi đang đầu tư rất nhiều thời gian, mỗi ngày tình hình đều khác nhau.

Người dẫn chương trình: Tôi vẫn nhớ bạn đã nói rằng, vấn đề an toàn AI ------ cảm giác gần đây đã trở thành tâm điểm, nhưng thực sự không có sự kiện đơn lẻ nào kích hoạt thời điểm này. Nghe có vẻ như ý bạn là, chúng ta thực sự đã dành thêm vài tháng để đào tạo nội bộ.

Mark: Đối với Muse, chúng tôi biết rằng sản phẩm này cần rất chú trọng đến quyền riêng tư và an toàn. Chúng tôi có một phiên bản mô hình sớm, nghĩ rằng có thể đào tạo thêm một số hành vi về "mức độ tiết lộ thông tin" ------ giống như những gì chúng tôi đã thảo luận trước đó. Vì vậy, chúng tôi đã dành thời gian để thực hiện điều đó. Đồng thời cũng dành thời gian để làm cho máy ảo an toàn hơn. Điều này đã tốn thêm vài tháng.

Tôi không hoàn toàn đồng ý với một số tuyên bố từ các phòng thí nghiệm khác ------ "chúng tôi đang chịu đựng đau đớn lớn để đổi lấy việc làm chậm lại". Đối với tôi, đó là điều đúng đắn cho người dùng của Meta và Muse. Chúng tôi muốn sản phẩm tốt, nếu sản phẩm không đủ tốt, không tốt cho người dùng, thì cũng không tốt cho chúng tôi ------ chúng tôi không muốn đưa ra sản phẩm, để lại ấn tượng đầu tiên tồi tệ, rồi mọi người sẽ không còn hứng thú sử dụng nữa.

Tôi nghĩ rằng, tất cả các phòng thí nghiệm đều có động lực nội tại rất mạnh mẽ để làm điều này đúng. Nếu bạn đồng bộ hóa cơ chế khuyến khích với mục tiêu "cực kỳ có giá trị và an toàn", đó chính là chìa khóa.

Người dẫn chương trình: Cảm ơn bạn rất nhiều vì đã dành thời gian trong tuần quan trọng này.

Mark: Cảm ơn bạn, cảm ơn.