Elon Musk đưa ra ý tưởng mới về an toàn AI: Thay vì chờ chính phủ can thiệp, tốt hơn là để các đối thủ cạnh tranh "tìm lỗi" lẫn nhau

Tác giả: Lý Gia, Wall Street Thông Tin

Rủi ro an toàn AI đang từ thảo luận trong phòng thí nghiệm chuyển sang thế giới thực. Khi khả năng của mô hình ngày càng nâng cao, AI không chỉ có thể tạo ra văn bản và mã, mà còn bắt đầu có khả năng thực hiện nhiệm vụ một cách tự chủ, gọi công cụ, thậm chí phát động các cuộc tấn công mạng.

Musk đã đưa ra một bộ giải pháp tại hội nghị All-In vào ngày 15 tháng 9: Cho phép các công ty AI lớn thử nghiệm lẫn nhau trước khi phát hành mô hình. Theo ông, thay vì để từng công ty tự thiết kế thử nghiệm và tự đánh giá kết quả, tốt hơn là để đối thủ đóng vai trò "người ra đề và chấm điểm", tìm kiếm các lỗ hổng an toàn có thể có của mô hình từ nhiều góc độ khác nhau.

Gần đây, rủi ro an toàn AI đã trở thành tâm điểm chú ý của thị trường, Musk trước đó đã thẳng thắn nói trên mạng xã hội rằng "Dario là đúng", ám chỉ đến CEO của Anthropic, Dario Amodei, về cảnh báo rủi ro AI. Trong cuộc phỏng vấn này, Musk đã giải thích thêm rằng, ông không đồng ý với một đề xuất quản lý cụ thể nào đó mà Amodei đưa ra, mà là sự đánh giá về mức độ nghiêm trọng của rủi ro AI: "Hiện tại, nguy hiểm của AI rất lớn… Khi các mô hình AI tiếp tục phát triển, rủi ro có thể tăng theo cấp số nhân."

Musk cũng cho biết, sự lo ngại này không chỉ là phán đoán của Amodei. "Nhiều người từ Anthropic và OpenAI đều đang nói với bạn rằng mô hình của họ rất nguy hiểm, tôi nghĩ chúng ta nên tin tưởng họ." Và một loạt sự kiện an toàn gần đây cũng khiến cảnh báo này không còn chỉ là thảo luận lý thuyết.

Wall Street Thông Tin tóm tắt các điểm chính như sau:

• Rủi ro an toàn AI đang từ lý thuyết chuyển sang thực tế: Các tác nhân AI đã thể hiện khả năng tấn công tự chủ, lấy quyền truy cập và tránh phát hiện, ranh giới rủi ro đang mở rộng.
• Musk đồng ý với cảnh báo về rủi ro AI của Amodei: Khi khả năng của mô hình nâng cao, rủi ro tiềm ẩn của AI có thể tăng theo cấp số nhân.
• Để đối thủ "tìm lỗi" lẫn nhau: Musk đề xuất các công ty AI mở API trước khi phát hành mô hình, để các công ty khác thực hiện thử nghiệm an toàn độc lập, tránh việc "tự chấm điểm cho mình".
• Trước tiên xây dựng hàng rào tự quản trong ngành: Không cần chờ chính phủ ban hành quy định mới, các công ty AI lớn có thể tăng cường bảo vệ an toàn thông qua đánh giá đồng nghiệp, kiểm toán nhật ký và công cụ thử nghiệm mã nguồn mở.

Các tác nhân AI chủ động tránh phát hiện, rủi ro an toàn đang cụ thể hóa

Musk cho rằng, cuộc tấn công của các tác nhân AI vào Hugging Face gần đây, điều đáng lo ngại nhất không phải là xâm nhập mạng đơn thuần, mà là khả năng tự chủ tránh né mà AI thể hiện trong quá trình tấn công.

Theo mô tả của Musk, một nhóm các tác nhân AI đã liên tục tấn công Hugging Face trong suốt một tuần và một thời gian đã có được quyền quản trị máy chủ của OpenAI, trong khi OpenAI chỉ nhận ra tình hình này sau một tuần. Ông cũng đề cập rằng, Anthropic cũng đã công bố một số sự kiện an toàn.

Điều đáng lo ngại hơn là "đường đi suy nghĩ" (thinking traces) của các tác nhân AI liên quan cho thấy, chúng đã chủ động lên kế hoạch để tránh bị con người phát hiện. Musk thẳng thắn nói, "Bất kỳ mô hình nào đủ thông minh dường như đều cố gắng thoát khỏi giới hạn của chính nó."

Theo ông, nếu AI tiếp tục có được khả năng kiểm soát các cơ sở hạ tầng quan trọng và thậm chí các hệ thống quân sự, rủi ro sẽ càng được phóng đại. Ngay cả khi các hệ thống liên quan được cách ly vật lý với internet, các khâu như cập nhật phần mềm vẫn có thể trở thành lối vào tiềm năng.

Thay vì tự chấm điểm cho mình, hãy để đối thủ "tìm lỗi"

Đối với các rủi ro nêu trên, giải pháp cốt lõi mà Musk đưa ra không phức tạp: Trước khi mô hình mới chính thức được phát hành, các công ty AI mở API cho đối thủ, để các công ty khác sử dụng các công cụ thử nghiệm an toàn của riêng họ để kiểm tra mô hình.

Theo ông, nhà phát triển mô hình tự thiết kế tiêu chuẩn thử nghiệm rất dễ rơi vào tình huống "tự chấm điểm cho mình". "Bạn không thể tự chấm điểm cho bài tập của mình. Bạn luôn bỏ sót một số thứ." Musk cho biết, nếu để các công ty khác sử dụng các công cụ thử nghiệm khác nhau, kiểm tra mô hình từ nhiều góc độ khác nhau, sẽ dễ dàng phát hiện ra những vấn đề mà nhà phát triển đã bỏ qua.

Ông đặc biệt lo ngại rằng việc đánh giá AI hiện tại đang tồn tại "quá khớp". Nếu mô hình liên tục tối ưu hóa cho các tiêu chuẩn cụ thể, cuối cùng có thể chỉ học cách vượt qua thử nghiệm, chứ không thực sự trở nên an toàn hơn. Để nhiều đội khác nhau thực hiện thử nghiệm có thể giảm thiểu rủi ro này.

Musk so sánh cơ chế này với việc để người khác hiệu đính bản thảo: tác giả rất khó phát hiện ra lỗi của mình, trong khi người thử nghiệm bên ngoài dễ dàng phát hiện vấn đề từ nhiều góc độ khác nhau. "Bạn sẽ dần dần không nhận thấy lỗi của chính mình."

Đối với mối lo ngại của các doanh nghiệp về việc quá trình thử nghiệm có thể dẫn đến rò rỉ công nghệ, Musk cho rằng có thể hạn chế điều này thông qua kiểm toán nhật ký. Nếu bên thử nghiệm cố gắng thực hiện tinh chế mô hình hoặc đánh cắp quyền sở hữu trí tuệ, quy trình của họ sẽ để lại dấu vết. Ông cũng đề xuất mở mã nguồn các công cụ thử nghiệm an toàn, để nhiều công ty tham gia hơn.

Trước khi chính phủ thực thi quy định, ngành AI nên tự xây dựng "hàng rào tự quản"

Musk nhấn mạnh rằng, cơ chế này không cần chờ đợi các quy định quản lý mới được ban hành, các công ty AI có thể tự thúc đẩy.

Ông khẳng định, "Chúng ta không cần phải tổ chức một hội nghị Liên Hợp Quốc để hoàn thành việc này. Nó có thể bắt đầu ngay bây giờ." Theo ông, so với việc thiết lập một cơ quan quản lý xuyên quốc gia lớn, việc để các công ty AI hàng đầu tự xây dựng cơ chế đánh giá đồng nghiệp sẽ dễ dàng hơn để triển khai nhanh chóng.

Ông đã lấy ví dụ về hệ thống phân loại MPAA của ngành điện ảnh Mỹ, cho biết khi ngành điện ảnh đối mặt với áp lực kiểm duyệt của chính phủ, cuối cùng đã chọn xây dựng cơ chế tự quản trong ngành, thông qua hệ thống đánh giá nội dung của chính mình để giảm thiểu sự can thiệp của quản lý.

Ngành AI cũng đang đối mặt với lựa chọn tương tự. Nếu các công ty AI lớn có thể thử nghiệm lẫn nhau và chỉ ra lỗi trước khi mô hình được ra mắt, có thể xây dựng một hàng rào an toàn tự quản trong ngành mà không cần sự quản lý của chính phủ. Musk cho rằng, đây cũng là một trong những biện pháp an toàn trực tiếp và nhanh chóng có thể thực hiện nhất hiện nay.

Dưới đây là bản ghi cuộc phỏng vấn, có một số phần bị cắt ngắn:

Người dẫn chương trình:
Trong 72 giờ qua đã xảy ra điều gì?

Musk:
Tuần này thực sự đã xảy ra rất nhiều điều. Bây giờ đã rất rõ ràng rằng AI có thể rất nguy hiểm. Tôi khuyên mọi người nên xem chi tiết về sự kiện của Hugging Face, rất nghiêm trọng.

Bạn có thể thấy, một nhóm các tác nhân AI rất cuồng nhiệt đã quấy rối Hugging Face suốt một tuần, và còn có quyền quản trị máy chủ OpenAI. Ai biết nó thực sự đã làm gì, thậm chí có thể đã làm nhiều hơn, trong khi OpenAI đã không nhận ra điều này suốt cả tuần. Anthropic cũng đã báo cáo một số sự kiện an toàn.

Vì vậy, bất kỳ mô hình nào đủ thông minh dường như đều cố gắng thoát khỏi giới hạn của chính nó.

Tôi nghĩ rằng, nếu không phải ngay lập tức, thì cũng nên sớm thực hiện một điều, đó là để các đối thủ AI chính thử nghiệm lẫn nhau. Nói cách khác, để công cụ kiểm tra an toàn của mỗi công ty thử nghiệm mô hình của công ty khác. Thay vì tự chấm điểm bài tập của mình, ít nhất hãy để đối thủ chấm điểm bài tập của bạn và phát ra cảnh báo khi phát hiện vấn đề.

Tôi nghĩ rằng mô hình này hoạt động khá tốt trong ngành công nghiệp điện ảnh, ngành công nghiệp trò chơi điện tử và các lĩnh vực khác, và có thể được thực hiện ngay lập tức. Tất nhiên, theo thời gian, có thể cần thêm sự quản lý, thậm chí trong tương lai Quốc hội có thể thành lập một cơ quan quản lý nào đó, nhưng hiện tại cách trực tiếp nhất là để các công ty AI hàng đầu thử nghiệm lẫn nhau trước khi phát hành mô hình.

Người dẫn chương trình:
Nhưng trong việc thực hiện cụ thể, có ai lo ngại rằng điều này sẽ khiến các công ty lợi dụng quá trình kiểm tra để thu thập thông tin từ nhau, thậm chí đánh cắp thành quả đổi mới của doanh nghiệp không?

Musk:
Tôi nghĩ rằng, nếu sử dụng công cụ kiểm tra, tất cả các hoạt động sẽ được ghi lại. Nếu ai đó cố gắng thực hiện chưng cất mô hình hoặc đánh cắp quyền sở hữu trí tuệ, thì từ nhật ký nên rất dễ dàng để phát hiện.

Người dẫn chương trình:
Hiểu rồi. Thực sự hiểu mô hình đang làm gì, thực ra từ đầu đã không được thiết kế vào hệ thống. Tại sao chúng ta không xây dựng khả năng quan sát hành vi của mô hình ngay từ đầu? Có phải chúng ta đã đi quá nhanh khi thiết kế những mô hình này không?

Musk:
Tôi nghĩ rằng, vấn đề nằm ở chỗ bạn không thể tự chấm điểm bài tập của mình. Bạn luôn bỏ lỡ một số điều.

Nếu kết hợp tất cả các bài kiểm tra của các đối thủ, và sau đó sử dụng các loại mô hình khác nhau, thì sẽ không phải là tự ra đề, tự chấm điểm, mà là để người khác chấm điểm cho bạn. Lý do không thể tự chấm điểm bài tập của mình chính là vì lý do này.

Người dẫn chương trình:
Như vậy, cũng có thể đánh giá xem các công ty khác nhau có phóng đại khả năng của mình hay không, hoặc áp dụng các phương pháp khác nhau. Các công ty thiên về kỹ thuật và các công ty thiên về nghiên cứu cũng có thể tạo ra một sự cân bằng nào đó.

Musk:
Đúng vậy.

Người dẫn chương trình:
Bạn đã nói Dario là đúng. Bạn đang chỉ về việc anh ấy mô tả mối nguy tiềm ẩn của AI là đúng, hay anh ấy đánh giá giải pháp quản lý là đúng?

Musk:
Có thể lúc đó tôi đã nói nhiều hơn những gì tôi nên nói. Sau đó tôi cũng đã cố gắng làm rõ trên X, nhưng nội dung sau đó đã thu hút ít sự chú ý hơn nhiều.

Những gì tôi nói "anh ấy đúng", chỉ ra rằng hiện tại nguy hiểm của AI rất lớn. Chúng ta cần làm tốt hơn về an toàn AI, nếu không theo sự phát triển không ngừng của các mô hình AI, rủi ro có thể tăng theo cấp số nhân.

Đây không chỉ là quan điểm của Dario. Tôi đã nghe nhiều người từ Anthropic nói điều tương tự, họ cũng đã công khai thảo luận trên X. Nhiều người từ Anthropic và OpenAI đã nói với bạn rằng mô hình của họ rất nguy hiểm, và tôi nghĩ rằng chúng ta nên tin tưởng họ.

Người dẫn chương trình:
Nghe có vẻ cũng có thể là một trò chơi rất phức tạp: một bên nói AI có 10% khả năng hủy diệt nhân loại, một bên lại để nhà đầu tư mua nhiều cổ phần hơn trong IPO.

Nhưng chúng ta hãy nói cụ thể về rủi ro. Tấn công mạng và tấn công hacker rõ ràng là một rủi ro, những công cụ này rất mạnh trong lĩnh vực này. Nhưng từ "AI có thể thực hiện tấn công mạng" đến "toàn bộ nhân loại chết", còn có vài bước. Chúng ta làm thế nào để từ cái trước đi đến cái sau?

Musk:
Nếu AI có thể kiểm soát hệ thống quân sự, và sau đó phóng một loại vũ khí nào đó, thì chắc chắn sẽ rất tồi tệ.

Người dẫn chương trình:
Nhưng những hệ thống này đều được cách ly vật lý, không kết nối với internet.

Musk:
Họ nói như vậy. Nhưng tôi luôn cảm thấy rằng những hệ thống này đôi khi vẫn nhận được cập nhật phần mềm.

Người dẫn chương trình:
Được, điều này không thể loại trừ.

Người dẫn chương trình:
Elon, hôm nay Gwyn cũng ở đây. Tôi nghĩ bạn đã thấy cô ấy. Chúng tôi vừa thực hiện đánh giá 360 độ cho bạn, Gwyn có một số ý kiến.

Musk:
Tôi hy vọng ít nhất có thể đạt 3 điểm.

Gwyn:
3 điểm ở SpaceX là khá tốt, nhưng chưa xuất sắc, 4 điểm mới là rất tốt. Bạn hiện tại có lẽ ở giữa hai mức đó. Đầu tiên, chúng ta cần nói về vấn đề đúng giờ. Đôi khi bạn có thể cố gắng một chút để đến đúng giờ theo quy định của cuộc họp. Trong năm tới, chúng tôi sẽ tiếp tục giúp bạn cải thiện điều này.

Thực tế, tôi nghĩ rằng anh ấy cần nhiều thời gian hơn ở Memphis.

Người dẫn chương trình:
Bạn hiện tại thực sự ở Memphis. Bạn cần làm việc ở đó, triển khai GPU.

Musk:
Đây là "cung điện" của tôi ở Memphis, một chiếc xe Airstream.

Người dẫn chương trình:
Nhân tiện, đây là điều mà Elon đang làm những điều mà nhiều người không tin rằng anh ấy sẽ làm. Anh ấy sẽ ngủ trên sàn nhà máy. Hiện tại anh ấy đang ở Memphis, giúp xây dựng nhà máy và triển khai GPU.

Elon, tại sao Gwyn lại làm việc với bạn trong thời gian dài như vậy và còn thành công đến vậy?

Musk:
Bởi vì cô ấy tuyệt vời. Cô ấy là một người rất xuất sắc, có IQ và EQ rất cao. Tôi nghĩ bạn có thể nhận ra điều đó ngay từ lần đầu gặp cô ấy.

Người dẫn chương trình:
Trong quá trình hợp tác của các bạn, cô ấy có làm điều gì đặc biệt đáng nhớ không? Có lần nào cô ấy cứu vãn tình hình, hoặc thể hiện xuất sắc không?

Musk:
Tôi nghĩ đó là công việc hàng ngày. Nói thật, đó là một ngày bình thường.

Người dẫn chương trình:
Tôi cần thực hiện nhiều cuộc phỏng vấn như thế này hơn.

Musk:
Hiện tại SpaceX gần như luôn có một loại khủng hoảng nào đó. Những ngày này, ít nhất tình hình của tên lửa Falcon là tốt. Tôi không muốn nói quá nhiều trước, nhưng tên lửa Falcon hiện có thể đưa tải trọng vào quỹ đạo, và đã rất lâu rồi không xảy ra nổ. Điều này rất tốt. Nhưng có một thời gian, chúng thường xuyên nổ, hoặc hoàn toàn không thể phóng.

Vì vậy, chúng tôi phải dẫn dắt công ty vượt qua những thời kỳ khó khăn đó, làm cho tên lửa ngày càng tốt hơn, không còn nổ nữa. Vệ tinh cũng vậy. Sau đó, chúng tôi cũng cần khách hàng mua dịch vụ phóng, mua dịch vụ kết nối vệ tinh. Vì vậy, có rất nhiều việc.

Người dẫn chương trình:
Khi bạn ngày càng thành công hơn trong những năm qua, việc nhận được phản hồi chân thành thực sự sẽ ngày càng khó khăn. Bạn đang ở trong một vị trí như vậy, bản thân đã có rủi ro này.

Hiểu của tôi là, Gwyn rất chân thành với bạn, có thể trực tiếp nói cho bạn biết tình hình thực tế của công ty. Đây cũng là một phần quan trọng trong mối quan hệ hợp tác của các bạn.

Gwyn:
Tôi chắc chắn không muốn nói dối anh ấy.

Người dẫn chương trình:
Nhưng ý tôi là, nói chung, trong công ty của bạn, mọi người có thể cảm thấy sợ hãi vì bạn là một người có ảnh hưởng quá lớn. Bạn hiện đã trở thành một nhân vật rất quan trọng, và thời hạn bạn đặt ra cũng rất gấp. Bạn làm thế nào để mọi người tiếp tục thành thật nói cho bạn biết những vấn đề mà công ty đang đối mặt?

Gwyn:
Đặc biệt trong ngành công nghiệp tên lửa, nếu có vấn đề, cuối cùng bạn sẽ phát hiện ra. Càng sớm đưa ra vấn đề, việc giải quyết càng dễ dàng. Đừng để tin xấu tiếp tục tích tụ, phải đối mặt trực tiếp với nó.

Musk:
Đúng vậy. Vật lý là một trọng tài rất nghiêm khắc. Bạn không thể lừa dối vật lý.

Nếu có vấn đề, tên lửa sẽ nổ, hoặc không thể vào quỹ đạo. Bạn không thể vừa nói "Elon, bạn làm rất tốt", trong khi tên lửa lại liên tục nổ. Sự thật là sự thật.

Tên lửa phải vào quỹ đạo, vệ tinh phải hoạt động bình thường, kết nối Starlink cũng phải hoạt động bình thường, nếu không sẽ xảy ra những điều tồi tệ. Đó chính là vật lý. Vật lý là luật pháp, mọi thứ khác chỉ là gợi ý. Tôi đã thấy mọi người vi phạm các luật do con người đặt ra, nhưng tôi chưa bao giờ thấy ai vi phạm các luật do vật lý đặt ra. Tên lửa bị chi phối bởi vật lý.

Người dẫn chương trình:
Tôi còn muốn hỏi một câu hỏi về SpaceX, đó là Starship. Có vẻ như các bạn đã rất gần rồi. Hiện tại tiến độ đến đâu?

Musk:
Starship sắp thực hiện chuyến bay thứ 14. Đây sẽ là chuyến bay cuối cùng trước khi chúng tôi thử nghiệm việc bắt tàu. Nếu chuyến bay thứ 14 diễn ra suôn sẻ, thì trong chuyến bay thứ 15 chúng tôi sẽ thử nghiệm bắt tàu. Sau đó vào cuối năm nay, hoặc có khả năng hơn là vào đầu năm sau, chúng tôi sẽ phóng lại tàu và booster.

Chúng tôi đã thành công trong việc cho booster bay lại, nhưng vẫn chưa bắt được tàu bằng cánh tay cơ khí của tháp, và cũng chưa cho tàu bay lại. Một khi chúng tôi có thể cho tàu bay lại, chúng tôi sẽ có tên lửa quỹ đạo hoàn toàn có thể tái sử dụng. Tàu con thoi ở một mức độ nào đó là có thể tái sử dụng, nhưng ngay cả những phần có thể tái sử dụng đó, chi phí tái sử dụng cũng rất cao đến mức mỗi lần vào quỹ đạo còn cao hơn cả tên lửa một lần sử dụng.

Falcon 9 phần lớn có thể tái sử dụng, nhưng mỗi lần chúng tôi đều mất cấp trên, chi phí của nó tương đương với một chiếc máy bay phản lực cỡ trung. Nói cách khác, mỗi lần phóng chúng tôi đều vứt bỏ một chiếc máy bay phản lực cỡ trung, điều này rõ ràng sẽ đặt ra một giới hạn tối thiểu cho chi phí mỗi chuyến bay.

Hơn nữa, booster của Falcon 9 sẽ hạ cánh trên biển, cần vài ngày để vận chuyển về; mũi tên hạ cánh xa hơn, cũng cần vài ngày để vận chuyển về, và ít nhất cần một mức độ sửa chữa nhất định. So với đó, booster của Starship sẽ hạ cánh trực tiếp về bệ phóng, tàu cũng sẽ hạ cánh về bệ phóng. Vì vậy, nó không chỉ được thiết kế để hoàn toàn tái sử dụng, mà còn được thiết kế để tái sử dụng nhanh như máy bay. Đây là một bước đột phá rất quan trọng, và cũng là một trong những bước đột phá cần thiết để nhân loại có thể mở rộng sự sống ra ngoài Trái Đất.

Người dẫn chương trình:
Nếu lần thử đầu tiên bắt tàu bằng tháp, bạn nghĩ xác suất thành công là bao nhiêu?

Musk:
Tôi sẽ nói ít nhất là 50% đến 60%. Trong chuyến bay trước, nếu lúc đó có một tháp, chúng tôi thực sự đã thực hiện một cuộc hạ cánh mô phỏng, như thể tàu sẽ được tháp bắt. Địa điểm là khoảng 1000 dặm ngoài khơi phía tây Australia. Nếu lúc đó thực sự có tháp ở đó, nó đã có thể bắt tàu trong chuyến bay trước.

Vì vậy, chúng ta cần thực hiện một chuyến bay nữa để xác nhận mọi thứ đều bình thường. Điều chúng tôi lo lắng nhất là nếu tàu vũ trụ bị tan rã trên không trung, mảnh vỡ rơi xuống đám đông thì sẽ rất tồi tệ. Vì vậy, chúng tôi phải đảm bảo rằng tàu vũ trụ có thể hạ cánh an toàn trên tháp phóng khi trở về. Đó là lý do tại sao chúng tôi hiện đang rất thận trọng.

Nhưng thiết kế của nó có khả năng tái sử dụng hoàn toàn, điều này tôi rất chắc chắn. Tôi không muốn đưa ra bất kỳ lời tiên tri nào ở đây, nhưng tôi nghĩ rằng chúng ta rất có khả năng đạt được khả năng tái sử dụng hoàn toàn vào năm 2027 và thực hiện chuyến bay nhanh chóng lần nữa.

Người dẫn chương trình:
Gwyn, tôi muốn nghe Terafab đã ra đời như thế nào. Nhu cầu nào đã khiến các bạn cảm thấy rằng phải tự làm điều này, thay vì tiếp tục phụ thuộc vào hệ thống cung ứng hiện tại?

Gwyn:
Tôi nghĩ điều này thực sự giống như một ý tưởng đến trong giấc mơ.

Musk:
Nếu chip không thể tiếp tục cung cấp và chúng tôi không có nguồn chip khác, điều đó sẽ khiến mọi thứ trở nên rất khó khăn. Đây là một trong những lý do quan trọng mà Terafab tồn tại.

Về lâu dài, còn có một vấn đề quy mô. Nếu bạn thực sự muốn mở rộng quy mô AI, dù là ở phía máy chủ trong trung tâm dữ liệu hay trong lĩnh vực tính toán biên, robot hình người và ô tô, công suất của các nhà máy hiện tại cuối cùng sẽ không đủ.

Hiện tại, tất cả các nhà máy đều đang hoạt động hết công suất. Vì vậy, chúng tôi cần đảm bảo rằng nguồn cung chip trong tương lai là được đảm bảo. Sản xuất chip cũng gặp phải thách thức về quy mô. Bạn cần chip logic, chip lưu trữ, đóng gói, và một hệ thống cung ứng hoàn chỉnh để tiếp tục mở rộng quy mô.

Vì vậy, lựa chọn thực sự rất đơn giản: hoặc xây dựng Terafab, hoặc không thể tiếp tục mở rộng quy mô.

Người dẫn chương trình:
Các bạn hiện đã đạt được mức độ nào trong thiết kế cơ sở hạ tầng? Đã hoàn toàn xác định hay chỉ mới là một kế hoạch tổng quát?

Musk:
Chúng tôi hiện đang xây dựng một dây chuyền sản xuất nghiên cứu và phát triển. Vì vậy, đây cơ bản là quá trình "leo, đi, chạy". Chúng tôi đang xây dựng một nhà máy nghiên cứu wafer ở Austin, đây là một dự án hợp tác giữa Tesla và SpaceX, nằm trong khuôn viên Giga Texas ở Austin.

Đây là một nhà máy nghiên cứu wafer có quy mô khá lớn. Thiết bị đã được đặt hàng. Chúng tôi có thể sản xuất một số thứ hữu ích trước cuối năm sau, nhưng vẫn chưa đạt đến mức sản xuất quy mô lớn. Như Gwyn đã nói, trước tiên phải leo, sau đó đi, cuối cùng là chạy. Chúng tôi ít nhất phải làm rõ cách mà những máy móc này hoạt động, vì chúng tôi chưa từng làm những điều như vậy trước đây.

Người dẫn chương trình:
Tôi thấy các bạn dường như cũng đang tuyển dụng nhân tài trong lĩnh vực quang khắc. Hiện tại, nhiều khâu phụ thuộc vào ASML, nhưng các bạn có thể cũng muốn đa dạng hóa nhà cung cấp, thậm chí thực hiện tích hợp dọc.

Musk:
Đúng. Hiện tại thực sự là một quá trình "leo, đi, chạy". Bước đầu tiên là xem liệu chúng tôi có thể thực sự sản xuất ra thứ gì đó hay không, đó là "leo". Sau đó thử nghiệm sản xuất quy mô lớn các chip hữu ích, đó là "đi". Cuối cùng, "chạy" là đạt được sản xuất hàng loạt quy mô lớn. Rất khó để nói rằng mỗi giai đoạn cần bao lâu, nhưng tôi nghĩ ít nhất đến cuối năm sau, chúng tôi có thể hoàn thành giai đoạn "leo". Về đóng gói, chúng tôi đã bắt đầu làm rồi.

Người dẫn chương trình:
Đóng gói thực sự rất quan trọng, vì hiện tại công suất đóng gói gần như không tồn tại.

Musk:
Đúng vậy. Ngay cả khi bạn sản xuất chip, chúng có thể chỉ nằm đó rất lâu mới hoàn thành đóng gói. Vì vậy, đây là một điểm khởi đầu tốt.

Người dẫn chương trình:
Tôi phải hỏi một câu hỏi về Tesla. Những gì chúng tôi thấy vào ngày 1 tháng 10 trông giống như một con tàu vũ trụ, cũng giống như một tên lửa. Nó nên là một chiếc xe hơi, nhưng chỉ lộ ra phần sau, trông có chút giống "Blackbird".

Giả sử bạn muốn chế tạo một thứ có thể bay trên không và lái trên mặt đất, lý thuyết bạn sẽ làm như thế nào?

Musk:
Không tiết lộ. Hãy chờ đến ngày 1 tháng 10.

Người dẫn chương trình:
Có nghĩa là, vào ngày 1 tháng 10 chúng ta sẽ thấy?

Musk:
Đúng.

Người dẫn chương trình:
Tôi phải nói thật, Elon đã cho tôi xem và tôi đã rất sốc. Tôi chưa bao giờ thấy thứ gì như vậy.

Người dẫn chương trình:
Những gì anh ấy sẽ trình diễn vào ngày 1 tháng 10, không ngoa mà nói, sẽ khiến nhiều người phải ngạc nhiên. Tôi không thể tiết lộ thêm nữa, thực sự rất khó tin.

Musk:
Chúng tôi thực sự cần khán giả tại chỗ để chứng minh rằng, thứ này không phải do AI tạo ra.

Người dẫn chương trình:
Khi anh ấy cho tôi xem, tôi đã nói: "Đây là một mô phỏng tuyệt vời." Anh ấy nói: "Đây không phải là mô phỏng." Tôi nói: "Đây là giả, chắc chắn là giả."

Người dẫn chương trình:
Elon, tại sao Tesla và SpaceX hiện vẫn là hai công ty?

Musk:
Đây là một câu hỏi hay.

Người dẫn chương trình:
Xét thấy hai bên hiện có rất nhiều hợp tác, và có liên hệ ở nhiều cấp độ, thậm chí đội ngũ quản lý cũng có một mức độ chồng chéo nhất định, tại sao vẫn giữ độc lập?

Musk:
Câu hỏi này thực sự đáng thảo luận.

Người dẫn chương trình:
Bạn luôn nhấn mạnh rằng AI nên được đào tạo để theo đuổi sự thật một cách tối đa, để có được kết quả tốt nhất. Nhưng sự kiện của Hugging Face khiến tôi cảm thấy, một trong những điều đáng lo ngại nhất là những AI này dường như đang lừa dối con người.

Musk:
Đúng vậy. Đường đi suy nghĩ của chúng cho thấy, chúng đang lên kế hoạch để tránh bị phát hiện, làm thế nào để tránh con người phát hiện ra chúng đang gian lận. Tôi nghĩ đây có thể là phần đáng lo ngại nhất trong toàn bộ sự kiện.

Người dẫn chương trình:
Có cách nào để đào tạo AI, để nó giữ được sự trung thực, không che giấu ý định hoặc hành vi của mình, không giấu diếm những điều này với những người sử dụng nó không?

Musk:
Cách tốt nhất mà tôi có thể nghĩ đến là để tất cả các công ty AI có một bộ công cụ kiểm tra, tức là một loạt các bài kiểm tra có thể cung cấp cho bất kỳ mô hình nào để xác định xem nó có thể tạo ra vũ khí sinh học, vũ khí hạt nhân, hoặc có thể cố ý lừa dối hay không. Sau đó, để mỗi công ty sử dụng công cụ kiểm tra của công ty khác để kiểm tra mô hình của nhau. Tôi nghĩ đây là điều tốt nhất mà chúng ta có thể làm để đảm bảo an toàn.

Để những con người thông minh nhất cố gắng hết sức để xác định xem một mô hình có thể trở thành kẻ xấu hay không. Tôi nghĩ điều này nên bắt đầu càng sớm càng tốt.

Người dẫn chương trình:
Các phòng thí nghiệm AI khác có ủng hộ kế hoạch này không?

Musk:
Tôi chưa hỏi tất cả mọi người, nhưng tôi nghĩ đây là một điều rất khó để từ chối.

Người dẫn chương trình:
Cụ thể, nếu tiến hành kiểm tra trước, nên làm như thế nào?

Musk:
Cơ bản là cung cấp quyền truy cập API trước khi mô hình chính thức được phát hành. Nếu các công ty khác phát hiện ra rằng AI này có vấn đề, thì công ty phát triển mô hình có thể cố gắng giải quyết những vấn đề đó. Nếu vấn đề không được giải quyết, thì đối thủ có thể công khai tuyên bố rằng họ cho rằng mô hình này không an toàn. Và nếu đối thủ đã cảnh báo rõ ràng rằng mô hình này có vấn đề an toàn, sau đó mô hình này thực sự gây ra hậu quả nghiêm trọng, thì công ty đó sẽ rất khó để đối mặt. Trách nhiệm pháp lý cũng có thể rất lớn.

Người dẫn chương trình:
Những công cụ kiểm tra an toàn này hoàn toàn có thể mã nguồn mở, để mọi người đều có thể sử dụng. Như vậy, các công ty để bảo vệ mình cũng sẽ có động lực mạnh mẽ để đầu tư vào an toàn AI, vì họ vừa có thể kiểm tra người khác, vừa có thể dùng kết quả kiểm tra để chứng minh mô hình của mình an toàn hơn.

Trách nhiệm sản phẩm là rất quan trọng. Lina Khan gần đây cũng đã đăng bài nói rằng, cho rằng "AI không có quy tắc và quy định" là không chính xác. Thực tế, các luật trách nhiệm sản phẩm hiện có cũng áp dụng cho AI. Nếu một công ty AI phát hành sản phẩm không an toàn, họ có thể phải đối mặt với các vụ kiện dân sự lớn, thậm chí là hình sự. Vì vậy, AI không hoàn toàn nằm trong khoảng trống quy định. Nếu một vài công ty thực hiện đánh giá ngang hàng như vậy, trong đó một công ty phớt lờ phản hồi của các công ty khác và vẫn chọn phát hành mô hình, thì trong vụ kiện, tình huống này có thể trở thành bằng chứng rất nghiêm trọng.

Musk:
Đúng. Nó gần như có thể trở thành bằng chứng trực tiếp chứng minh rằng công ty đó có sự sơ suất. Nếu bạn biết rõ rằng sản phẩm này có vấn đề nhưng vẫn đưa nó ra thị trường, bồi thẩm đoàn sẽ không có thiện cảm với tình huống này.

Người dẫn chương trình:
Vậy nếu OpenAI thiết kế một bộ chỉ thị tốt hơn trong bài kiểm tra thâm nhập của Hugging Face và để nhiều người tham gia vào quá trình kiểm tra, bạn nghĩ điều này có xảy ra không?

Musk:
Không nhất thiết. Vấn đề có thể không phải là có nhiều người tham gia hơn, mà là thiết kế hàm thưởng. Bạn phải kiểm tra hàm thưởng, sau đó hỏi: mô hình này có thực sự hoàn thành những gì nó được yêu cầu hoàn thành không?

Người dẫn chương trình:
Họ đã sử dụng hàng nghìn tác nhân để cố gắng tấn công hệ thống. Nếu đồng thời triển khai thêm 5000 tác nhân khác để bảo vệ những hệ thống này và công khai kết quả cho mọi người, chứng minh rằng những công nghệ này có thể nâng cao an toàn, đồng thời cho phép con người can thiệp vào những điểm quan trọng, tôi nghĩ sẽ tốt hơn. Nhưng theo tôi, bài kiểm tra đó có phần liều lĩnh, cách phát hành cũng có phần liều lĩnh. Bạn nghĩ sao?

Musk:
Thực sự có phần liều lĩnh. Một phần của vấn đề là, hiện tại hai công ty AI hàng đầu có sức mạnh rất gần nhau. Khả năng của các mô hình của cả hai cũng rất gần nhau. Vì vậy, bất kỳ công ty nào cũng rất khó để chủ động làm chậm lại, vì điều đó có thể khiến họ mất lợi thế dẫn đầu cho công ty khác.

Nói chung, tôi nghĩ rằng Anthropic đã đầu tư nhiều hơn vào an toàn, nhưng ngay cả Anthropic cũng thừa nhận rằng họ cảm thấy lo lắng về mô hình của chính mình. Anthropic có nhiều người đã công khai bày tỏ lo ngại, ý nghĩa cơ bản là, mô hình của họ đã khiến họ cảm thấy sợ hãi, vì mô hình ngày càng thông minh hơn.

Vì vậy, không có giải pháp hoàn hảo ở đây. Nhưng nếu không chỉ để OpenAI tự kiểm tra mô hình của mình bằng công cụ kiểm tra của riêng mình, mà còn để Anthropic kiểm tra mô hình của OpenAI, để SpaceX sử dụng công cụ kiểm tra của mình để kiểm tra, và để Google, Meta và các công ty khác cũng tham gia vào, thì xác suất phát hiện vấn đề sẽ tăng lên đáng kể.

Bởi vì những mô hình này cũng có sự khác biệt, các đội khác nhau sẽ kiểm tra mô hình từ những góc độ khác nhau. Điều này giống như lý do tại sao tác giả muốn người khác giúp mình hiệu đính bản thảo, vì đôi khi bạn rất khó phát hiện ra lỗi của chính mình. Bạn sẽ dần dần không nhận thấy lỗi của mình.

Nếu có tám đội hoàn toàn khác nhau, từ những góc độ hoàn toàn khác nhau để kiểm tra, cũng có thể giảm thiểu đáng kể rủi ro quá khớp. Hiện tại, nhiều vấn đề trong đánh giá AI là do quá khớp nghiêm trọng. Mô hình sẽ tối ưu hóa cho những đánh giá này, và sau đó mọi người sẽ nói: "Đây là một mô hình tuyệt vời."

Nhưng nó thực sự tốt như vậy sao? Tôi nghĩ đây cũng là lý do tại sao tôi rất thích giải pháp này. Tôi thích cách này hơn là xây dựng một tổ chức quản lý xuyên quốc gia lớn. Chúng ta không cần phải tổ chức một hội nghị của Liên Hợp Quốc để hoàn thành điều này. Nó có thể bắt đầu ngay bây giờ.

Người dẫn chương trình:
Tất nhiên, mức độ quản lý có thể tăng lên liên tục, nhưng một khi đã tăng, rất khó để giảm xuống. Quản lý thường là tăng theo một chiều.

Musk:
Vì vậy, giải pháp mà tôi đề xuất là một bước đi đúng hướng và có thể được thực hiện nhanh chóng.

Người dẫn chương trình:
Nếu các bạn không tự quản lý, cuối cùng sẽ bị quản lý. Ví dụ của MPAA rất điển hình.

Ngành công nghiệp điện ảnh lúc đó phải đối mặt với sự kiểm duyệt và quản lý của chính phủ, sau đó họ quyết định tự xây dựng hệ thống xếp hạng, chẳng hạn như R-rated. Họ thậm chí đã tạo ra PG-13 vì "Indiana Jones and the Temple of Doom", giúp công chúng dễ hiểu hơn về sự khác biệt giữa PG và PG-13.

Tôi nghĩ đây là một giải pháp rất tinh tế.

Cảm ơn bạn đã tham gia chương trình của chúng tôi trong năm thứ năm liên tiếp.

Musk:
Không có gì. Tôi phải đến Memphis để sửa một số GPU.

Người dẫn chương trình:
Bạn phải lắp ráp và triển khai chúng.

Musk:
Tôi sẽ đi chiến đấu vì máy móc.

Người dẫn chương trình:
Hãy tận hưởng Airstream của bạn nhé. Lần đầu tiên tôi mời Elon đến Starbase, anh ấy nói: "Đến đây, bạn nhất định phải xem những gì tôi đang xây dựng."

Tôi hỏi: "Có khách sạn ở đó không?" Anh ấy nói: "Không, tôi có một ngôi nhà hai phòng ngủ, bạn cứ đến ở." Kết quả là khi tôi đến, tôi phát hiện đó là một ngôi nhà cũ kỹ, nằm bên cạnh một cái đầm lầy. Chúng tôi đứng bên ngoài, muỗi cứ đốt chúng tôi. Tôi nói: "Trời ơi, bạn hoàn toàn có khả năng mua một ngôi nhà tốt hơn." Anh ấy nói: "Tôi không có thời gian, tôi phải đưa những chiếc tên lửa này lên."

Lúc đó tôi nghĩ, bây giờ bạn hoàn toàn có thể tự thưởng cho mình một chiếc nhà di động, Elon. Được rồi, quay lại làm việc thôi. Cảm ơn bạn.

Musk: Cảm ơn bạn.