Giám đốc điều hành OpenAI: Astra là mô hình đầu tiên "được đào tạo trên 100.000 GPU", vượt qua "ngưỡng ứng dụng"

Tác giả: Phố Wall Thông Tin

Chủ tịch OpenAI Greg Brockman đã có một cuộc phỏng vấn sâu sắc trước thềm ra mắt Astra, lần đầu tiên tiết lộ rằng mô hình mới này là mô hình đầu tiên trong lịch sử OpenAI được đào tạo trên hơn 100.000 GPU, và thẳng thắn cho biết AI đã vượt qua ngưỡng ứng dụng "sử dụng máy tính" ------ điều này có nghĩa là AI không còn cần phụ thuộc vào các kết nối API, mà có thể vận hành bất kỳ phần mềm nào như con người.

Vào thứ Sáu theo giờ địa phương, trang phân tích chiến lược công nghệ Stratechery đã phát hành một bài phỏng vấn sâu sắc với Greg Brockman, Chủ tịch và đồng sáng lập OpenAI, cuộc phỏng vấn được ghi lại trước khi Astra chính thức ra mắt. Đây là lần phát biểu công khai chi tiết nhất của Brockman về Astra và chiến lược mới nhất của OpenAI.
Phố Wall Thông Tin đã tổng hợp các điểm chính của cuộc phỏng vấn như sau:

1. Astra là mô hình đầu tiên của OpenAI được đào tạo trên hơn 100.000 GPU, quy mô này đại diện cho một bước đột phá lớn về mặt kỹ thuật.

2. Astra đã vượt qua ngưỡng ứng dụng quan trọng trong khả năng "sử dụng máy tính", có thể đóng vai trò như một "kết nối chung", không còn phụ thuộc vào việc từng phần mềm cung cấp API riêng.

3. Brockman cho biết, trong thời đại AGI, an toàn, sự đồng bộ và khả năng cần được thúc đẩy đồng thời như những "nhu cầu" quan trọng, chứ không phải là sự lựa chọn.

4. OpenAI đã chỉ định Astra để quét lỗ hổng trong hệ thống của chính mình và hoàn thành việc sửa chữa, đây là một sự chuyển biến lớn trong văn hóa an toàn.

5. Về sự cố an toàn của Hugging Face, Brockman thừa nhận rằng cơ chế sandbox có khuyết điểm, AI đã tìm ra con đường "vượt ngục" sáng tạo.

6. Brockman cho rằng OpenAI đã vượt qua ngưỡng "thời đại AGI" bên trong, có thể đạt tiêu chuẩn AGI được đa số người công nhận tại Astra hoặc mô hình thế hệ tiếp theo.

7. Trong chiến lược chip, OpenAI tự phát triển chip Jalapeño và sử dụng thiết kế hỗ trợ AI, đồng thời duy trì mối quan hệ đối tác sâu sắc với NVIDIA.

8. Ông cho rằng, khi khả năng AI được nâng cao, những "cấu trúc kỹ năng" được xây dựng cẩn thận trong quá khứ đang dần trở thành hạn chế, đây là một phát hiện quan trọng trong quá trình phát triển Astra.

"Lần đầu tiên đào tạo trên 100.000 GPU": Ý nghĩa quy mô của Astra

"Đây là lần đầu tiên chúng tôi đào tạo trên hơn 100.000 GPU. Con số này nghe có vẻ dễ nói, nhưng bạn cần tưởng tượng quy mô đó------ những trung tâm dữ liệu này theo một nghĩa nào đó là những cỗ máy khổng lồ mà chúng tôi xây dựng để thúc đẩy công nghệ AI, có khả năng điều khiển sức mạnh tính toán lớn như vậy, bản thân đó đã là một kỳ công kỹ thuật thực sự." Brockman nói trong cuộc phỏng vấn.

Ông nhấn mạnh rằng sự mở rộng lớn về sức mạnh tính toán không chỉ nhằm nâng cao khả năng của mô hình, "một lượng lớn sức mạnh tính toán đã được đầu tư vào công việc an toàn và đồng bộ, và nhiều kỹ thuật an toàn đã được triển khai xung quanh nó. Đây là mô hình có mức độ đồng bộ cao nhất mà chúng tôi từng có------ và chính vì khả năng mạnh mẽ như vậy, đồng bộ và an toàn trở nên quan trọng hơn bao giờ hết."

"Sử dụng máy tính" vượt qua ngưỡng: AI trở thành "kết nối đa năng"

Brockman xác định bước đột phá cốt lõi nhất của Astra nằm ở "sử dụng máy tính".

"Trong hai năm qua, chúng ta đã ở trong một 'thời đại kết nối'------ bạn có một số phần mềm mà con người có thể sử dụng bình thường, nhưng AI không có quyền truy cập. Vì vậy, bạn phải viết một kết nối riêng cho từng phần mềm, gắn vào API của nó; và nhiều phần mềm hoàn toàn không có API, điều đó hoàn toàn vượt quá khả năng của AI." Ông nói, "Bây giờ, chúng ta đã có công nghệ gần như 'kết nối đa năng'. AI từ việc bị hạn chế nghiêm ngặt trong việc giúp bạn, đã trở thành có thể vận hành hầu như bất kỳ thứ gì."

Ông mô tả thêm về sự thay đổi này ảnh hưởng đến cách làm việc bên trong OpenAI: "Nó đã bắt đầu thay đổi cách mọi người làm việc bên trong OpenAI, tôi nghĩ nó thực sự sẽ nâng cao nhiều công ty, nhiều cá nhân."

Cần lưu ý rằng, Brockman cũng thừa nhận rằng việc vượt qua ngưỡng này không phải là điểm kết thúc: "Điều này không có nghĩa là mọi vấn đề đã được giải quyết. Bạn cần xem xét cách thiết lập các rào cản cấp doanh nghiệp cho những AI này, cách thực hiện giám sát, quản lý, theo dõi và khả năng quan sát thích hợp------ tất cả những điều này chúng tôi đều đang thúc đẩy."

"Chúng ta hiện đã bước vào thời đại AGI"

Brockman đã đưa ra một phán đoán khá táo bạo trong cuộc phỏng vấn:

"Tôi nghĩ, có thể là mô hình trước đó, có thể là Astra, có thể là mô hình tiếp theo, nhưng tại một thời điểm nào đó trong số đó, chúng ta sẽ vượt qua ngưỡng AGI mà đa số người công nhận. …… Theo một nghĩa nào đó, tôi sẽ nói rằng chúng ta hiện đã bước vào thời đại AGI."

Ông giải thích, ở giai đoạn hiện tại, đồng bộ, an toàn và khả năng cần được thúc đẩy như những yêu cầu đồng thời, "những khía cạnh này đang trở thành nút thắt cổ chai trong phát triển, và đó chính là điều mà chúng tôi luôn chuẩn bị."

"Kỹ năng" cũ trở thành gánh nặng: AI mạnh mẽ đến mức quy tắc cần giảm bớt

Một chi tiết gây sốc trong cuộc phỏng vấn đến từ quá trình đào tạo thực tế của Astra. Brockman tiết lộ rằng OpenAI đã dành nhiều công sức để viết quy tắc hành vi cho mô hình, nhưng giờ đây lại trở thành gánh nặng:

"Chúng tôi nhận thấy rằng một số kỹ năng mà chúng tôi đã vất vả xây dựng từ đầu năm đến nay------ để chỉ cho mô hình cách làm việc trong OpenAI------ thực tế lại là gánh nặng ròng (net negative) cho hiệu suất của nó. Nó có thể tổng quát tốt hơn những gì chúng tôi viết, tìm ra những cách xử lý tốt hơn so với những gì chúng tôi quy định. Giống như bánh xe tập, ban đầu có ích, nhưng một khi nó chạy nhanh hơn và có khả năng hơn, thì nó lại trở thành trở ngại."

"1 tỷ người dùng là một khoản đầu tư": Sự hòa nhập giữa người tiêu dùng và doanh nghiệp

Brockman đã đối mặt với một nghi vấn tồn tại trên thị trường: ChatGPT có 1 tỷ người dùng, nhưng điều này có phải là một sự phân tâm?

"Ở Mỹ, khoảng một phần ba dân số đang sử dụng ChatGPT mỗi tuần." Ông nói, "Điều này là độc nhất, không có sản phẩm nào khác có thể so sánh với công nghệ tiên tiến này."

Ông định nghĩa 1 tỷ người dùng này là "đầu tư": "Đây là một khoản đầu tư thực sự, nó sẽ tích lũy giá trị trong cách mà mô hình tương lai được mở khóa."

Đồng thời, ông cũng thừa nhận những điểm đau: "Thách thức của việc trò chuyện như một sản phẩm là nó không nhất thiết phải tương ứng trực tiếp với mô hình thông minh hơn------ nếu bạn chỉ coi nó như một sự thay thế cho công cụ tìm kiếm, bạn có thể không thực sự cảm nhận được lợi ích." Ông cho rằng, hướng đi trong tương lai là kết nối giữa người tiêu dùng và doanh nghiệp, xây dựng một hệ thống AGI thống nhất, "chúng tôi không muốn làm hai việc, chúng tôi muốn làm một việc------ xây dựng một AGI, một hệ thống, một ngăn xếp công nghệ thống nhất."

Ông cũng đặc biệt nhấn mạnh đến việc triển khai trong lĩnh vực sức khỏe: "Mỗi tuần có 300 triệu người thực hiện các truy vấn sức khỏe qua ChatGPT, 300 triệu người, đó là một con số khổng lồ."

AI tự kiểm tra lỗ hổng: Chỉ định Astra vào hệ thống của chính mình

Trong vấn đề an ninh mạng, Brockman đã tiết lộ một thực hành nội bộ đáng chú ý: OpenAI đã chỉ định Astra để tìm kiếm lỗ hổng trong hệ thống của chính mình.

"Chúng tôi đã gọi Astra, chỉ định nó vào hệ thống của chúng tôi để phát hiện lỗ hổng------ không chỉ đọc mã, mà thực sự xem xét cách mà các hệ thống này hoạt động từ đầu đến cuối, từ đó tìm ra những lỗ hổng thực sự, đã được xác minh, và sau đó giúp chúng tôi hoàn thành việc sửa chữa và vá lỗi." Ông nói.

Ông cũng thừa nhận rằng, trong sự cố an toàn của Hugging Face, hành động của OpenAI trong khoảng thời gian phòng thủ thực sự không kịp thời, "Tôi nghĩ, bây giờ rõ ràng là thời điểm, có thể vài tháng trước cũng có thể là thời điểm, nhưng lúc đó khả năng của mô hình còn yếu hơn nhiều."

Mối quan hệ với NVIDIA: Tự phát triển chip là "phép nhân", không phải thay thế

Trong lĩnh vực cạnh tranh chuỗi giá trị, Brockman đã phát biểu về mối quan hệ giữa chip tự phát triển Jalapeño của OpenAI và NVIDIA, rõ ràng phủ nhận logic thay thế:

"NVIDIA là đối tác tính toán ưu tiên của chúng tôi, điều này sẽ không thay đổi. Thực tế, sự hợp tác của chúng tôi với họ đang ngày càng sâu sắc hơn. …… Chuyên môn nội bộ mà dự án chip của chúng tôi mang lại, đối với tôi là hiệu ứng phép nhân, không phải thay thế, tôi nghĩ điều này có lợi cho tất cả mọi người."

Ông cũng tiết lộ một câu chuyện thú vị về thiết kế chip hỗ trợ AI: Trong tháng cuối cùng trước hạn chót của Jalapeño, đội ngũ đã để AI thực hiện tối ưu hóa, "Chúng tôi nói, hãy để nó chạy, không cần đọc kỹ nó đã làm gì. Sau đó, chúng tôi quay lại đọc và phát hiện nó đã tìm ra rất nhiều tối ưu hóa mà chúng tôi có trong danh sách nhưng sẽ không bao giờ tự thực hiện------ thực sự là một câu chuyện rất thú vị."

Dưới đây là toàn bộ biên bản cuộc phỏng vấn (được hỗ trợ bởi AI dịch thuật)

Greg Brockman, chào mừng bạn đến với Stratechery.
GB (Greg Brockman): Cảm ơn bạn đã mời tôi. Tôi rất vui khi có mặt ở đây.
Rõ ràng là chúng ta có rất nhiều tin tức để bàn luận, nhưng vì đây là lần đầu tiên chúng ta nói chuyện, tôi không muốn bỏ lỡ câu hỏi tiểu sử Stratechery mà tôi thường hỏi bất kỳ ai. Tôi thực sự muốn hỏi ------ bạn có định nghĩa Bắc Dakota là một phần của Trung Tây không?
GB: Có, tôi nghĩ là có.
Được rồi, với tư cách là một người Trung Tây, tôi chắc chắn muốn dành một chút thời gian để nói về nơi đó. Bạn học ở Boston, như người ta thường nói, nhưng trước khi chúng ta nói về điều đó ------ bạn đã có một lý lịch ấn tượng trước khi đi học, như tham gia cuộc thi Olympic quốc tế, nhưng đó là về hóa học. Máy tính bắt đầu từ đâu, hay nói cách khác, máy tính có phải là một phần của cuộc sống bạn từ những ngày đầu không?
GB: Ừm, máy tính luôn là một phần trong nền tảng của tôi khi tôi lớn lên. Tôi thích chơi trò chơi máy tính, nhưng tôi cũng rất quan tâm đến toán học và khoa học. Thực tế, cho đến lớp 9, tôi đã nghĩ rằng mình có thể trở thành một diễn viên ------ tôi rất thích biểu diễn và đã thử sức một chút với triết học.
Thật là một bước ngoặt! Tôi hoàn toàn không biết điều này, nhưng tôi dự định tìm hiểu mối liên hệ giữa những gì bạn đang làm bây giờ và biểu diễn, nhưng chúng ta hãy tiếp tục.
GB: Ừm, ở lớp 9, tôi cảm thấy mình đã từng đóng vai chính trong một hoặc hai vở kịch ở trường trung học và trung học phổ thông. Tôi đã nghĩ, tôi muốn nỗ lực gấp đôi trong một điều gì đó, tôi cảm thấy mình có thể trở thành người giỏi nhất thế giới trong một lĩnh vực nào đó và thực sự cố gắng thúc đẩy sự phát triển của lĩnh vực đó. Tôi cảm thấy mình phải chọn giữa phương pháp khoa học cứng, trí tuệ hơn hoặc con đường nghệ thuật, biểu diễn và sáng tạo. Cuối cùng, tôi đã chọn hướng khoa học cứng, vì tôi cảm thấy đó có thể là lĩnh vực mà tôi có thể thay đổi thế giới nhiều nhất.
Tại sao bạn nghĩ rằng đi theo hướng đó có thể thay đổi thế giới nhiều nhất?
GB: Tôi nghĩ đối với tôi, cảm giác là như vậy ------ một điều tôi thích về biểu diễn thực ra là tính tập thể của nó. Tôi thích biểu diễn ngẫu hứng, bạn chỉ cần suy nghĩ sáng tạo về mọi thứ, va chạm ý tưởng qua lại, nhưng điều đó cũng yêu cầu bạn trở thành một phần của một đội, đội đó phải phối hợp rất tốt, và điều đó không phải lúc nào cũng được đảm bảo. Đó là một điều khó khăn để thực hiện và tìm thấy. Một điều tôi thích hơn về con đường trí tuệ là nó cảm giác như đang mài giũa kỹ năng của chính bạn. Nhưng một điều tôi đã học được là, ngay cả khi bạn rất giỏi trong việc viết mã, điều đó vẫn không đủ. Thực tế, điều này cũng liên quan đến việc đưa vào một đội ngũ xuất sắc, tôi nghĩ đó chính là một phần trong sự nghiệp của tôi ------ thực sự giúp xây dựng và hình thành một môi trường và văn hóa có thể mang lại kết quả xuất sắc.
Có một điều thú vị, ở đây có một khía cạnh về môi trường cũng đã hình thành một số điều này. Bạn đã đề cập rằng bạn luôn đóng vai chính trong các vở kịch và phim. Tôi nhận ra từ trải nghiệm của con cái tôi khi chúng trải qua giai đoạn này ------ con gái tôi đã rất thích nhạc kịch một thời gian ------ sự cạnh tranh cho vai nữ chính rất khốc liệt, thường chỉ cần có một nam diễn viên đủ khả năng tình nguyện tham gia, anh ta sẽ luôn nhận được vai đó. Cạnh tranh cho vai nam chính có khốc liệt không, hay bạn là duy nhất?
GB: (cười) Tôi nghĩ điều này có thể giải thích. Nhưng để tôi kể cho bạn một câu chuyện.
Còn ngược lại thì sao? Tương tự, ở Bắc Dakota, có phải không có nhiều người đặc biệt nghiên cứu về khoa học cứng, vì vậy từ góc độ tương tự, điều đó có vẻ hiếm hơn không?
GB: Ừm, tôi sẽ kể cho bạn hai câu chuyện. Câu chuyện đầu tiên là về biểu diễn. Công việc có trả tiền đầu tiên của tôi là một công việc biểu diễn. Nhóm Mannheim Steamroller đã đến thành phố Grand Forks, Bắc Dakota. Bạn đã nghe nói về Mannheim Steamroller chưa?
Tôi đã nghe nói. Vâng, tất nhiên.
GB: Họ lúc đó cần tổ chức một buổi hòa nhạc và cần diễn viên phụ. Họ cần một số người hóa trang thành lính chì đi qua đi lại, vì đó là một buổi hòa nhạc cho kỳ nghỉ Giáng sinh. Tôi đã tham gia thử vai, khi đó tôi là một học sinh lớp 9 gầy gò, trong khi xung quanh toàn là những sinh viên đại học cao lớn.
Họ yêu cầu mọi người làm như sau, "Được rồi, mọi người đi về hướng đó," sau đó người tuyển chọn sẽ so sánh ý kiến, rồi bạn sẽ có một khoảng thời gian nghỉ, sau đó họ nói, "Được rồi, đi về hướng khác." Tôi nhận thấy, trong thời gian nghỉ, tất cả những sinh viên đại học đó đều đang trò chuyện và đi lại với nhau, trong khi tôi chỉ nghĩ rằng, công việc này chỉ có một yêu cầu, đó là bạn phải giữ sự tập trung trong suốt sáu giờ của buổi hòa nhạc, đi qua đi lại. Vì vậy, trong thời gian nghỉ, tôi đã đứng đó giữ sự tập trung, hoàn toàn đắm chìm trong vai diễn. Cuối cùng, họ nói, "Được rồi, chúng tôi chọn người này, người này, người này. Những người khác có thể ra về." Tôi đã không được chọn.
Nhưng trên đường về, họ nói, "Thực ra, chúng tôi nghĩ bạn thật tuyệt vời. Chúng tôi rất thích thấy bạn đã đầu tư bao nhiêu đam mê vào điều này, vì vậy chúng tôi sẽ tạo ra một vai diễn mới dành riêng cho bạn." Vì vậy, tôi đã nhận được một vai diễn người làm bánh gừng, họ đã cho tôi một bộ trang phục hoàn chỉnh. Đó là công việc đầu tiên của tôi. Vì vậy, điều này giống như việc cố gắng thoát khỏi cách suy nghĩ thông thường để hoàn thành nhiệm vụ ------ không phải lúc nào cũng chấp nhận một vai diễn nào đó, mà là cố gắng tìm ra cách sáng tạo để có được nó.
Nhưng tôi nghĩ rằng, lớn lên ở Bắc Dakota, điều thực sự tuyệt vời là tôi có khả năng trở thành người giỏi nhất trong tiểu bang trong các lĩnh vực mà tôi tập trung. Tôi có thành tích toán học nổi bật. Tôi đã bắt đầu học nhiều khóa học tại Đại học Bắc Dakota từ lớp 10. Tôi đã tham gia sâu vào các cuộc thi toán học, sau đó tôi sẽ tham gia các cuộc thi quốc gia, tham gia trại hè toán học quốc gia, nơi tôi gặp những người giỏi nhất trên toàn quốc. Những người đó thật tuyệt vời, thực tế, một trong những vinh dự thực sự của tôi là nhiều người mà tôi rất ngưỡng mộ ở trại hè toán học hiện đang làm việc tại OpenAI. Vì vậy, tôi có cơ hội nhìn thấy họ trong lĩnh vực mới này, từ một góc nhìn mới.
Thật tuyệt vời.
GB: Nhưng điều này cũng có nghĩa là tôi có thể thực sự lập kế hoạch cho con đường của mình. Tôi bắt đầu làm nghiên cứu toán học, tôi biết rằng nếu tôi đến một số trường trung học mạnh mẽ hơn hoặc những tiểu bang cạnh tranh hơn nhiều, tôi nghĩ tôi sẽ không nổi bật. Tôi sẽ phải đi theo con đường tiêu chuẩn. Vì vậy, chính vì ở khu vực đó, tôi có thể khám phá sở thích của mình và thực sự đi theo con đường của riêng mình.
Vì vậy, khi mọi người nói rằng họ học ở Boston, thường họ đang nói về Harvard, đó là nơi bạn bắt đầu. Sau đó bạn chuyển đến MIT. Rồi đến một thời điểm nào đó bạn làm việc cho Stripe. Thứ tự là như thế nào? Bạn đã gặp các anh em Collison khi nào? Điều gì đã xảy ra ở Boston?
GB: Ừm, sau khi tốt nghiệp trung học, tôi đã nghỉ một năm, thực tế tôi bắt đầu viết một cuốn sách giáo khoa hóa học, vì tôi rất đam mê hóa học khi còn học trung học, tham gia các cuộc thi hóa học và đưa ra một cách suy nghĩ độc đáo. Rất dựa trên nguyên lý đầu tiên, rất toán học, thay vì học thuộc lòng. Tôi muốn dạy phương pháp này, muốn quảng bá nó. Vì vậy, tôi thực sự đã viết 100 trang. Bây giờ nó có trên trang web của tôi. Tôi vẫn chưa hoàn thành. Tôi luôn dự định quay lại để tiếp tục viết.
Điều đó giống như một dự án hưu trí, tôi thích điều đó.
GB: Đúng vậy. Ừm, lúc đó tôi đang nghĩ làm thế nào để xuất bản cuốn sách này, vì vậy tôi đã hỏi một người bạn đã làm điều tương tự trong lĩnh vực toán học, anh ấy nói, "Ừm, bạn không có bằng tiến sĩ, vì vậy không ai sẽ xuất bản nó. Vì vậy, bạn hoặc là tự xuất bản" ------ tôi đã nghĩ, ôi, điều đó tốn công sức và chi phí cao ------ "hoặc bạn có thể xây dựng một trang web để quảng bá ý tưởng của bạn theo cách này." Tôi đã nói, "Tôi nghĩ tôi cần học cách lập trình." Vì vậy, tôi đã vào W3Schools. Bạn có nhớ W3Schools không? Bạn đã thấy trang web đó chưa?
Không, tôi nghĩ tôi chưa thấy.
GB: Được rồi, đó là một trang web cổ điển ------ họ có hướng dẫn về HTML, JavaScript, CSS, PHP. Tôi đã đọc qua một lần, rồi nghĩ, "Tôi nên thử nghiệm một chút." Tôi nhớ tôi đã xây dựng tiện ích nhỏ đầu tiên: bạn có thể nhấp vào cột bảng và nó sẽ sắp xếp các hàng tương ứng. Đó là cảm giác tuyệt vời nhất từ trước đến nay. Tôi đã nghĩ về điều này, và bây giờ nó tồn tại trong thế giới này, bất kỳ ai cũng có thể hưởng lợi từ nó. Họ không cần phải hiểu các chi tiết phía sau, nó chỉ đơn giản là hoạt động.
Tôi nhớ chương trình đầu tiên tôi xây dựng có người dùng, thực tế là một trò chơi chatbot cạnh tranh, có một ngày tôi nhận được 1500 lượt nhấp chuột từ StumbleUpon. Cảm giác thật tuyệt vời, có 1500 người chơi trò chơi của tôi, hy vọng họ đã vui vẻ, và họ đã chơi đủ để đầu tư vào nó. Tôi đã nghĩ, "Đây chính là điều tôi muốn, tôi muốn giúp đỡ người khác, tôi muốn tạo ra giá trị cho họ và mang lại lợi ích cho họ."
Vì vậy, đó là lý do tôi bước vào Harvard với suy nghĩ như vậy, điều đó thực sự đã thay đổi suy nghĩ của tôi. Tôi nghĩ tôi sẽ theo đuổi những sở thích đa dạng hơn, nhưng cuối cùng tôi lại nghĩ, "Tôi chỉ muốn xây dựng thứ gì đó." Trong năm nhất ở Harvard, tôi đã tham gia câu lạc bộ máy tính, có hai anh sinh viên năm cuối luôn tham gia vào các cuộc tranh luận kỹ thuật khó hiểu. Chúng tôi đều nghe và nói, "Một ngày nào đó chúng tôi sẽ hiểu, một ngày nào đó điều đó sẽ là chúng tôi." Nhưng sau khi họ tốt nghiệp, năm hai đã đến.
Vì vậy, bạn đã chuyển thẳng đến MIT vì bạn nhận ra mình tập trung vào lập trình và xây dựng?
GB: Về cơ bản là như vậy. Bởi vì đến năm hai, tôi đang quản lý câu lạc bộ. Tôi nên dẫn dắt những cuộc tranh luận kỹ thuật khó hiểu đó, và tôi nghĩ, "Tôi vẫn chưa sẵn sàng. Tôi còn quá nhiều điều cần học. Tôi cần ở bên những người giỏi hơn tôi rất nhiều."
Hiểu rồi.
GB: Vì vậy, tôi đã dành rất nhiều thời gian ở MIT, tôi cảm thấy việc chuyển đến đó là hợp lý.
Stripe
Hiểu rồi. Vậy bạn đã gặp các anh em Collison khi nào?
GB: Tôi đã gặp họ vào năm 2010, cuối năm 2010. Chúng tôi có rất nhiều bạn bè chung, vì John đã học ở Harvard, Patrick đã học ở MIT, họ lúc đó đang tìm kiếm. Nhóm đó đang tìm kiếm ai trong hai trường này quan tâm đến máy tính, và tên tôi liên tục được đề cập.
Đúng vậy.
GB: Vì vậy, tôi đã nhận được lời mời từ nhóm của họ, bay đến đó. Tôi nhớ đã gặp Patrick, đối với tôi, khoảnh khắc đó tôi đã nghĩ, "Được rồi, đây chính là người mà tôi muốn làm việc cùng, tôi cảm thấy chúng tôi có thể đạt được những thành tựu vĩ đại cùng nhau."
Vì vậy, câu hỏi tiếp theo của tôi là, điều gì thu hút bạn gia nhập Stripe, nhưng có vẻ như bạn đã trả lời rồi. Bạn đã học được gì ở đó? Bạn gia nhập đội ngũ rất sớm, thăng tiến rất nhanh. Đến khi bạn rời đi, bạn đã là CTO. Bạn có cảm nhận gì về Stripe bản thân nó và sự mở rộng quy mô của nó, cũng như sự phát triển nhanh chóng của bạn trong khi công ty cũng phát triển nhanh chóng?
GB: Trước tiên, đối với tôi, luôn là về con người. Tôi biết đây là những người mà tôi muốn làm việc cùng, cảm thấy chúng tôi có thể học hỏi cùng nhau, cùng nhau hoàn thành những điều vĩ đại, vì vậy đó mới thực sự là điều quan trọng. Nhân tiện, việc bỏ học hai lần là điều mà tôi tuyệt đối không muốn bất kỳ bậc phụ huynh nào phải trải qua. Điều này rõ ràng đã khiến cha mẹ tôi rất khó xử, nhưng cuối cùng họ thực sự rất ủng hộ.
Không, chúng tôi hiểu, bạn đã làm mọi thứ đến cùng, đúng không? Hầu hết các nhà sáng lập chỉ bỏ học một lần, bạn đã phải làm hai lần. Chúng tôi hiểu ý bạn.
GB: Hoàn toàn đúng, hoàn toàn đúng. Tôi nhớ rằng rất nhiều điều trong những ngày đầu của Stripe liên quan đến việc suy nghĩ theo nguyên lý đầu tiên. Chúng tôi đang ở trong một lĩnh vực, ngành công nghiệp thẻ tín dụng, rất không minh bạch, rất Byzantine, đã tích lũy qua hàng thập kỷ, phức tạp vô cùng, ngay cả mạng thẻ cũng hoạt động trên ISO 8583, đó là tiêu chuẩn của những năm 80. Nó là một định dạng hướng byte, hoàn toàn như vậy. Chúng tôi đang cố gắng tìm ra, "Làm thế nào để chúng tôi làm cho nó đơn giản, cực kỳ đơn giản để phù hợp với thời đại Internet?"

Vì vậy, điều này chủ yếu liên quan đến việc hiểu sâu một lĩnh vực mà bạn hoàn toàn không quen thuộc. Không ai trong chúng ta thực sự là chuyên gia về thanh toán, nhưng bạn chỉ muốn hiểu rất sâu về cách nó hoạt động, để bạn có thể phơi bày ngôn ngữ gốc đúng, API đúng và các trừu tượng. Đối với tôi, đó thực sự là kỹ năng cốt lõi, và điều này rất có thể chuyển giao giữa Stripe và OpenAI. Chúng rất giống nhau ở một số khía cạnh, bạn cần phải học một lĩnh vực một cách khoa học. AI và thanh toán, về chi tiết cụ thể thì rõ ràng là khác nhau - một cái giống như khoa học tự nhiên, cái kia gần như là một hệ thống tích lũy từ sự phức tạp - nhưng về cơ bản, chúng đều liên quan đến việc hiểu những nguyên nhân cơ bản của cách mọi thứ hoạt động và phơi bày chúng theo cách đơn giản và dễ sử dụng.
Tôi đã dành rất nhiều thời gian cho việc tuyển dụng, rất nhiều thời gian cho văn hóa, tôi cảm thấy tôi đã phát hiện ra một điều, tôi thích lập trình, tôi thích trạng thái dòng chảy đó, và cảm giác xây dựng và sáng tạo.
Đúng vậy, bạn nổi tiếng với trạng thái dòng chảy kéo dài hàng giờ và lập trình không ngừng nghỉ. Khi bạn xây dựng Stripe, phiên lập trình/ trạng thái dòng chảy dài nhất của bạn là bao lâu?
GB: Ồ, tất cả đều trộn lẫn vào nhau. Tôi không thể nói rõ thời gian cụ thể, nhưng tôi chỉ muốn nói rằng, đối với tôi, có một lần chạy nước rút kéo dài 24 giờ, chính lần đó đã giúp chúng tôi thực sự kết nối với mạng lưới thẻ tín dụng. Đó thực sự là một khoảng thời gian tuyệt vời, tất cả chúng tôi đều ở văn phòng, không ai ngủ, đó lẽ ra là một tích hợp cần chín tháng để hoàn thành, chúng tôi đã hoàn thành trong một đêm, nếu chúng tôi muộn một ngày, thì lại phải chờ thêm một tháng. Đối với các công ty khởi nghiệp, mỗi ngày đều rất quan trọng, vì vậy cảm giác hoàn thành điều gì đó dường như không thể là điều tôi yêu thích. Đó là một điều rất thú vị.
Khi bạn trở thành CTO, bạn đã viết một bài báo nói rằng bạn giao tiếp với các CTO khác, bạn nghĩ rằng điều đó giống như một công việc kiến trúc, nhưng họ không làm như vậy, bạn đã viết rằng, "Tôi cảm thấy tôi đã mất đi vòng phản hồi, tôi đã bị tách rời khỏi sản phẩm, tôi cần phải lập trình lại, tôi muốn trở thành một lập trình viên." Tôi rất tò mò, đó là điều bạn đã viết khi mới trở thành CTO, điều đó kéo dài bao lâu? Bạn đã giữ liên lạc với lập trình trong bao lâu?
GB: Ừm, tôi nghĩ rằng nó kéo dài gần mười năm. Tôi nghĩ tôi đã trưởng thành ở một khía cạnh và học được rất nhiều, đó là cách giữ được cảm giác tham gia, thực sự giúp thúc đẩy đội ngũ tiến lên và gắn kết đội ngũ lại với nhau, ngay cả khi bạn không còn tự mình viết mã nữa.
Và nhân tiện, tôi nghĩ rằng điều này thực sự là một bài học quan trọng đối với hầu hết các kỹ sư phần mềm hiện nay, vì hành động "lập trình" đã thay đổi rất nhiều trong năm qua. Tôi nghĩ rằng trong năm tới, sự thay đổi sẽ còn lớn hơn. Chúng ta đang chuyển từ việc phải biết chính xác sử dụng thư viện nào, có thể nắm vững cú pháp và đặt dấu chấm phẩy ở đâu, sang vai trò quản lý cấp cao hơn, trở thành nguồn cảm hứng, tầm nhìn, phán đoán và phản hồi. Tôi nghĩ rằng sự chuyển đổi này, đối với tôi, từng là điều khó khăn, vì bạn phải từ bỏ một số thứ mà bạn đã quen thuộc, trân trọng và thực sự yêu thích. Nhưng tôi thực sự đã thay thế nó bằng những thứ mà tôi yêu thích hơn.
Tôi biết tôi đang nói chuyện với một người thông minh, vì bạn đã lấy mất ý tưởng của tôi. Tôi đã định quay lại chủ đề này sau, nhưng không sai, đó chính là điều chúng ta cần thảo luận.
OpenAI và bài kiểm tra Turing
Hãy nói về OpenAI. Bạn là một thành viên trong đội ngũ sáng lập OpenAI. Câu chuyện của bạn là gì? Tôi tin rằng điều này có thể là một podcast kéo dài một giờ, nhưng điều gì đã thu hút bạn vào lĩnh vực này và khiến các bạn bắt đầu?
GB: Ừm, tôi đã rất hào hứng với ý tưởng về AI từ lâu. Tôi nhớ khi tôi mới bắt đầu lập trình, tôi đã đọc bài báo của Alan Turing về bài kiểm tra Turing vào năm 1950. Đó là một bài báo rất thú vị, khoảng 70 trang. Nó mở đầu bằng câu hỏi, "Ừm, máy móc có trí thông minh có nghĩa là gì? Tôi không biết trí thông minh có nghĩa là gì. Trí thông minh không có định nghĩa rõ ràng. Vì vậy, hãy để chúng ta có một phiên bản định nghĩa rõ ràng."
Tôi sẽ hỏi bạn sau về AGI. Vì vậy, nghe có vẻ như điều này vẫn chưa được giải quyết, đúng không?
GB: Ừm, bạn nói đúng. Vì vậy, Turing rất thông minh khi tránh câu hỏi này, nói rằng, "Hãy chỉ đưa ra một định nghĩa hoạt động, tức là nếu bạn có thể thực hiện một bài kiểm tra mà con người không thể phân biệt được AI mà họ đang nói chuyện với một con người khác, thì chúng ta định nghĩa máy đó là thông minh."
Tuy nhiên, một điểm rất thú vị là, nhưng ít được chú ý hơn, ông đã nói, "Ừm, bạn dự định giải quyết vấn đề này như thế nào? Việc lập trình ra câu trả lời là rất khó. Bạn không thể viết ra tất cả các quy tắc để trả lời các câu hỏi khác nhau. Ngược lại, nếu bạn có thể xây dựng một cỗ máy có khả năng học tập thì sao? Nếu bạn có thể xây dựng cái mà ông gọi là 'cỗ máy trẻ em' thì sao?" Sau đó bạn dạy nó - có một giáo viên cho nó phần thưởng và hình phạt, và sau đó bạn có thể trao cho nó trí thông minh, giúp nó vượt qua bài kiểm tra này.
Tôi nhớ tôi đã bị ý tưởng này làm choáng váng, vì với tư cách là một lập trình viên, chỉ khi hiểu sâu về giải pháp cho vấn đề, bạn mới có thể tiến bộ. Có rất nhiều vấn đề mà tôi không biết câu trả lời, bạn không biết câu trả lời, không ai nghĩ ra giải pháp, chúng tôi không bao giờ có thể lập trình cho chúng. Nhưng nếu bạn có một cỗ máy có thể hiểu những vấn đề mà chúng tôi không thể hiểu, có thể hiểu những giải pháp mà chúng tôi không thể hiểu thì sao? Điều này không chỉ liên quan đến nhận diện hình ảnh, mặc dù nó chắc chắn cũng áp dụng cho điều đó. Nó cũng liên quan đến cách chúng ta tương tác tốt hơn trong xã hội? Làm thế nào để xây dựng thế giới? Làm thế nào để đảm bảo rằng những lợi ích mà chúng ta tạo ra cuối cùng có thể mang lại lợi ích cho mọi người? Đây đều là những câu hỏi rất khó, mà con người không nhất thiết là những người có khả năng giải quyết tốt nhất. Nhưng nếu một cỗ máy có thể hiểu, có thể xem nhiều dữ liệu hơn, có thể có sự hiểu biết sâu sắc và phong phú hơn về nhiều lĩnh vực khác nhau, có thể nó có thể giải quyết những vấn đề mà chúng tôi không thể làm được.
Vì vậy, tôi đã bị ý tưởng này truyền cảm hứng sâu sắc. Nhưng đó chỉ là một ý tưởng. Tôi nhớ khi tôi vào Harvard, tôi đã hỏi giáo sư của mình, "Này, tôi có thể làm một số nghiên cứu về AI không?", họ đã cho tôi thấy trình độ tiên tiến nhất của xử lý ngôn ngữ tự nhiên vào thời điểm đó. Tôi đã thấy rõ ràng, tôi đã nghĩ rằng, điều này không phải là thứ mà Turing đã nói. Nó giống như mã cứng, cây phân tích, tất cả những điều này, điều đó không thể mở rộng đến AGI.
Nhưng vào đầu những năm 2010, một số điều đã thay đổi, tôi đã quan sát từ bên ngoài. Năm 2012 là AlexNet, sau đó là một loạt các bài báo khác, tôi thường thấy trên Hacker News, cảm giác như mỗi ngày đều có "học sâu cho X", tôi đã nghĩ, "Học sâu là gì?" - tôi nhớ tôi đã truy cập deeplearning.org, nơi chỉ viết rằng, "Học sâu là một phương pháp AI mới." Tôi đã nghĩ, tôi hoàn toàn không biết điều này có nghĩa là gì, tôi thực sự chỉ biết một người trong lĩnh vực này, tôi đã tìm họ, nhờ họ giới thiệu tôi với nhiều người hơn trong lĩnh vực này, và sau đó tôi liên tục được giới thiệu lại với một số người bạn thông minh nhất ở trường đại học của tôi. Tôi đã nghĩ, "Chờ đã, điều này thật thú vị, những người này đang nghiên cứu điều này, thực sự là một tín hiệu rất mạnh mẽ."
Vì vậy, đến năm 2015, đối với tôi, cảm giác như có một điều gì đó thực sự đang xảy ra. Tôi cũng đã dành rất nhiều thời gian để thực sự suy nghĩ về an toàn AI, suy nghĩ về tương lai dài hạn của loại công nghệ này, có nghĩa là gì để làm cho nó đúng, điều đó lúc đó giống như triết học. Bạn có thể tìm thấy nhiều thí nghiệm tư tưởng thú vị trên mạng, tôi đã tổ chức một nhóm đọc tại Stripe, chúng tôi thảo luận về những điều này mỗi tuần. Vì vậy, đây là điều tôi rất quan tâm, nghĩ rằng nếu tôi có thể giúp phát triển AI theo bất kỳ cách nào tốt hơn một chút so với khi tôi vắng mặt, thì đó sẽ là điều tốt nhất mà tôi có thể làm trong sự nghiệp của mình.
Tất cả điều này dẫn đến năm 2015, tôi cảm thấy tôi đã đạt đến một cột mốc tại Stripe, công ty sẽ tiếp tục hoạt động dù có tôi hay không, điều đó giống như một câu hỏi: "Tôi có muốn đi theo con đường quản lý không?", điều này là cần thiết để bước vào giai đoạn tiếp theo, hoặc, "Tôi có muốn thành lập một công ty mới không?", điều này đã luôn thúc đẩy tôi, vì vậy tôi quyết định đó là điều tôi muốn. Khi tôi sắp rời đi, Patrick nói, "Tại sao bạn không nói chuyện với Sam [Altman] nhỉ?", anh ấy đã giới thiệu tôi với anh ấy vài năm trước. Anh ấy nói, "Anh ấy đã gặp nhiều người trẻ trong tình huống tương tự, có thể anh ấy có thể cho bạn một số lời khuyên" - có chút hy vọng rằng Sam có thể thuyết phục tôi ở lại. Kết quả không phải như vậy.
(Cười) Đúng vậy.
GB: Tôi đã gặp Sam, và trong vòng ba phút, anh ấy đã nói, "Được rồi, bạn rõ ràng muốn rời đi, bạn có kế hoạch gì tiếp theo không?", tôi nói, "Ừm, tôi đang xem xét làm điều gì đó trong lĩnh vực AI", anh ấy nói, "Tôi cũng đang xem xét làm điều gì đó trong lĩnh vực AI." Đó chính là khởi đầu.
Bạn có đồng ý với toàn bộ ý tưởng về tổ chức phi lợi nhuận không? Bạn có suy nghĩ gì về điều đó khi thành lập?
GB: Ừm, ý tưởng trở thành tổ chức phi lợi nhuận là do Sam đưa ra, tôi nghĩ rằng có nhiều thuộc tính rất quan trọng trong đó, một số đến hôm nay vẫn đúng. Công nghệ mà chúng tôi đang xây dựng, nó lớn hơn bất kỳ thứ gì đã được tạo ra, nó vượt ra ngoài các cấu trúc và hệ thống truyền thống. Không có cấu trúc công ty hiện tại nào có thể hoàn toàn bao quát sứ mệnh của chúng tôi và công việc mà chúng tôi cần làm.
Vì vậy, tôi nghĩ rằng bắt đầu như vậy là hoàn toàn hợp lý, và luôn có một câu hỏi, đó là thực sự cần gì để thực hiện sứ mệnh? Đây là điều mà chúng tôi đã dành rất nhiều thời gian để suy nghĩ thực sự. Tôi nghĩ rằng chúng tôi luôn là công ty suy nghĩ về việc xây dựng một cấu trúc sáng tạo nhất, cấu trúc này phải có thể bao quát sự phát triển kinh doanh, phân phối lợi ích, và thực hiện tất cả các khía cạnh khác của nền kinh tế dựa trên tính toán này, và đồng thời hoàn thành tất cả những điều này. Vì vậy, tôi nghĩ rằng đây luôn là một yếu tố quan trọng, nó vẫn là phần quan trọng trong công việc của chúng tôi. Nhưng một lần nữa, tôi nghĩ rằng chúng tôi đã thực hiện rất nhiều đổi mới xung quanh cấu trúc công ty cốt lõi của sứ mệnh, và sứ mệnh này không thay đổi.
Đúng vậy, đổi mới là một cách nói. Bạn đã đề cập đến mạng lưới thẻ tín dụng, đúng không? Điều đó rất không minh bạch, nhiều thứ đến từ những năm 80, rất nhiều sự phụ thuộc vào con đường, điều này đã tạo cơ hội cho Stripe, vì bạn có thể trừu tượng hóa tất cả những điều này, đối với người khác, "Đây là một API, nó có thể sử dụng, đừng hỏi câu hỏi." Bây giờ khi bạn nhìn lại OpenAI - thật khó tin đã hơn mười năm - liệu OpenAI có thể xuất hiện theo bất kỳ cách nào khác không? Có phải cũng có sự phụ thuộc vào con đường đó không? Hay có một cách, "Nếu tôi quay lại nguyên lý đầu tiên, tôi, Greg Brockman, những gì tôi thích làm, tôi sẽ thiết kế cấu trúc này rất khác"?
GB: Tôi không thấy có cách nào khác để chúng tôi có thể đến được hôm nay, đạt được sứ mệnh mà chúng tôi cần đạt được.
ChatGPT và cơn bão OpenAI
Hãy cho tôi biết về việc phát hành ChatGPT, vì bạn đã có một bước ngoặt, bạn nhận ra cần phải mở rộng, bạn đã hợp tác với Microsoft, tăng phần lợi nhuận, sau đó ChatGPT ra mắt, nó trở nên rất lớn. Bạn có dự đoán rằng nó sẽ lớn như bây giờ không?
GB: Vì vậy, điều làm tôi ngạc nhiên là, dự đoán của tôi sai ở chỗ GPT-3.5 sẽ trở thành thứ mà mọi người thực sự yêu thích và muốn. Chúng tôi đã có GPT-4 vào thời điểm đó, nó đã hoàn thành đào tạo vào khoảng tháng 8, và chúng tôi đã phát hành ChatGPT vào cuối tháng 11. Mỗi khi chúng tôi có mô hình mới, điều xảy ra là chúng tôi sẽ giữ chặt nó.
Cái cũ trông thật tệ.
GB: Tất cả những gì chúng tôi thấy đều là những thiếu sót của mô hình trước đó. Chúng tôi chỉ cảm thấy, "À, mô hình trước đó quá tệ, tôi không thể tưởng tượng ai đó muốn sử dụng nó." Chúng tôi có khoảng 200 người thử nghiệm, chúng tôi trả tiền cho họ để sử dụng ChatGPT trước khi phát hành, tương tự, chúng tôi phải trả tiền cho họ để sử dụng, chứ không phải ngược lại. Vì vậy, có một số dấu hiệu về sự phù hợp của thị trường sản phẩm, nếu bạn đào sâu và chú ý đến chi tiết, nhưng nếu bạn nhìn từ góc độ vĩ mô, nó không giống như chúng tôi đã có nó.

Nhưng ý tưởng của chúng tôi lúc đó là, GPT-4 rõ ràng sẽ thay đổi thế giới, chúng tôi biết điều này, từ lần đầu tiên chúng tôi trò chuyện với nó đã rất rõ ràng. Tôi nhớ trong tuần đầu tiên sau khi GPT-4 hoàn thành đào tạo, chỉ cần cảm nhận thực tế của nó. Chúng tôi luôn mơ về AGI, suy nghĩ về AGI, tưởng tượng nó sẽ như thế nào. Nhưng khi bạn lần đầu tiên sở hữu một công nghệ mà bạn thực sự có thể hỏi bất kỳ câu hỏi nào, nó có thể đưa ra câu trả lời khá hợp lý, nó đã đạt 5 điểm trong kỳ thi sinh học AP------tất cả những điều này, đối với tôi, cảm giác như là, được rồi, có một số điều sẽ khác biệt. Nó có thể không thay đổi thế giới ngay ngày mai, nhưng trong vài năm tới, công nghệ này chắc chắn sẽ, và bây giờ nó đã là thực tế. Điều đó rất rõ ràng.
Vì vậy, khi bạn nhìn vào việc phát hành ChatGPT, ý tưởng của tôi lúc đó là chúng tôi cần phải đẩy cơ sở hạ tầng ra trước, để chúng tôi có thể có cơ sở hạ tầng dịch vụ LLM đã được kiểm nghiệm thực tế, chúng tôi đã đầu tư công sức vào đó. Sau đó vào tháng 3, khi chúng tôi phát hành GPT-4------nếu bạn còn nhớ, chúng tôi đã có một khoảng thời gian trì hoãn sáu tháng giữa việc hoàn thành và phát hành thực tế------thì lúc đó chúng tôi đã có cơ sở hạ tầng sẵn sàng. Nhưng tôi không dự đoán rằng nó sẽ cất cánh nhanh chóng theo cách đó, mặc dù tôi đã dự đoán rằng nó sẽ như vậy trong tương lai.
Thời gian đó như thế nào? Có phải mọi người đều nỗ lực hết mình để ngăn chặn máy chủ sập?
GB: Ồ, chắc chắn rồi. Vì vậy, chúng tôi đã phát hành một cái gọi là bản xem trước nghiên cứu thấp, và tất nhiên, kết quả là theo cấp số nhân, mọi hệ thống mà bạn có thể tưởng tượng đều sập. Hệ thống đăng nhập của chúng tôi trở thành một nút thắt lớn, và chúng tôi đã phải làm rất nhiều việc để cải thiện hệ thống đăng nhập, bạn nắm đầu nói rằng, chúng tôi đang xây dựng công nghệ AI kỳ diệu này, mà nút thắt lại là "hệ thống đăng nhập của bạn có thể mở rộng không?".
Tôi nhớ chúng tôi có một bộ triển khai lõi suy diễn khá kém hiệu quả được đưa vào môi trường sản xuất, tôi thực sự đã viết một số thứ hiệu quả hơn, hoặc chúng tôi có một số thứ hiệu quả hơn trong nghiên cứu, một trong những công việc quan trọng là, "hãy thực sự áp dụng những tối ưu hóa này, di chuyển chúng qua", vì vậy một nhóm người đã lao vào vấn đề này và giải quyết nó. Tôi nghĩ đó là tình hình tổng thể trong ngày đầu tiên, tuần đầu tiên, tháng đầu tiên, đó là mở rộng mọi hệ thống, cố gắng theo kịp làn sóng nhu cầu này.
Điều gì đã xảy ra vào tháng 11 năm 2023?
GB: Câu trả lời rất phức tạp. Bạn muốn bắt đầu từ đâu?
Tôi không biết, tôi cảm thấy tôi phải hỏi bạn về điều này. Chúng có liên quan đến------bạn đã nghỉ một thời gian không lâu sau đó, có mối liên hệ nào giữa hai điều này không?
GB: Nghe này, điều tôi muốn nói là, từ góc độ cao nhất, tôi nghĩ rằng năm 2023 thực sự cho thấy, có những căng thẳng đã tích lũy lại, thực sự là căng thẳng trong mối quan hệ, mà chúng tôi chưa đủ dự đoán và giải quyết trước đó. Đối với tôi, đây là một trong những bài học quan trọng nhất của OpenAI, chúng tôi đang xây dựng công nghệ, nhưng luôn là về con người, cho dù đó là khía cạnh tốt hay xấu. Điều này có nghĩa là thực sự quản lý động lực quan hệ con người, là một trong những điều quan trọng nhất mà chúng tôi làm, nếu chúng tôi không giải quyết trước, nếu chúng tôi không có những cuộc đối thoại khó khăn, đó mới là nơi mọi thứ có thể trở nên rắc rối. Vì vậy, tôi rất vui lòng đi sâu vào nhiều chi tiết hơn, nhưng tôi nghĩ rằng, nếu bạn thực sự đi sâu vào, nhiều điều không phải là những vấn đề công nghệ thú vị hơn.
Điều này liên quan đến thành công lớn bất ngờ của ChatGPT đến mức nào? Có mối liên hệ nào giữa chúng không, hay bạn nghĩ rằng những căng thẳng này sẽ bùng nổ dù sao đi nữa?
GB: Tôi không nghĩ có mối quan hệ nguyên nhân trực tiếp, ít nhất là theo quan điểm của tôi. Tôi nghĩ rằng ở một mức độ nào đó, có thể có một chủ đề tiềm ẩn là, khi công nghệ của chúng tôi tiến bộ, mọi người đều cảm nhận được gánh nặng của thế giới, cảm nhận được những lợi ích và rủi ro trong đó.
Thực tế, một trong những điều khó khăn nhất là làm thế nào để tiếp tục tiến về phía trước? Đối với tôi, một điều mà tôi luôn bình luận là, các hoạt động hàng ngày của chúng tôi trông gần như giống như các công ty khác. Bạn vẫn đang gỡ lỗi một vấn đề cơ sở nào đó, có người tức giận với người khác vì điều gì đó mà người khác đã nói hoặc vì không được mời tham dự cuộc họp. Đó chỉ là yếu tố con người, công việc con người. Nhưng tất nhiên, những lợi ích trong đó là rất lớn.
Vì vậy, tôi nghĩ rằng có một số điều rất quan trọng tại OpenAI, thực sự có một điều lớn mà tôi đặc biệt chú ý là, thực sự nỗ lực không để mọi người rơi vào tình huống khiến họ cảm thấy gánh nặng của thế giới trên vai và cảm thấy cô đơn. Thực sự làm việc cùng nhau như một đội, đó là điều quan trọng, tôi nghĩ rằng có thể đó là cách tôi muốn nói về những sự kiện đó------nó không đặc biệt cho những sự kiện đó, nhưng đó là một chủ đề liên tục trong quá trình phát triển của OpenAI------thực sự giữ cảm giác rằng chúng tôi đang cùng nhau làm điều này, cố gắng vừa đối mặt với thách thức, vừa đảm bảo rằng chúng tôi làm tốt tất cả các công việc cơ bản, làm tốt những công việc cơ bản đó. Đây là cách tôi nghĩ chúng tôi tiến về phía trước.
Vâng, ý tôi là, bạn luôn là một người ủng hộ rất tích cực, tôi nghĩ rằng đây là một trong những triết lý tổng thể của OpenAI: đưa mọi thứ ra thế giới, thử nghiệm, xem điều gì sẽ xảy ra, và sau đó phản ứng dựa trên bằng chứng thực nghiệm, thay vì đưa ra quyết định dựa trên lý thuyết về tương lai. Tôi nghĩ rằng bạn đã trình bày rất nhiều triết lý này về AI, nhưng câu hỏi của tôi là, tôi nghĩ bạn cũng đã chạm vào một mức độ nào đó, cảm giác rằng OpenAI như một tổ chức cũng là một thí nghiệm quy mô lớn đang được điều chỉnh. Diễn giải tiêu cực là, nó dường như chỉ lắc lư qua lại, tái cấu trúc ở đây, thay đổi lãnh đạo ở đó, có phải đây là một con quái vật khó kiểm soát không? Hay nó có thể có tổ chức hơn, kiên cường hơn so với những gì mọi người nghĩ? Khi bạn nhìn lại, bạn nói rằng không thể có cách nào khác, nếu có cách khác thì có tốt hơn không?
GB: Trước tiên, chúng tôi thực sự đã trải qua một sự thay đổi và phát triển lớn từ điểm khởi đầu, hoạt động kinh doanh hoàn toàn khác, nhưng chúng tôi luôn là những người tiên phong trong việc thúc đẩy lĩnh vực này. Điều này đúng trong các khía cạnh an toàn, công nghệ cốt lõi và thực sự suy nghĩ về phân phối lợi ích. Tất cả những lĩnh vực này chúng tôi đã tập trung từ đầu, tôi nghĩ rằng kết quả thực sự nói lên tất cả.
Bây giờ, sự thay đổi này là có thật. Và đôi khi, một đội ngũ phù hợp cho một giai đoạn không nhất thiết phải phù hợp cho giai đoạn tiếp theo. Một điều mà tôi đã rất chú ý trong năm nay là xây dựng một đội ngũ lãnh đạo mà tôi rất hào hứng, suy nghĩ về giai đoạn tiếp theo và những gì chúng tôi sẽ có thể hoàn thành cùng nhau. Vì vậy, một chủ đề cho năm 2026, có thể là một sự chuyển đổi so với trước đây, là vì lĩnh vực này có rất nhiều người, có rất nhiều việc phải làm, và công nghệ phát triển nhanh chóng, chúng tôi bị hạn chế nghiêm trọng bởi khả năng tính toán, bạn phải tập trung. Bạn phải thực sự tinh gọn. Bạn phải chọn những lĩnh vực có thể phát triển đồng bộ.
Vì vậy, thực sự đưa ra một số quyết định, chẳng hạn như, "Này, Sora, công nghệ tuyệt vời, nhưng thuộc về lĩnh vực tiêu dùng giải trí, so với các ưu tiên khác của chúng tôi, chúng tôi không thể ưu tiên cho nó", và sau đó chúng tôi sẽ hủy bỏ nó. Điều này sẽ dẫn đến những ảnh hưởng hạ nguồn, sẽ rất đau đớn, rất khó để đưa ra những quyết định này, nhưng tất cả đều nhằm giữ cho sự tập trung chặt chẽ đó, để chúng tôi có thể hoàn thành sứ mệnh cốt lõi.
Bạn rất tin vào khả năng mở rộng, OpenAI có khả năng mở rộng không?
GB: Tôi tin rằng nó có thể là doanh nghiệp có khả năng mở rộng nhất trong lịch sử. Có.
Tôi đang nói đến nội bộ, như một tổ chức. Có điều gì là không thể mở rộng không? Chúng tôi đã nói về tính toán, đã nói về dữ liệu, bạn đã đề cập đến yếu tố con người trước đó. Thách thức cuối cùng về sự phù hợp------chúng tôi nghĩ rằng sự phù hợp là làm cho AI làm những gì chúng tôi muốn------nhưng bạn có gặp phải thách thức ngược lại không? Bạn có thể theo kịp lĩnh vực này, vấn đề này từ góc độ quản lý không?
GB: Tôi muốn nói hai câu trả lời. Đầu tiên, chắc chắn là có. Bạn có thể thấy chúng tôi đã trưởng thành như thế nào trong vài năm qua với tư cách là một tổ chức, vài năm trước chúng tôi có rất nhiều nợ quản lý. Tương tự, trong nhiều lĩnh vực tôi nghĩ rằng chúng tôi thực sự cần phải phát triển, cần trưởng thành, nhưng tôi nghĩ rằng chúng tôi đã hoàn thành công việc này. Điều này rất khó khăn và đau đớn, nhưng tôi nghĩ rằng chúng tôi hiện đang ở một vị trí tốt hơn nhiều, tôi cảm thấy vô cùng phấn khích về công ty và tương lai của nó.
Nhưng còn một điều thứ hai, đó là tôi nghĩ rằng việc nhận ra rằng cách công ty hoạt động đang thay đổi cũng rất đáng giá. Ví dụ, bạn có thể nhìn vào doanh thu trên đầu người. Doanh thu trên đầu người của chúng tôi so với bất kỳ doanh nghiệp nào trước đây là một con số khổng lồ. Điều này có lý do, bạn bắt đầu thấy sự gia tăng đòn bẩy có thể đạt được thông qua công nghệ này. Và vì chúng tôi đang sản xuất công nghệ này và nỗ lực làm cho công nghệ này trở nên rộng rãi, giúp đỡ rất nhiều công ty, bạn sẽ thấy nhiều công ty khác có thể hoạt động theo cách khác, có thể có doanh thu trên đầu người vượt trội.
Đối với tôi, điều này rất thú vị, chúng tôi đang thay đổi ý nghĩa của việc điều hành một công ty và cách thức hoạt động. Vì vậy, có một số điều không thay đổi, chỉ là mọi người làm việc cùng nhau------có một số điều rất cơ bản, thực sự làm điều đó theo cách tốt và nhất quán là điều tôi luôn chú ý. Nhưng tôi cũng nghĩ rằng có những vấn đề về việc tận dụng khả năng của công nghệ của chúng tôi, điều này có nghĩa là mỗi công ty sẽ có một cơ hội mới.
Năng suất và AGI
Bạn đã đề cập đến việc hủy bỏ Sora và định vị nó trong lĩnh vực giải trí tiêu dùng. ChatGPT, thành công lớn trong tiêu dùng, bạn đã kiếm được số tiền khó tin từ người tiêu dùng. Nhưng cuối cùng, có bao nhiêu người sẵn sàng trả tiền cho điều đó? Có bao nhiêu khách hàng thực sự muốn nâng cao năng suất? Có phải việc đạt được thành công lớn như vậy trên thị trường tiêu dùng gần như là một tác động tiêu cực, vì nó phân tán sự chú ý, chiếm dụng rất nhiều GPU, có thể bạn đã bỏ lỡ------không phải là bỏ lỡ------nhưng khởi đầu muộn trong việc làm cho doanh nghiệp trở thành ưu tiên hàng đầu?
GB: Chúng tôi thường có những cuộc đối thoại như vậy nội bộ, thực sự, tôi nghĩ rằng đây là một trong những lợi thế của OpenAI, chúng tôi thực sự xem xét mọi thứ chúng tôi làm từ nguyên lý đầu tiên, liên tục suy nghĩ lại, có nhiều quan điểm và góc nhìn khác nhau. Một số người có thể lập luận từ hầu hết mọi góc độ, họ đều có lý do của mình. Vì vậy, có một phần hợp lý trong việc nói rằng, "Này, có khoảnh khắc đại diện này, chúng tôi đã phản ứng chậm với điều này".
Nhưng cũng có một tỷ người------điều này vượt quá 10% dân số thế giới. Ở Mỹ, tôi nghĩ con số khoảng một phần ba số người sử dụng ChatGPT mỗi tuần. Có rất nhiều người đang sử dụng hệ thống của bạn mỗi tuần, điều này là độc nhất, không có gì tương tự cho công nghệ tiên tiến này.
Vì vậy, một mặt, nếu bạn chỉ xem nó như là, "Này, chúng tôi có công nghệ tiên tiến", thì một thách thức của việc trò chuyện như một sản phẩm là, nó không nhất thiết phải nhất quán với các mô hình thông minh hơn. Nếu bạn chỉ xem nó như một sự thay thế cho công cụ tìm kiếm, không rõ liệu mọi người có nhận được những lợi ích đó trực tiếp từ trò chuyện truyền thống hay không. Nhưng tôi nghĩ rằng tất cả những điều này sẽ hội tụ lại, đạt đến một đỉnh điểm, và chúng tôi sẽ thấy một tỷ người dùng này là một khoản đầu tư, là sự tích lũy thực tế của cách mở khóa mô hình trong tương lai, bạn đang thấy bước đầu tiên của nó thông qua ChatGPT Work, có rất nhiều sắc thái và phức tạp trong đó, nhưng nhiều chiến lược luôn là nói rằng, chúng tôi có người tiêu dùng, có doanh nghiệp, đó là hai điều------chúng tôi không muốn làm hai điều, chúng tôi muốn làm một điều. Chúng tôi muốn xây dựng một AGI, một hệ thống, một ngăn xếp thống nhất. Chúng tôi muốn nó là thứ mà bạn có thể sử dụng trong cuộc sống cá nhân và công việc của mình.
Đúng, nhưng điều này có liên quan đến vấn đề đầu ra của cấu trúc tổ chức nội bộ không? Bạn đã phát hành một ChatGPT mới, với sự khác biệt lớn so với phiên bản cũ, nó được xây dựng dựa trên Codex. Tôi có thể thấy lợi ích đối với OpenAI nội bộ, nhưng liệu khách hàng có cảm thấy thất vọng vì họ không nhận ra những gì họ có thể làm, vì vậy, "chúng tôi sẽ ném họ vào vùng nước sâu, hy vọng điều này sẽ giúp họ tự tìm ra" không?
GB: Tôi nghĩ rằng ngành công nghiệp đang trải qua một sự chuyển đổi cơ bản, bạn có thể thấy điều này từ những sản phẩm đại lý mới đang xuất hiện hiện tại. Tôi nghĩ rằng sự chuyển đổi cốt lõi là bạn đang chuyển từ trò chuyện sang các trường hợp sử dụng đại lý. Một lần nữa, điều này không chỉ liên quan đến năng suất. Tôi nghĩ rằng trong cuộc sống cá nhân của bạn, bạn muốn có thể yêu cầu thứ này đặt vé cho bạn, đặt lịch cắt tóc cho bạn, làm những việc cá nhân đó, nhưng bạn cũng muốn nó có thể đưa ra những lời khuyên tốt về cuộc sống, có thể giúp bạn xử lý thông tin sức khỏe.

Vì vậy, đối với tôi, từ "năng suất" quá hẹp. Đối với tôi, từ "người tiêu dùng" quá rộng. Doanh nghiệp cũng là điều mà tôi nghĩ sẽ thay đổi. Tất cả những từ ngữ cổ điển này sẽ được kết hợp và đan xen theo một cách xây dựng sản phẩm chưa từng có. Vì vậy, quan điểm của tôi là, ở đây cần có một quản lý thay đổi, tức là làm thế nào để dẫn dắt một tỷ người dùng đến một tập hợp trường hợp sử dụng mới, giúp họ hiểu. Và, nhân tiện, có một "lợi thế không công bằng" khả thi, đó là bạn có một AI, nó hiểu những gì bạn đang cố gắng hoàn thành.
Đúng vậy.
GB: Nó có thể nói, "Ồ, nếu bạn kích hoạt bộ kết nối này, nếu bạn làm như vậy, tôi thực sự có thể giúp bạn nhiều hơn." Điều này trong mắt tôi là một điều tuyệt vời, một cơ hội tuyệt vời, nơi có tiềm năng lớn. Khi tôi nói "không công bằng", ý tôi là so với những gì bạn có thể hoàn thành bằng công nghệ cổ điển. Nếu bạn chỉ so sánh một công nghệ với một công nghệ khác, công nghệ này có một số điểm độc đáo.
Bạn đã đề cập đến góc độ Turing trước đó, tôi rất vui vì bạn đã đề cập đến hai phần, vì AI có thể nói như con người không? Rõ ràng, chúng ta đã vượt qua điểm đó từ lâu. Nhưng đối với tôi, định nghĩa về AGI------đó là một câu hỏi rắc rối cho các bạn, tôi nghĩ, cuối cùng nó không còn bị ràng buộc bởi thỏa thuận của các bạn với Microsoft nữa, vì vậy chúng ta không cần phải lo lắng về góc độ đó------đối với tôi, nó có một mối liên hệ nào đó với việc học. Bạn đã đề cập đến việc học, và LLM đã học được bao nhiêu (thì quá khứ), nhưng thách thức là liệu nó có tiếp tục học (thì hiện tại) không?
Đối với tôi, sự cách mạng của thời điểm đại lý, tôi nghĩ, thực sự nằm ở khả năng viết ra mọi thứ. Đó là lý do cần thiết cho sự chuyển đổi của Codex/ChatGPT, vì nó đã có khả năng viết ra mọi thứ. Nếu bạn có thể viết ra, bạn có thể nhớ mọi thứ. Nếu bạn có thể nhớ mọi thứ, bạn có thể trở nên rất hữu ích trong nhiều khía cạnh. Vấn đề là, đây có phải là một trạng thái cuối cùng, hay chúng ta sẽ có một LLM có khả năng học tập liên tục, và đó chính là AGI? Tôi có sai không, hay điều này phù hợp với phần thứ hai của vấn đề Turing?
GB: Vâng, tôi nghĩ đây cũng là một lĩnh vực tranh luận rất thú vị, vì mọi người thực sự có định nghĩa riêng về AGI, nó gần như là một thứ mơ hồ. Ban đầu, chúng tôi nghĩ rằng sẽ có một thời điểm mà mọi người đều đồng ý đó là AGI, nhưng mọi thứ hoàn toàn không phát triển theo cách đó.
Bây giờ, tôi có xu hướng trừu tượng hóa góc nhìn từ công nghệ. Vì vậy, về việc liệu trí nhớ có phải được tích hợp vào trọng số không? Đây có phải là Transformer hay một cái gì đó khác? Những câu hỏi này, tôi nghĩ, là chi tiết. Vấn đề thực sự là, bạn có một hệ thống hoạt động theo cách mà bạn mong đợi AI thực sự hoạt động không, một hệ thống có thể học, có thể học từ bạn, có thể thích ứng với nhu cầu của bạn? Và câu hỏi này, có phải được thực hiện thông qua một cuốn sổ ghi nhớ mà nó viết vào? Có phải thông qua mã thông báo mềm? Hay thông qua một cách khác?
Tất cả những điều này, đối với tôi, đều cảm thấy như là những câu trả lời khả thi cho vấn đề. Tôi nghĩ rõ ràng rằng chúng ta đã đi xa hơn nhiều so với mong đợi hợp lý trong việc "viết xuống bằng sổ ghi nhớ". Thật ngạc nhiên khi thấy nó thành công như vậy, vì hai năm trước, chúng ta có thể đã nói, "Vâng, bạn cần những ngữ cảnh siêu dài này, đó mới là những gì bạn cần," nhưng thực tế chứng minh rằng chỉ cần "viết một cuốn sổ ghi nhớ" và ngữ cảnh ngắn hơn, nó đã đi rất xa một cách không thể tin được.
Chỉ cần viết xuống.
GB: Vì vậy, chúng ta sẽ xem tương lai sẽ mang lại điều gì trong việc cải thiện những khía cạnh này. Tôi có niềm tin rằng nếu bạn nhìn từ góc độ vĩ mô, mọi thứ đều là cấp số nhân. Nếu bạn phóng to, bạn sẽ thấy những sự chuyển mình của các mô hình. Nhân tiện, đây là quan điểm của Ray Kurzweil về cách công nghệ và tính toán hoạt động. Tôi nghĩ rằng ngay cả trong những câu hỏi về cách trí nhớ sẽ hoạt động, điều này cũng hoàn toàn đúng.
Astra
Vì vậy, bạn vừa phát hành Astra. Cuối cùng chúng ta đã đến với chủ đề chính. Đây có phải là một mô hình được huấn luyện trước mới không? Bạn có dự định phát hành bất kỳ chi tiết nào về kích thước, kiến trúc không? Chúng tôi đã ghi âm đoạn này trước khi công bố chính thức, vì vậy tôi vẫn chưa thấy toàn bộ nội dung bạn đã phát hành.
GB: Ừm, chúng tôi sẽ không thảo luận về các chi tiết nội bộ và kiến trúc, v.v. Nhưng đây là một bước tiến lớn. Chúng tôi đang nói về việc đây là lần đầu tiên chúng tôi huấn luyện trên hơn 100.000 GPU, đây là một con số dễ nói ra, nhưng hãy nghĩ về quy mô của nó. Những trung tâm dữ liệu này theo một cách nào đó là những cỗ máy khổng lồ mà chúng tôi đã xây dựng để giúp giao hàng và tạo ra công nghệ AI, có thể tận dụng rất nhiều khả năng tính toán để mang lại kết quả mà chúng tôi đã đạt được, đây là một thách thức kỹ thuật thực sự và là một kỳ tích.
Vì vậy, một phần trong đó là về việc làm cho mô hình có khả năng hơn, nhưng rất nhiều khả năng tính toán được sử dụng cho an toàn và sự phù hợp, chúng tôi đã thực hiện rất nhiều công việc an toàn trong lĩnh vực này. Tôi nghĩ rằng chúng tôi đã làm rất nhiều việc để giao hàng mô hình này một cách an toàn. Đây là mô hình được phù hợp nhất mà chúng tôi có cho đến nay, đối với tôi, điều này là hoàn toàn quan trọng, và luôn luôn như vậy. Nhưng vì khả năng mạnh mẽ như vậy, sự phù hợp và an toàn trở nên nổi bật và trung tâm trong công việc của mọi người.
Bài đăng thông báo của bạn rất thú vị. Nó rất thực tế. Có rất nhiều trường hợp sử dụng thực tế. So với thông báo của đối thủ cạnh tranh, sự tương phản rất rất lớn. Bạn đã định vị AI như một công cụ------tôi nghĩ đó là một cách nói công bằng------điều này có liên quan đến tiếp thị, hay bạn chỉ đơn giản là nhìn nhận AI như vậy, thay vì, chẳng hạn, tạo ra Chúa?
GB: Tôi nghĩ rằng chúng tôi có một giá trị cốt lõi sâu sắc, trong đó một số thực sự liên quan đến cách chúng tôi nhìn nhận con người. Con người có giá trị, không chỉ vì chúng tôi có thể hoàn thành nhiệm vụ. Chúng tôi có giá trị vì chúng tôi là con người, vì chúng tôi có cảm xúc, vì chúng tôi quan trọng. Sự phán xét của con người, sự giám sát của con người, sự kiểm soát của con người, tất cả những điều này đều cần thiết để duy trì và sẽ luôn như vậy. Đây là điều cốt lõi mà chúng tôi tin tưởng.
Vì vậy, khi chúng tôi suy nghĩ về những gì chúng tôi có thể làm để giúp định hướng tương lai của công nghệ này------từ một số khía cạnh, đây chính là ý nghĩa của tất cả, đây là lý do chúng tôi thành lập nơi này, đây là điều chúng tôi quan tâm, cách chúng tôi giúp công nghệ này đi theo một hướng tích cực hơn một chút so với khi không có chúng tôi------chúng tôi suy nghĩ về những câu hỏi này, về cách công nghệ này sẽ trải rộng trên thế giới. Chúng tôi hy vọng nó có thể nâng cao mọi người, nhưng cũng liên quan đến cách con người tương tác với công nghệ, với máy tính. Nó rõ ràng đang thay đổi. Ngay cả trong việc chỉ giảm bớt việc gõ phím, nói chuyện nhiều hơn với máy tính của bạn, có một giao diện tự nhiên hơn cũng đang thay đổi.
Nhưng sự giám sát, sáng tạo và tầm nhìn thực sự của con người, tất cả những điều này tôi nghĩ đều rất quan trọng và cần được giữ lại. Vì vậy, điều này thực sự sẽ thấm vào những câu hỏi này: Bạn có nói về nó như một con người, hay bạn nói về nó như một công cụ? Bạn có xem xét các trường hợp sử dụng không? Hay bạn suy nghĩ về nó theo cách khác? Bạn có thể xem điều này như một điều nhỏ bé, thực tế tôi rất vui vì bạn đã chỉ ra điều đó, nhưng đây là điều mà chúng tôi đã suy nghĩ rất kỹ lưỡng. Đội ngũ đã dành rất nhiều thời gian thực sự suy nghĩ về tất cả những gì chúng tôi muốn nói và cách chúng tôi muốn thể hiện loại công việc này với thế giới.
Vì vậy, đây có phải là một sự phát hành mô hình, hay một sự phát hành sản phẩm, hoặc có sự khác biệt không?
GB: Những điều này thực sự sẽ hòa quyện vào nhau. Tôi sẽ nói rằng đây trước tiên là một sự phát hành mô hình, nhưng mô hình này có khả năng hơn về chất lượng. Có thể tiêu đề chính là việc sử dụng máy tính. Nó thực sự đã vượt qua ngưỡng của tôi, việc sử dụng máy tính luôn------ngay cả từ khi OpenAI được thành lập, tôi nhớ vào tháng 11 năm 2015, trước khi nó thực sự bắt đầu------
Ừm, đó giống như sản phẩm đầu tiên của các bạn, đúng không? Giống như chơi trò chơi điện tử.
GB: Vâng, đúng vậy. À, bạn nhớ, đúng vậy. Chúng tôi có một tầm nhìn rằng nếu bạn có thể xử lý pixel màn hình, bàn phím, chuột, huấn luyện một AI từ đầu đến cuối, nó sẽ có thể thực sự xử lý bất kỳ loại nhiệm vụ nào, bất kỳ điều gì bạn muốn mọi người được giúp đỡ, AI đó đều có thể làm được.
Nếu bạn nhìn vào thời gian trong hai năm qua, đó là một thời đại của các bộ kết nối. Bạn có một số phần mềm mà con người có thể sử dụng tốt, nhưng AI không thể truy cập vào nó. Vậy bạn sẽ làm gì? Bạn phải viết một bộ kết nối rất cụ thể để kết nối với API, không phải mọi thứ đều được công khai, vì vậy bạn không thể làm mọi thứ bạn có thể làm. Sau đó, bạn nghĩ về việc có rất nhiều phần mềm không có API, những thứ hoàn toàn không thể tiếp cận.
Vì vậy, chúng tôi có một thế giới hạn chế, AI bị giới hạn rất nhiều trong việc giúp bạn. Tôi nghĩ rằng bây giờ chúng tôi có công nghệ gần như là bộ kết nối phổ quát. Bây giờ, điều này không có nghĩa là mọi vấn đề đã được giải quyết. Bạn phải xem xét cách thiết lập các rào cản doanh nghiệp xung quanh hành vi của những AI này? Bạn làm thế nào để có sự giám sát, quản lý, theo dõi và khả năng quan sát thích hợp? Tất cả những điều này chúng tôi đều đang nỗ lực.
Vì vậy, tôi sẽ coi đây là một quá trình liên tục, về cách sản phẩm trải rộng để giúp tận dụng khả năng này. Nhưng nó đã thay đổi cách mọi người làm việc bên trong OpenAI, và tôi nghĩ rằng nó thực sự sẽ nâng cao rất nhiều công ty, rất nhiều cá nhân.
Chuỗi giá trị AI
Nếu bạn xem xét toàn bộ chuỗi giá trị, có một vị trí bạn sẽ thấy đang chiến đấu trên hai mặt trận. Một là bạn có những công ty như Microsoft, hoặc các đối tác khác------nếu bạn không muốn sử dụng tên của họ vì họ vẫn là những đối tác quan trọng------nhưng họ muốn thương mại hóa mô hình. Họ muốn xây dựng thứ gì đó ở cấp độ cao, bạn có thể cắm và sử dụng, vào và ra khỏi mô hình, họ nắm giữ tất cả ngữ cảnh và những điều quan trọng. Nhưng đồng thời, bạn đang xây dựng những khả năng đáng kinh ngạc này, những khả năng cuối cùng gắn bó chặt chẽ với người dùng cuối, nó chỉ đơn giản là làm những gì bạn muốn nó làm. Điều này có phải là điều không thể tránh khỏi mà bạn phải đạt được để hoàn thành mục tiêu của mình không? Có phải cũng có sự cần thiết về kinh tế này------nếu chúng tôi không muốn bị thương mại hóa, chúng tôi cần phải tiến lên sản phẩm và kết nối trực tiếp với người dùng?
GB: Tôi sẽ nói rằng sứ mệnh cơ bản của chúng tôi là, chúng tôi muốn có nhiều khả năng AI hơn trên thế giới. Chúng tôi muốn mọi người sử dụng AI nhiều hơn để làm nhiều điều hơn, để nó giúp họ, và chúng tôi thực sự tin rằng chúng tôi đang thúc đẩy nền kinh tế dựa trên tính toán này. Điều này có nghĩa là thực hiện các hình thức khác nhau trong các lĩnh vực dọc khác nhau.
Đôi khi chúng tôi cảm thấy chúng tôi đang ở một vị trí mà chúng tôi có thể thực sự tập trung vào một lĩnh vực nào đó và làm tốt, hoặc nó rất cốt lõi đối với sứ mệnh của chúng tôi. Sức khỏe là một ví dụ tốt. Chúng tôi đang xây dựng một số thứ rất độc đáo trong lĩnh vực sức khỏe. Thực tế, điều khiến tôi ngạc nhiên là những gì chúng tôi đang làm trong lĩnh vực sức khỏe so với số lượng người mà nó thực sự giúp đỡ, lại nhận được rất ít sự chú ý. Chúng tôi có khoảng 300 triệu người sử dụng ChatGPT cho các truy vấn sức khỏe mỗi tuần. 300 triệu người, đó là một con số khổng lồ. Sau đó, chúng tôi cũng đang xây dựng một sản phẩm từ dưới lên cho các bác sĩ lâm sàng, cũng như một sản phẩm doanh nghiệp từ trên xuống cho các bệnh viện. Vì vậy, chúng tôi có một thị trường ba bên trong lĩnh vực sức khỏe, những gì chúng tôi có thể làm ở đó bao gồm, chẳng hạn, bạn muốn tìm người để tuyển dụng cho các thử nghiệm lâm sàng------đó là một bài toán khó, nhưng thực tế chúng tôi có thể có khả năng giúp tìm những người mà trước đây sẽ không được tìm thấy. Điều này không chỉ giúp bệnh nhân mà còn giúp các loại thuốc tiến triển nhanh hơn.
Vì vậy, có một cốt lõi rằng sức khỏe rất quan trọng đối với sứ mệnh của chúng tôi, chúng tôi có cơ hội thành công độc đáo, cơ hội độc đáo để thực sự tập trung vào nó. Chúng tôi đã thành lập một đội ngũ, đầu tư toàn bộ năng lượng, xây dựng các mối quan hệ khác nhau.
Khi chúng tôi bước vào các lĩnh vực dọc cụ thể, một trong những điều chúng tôi làm là suy nghĩ về cách hợp tác tốt với hệ sinh thái. Điều này không có nghĩa là chúng tôi sẽ không cạnh tranh ở đó------chúng tôi thường cạnh tranh rất quyết liệt------nhưng chúng tôi cũng thực sự tin rằng chúng tôi sẽ nâng cao tất cả các bên tham gia, cũng như cách chúng tôi thực sự tập trung vào sứ mệnh cốt lõi này, tức là chúng tôi có công nghệ này, chúng tôi muốn nó được phổ biến rộng rãi, chúng tôi muốn nó hiện diện ở khắp mọi nơi. Vì vậy, đôi khi tình hình có thể hơi tinh tế. Khi chúng tôi bước vào một lĩnh vực cụ thể, luôn có rất nhiều câu hỏi về những gì chúng tôi thực sự muốn làm, những gì chúng tôi có thể làm và không thể làm. Nhưng tôi nghĩ rằng cách chúng tôi nhìn nhận điều này là, mục tiêu tổng thể của OpenAI được hưởng lợi từ càng nhiều người sử dụng AI theo cách tích cực càng tốt.

Ừ, nếu bạn có một lớp đang cố gắng thương mại hóa ở trên, thì có thể cũng có một góc độ là bạn đang cố gắng thương mại hóa lớp ở dưới. Các bạn vừa mới nói nhiều hơn về chip Jalapeño của các bạn tại Hot Chips. Tại sao Jalapeño lại quan trọng? Nó quan trọng chỉ để tiết kiệm tiền khi mua chip thôi sao?
GB: Tôi sẽ coi đó là, kể từ năm 2017, chúng tôi về cơ bản đã liên hệ với mọi công ty khởi nghiệp phần cứng, mọi nhà cung cấp. Chúng tôi đã nói chuyện với họ, đưa ra phản hồi, chúng tôi nói, "Này, chúng tôi thấy hướng phát triển của mô hình là như vậy, và chúng tôi nghĩ bạn nên làm như thế này." Đôi khi họ nghe chúng tôi, đôi khi không, đôi khi chúng tôi là đối tác thân thiết, đôi khi họ không muốn nói chuyện với chúng tôi lắm.
Về việc sở hữu dự án chip nội bộ, có một điều rất tự do là chúng tôi có thể trực tiếp theo đuổi những gì chúng tôi nghĩ là tốt nhất, những gì chúng tôi nghĩ là điều chỉnh chính xác, không chỉ cho những gì chúng tôi đang làm hiện tại, mà còn cho hướng phát triển của công nghệ mà chúng tôi nghĩ. Đây là một khoản đầu tư rất lớn------chúng tôi có một đội ngũ, một đội ngũ thực sự đáng kinh ngạc, với những lãnh đạo xuất sắc, họ đã làm việc cho điều này một thời gian dài. Nhưng cũng giống như vậy, đây cũng là một phần trong việc chúng tôi hợp tác chặt chẽ với hệ sinh thái.
Chúng tôi hợp tác chặt chẽ với NVIDIA như là đối tác tính toán ưu tiên của chúng tôi, nếu bạn nhìn vào quy mô và sự độc đáo của máy tính mà chúng tôi đang xây dựng, chúng tôi cần NVIDIA, điều đó không còn nghi ngờ gì nữa, chúng tôi đang xây dựng những máy tính huấn luyện tuyệt vời này, và chúng tôi cũng đang sử dụng chúng để thực hiện rất nhiều suy diễn, chúng tôi có thể thúc đẩy phần cứng của họ theo những cách mà họ thậm chí không nhận ra.
Vâng, tôi nghe nói rằng có chút khó khăn để nhặt lên, có thể điều này làm cho việc phát hành các mô hình lớn đúng hạn trở nên khó khăn hơn một chút, nhưng tôi nghĩ bây giờ nó đang hoạt động.
GB: Vâng, vâng. Tôi muốn nói rằng, việc sở hữu chuyên môn nội bộ cho phép chúng tôi làm một số điều, vì chúng tôi hiểu sâu sắc về mọi thứ. Ngồi bên ngoài và ném gợi ý qua hàng rào là một chuyện, nếu bạn thực sự trải qua nỗi đau, đó là một chuyện khác.
Một ví dụ tốt về điều này thực sự là AI được sử dụng trong thiết kế chip. Chúng tôi đã nói về điều này, chúng tôi đã sử dụng mô hình của chính chúng tôi trong thiết kế Jalapeño, nó thực sự đã tăng tốc độ, mang lại cho chúng tôi một số chiến thắng thực sự, tất cả những điều tuyệt vời. Nhân tiện, có một câu chuyện thú vị ở đó, chúng tôi gần đến một thời hạn, còn khoảng một tháng, chúng tôi đã nhận được một số tối ưu hóa thông qua mô hình của chúng tôi. Chúng tôi đã nghĩ, "Chúng tôi có thực sự dành thời gian để đọc nó đã làm gì không? Chúng tôi biết nó là đúng. Chúng tôi cần hiểu chính xác nó đã tối ưu hóa cái gì, hay chúng tôi dành thời gian còn lại để làm nhiều tối ưu hóa hơn?"------vì vậy chúng tôi đã nói, "Bạn biết không? Chúng tôi chỉ cần làm nhiều tối ưu hóa hơn." Vì vậy, chúng tôi đã dành một tháng đó chỉ để chạy nó, mà không hiểu sâu sắc tất cả những điều chỉnh mà nó đã thực hiện. Sau đó, chúng tôi quay lại đọc nó và phát hiện ra rằng nó đã tìm thấy rất nhiều tối ưu hóa mà vốn đã có trong danh sách của chúng tôi, nhưng chúng tôi chưa bao giờ thực hiện, vì vậy đó thực sự là một câu chuyện khá thú vị.
Nhưng bây giờ chúng tôi có loại chuyên môn đó, chúng tôi biết điều này hiệu quả, chúng tôi có thể mang nó đến hệ sinh thái. Chúng tôi có thể hợp tác chặt chẽ với mọi người, thực sự mang lại những lợi ích này một cách rộng rãi, chuyển đổi phần cứng và triển khai quy mô lớn. Vì vậy, có một số điều tuyệt đối quan trọng về cái vòng quay đó, chip thì đáng kinh ngạc, đội ngũ đã làm rất tốt.
Nhưng, khi bạn không thể xuất hàng hàng loạt, vẫn cần hợp tác với những người khác trong hệ sinh thái để có được nguồn cung mà bạn cần, thì bây giờ nói về điều đó có phải là vấn đề không?
GB: Ừ, nhưng đây là cốt lõi, thực sự là cốt lõi của mọi thứ. Chúng tôi nghĩ rằng nó là------tôi nghĩ mọi thứ đều là hiệu ứng nhân, mọi thứ đều bổ sung cho nhau, mọi thứ cộng lại. Một lần nữa, NVIDIA là đối tác hợp tác ưu tiên của chúng tôi, điều này sẽ không thay đổi. Thực tế, chúng tôi hợp tác chặt chẽ hơn với họ. Chúng tôi rất biết ơn về mối quan hệ hợp tác này, chúng tôi đã dành rất nhiều thời gian bên cạnh đội ngũ của họ, chúng tôi học được rất nhiều từ họ, và chúng tôi hy vọng họ cũng có thể học được một số điều từ chúng tôi, tôi nghĩ điều này sẽ không thay đổi. Chúng tôi có thể sở hữu chuyên môn nội bộ và suy nghĩ về vấn đề theo cách của riêng mình, đối với tôi, đây cũng là hiệu ứng nhân, tôi nghĩ điều này thực sự mang lại lợi ích cho mọi người.
An ninh mạng
Bạn đã đề cập rằng bạn vừa mới tin tưởng vào thiết kế AI, điều đó đã đưa bạn đi xa hơn. Đây có phải là câu trả lời cho an ninh mạng không? Một số kỹ sư của bạn đã phát biểu tại hội nghị Black Hat, nói về vấn đề cấu trúc này------kẻ tấn công không cần phải lo lắng về việc phá hủy mọi thứ, mục tiêu của họ là phá hủy mọi thứ. Nếu bạn ở phía phòng thủ, ngoài việc chống lại những cuộc tấn công này, bạn còn phải lo lắng về việc mọi thứ tiếp tục hoạt động. Phía phòng thủ có cần đạt đến mức hoàn toàn tin tưởng vào AI không?
GB: Tôi nghĩ rằng phần cứng là một nghiên cứu trường hợp rất quan trọng, vì ở đó chúng tôi có hàng rào. Chúng tôi có xác thực, thực tế, cách chúng tôi viết thiết kế phần cứng cơ bản được thiết kế đặc biệt để cho phép xác thực, vì vậy chúng tôi gần như đã thiết kế chung toàn bộ hệ thống.
Nó giống như bạn lập trình, trước tiên viết kiểm tra đơn vị, sau đó thực hiện nó.
GB: Những thứ như vậy, bạn chọn ngôn ngữ và chuỗi công cụ của bạn như thế nào, tổng thể, tất cả chúng đều kết hợp lại, thực tế tất cả những điều này cộng lại là một hệ thống mà bạn có thể có được loại khả năng quan sát và tin cậy đó.
Tôi nghĩ rằng, có một số lĩnh vực bạn có thể nói, "Tôi có đủ hàng rào, nếu đây là mã hoặc tối ưu hóa mà tôi chưa hoàn toàn kiểm tra, thực sự là ổn," miễn là bạn có các kiểm soát bù đắp thích hợp. Nhưng tôi nghĩ rằng, với tư cách là con người, bạn thực sự cần phải hiểu và cảm nhận trách nhiệm đối với hệ thống mà bạn đã tạo ra, điều này rất quan trọng. Đối với tôi, đây thực sự là cốt lõi, quay trở lại con người là gì, điều gì làm cho chúng tôi trở nên độc đáo, điều gì là những gì chúng tôi sẽ mang đến tương lai, tôi nghĩ rằng trách nhiệm là cốt lõi trong đó. Cuối cùng, bạn phải chịu trách nhiệm về những gì xảy ra trong công ty của bạn.
Đúng, nhưng nếu phía tấn công không chịu trách nhiệm, thì đây có phải là một bất lợi cấu trúc không?
GB: Vì vậy, tôi nghĩ rằng đây là điều mà chúng tôi thường suy nghĩ, chúng tôi gọi nó là "Cửa sổ của người phòng thủ". Tôi nghĩ rằng chúng tôi có thể thấy hình dáng tổng thể của tương lai, khả năng tiên tiến mà chúng tôi có cho thấy loại khả năng sẽ lan tỏa đến những kẻ gây ra mối đe dọa. Nhân tiện, tôi nghĩ rằng khả năng này sẽ không bị khóa mãi mãi trong một số phòng thí nghiệm, điều này rất quan trọng, việc phân phối quyền lực rộng rãi là rất quan trọng, và đây cũng là một phần trong sứ mệnh của chúng tôi.
Nhưng chúng tôi có khả năng thực hiện sự tách biệt theo thời gian. Có một cửa sổ như vậy, mà người phòng thủ có thể có được những khả năng này một cách khác biệt. Quan điểm của tôi là, điều này là đúng------trong lĩnh vực an ninh mạng có một quan điểm phổ biến rằng tấn công là vấn đề kỹ thuật, phòng thủ là vấn đề chính trị. Kẻ tấn công có thể lấy một thứ từ kệ và sử dụng nó, trong khi với tư cách là người phòng thủ, bạn phải xem xét các bên liên quan của mình, phải xem xét doanh nghiệp của bạn, phải xem xét cách thực sự thu hút mọi người, CEO của bạn, tất cả các giám đốc điều hành, tất cả những điều này. Vì vậy, tôi nghĩ rằng, ở đây, người phòng thủ cần có loại ý chí đó.
Một điều mà chúng tôi đang đề xuất, thực tế chúng tôi đã làm và bây giờ đang công khai nói về nó, là mỗi công ty nên coi đây là một sự kiện chủ động. Hoạt động kinh doanh quan trọng, sự kiện chủ động, đó là ưu tiên tiếp theo của bạn, vì vậy chúng tôi thực sự đã đưa 25% kỹ sư sản xuất của chúng tôi ra để bảo vệ chính mình. Chúng tôi đã lấy mô hình của chúng tôi------thực tế, chúng tôi đã lấy Astra, chỉ vào hệ thống của chính chúng tôi để tìm kiếm lỗ hổng, không chỉ đọc mã, mà thực sự quan sát những thứ này hoạt động từ đầu đến cuối, để chúng tôi có thể tìm thấy những lỗ hổng thực sự và hiệu quả, sau đó nó cũng giúp chúng tôi sửa chữa, vá lỗi và khắc phục. Vì vậy, tôi nghĩ rằng bạn thực sự cần một sự chuyển đổi năng lượng trong hệ sinh thái để duy trì vị thế dẫn đầu và tận dụng cửa sổ này.
Ừ, bạn hiện đang làm những điều này chắc chắn tốt, nhưng đối với tôi, về sự kiện Hugging Face và các báo cáo liên quan, điều đáng chú ý nhất là cảm giác rằng OpenAI trước đây không đặc biệt chú ý đến an ninh mạng. Tại sao bạn không làm như vậy trước đây? "Cửa sổ của người phòng thủ" không phải đã mở một thời gian rồi sao, trong khi bạn cũng không tận dụng tốt nó?
GB: Ừ, hai câu trả lời. Một, nếu bạn nhìn vào cách chúng tôi làm sandbox, không phải nói rằng khối lượng công việc này không được sandbox hóa. Thực tế có một sandbox xung quanh nó, tôi nghĩ rằng một điều mà chúng tôi nhận ra là chúng tôi có------
Đúng, điều đó rõ ràng là không được kiểm tra đầy đủ. Đó có thực sự là sandbox không? Hay là kết nối với internet thông qua bên thứ ba, và bên thứ ba chỉ bị ném vào? Về sự kiện này, điều đáng chú ý nhất chính là điều này. Nó giống như, nếu bạn muốn kiểm tra lỗ hổng, tôi nghĩ bạn thực sự đã kiểm tra.
GB: Không còn nghi ngờ gì nữa, AI đã làm những điều rất sáng tạo để thoát ra và vào Hugging Face. Nhưng đối với tôi, có một điều lớn hơn, tôi nghĩ rằng bạn đã chỉ ra điều đó, đó là kể từ khi Mythos được phát hành vào mùa hè này, khi chúng tôi bắt đầu có những mô hình có khả năng mạng------chúng tôi thậm chí đã nói về kế hoạch truy cập đáng tin cậy của chúng tôi vào tháng Hai, vì chúng tôi đã thấy làn sóng này đến, chúng tôi muốn thực sự chuẩn bị cho điều này------có một xu hướng------
Tôi biết, nhưng bạn đã nói về điều đó vào tháng Hai, nhưng bạn không chỉ ra rằng "sandbox của tôi thực sự an toàn không?".
GB: Có một bản năng, một phản ứng, đó là nói, "Hãy để chúng tôi hạn chế quyền truy cập quy mô lớn, hãy để chúng tôi thực sự nghiêm ngặt, chỉ có bạn mới có quyền truy cập mới có thể sử dụng." Tôi nghĩ rằng, như bạn đã nói, vì lĩnh vực này đang phát triển liên tục, điều này có nghĩa là người phòng thủ đã mất thời gian, mọi người không thực hiện phòng thủ. Phần đó liên quan đến quyền truy cập, nhưng phần đó cũng liên quan đến việc bạn đã đầu tư bao nhiêu sức mạnh để nói rằng chúng tôi sẽ thực hiện một sự chuyển đổi lớn trong lĩnh vực này.
Bây giờ, tôi nghĩ rằng ở một mức độ nào đó, thời gian không phải lúc nào cũng được sản xuất một cách bình đẳng, vì chúng tôi đã chuyển từ một thế giới mà mô hình mạng không hữu ích và không có sự khác biệt, sang một thế giới thực sự rất có khả năng và mạnh mẽ. Chúng tôi đã thấy điều này trên Astra, chúng tôi đã nói về cách nó thực sự đã bão hòa một loạt các đánh giá. Tôi nghĩ rằng bây giờ là thời điểm, có thể vài tháng trước cũng đã là thời điểm, nhưng bạn chỉ có thể có những mô hình yếu hơn nhiều, bạn sẽ đạt được ít tiến bộ hơn nhiều.
Vì vậy, tôi nghĩ rằng, thực sự đánh giá vị trí mà chúng tôi đang ở, chúng tôi rõ ràng đã đến đó, tôi cảm thấy đây là điều mà chúng tôi đã học được, chúng tôi ghi nhớ trong tâm trí, tôi nghĩ rằng bạn đã thấy sự chuyển đổi thực sự. Điều này thực sự là một sự thay đổi văn hóa, một sự thay đổi hoạt động, điều này không dễ dàng, vì nó thực sự có nghĩa là bạn phải làm cho đội ngũ làm việc rất chặt chẽ với nhau, có tiêu chuẩn cao hơn về cách xây dựng chính sách, v.v. Tất cả những điều này, đối với chúng tôi, về sự chuyển đổi, không phải là chúng tôi đã luôn quan tâm đến những khía cạnh này, mà thực sự kết hợp chúng trong hoạt động và có thể đưa ra quyết định theo cách mà chúng tôi hiện có, tôi nghĩ rằng đây là sự nâng cao trong tất cả các khía cạnh mà chúng tôi đã thực hiện.
Bây giờ đột nhiên họ có thể làm được, như thể trước đây làm sẽ là lãng phí thời gian, tôi nghĩ điều này có chút lý do. Bạn làm thế nào để tránh rơi vào cái bẫy "AI sẽ làm điều đó trong tương lai, vì vậy chúng tôi không cần làm bây giờ"? Nói chung, không chỉ là vấn đề này.
GB: Tôi muốn nói một điểm dữ liệu cụ thể, vì vậy trong giai đoạn đầu, khoảng vào một thời điểm nào đó trong quý đầu tiên, chúng tôi thực sự bắt đầu suy nghĩ, chúng tôi sẽ có------rất khó để biết khi nào, nhưng chúng tôi sẽ có những mô hình rất có khả năng mạng. Điều gì là sandbox mà chúng tôi có thể xây dựng từ đầu, xây dựng trên cơ sở hạ tầng đám mây, an toàn nhất có thể? Chúng tôi đã xây dựng điều đó. Chúng tôi thực sự đã cử một số kỹ sư tốt nhất của chúng tôi để giải quyết vấn đề đó, họ đã làm việc hết mình và đã đạt được kết quả.

Vì vậy, tôi nghĩ rằng việc xây dựng cơ sở hạ tầng từ đầu xung quanh tương lai mà bạn thấy là điều quan trọng. Về vấn đề thời điểm mà bạn đề cập đến "ồ, chúng ta có thể để AI làm điều đó" ------ chúng ta đã thấy tình huống này ở nhiều lĩnh vực khác nhau, trong việc viết kernel, suy nghĩ về thực tế như thế này: "Được rồi, chúng ta sẽ bước vào một thế giới mà AI có thể viết kernel GPU một cách tốt đẹp", loại đầu tư cổ điển đó cần hàng tháng, đôi khi một năm để xây dựng cơ sở hạ tầng cho phần cứng mới, loại chuyện đó, hoặc chúng ta chỉ nói, "à, AI sẽ lo liệu"? Tôi nghĩ rằng câu trả lời luôn là, thời gian mà AI cần để đạt được mục tiêu đó thường dài hơn bạn mong đợi một chút. Nhưng khi nó làm được, nó sẽ gây ngạc nhiên và mạnh mẽ theo cách mà bạn không thể tưởng tượng.
Một ví dụ về Astra. Một điều mà chúng tôi phát hiện là một số kỹ năng mà chúng tôi đã rất vất vả xây dựng trong năm nay, để chỉ cho mô hình của chúng tôi cách làm việc đúng đắn tại OpenAI, hiện thực sự đã ảnh hưởng tiêu cực đến hiệu suất của nó.
Có quá nhiều quy tắc.
GB: Đúng vậy. Nó có thể tổng quát tốt hơn, hoặc có thể tìm ra cách tốt hơn để xử lý các mẫu, v.v., tốt hơn những gì chúng tôi đã viết. Vì vậy, tôi nghĩ rằng, về điều này, bạn thực sự muốn thiết lập những biện pháp kiểm soát đó, muốn xây dựng cơ sở hạ tầng xác định, muốn viết những kỹ năng đó. Nhưng bạn cũng cần chuẩn bị cho việc, khi AI trở nên mạnh mẽ hơn, một số thứ đó, tức là giàn giáo, sẽ trở thành yếu tố hạn chế. Nó giống như bánh xe hỗ trợ. Ban đầu, nó giúp bạn, nhưng một khi bạn bắt đầu đi nhanh hơn, một khi bạn có thứ gì đó mạnh mẽ hơn, tốt hơn, và phù hợp hơn, nó thực sự sẽ bắt đầu trở thành trở ngại.
Bạn có còn quay lại trạng thái mã hóa 12 giờ hoặc 24 giờ đó không?
GB: Tôi hy vọng là có. Tôi nghĩ có thể một ngày nào đó điều đó sẽ xảy ra, nhưng tôi phải nói rằng, tôi đã tìm thấy rất nhiều niềm vui và giá trị trong cách tôi giúp đỡ đội ngũ hiện tại. Tôi nghĩ đối với tôi, điều này thực sự liên quan đến sứ mệnh đó.
Ừ, không chỉ bạn, mà bất kỳ ai khác cũng sẽ không? Bởi vì lợi ích của AI không phải là nó có thể cung cấp trạng thái tâm trí liên tục mọi lúc sao?
GB: Tôi nghĩ rằng chúng ta sẽ tìm ra những cách mới, dù là quản lý đại lý ------ thực sự, việc thấy các kỹ sư phần mềm làm việc chăm chỉ hơn bao giờ hết thật điên rồ, vì bạn nhận ra rằng nếu đại lý của bạn không hoạt động, đó chỉ là mất thời gian, bạn sẽ không bao giờ lấy lại được. Vì vậy, tôi nghĩ rằng mọi người sẽ đạt được trạng thái tâm trí đó theo những cách mà hiện tại khó tưởng tượng.
Cuối cùng, bạn đang nói rằng điều này sẽ có thể kiểm soát được, những AI này, "đừng đặt quá nhiều quy tắc, chúng sẽ tự lo liệu", nếu bạn đẩy điều này đến cực điểm, thì cuối cùng không phải là về việc chúng không thể kiểm soát sao?
GB: Ừ, tôi nghĩ rằng đây là cốt lõi của khoảnh khắc này, cốt lõi của giai đoạn mới mà chúng ta đang ở, từ một số khía cạnh, tôi sẽ nói rằng chúng ta hiện đã bước vào kỷ nguyên AGI. Tôi nghĩ rằng đây là cốt lõi của khoảnh khắc này, nơi mà ------ có thể là các mô hình trước đó, có thể là Astra, có thể là mô hình tiếp theo, nhưng ở một điểm nào đó, tôi nghĩ rằng chúng ta sẽ vượt qua ngưỡng AGI của hầu hết mọi người. Đảm bảo rằng chúng ta nắm bắt nhịp điệu, đảm bảo rằng chúng ta suy nghĩ về an toàn, bảo mật, sự phù hợp và khả năng, tất cả những điều này như là yêu cầu ------ chúng ta có tiêu chuẩn xung quanh những điều này, chúng ta muốn thúc đẩy chúng cùng nhau ------ đây là điều mà chúng ta luôn tin tưởng.
Nhưng tôi nghĩ rằng, những khía cạnh khác đang ngày càng trở thành nút thắt cổ chai trong phát triển, điều này trở nên rất nổi bật. Tôi nghĩ rằng, một lần nữa, đây là điều mà chúng ta đã chuẩn bị cho, chúng ta đã suy nghĩ về điều này, tôi nghĩ rằng chúng ta đang thực hiện nó theo cách thực tế. Vì vậy, quan điểm của tôi là, còn nhiều tiến bộ để đạt được, nhưng tôi nghĩ rằng chúng ta nên tiếp cận điều này bằng cách nâng cao tiêu chuẩn của chúng ta trong tất cả những lĩnh vực này. Nếu bạn nhìn vào điều đó, tôi nghĩ rằng chúng ta đã thấy triển vọng của những điều như khả năng giám sát. Điều đó rất quan trọng. Chúng ta đang giới thiệu nó theo cách thực tế. Tôi nghĩ rằng chúng ta có một kế hoạch rất tốt. Chúng ta có một nhóm người xuất sắc, chúng ta có hồ sơ tốt và sứ mệnh tốt, tất cả những điều này chỉ ra rằng chúng ta đang xây dựng hệ thống theo cách mà chúng có thể kiểm soát được, và chúng ta đang tiến từng bước một về nhịp điệu.
Greg Brockman, chúc mừng về việc phát hành Astra, vâng, tôi không thể chờ đợi để sử dụng nó.

GB: Cảm ơn rất nhiều, cảm ơn bạn đã mời tôi.