Lãnh đạo AGI Readiness của OpenAI từ chức để theo đuổi nghiên cứu AI không thiên vị

Miles Brundage, cựu trưởng nhóm 'AGI Readiness' của OpenAI, đã rời đi để tập trung vào nghiên cứu và vận động chính sách AI độc lập, với lý do cần ít thiên vị hơn.

Miles Brundage, người đã là một nhân vật quan trọng trong nghiên cứu an toàn của OpenAI kể từ khi gia nhập vào năm 2018, gần đây đã từ chức khỏi vai trò trưởng nhóm 'AGI Readiness' vào ngày 23 tháng 10. Anh dự định sẽ bắt đầu hoặc tham gia vào một công ty AI khác, tìm kiếm các cơ hội mới trong lĩnh vực này.

Với vai trò là sĩ quan an toàn hàng đầu của công ty, sự ra đi của Brundage đánh dấu một sự thay đổi đáng kể. Trong bài đăng trên Substack của mình, anh tiết lộ rằng nhóm 'AGI Readiness' của OpenAI có thể sẽ bị giải tán, có khả năng để lại tổ chức mà không có một đơn vị an toàn chuyên dụng.

Trí tuệ nhân tạo tổng quát (AGI) đại diện cho một mô hình lý thuyết nơi AI có thể thực hiện bất kỳ nhiệm vụ nào mà con người có thể làm, với cùng nguồn lực. Nhóm của Brundage được giao nhiệm vụ cung cấp các khuyến nghị chính sách và giám sát an toàn khi OpenAI tiến tới AGI.

Quyết định rời đi của anh được thúc đẩy bởi mong muốn tham gia vào nghiên cứu và vận động độc lập. Brundage đã bày tỏ mong muốn giảm thiểu thiên vị doanh nghiệp và khám phá các cơ hội thông qua khởi nghiệp hoặc tại một tổ chức khác.

Anh đã phát biểu:

"Tôi dự định sẽ bắt đầu một tổ chức phi lợi nhuận mới (và/hoặc tham gia vào một tổ chức phi lợi nhuận hiện có) và sẽ làm việc về nghiên cứu và vận động chính sách AI. Tôi có thể sẽ làm một sự kết hợp của nghiên cứu và vận động nhưng chi tiết và tỷ lệ vẫn chưa được xác định."

Mặc dù đã rời đi, Brundage có thể sẽ không mất việc lâu, vì anh đã kết nối với Brendan McCord, người sáng lập Viện Cosmos, tập trung vào việc phát triển công nghệ với cách tiếp cận nhân văn.

AGI Readiness

Tác động của việc Brundage rời khỏi OpenAI vẫn chưa được hiểu đầy đủ. Công ty đã đưa ra một tuyên bố bày tỏ sự ủng hộ đối với quyết định của anh trong việc theo đuổi nghiên cứu chính sách AI độc lập:

"Chúng tôi hoàn toàn ủng hộ quyết định của Miles trong việc theo đuổi nghiên cứu chính sách của mình bên ngoài ngành công nghiệp và rất biết ơn những đóng góp của anh. Kế hoạch của anh để tập trung hoàn toàn vào nghiên cứu độc lập về chính sách AI mang lại cho anh cơ hội tạo ra tác động trên quy mô rộng hơn, và chúng tôi rất hào hứng để học hỏi từ công việc của anh và theo dõi tác động của nó. Chúng tôi tin tưởng rằng trong vai trò mới của mình, Miles sẽ tiếp tục nâng cao chất lượng hoạch định chính sách trong ngành công nghiệp và chính phủ."

OpenAI không cung cấp thêm chi tiết về tương lai của nhóm AGI Readiness.

Sự ra đi của nhân viên OpenAI

Trước khi thành lập nhóm AGI Readiness, sự giám sát chính của OpenAI đối với AGI được quản lý bởi nhóm 'Superalignment', do các đồng sáng lập Ilya Sutskever và Jan Leike đồng dẫn dắt. Nhóm này đã bị giải tán sau khi Leike rời đi vào tháng 5, sau khi anh trích dẫn những bất đồng với ban quản lý.

Sutskever rời công ty vào tháng tiếp theo và kể từ đó đã khởi động một công ty khởi nghiệp AI mới, đã được định giá ước tính 5 tỷ đô la. OpenAI cũng đã mất đồng sáng lập và nhà khoa học trưởng Andrej Karpathy trước đó, người đã rời đi để bắt đầu công ty riêng của mình vào tháng 2.

Một đồng sáng lập khác, John Schulman, đã từ chức vào tháng 8 để gia nhập đối thủ Anthropic. Trong khi đó, cựu giám đốc công nghệ Mira Murati được cho là đang huy động vốn để bắt đầu công ty AI của riêng mình.

Theo Cointelegraph

Tin khác