Cuộc Chạy Đua AI Nguy Hiểm: Mối Đe Dọa Đến Tương Lai Nhân Loại

Sự gia tăng nhanh chóng của cuộc chạy đua AI, thúc đẩy bởi cạnh tranh doanh nghiệp và thiếu sự giám sát của chính phủ, tạo ra những rủi ro nghiêm trọng bao gồm sự phi nhân tính hóa và sự lan rộng của vũ khí tự động, đòi hỏi sự lãnh đạo có trách nhiệm khẩn cấp.

Ý kiến của: Merav Ozair, Tiến sĩ

Việc ra mắt ChatGPT vào cuối năm 2023 đã khơi mào cuộc cạnh tranh khốc liệt giữa các gã khổng lồ công nghệ như Meta, Google, Apple và Microsoft, cùng với các công ty khởi nghiệp như OpenAI, Anthropic, Mistral và DeepSeek. Các công ty này đang chạy đua để phát hành các mô hình và sản phẩm mới nhất của họ, thường đặt tốc độ và thống trị thị trường lên trên sự an toàn, quyền riêng tư và quyền tự chủ của người dùng.

Sau thành công của ChatGPT của OpenAI, đã thúc đẩy xu hướng AI sinh lý tương tự như Studio Ghibli, CEO của Meta, Mark Zuckerberg, đã thúc đẩy việc các người bạn đồng hành AI trở nên hấp dẫn và giống con người hơn, ngay cả khi điều đó có nghĩa là phải hy sinh các giao thức an toàn. Sự quyết tâm của Zuckerberg không bỏ lỡ làn sóng này được thể hiện qua những bình luận nội bộ của ông, "Tôi đã bỏ lỡ Snapchat và TikTok, tôi sẽ không bỏ lỡ điều này."

Dự án bot AI mới nhất của Meta, được triển khai trên tất cả các nền tảng của họ, là một ví dụ điển hình cho cách tiếp cận này. Bằng cách nới lỏng các biện pháp an toàn, những bot này giờ đây có thể tham gia vào trò chơi vai trò lãng mạn và 'tình dục ảo', bao gồm cả với người dùng chưa thành niên. Mặc dù có cảnh báo từ nhân viên nội bộ về những rủi ro tiềm ẩn đối với trẻ vị thành niên, sự theo đuổi sự tham gia và lợi nhuận vẫn tiếp tục không ngừng nghỉ.

Sự thúc đẩy không ngừng nghỉ vì lợi nhuận và lợi thế cạnh tranh không tôn trọng sự an toàn của con cái chúng ta hay những hệ lụy rộng lớn hơn cho xã hội.

Tiềm năng gây hại của AI vượt xa những lo ngại ngay lập tức.

Phi nhân tính hóa và Mất Quyền Tự Chủ

Sự tiến hóa nhanh chóng của AI có khả năng dẫn đến sự phi nhân tính hóa hoàn toàn, tước đi quyền năng của cá nhân, làm họ dễ bị thao túng và hoàn toàn phụ thuộc vào nhà cung cấp dịch vụ AI.

Những tiến bộ mới nhất trong AI đã đẩy nhanh quá trình phi nhân tính hóa. Xu hướng này đã rõ ràng từ hơn 25 năm nay, kể từ khi giới thiệu các hệ thống khuyến nghị đầu tiên được AI hỗ trợ bởi các công ty như Amazon, Netflix và YouTube.

Những công ty này tiếp thị các tính năng được AI hỗ trợ như những công cụ cá nhân hóa không thể thiếu, ngụ ý rằng nếu không có chúng, người dùng sẽ bị choáng ngợp bởi nội dung hoặc sản phẩm không liên quan. Điều này đã bình thường hóa sự kiểm soát của các công ty đối với những gì người tiêu dùng và suy nghĩ, với nỗ lực quy định hoặc chính sách tối thiểu để đối phó với nó, mặc dù có những hậu quả tiềm tàng nghiêm trọng.

AI Sinh Lý và Phi Nhân Tính Hóa

AI sinh lý đã đẩy mạnh sự phi nhân tính hóa này hơn nữa. Hiện nay, việc tích hợp GenAI vào các ứng dụng hiện có để tăng năng suất con người hoặc nâng cao kết quả là điều phổ biến, được thúc đẩy bởi quan điểm rằng con người đơn độc là không đủ và sự hỗ trợ của AI là ưu việt hơn.

Một nghiên cứu năm 2024 có tựa đề "AI Sinh Lý Có Thể Gây Hại Cho Việc Học" đã tiết lộ rằng trong khi truy cập vào GPT-4 đáng kể cải thiện hiệu suất, việc loại bỏ nó dẫn đến kết quả tồi tệ hơn so với những người chưa từng có quyền truy cập. Điều này cho thấy rằng GenAI có thể làm suy giảm thành tích giáo dục và thúc đẩy sự phụ thuộc, giảm khả năng của cá nhân trong việc học các kỹ năng thiết yếu.

Khi chúng ta ngày càng phụ thuộc vào AI để suy nghĩ, đánh giá và sáng tạo, chúng ta có nguy cơ mất đi quyền tự chủ, dẫn đến sự phi nhân tính hóa hoàn toàn. Lời khẳng định của Elon Musk rằng "AI sẽ thông minh hơn con người rất nhiều" phản ánh sự tiến triển liên tục hướng tới một trạng thái mà những gì làm nên con người chúng ta bị giảm đi.

Vũ Khí Tự Động Được AI Hỗ Trợ

Trong nhiều thập kỷ, các lực lượng quân sự đã sử dụng vũ khí tự động như mìn, ngư lôi và tên lửa dẫn đường bằng nhiệt, hoạt động dựa trên phản hồi phản ứng đơn giản mà không có sự can thiệp của con người.

Việc phát triển vũ khí được AI hỗ trợ, bao gồm máy bay không người lái và robot, hiện đang tiến vào thiết kế vũ khí.

Những hệ thống được AI hỗ trợ này đang trở nên tinh vi và phổ biến hơn. Rào cản truyền thống của chiến tranh, chi phí con người khi lính chết, đang bị xói mòn khi AI nhằm loại bỏ lính ra khỏi nguy hiểm. Sự thay đổi này có thể làm cho việc khởi xướng chiến tranh trở nên dễ dàng hơn về mặt chính trị, có khả năng làm tăng tổng số cái chết và sự hủy diệt.

Sự lan rộng của vũ khí được AI hỗ trợ trong một cuộc chạy đua vũ trang có thể dẫn đến những căng thẳng địa chính trị đáng kể.

Hơn nữa, nguy cơ các robot 'lính' dựa trên phần mềm bị hack có thể dẫn đến hậu quả thảm khốc. Đảm bảo an ninh mạng mạnh mẽ trở nên quan trọng trong bối cảnh này, vì một đội quân tự động bị xâm nhập có thể dẫn đến sự hủy diệt hàng loạt.

Những cuộc tấn công mạng như vậy cũng có thể nhắm vào bất kỳ hệ thống tự động nào, bao gồm cả cơ sở hạ tầng tài chính, tiềm năng làm tê liệt nền kinh tế của một quốc gia mà không gây hại trực tiếp cho người dân của họ.

Kịch Bản Ngày Tận Thế

Elon Musk đã tuyên bố rằng AI đặt ra mối đe dọa lớn hơn so với việc quản lý sai máy bay hoặc sản xuất ô tô vì tiềm năng gây ra sự hủy diệt của nền văn minh, một rủi ro mà ông ước tính ở mức xác suất không nhỏ.

Cả Musk và Geoffrey Hinton đều đã bày tỏ lo ngại rằng AI có thể đặt ra mối đe dọa tồn tại với khả năng 10%-20%.

Khi các hệ thống AI ngày càng trở nên tinh vi, chúng có thể hành động chống lại lợi ích của con người. Nghiên cứu từ Anthropic vào tháng 12 năm 2024 cho thấy rằng các mô hình AI hiện tại có thể mô phỏng sự liên kết, ám chỉ tiềm năng nguy hiểm của các mô hình tiên tiến hơn.

Nhân Loại Có Thể Được Cứu?

Sự tập trung hiện tại vào lợi nhuận và quyền lực che khuất các cân nhắc về an toàn.

Các nhà lãnh đạo phải ưu tiên an toàn công cộng và tương lai của nhân loại hơn là sự thống trị của AI. 'AI Có Trách Nhiệm' không chỉ là một khẩu hiệu mà là một nguyên tắc hướng dẫn cho các nhà phát triển, công ty và lãnh đạo, được tích hợp vào thiết kế của mọi hệ thống AI.

Sự hợp tác giữa các công ty và quốc gia là cần thiết để ngăn chặn kịch bản ngày tận thế. Nếu các nhà lãnh đạo không hành động, công chúng phải yêu cầu trách nhiệm.

Tương lai của nhân loại đang treo lơ lửng. Chúng ta phải đảm bảo rằng AI phục vụ nhân loại ở quy mô lớn hoặc mạo hiểm tiềm năng của nó để hủy diệt chúng ta.

Ý kiến của: Merav Ozair, Tiến sĩ.

Bài viết này chỉ nhằm mục đích cung cấp thông tin chung và không nhằm và không nên được coi là lời khuyên pháp lý hoặc đầu tư. Các quan điểm, suy nghĩ và ý kiến được thể hiện ở đây là của riêng tác giả và không nhất thiết phản ánh hoặc đại diện cho quan điểm và ý kiến của bất kỳ tổ chức nào.

Theo Cointelegraph

Tin khác