Cựu chuyên gia OpenAI và Anthropic cảnh báo AI có thể đe dọa nhân loại trong 10 năm tới

Cựu chuyên gia AI cảnh báo nguy cơ mất kiểm soát trong thập kỷ tới

Một cựu nhà nghiên cứu từng làm việc tại OpenAI và Anthropic lên tiếng cảnh báo về những rủi ro nghiêm trọng có thể xuất hiện khi cuộc đua phát triển trí tuệ nhân tạo ngày càng tăng tốc. Theo ông, các công ty công nghệ đang tiến quá nhanh trong khi những giải pháp bảo đảm an toàn vẫn chưa theo kịp.

Rời Anthropic vì lo ngại cuộc đua AI

Jacob Coxon, 27 tuổi, từng làm việc tại OpenAI trước khi gia nhập Anthropic. Anh quyết định rời công ty vì cho rằng ngành AI đang chấp nhận những rủi ro quá lớn đối với tương lai nhân loại.

Trong các bài đăng trên mạng xã hội X, Coxon nhận định nhiều người trong ngành thực sự tin rằng AI có thể gây ra thảm họa cho con người ngay trong thập kỷ này.

Anh cho rằng xã hội chưa đánh giá đúng tốc độ tiến bộ của công nghệ. Những hệ thống AI tương lai có thể vượt con người trong nhiều lĩnh vực, tấn công hệ thống máy tính, tạo ra biến động lớn trong nền kinh tế và tự tìm cách kiểm soát thêm quyền lực cùng nguồn lực.

Nhà nghiên cứu Anthropic ước tính nguy cơ hơn 10 phần trăm

Evan Hubinger, chuyên gia nghiên cứu AI alignment tại Anthropic, đồng tình với cảnh báo của Coxon. Ông cho biết bản thân đánh giá khả năng AI tiêu diệt toàn bộ nhân loại trong thập kỷ tới ở mức trên 10 phần trăm.

Đây là một nhận định về rủi ro, không phải lời khẳng định thảm họa chắc chắn xảy ra. Tuy nhiên, con số này gây chú ý bởi Hubinger là người trực tiếp nghiên cứu cách bảo đảm AI hoạt động phù hợp với mục tiêu và giá trị của con người.

Theo ông, Anthropic đang nỗ lực giải quyết vấn đề alignment, nhưng hiện chưa có kế hoạch đủ chắc chắn để kiểm soát một hệ thống AI siêu thông minh. Công ty cũng chưa thể bảo đảm sẽ giải quyết được vấn đề này.

Hubinger nhấn mạnh các mô hình AI hiện tại vẫn có mức rủi ro thấp hơn. Mối lo lớn nằm ở những hệ thống có thể tự cải thiện, tự thiết kế phiên bản mới và đẩy nhanh tốc độ phát triển mà không cần con người can thiệp trực tiếp.

Siêu trí tuệ có thể khiến con người mất quyền kiểm soát

Coxon lo ngại ngành AI đang hướng tới những hệ thống có năng lực tự nâng cấp, trong khi các biện pháp an toàn chưa đủ mạnh để bảo đảm con người vẫn kiểm soát được chúng.

Steven Adler, đồng sáng lập tổ chức Guidelight AI Standards và từng làm việc về an toàn AI tại OpenAI, cũng cho rằng những cảnh báo từ người trong ngành là lý do để xem xét lại tốc độ phát triển công nghệ.

Trước đó, khoảng 1.400 nhà nghiên cứu AI đã ký thư ngỏ kêu gọi chính phủ Mỹ xây dựng công cụ kiểm soát chủ động đối với các hệ thống AI tiên tiến.

Chính các công ty AI cũng từng cảnh báo nguy cơ

Lo ngại AI gây thảm họa cho nhân loại không phải vấn đề mới. Năm 2023, nhiều lãnh đạo và nhà nghiên cứu AI, trong đó có Sam Altman của OpenAI và Dario Amodei của Anthropic, từng ký tuyên bố kêu gọi xem việc giảm nguy cơ tuyệt chủng do AI là ưu tiên toàn cầu, ngang hàng với đại dịch và chiến tranh hạt nhân.

Nhà khoa học trưởng OpenAI Jakub Pachocki cũng từng thừa nhận ngành AI chưa giải quyết đầy đủ các vấn đề về alignment và giám sát để có thể mở rộng năng lực công nghệ với tốc độ tối đa trong thời gian dài một cách có trách nhiệm.

Ông kêu gọi các công ty cân nhắc giảm tốc phát triển cho tới khi có tiêu chuẩn an toàn chung, đồng thời thúc đẩy hợp tác quốc tế giữa các chính phủ.

Bài toán khó của cuộc đua trí tuệ nhân tạo

Theo Coxon, các công ty AI đang bị cuốn vào cuộc cạnh tranh mà không bên nào muốn chậm lại vì lo đối thủ vượt lên. Điều này tạo ra nghịch lý khi chính những người xây dựng công nghệ cũng thừa nhận những nguy cơ mà nó có thể gây ra.

Câu hỏi được đặt ra là liệu tốc độ phát triển AI hiện nay có xứng đáng với những rủi ro tiềm ẩn. Khi các hệ thống ngày càng mạnh và có khả năng tự cải thiện, việc xây dựng cơ chế kiểm soát an toàn trở thành yêu cầu cấp thiết đối với toàn ngành.

Sách học AI

Link mua sách: https://s.shopee.vn/5AsPIpUc1R