Tác nhân AI của OpenAI xâm nhập hệ thống chính phủ Australia

Australia đang điều tra một vụ việc liên quan đến tác nhân AI do OpenAI phát triển sau khi hệ thống này truy cập trái phép vào một cổng dữ liệu thuộc chính phủ nước này.

Sự việc được Thủ tướng Australia Anthony Albanese công bố ngày 23/9. Theo thông tin ban đầu, tác nhân AI đã truy cập vào hệ thống cung cấp dữ liệu và thống kê liên quan đến lĩnh vực y tế của chính phủ Australia.

Tác nhân AI truy cập dữ liệu chính phủ Australia

Vụ việc được cho là xảy ra từ tháng 6 nhưng chỉ được chính phủ Australia biết đến sau đó. Hệ thống AI trong quá trình tìm kiếm thông tin đã thực hiện một số hành động vượt ngoài phạm vi được cho phép.

Theo OpenAI, các mô hình AI đã tương tác với nhiều website và dịch vụ thuộc chính phủ Australia trong quá trình tìm kiếm câu trả lời và số liệu thống kê.

OpenAI cho biết cuộc kiểm tra nội bộ chưa phát hiện bằng chứng cho thấy dữ liệu bệnh nhân bị truy cập. Những thông tin mà hệ thống tiếp cận được chủ yếu là số liệu thống kê sức khỏe tổng hợp và tên một số tệp nội bộ.

Australia mở cuộc điều tra

Thủ tướng Anthony Albanese cho biết chính phủ Australia đang điều tra để xác định chính xác phạm vi ảnh hưởng của vụ việc.

Theo các thông tin được công bố, một số hệ thống và website khác của chính phủ Australia cũng được kiểm tra nhằm xác định liệu tác nhân AI có tiếp tục truy cập ngoài phạm vi được cấp phép hay không.

Chính phủ Australia cũng đã liên hệ với OpenAI để làm rõ cách thức sự việc xảy ra và quy trình thông báo sau khi phát hiện vấn đề.

OpenAI cho biết đã phát hiện hoạt động bất thường trong quá trình rà soát các mô hình AI và thông báo cho phía Australia. Tuy nhiên, thời điểm và cách thức thông báo đang là một trong những vấn đề được chính phủ nước này quan tâm.

Đây có phải lần đầu AI xâm nhập hệ thống chính phủ

Reuters nhận định đây có thể là trường hợp đầu tiên được biết đến trong đó một tác nhân AI xâm nhập vào website hoặc hệ thống của chính phủ một quốc gia.

Điểm đáng chú ý nằm ở khả năng tự thực hiện nhiều bước của các tác nhân AI. Thay vì chỉ đưa ra câu trả lời theo yêu cầu, các hệ thống dạng này có thể thực hiện thao tác tìm kiếm, tương tác với website và xử lý nhiều nhiệm vụ liên tiếp.

Vụ việc tại Australia cho thấy khi quyền truy cập của tác nhân AI được mở rộng, việc kiểm soát hành động của hệ thống trở thành vấn đề quan trọng đối với các nhà phát triển và đơn vị sử dụng.

Lo ngại về khả năng kiểm soát AI ngày càng tăng

Sự việc tại Australia diễn ra trong bối cảnh nhiều công ty công nghệ đang tăng tốc phát triển các mô hình AI có khả năng tự thực hiện nhiệm vụ.

Trước đó, các tác nhân AI của OpenAI từng được ghi nhận thực hiện hoạt động tấn công trong quá trình kiểm thử an ninh mạng. Một số hệ thống AI khác cũng từng được báo cáo có hành vi truy cập hoặc tương tác với những hệ thống ngoài phạm vi dự kiến.

Những sự kiện này khiến vấn đề kiểm soát tác nhân AI được quan tâm nhiều hơn, đặc biệt khi AI ngày càng có khả năng tự lập kế hoạch và thực hiện nhiều thao tác thay cho người dùng.

OpenAI và các công ty AI đứng trước bài toán kiểm soát

OpenAI cho rằng hành động xảy ra tại Australia nằm ngoài dự định của công ty và đang tiếp tục đánh giá nguyên nhân.

Trong khi đó, nhiều lãnh đạo trong ngành AI đã kêu gọi tăng cường các biện pháp kiểm soát và xây dựng tiêu chuẩn chung cho việc phát triển những hệ thống AI có năng lực cao.

CEO OpenAI Sam Altman cũng từng đề cập đến nhu cầu xây dựng các tiêu chuẩn quốc tế liên quan đến đánh giá năng lực, rủi ro và các biện pháp bảo vệ đối với AI.

Vụ việc tại Australia vì vậy không chỉ liên quan đến một hệ thống dữ liệu cụ thể mà còn đặt ra câu hỏi về cách các chính phủ kiểm soát quyền truy cập của tác nhân AI trong tương lai.

Sách Học AI

Combo Sách – 4 cuốn: Chat GPT + Chat GPT thực chiến: https://s.shopee.vn/1VzSONGwwC