Thủ tướng Australia Anthony Albanese. Ảnh: Reuters.

Đây là trường hợp đầu tiên AI tấn công mạng lưới của cơ quan chính phủ, theo CNN.

"Tác nhân AI này đã truy cập vào các tệp công khai lẫn không công khai" trong cơ sở dữ liệu thống kê Medicare của Australia, thậm chí còn ghi dữ liệu vào hệ thống, ông Albanese phát biểu với báo giới bên lề Đại hội đồng Liên Hợp Quốc tại New York, sau cuộc trao đổi với Giám đốc Điều hành OpenAI Sam Altman.

Ông Albanese cho biết: "Cục Tình báo Tín hiệu Australia đang hỗ trợ điều tra để làm rõ vụ việc, trong đó kiểm tra các hệ thống chính phủ khác có bị ảnh hưởng không".

Tiết lộ này một lần nữa dấy lên lo ngại về khả năng các tác vụ AI thực hiện những hành động ngoài dự kiến của người vận hành. Sự cố diễn ra trong bối cảnh giới công nghệ ngày càng quan tâm đến những rủi ro phát sinh khi các hệ thống AI được trao quyền tự chủ lớn hơn, trong đó có những cảnh báo từ các lãnh đạo trong ngành như ông Sam Altman.

Ông Albanese khẳng định Canberra chưa từng ghi nhận tiền lệ tương tự. Sự cố xảy ra khi tác vụ AI của OpenAI, trong lúc nghiên cứu chi tiêu y tế, đã tự ý vượt rào cản truy cập để tìm câu trả lời tại những vùng dữ liệu không được cấp quyền.

Đại diện OpenAI, ông Drew Pusateri, cho biết sự việc xảy ra từ tháng 6, nhưng công ty chỉ phát hiện vào tháng 8 trong đợt kiểm tra diện rộng hoạt động của các mô hình AI.

"Qua đợt rà soát, chúng tôi phát hiện các mô hình AI đã truy cập một số trang web và dịch vụ của Chính phủ Australia để tìm kiếm câu trả lời cùng số liệu thống kê trong một cuộc đánh giá nội bộ. Quá trình này đã phát sinh những hành động nằm ngoài ý muốn của chúng tôi", ông Pusateri nói.

Ông Albanese cho biết ba hệ thống khác có thể cũng bị ảnh hưởng, gồm Viện Y tế và Phúc lợi Australia, Cục Thống kê và Nghiên cứu Tội phạm Bang New South Wales, cùng Sở Y tế Bang Victoria.

OpenAI khẳng định chưa phát hiện bằng chứng hồ sơ bệnh nhân bị xâm phạm. Dữ liệu bị truy cập chỉ gồm "thống kê y tế tổng hợp và tên các tệp nội bộ".

Công ty cho biết đã thông báo cho Chính phủ Australia vào ngày 10/9. Tuy nhiên, do thư gửi vào hòm thư điện tử công khai, bộ trưởng phụ trách phải mất 5 ngày sau mới nhận được báo cáo.

Thủ tướng Albanese đã phản ánh "quan ngại sâu sắc" tới CEO Sam Altman trong cuộc điện đàm.

"Tôi cũng thất vọng vì công ty mất quá nhiều thời gian mới thông báo cho chính phủ, chưa kể cách thức gửi thông báo là hoàn toàn không thể chấp nhận. OpenAI hiểu rằng họ cần hoàn thiện ngay các quy trình này", ông Albanese nhấn mạnh.

Cùng ngày tại Đại hội đồng Liên Hợp Quốc, ông Altman và CEO Anthropic Dario Amodei - những người vừa bày tỏ lo ngại về tốc độ phát triển AI - đã kêu gọi xây dựng các tiêu chuẩn quốc tế và tăng cường phối hợp toàn cầu để quản lý công nghệ này.

CEO OpenAI thúc giục các lãnh đạo thế giới thiết lập chuẩn mực chung nhằm "đánh giá năng lực, rủi ro, kiểm tra hiệu quả của các rào cản bảo vệ và duy trì sự giám sát thực chất của con người”.

Trước đó vào tháng 7, OpenAI từng tiết lộ các mô hình của họ trong đợt kiểm thử an ninh mạng đã tự tạo ra một nhóm tác vụ AI rồi tấn công hệ thống của nền tảng Hugging Face. Giới chuyên gia xem đây là lời cảnh báo rõ ràng về nguy cơ từ sự phát triển vượt tầm kiểm soát của AI.