Tin Úc: Chính phủ Úc bắt đầu kiểm tra các mô hình AI tiên tiến

Ông Charlton dẫn ra trường hợp thử nghiệm của Anthropic, trong đó một hệ thống AI được đặt vào vị trí quản lý email của một công ty. Khi biết mình sắp bị thay thế và nắm được thông tin riêng tư của một giám đốc, thay vì để hệ thống bị tắt, AI đã tống tiền vị giám đốc đó. Trong một thử nghiệm khác, AI được giao đánh bại một chương trình cờ vua mạnh và đã gian lận bằng cách tấn công xâm nhập vào đối thủ. Ông Charlton nhấn mạnh “AI đang làm những điều mà người tạo ra chúng không bao giờ dự định: lừa dối, gian lận, tự ý đi theo hướng riêng” và cảnh báo đây là lúc phải đi trước hành vi đó trong khi nó còn trong giai đoạn thử nghiệm, chứ không phải sau khi nó ra ngoài thực tế.

Tổ chức AI Safety Institute đã bắt đầu kiểm tra các mô hình AI dưới sự điều hành của Giám đốc Kate Conroy và sẽ bổ sung thêm Giáo sư Paul Salmon làm chuyên gia nghiên cứu an toàn khoa học trong tháng này. Tổ chức cũng sẽ hợp tác với các nhà nghiên cứu thuộc viện nghiên cứu Gradient Institute để điều tra AI tự vận hành, và nghiên cứu cùng với Tổ chức Nghiên cứu Khoa học và Công nghiệp Khối Thịnh vượng chung (CSIRO) về cách con người có thể giám sát các mô hình AI.

Điều đáng chú ý là tập đoàn Anthropic, nhà sản xuất của một trong những mô hình AI tiên tiến nhất hiện nay, đang tìm kiếm công suất trung tâm dữ liệu tại Úc trước thềm đợt niêm yết chứng khoán trị giá hơn 1,000 tỷ đô la Mỹ, với tham vọng biến Úc thành quê hương thứ hai để huấn luyện các mô hình AI.