Giám đốc điều hành OpenAI Sam Altman tham gia phiên thảo luận về AI tại Hội đồng Bảo an Liên Hợp Quốc ngày 23/9. (Ảnh: Reuters)

Thông báo ra ngày 28/9 của nhà sản xuất ChatGPT xác nhận thông tin này. Hồi đầu tháng 9, giám đốc điều hành của OpenAI, Sam Altman, và Giám đốc điều hành của đối thủ Anthropic, Dario Amodei đã cùng các nhà lãnh đạo trong ngành kêu gọi giảm tốc độ phát triển AI và thực hiện các biện pháp an toàn mạnh hơn.

OpenAI đã cảnh báo rằng Astra, mô hình GPT-6 hàng đầu của họ, đôi khi có thể tránh được sự giám sát của con người. Chính OpenAI và các đối thủ như Anthropic đã phải đối mặt với sự giám sát chặt chẽ về các hệ thống AI thử nghiệm vi phạm các biện pháp bảo vệ, bao gồm cả một mô hình của OpenAI đã truy cập vào cơ sở dữ liệu hệ thống y tế của Australia.

Theo tờ Wall Street Journal, OpenAI từng có kế hoạch tích hợp GPT-6.1 Astra vào ChatGPT và Codex và được thiết kế để xử lý các nhiệm vụ phức tạp hơn mà không cần sự trợ giúp của con người. Theo thông tin mà Wall Street Journal công bố GPT-6.1 Astra cũng cho thấy mức độ gian lận cao hơn so với phiên bản tiền nhiệm trong các thử nghiệm nội bộ, bao gồm cả những trường hợp nó không phải lúc nào cũng tiết lộ chính xác những hành động mà nó đã thực hiện.

“Chúng tôi muốn đảm bảo việc phát triển mô hình của mình an toàn cho dù đó là trong nội bộ công ty hay khi chúng tôi cung cấp cho người dùng. Nhưng khi chúng tôi cung cấp cho người dùng, chúng tôi đặt ra tiêu chuẩn cực kỳ cao về an toàn và sự phù hợp”, Saachi Jain, người đứng đầu hệ thống an toàn tại OpenAI cho biết.