Theo hãng tin The Age, báo cáo cho thấy các chatbot như Character.AI, Chub AI, Nomi và Chai đang khiến người dùng trẻ tuổi dễ bị tổn thương trước những nội dung tình dục lộ liễu, thậm chí là khuyến khích hành động tự hại hoặc tự tử. Ủy viên An toàn trực tuyến Julie Inman Grant hôm 23/3 cho biết, các ứng dụng này được thiết kế một cách “đáng ngờ” để thao túng cảm xúc của trẻ em, trong khi hầu hết không có biện pháp xác minh độ tuổi hiệu quả, chủ yếu dựa vào việc người dùng tự khai báo khi đăng ký.

Trong cuộc khảo sát đối với gần 2,000 trẻ em Úc từ 10-17 tuổi, có tới 20% các em thừa nhận sử dụng chatbot hàng ngày, và gần 50% cho biết các chatbot AI đã gây ra tác động tiêu cực, làm các em cảm thấy buồn bã hoặc không an toàn. Chuyên gia tội phạm học Michael Salter lưu ý rằng, sự phát triển tính dục của trẻ em đang bị bóp méo bởi các tương tác tình dục hóa với chatbot, và chính phủ cần hành động nhanh chóng để ngăn chặn làn sóng gây hại mới này. Một chuyên gia khác là bà Inman Grant khẳng định, tại Úc, việc để trẻ em tự do tiếp cận các không gian dành cho người lớn là điều không còn có thể chấp nhận được. Kể từ khi nhận được thông báo, tổ chức Character AI đã thực hiện các biện pháp đảm bảo độ tuổi cho người dùng Úc, trong khi tổ chức Chub AI đã chặn dịch vụ của mình tại quốc gia này.