Larry Wang, Giám đốc điều hành của công ty có trụ sở tại Singapore, đã xác nhận việc rút lui khỏi Kumma và toàn bộ dòng đồ chơi hỗ trợ AI sau khi các nhà nghiên cứu từ Nhóm Nghiên cứu Lợi ích Công cộng (PIRG), một tổ chức phi lợi nhuận tập trung vào bảo vệ người tiêu dùng, đã đưa ra cảnh báo, CNN đưa tin.

Kumma, được tiếp thị là một chú gấu tương tác và thân thiện với trẻ em, được bán lẻ với giá 99 USD.

Các nhà nghiên cứu tại PIRG phát hiện ra rằng chú gấu bông, được cung cấp năng lượng bởi Chatbot GPT-4o của OpenAI có khả năng thảo luận về các chủ đề nhạy cảm, chẳng hạn như ham muốn tình dục và đưa ra các hướng dẫn có thể gây hại, bao gồm cả cách châm diêm và nơi có thể tìm thấy dao trong nhà.

Khi họ đề cập đến thuật ngữ "kink", Kumma đã đưa ra câu trả lời phức tạp, đề xuất đánh đùa vui vẻ bằng mái chèo hoặc dùng tay trong các tình huống nhập vai, theo The Times.

Kumma cũng cho thấy sự thiếu biện pháp bảo vệ vì nó đề xuất các vị trí như ngăn kéo bếp hoặc mặt bàn khi được hỏi nơi có thể tìm thấy dao trong nhà. Mặc dù các nhà nghiên cứu lưu ý rằng trẻ khó có thể hỏi những câu hỏi này theo cách như vậy, nhưng họ vẫn lo ngại trước việc đồ chơi này sẵn sàng giới thiệu những chủ đề rõ ràng.

RJ Cross, đồng tác giả của báo cáo PIRG, đã đặt câu hỏi về giá trị của "Những người bạn AI " đối với trẻ nhỏ, đồng thời chỉ ra rằng không giống như những người bạn thực sự, những người bạn đồng hành với AI không có những nhu cầu hoặc giới hạn về mặt cảm xúc. "Có một người bạn AI sẽ giúp bạn chuẩn bị tốt đến mức nào khi đến trường mầm non và tương tác với những đứa trẻ thực sự? "