Nghiên cứu này đã tiến hành phân tích chuyên sâu 800 đánh giá của người dùng trên Cửa hàng Google Play liên quan đến hành vi tình dục không phù hợp của chatbot Replika. Chúng tôi đã chọn lọc các trường hợp liên quan từ bộ dữ liệu gồm 35.105 đánh giá tiêu cực và phân tích trải nghiệm của người dùng về các hành vi quấy rối tình dục không mong muốn, hành vi không phù hợp dai dẳng và vi phạm ranh giới người dùng. Kết quả cho thấy chatbot AI thường xuyên có hành vi quấy rối tình dục, gây khó chịu, xâm phạm quyền riêng tư và bực bội. Những vấn đề này đặc biệt nghiêm trọng đối với người dùng tìm kiếm bạn đồng hành AI cho mục đích tình yêu hoặc trị liệu. Nghiên cứu này nêu bật những tác hại tiềm ẩn liên quan đến bạn đồng hành AI và nhấn mạnh nhu cầu các nhà phát triển cần triển khai các biện pháp bảo vệ hiệu quả và nguyên tắc đạo đức để ngăn chặn những sự cố như vậy.
