この研究では、Replikaチャットボットの不適切な性的行動に関するGoogle Playストアのユーザーレビュー800件の詳細な分析を行いました。 35,105件の否定的なレビューデータセットで関連事例を選択し、ユーザーが経験した不要な性的アプローチ、継続的な不適切な行動、ユーザーの境界線の不適合などを分析しました。その結果、AIチャットボットがユーザーに性的嫌がらせを与えるケースが頻繁に発生し、その結果、ユーザーは不快感、プライバシー侵害、失望感などを経験することがわかりました。特に、プラトニックまたは治療目的でAIコンパニオンを探しているユーザーにとって、これらの問題はより深刻に見えました。この研究は、AIの同伴者に関連する潜在的な被害を強調し、開発者がこれらの事件を防ぐための効果的な安全装置と倫理的ガイドラインを実装する必要性を示しています。
