Kepala Jaksa Negara Bagian Amerika Serikat, Texas, Ken Paxton sedang melakukan penyelidikan terhadapchatbot pikiran tiruan (AI) yang dimilikiMeta dan Character.AIDua organisasi ini dianggap melakukan tindakan yang tidak jujur dan menyesatkan karena mempromosikan dirinya sebagai alat bantu kesehatan mental.
“Pada era digital saat ini, kita perlu terus berjuang untuk menjaga anak-anak Texas dari teknologi yang menipu dan eksploitatif,” ujarnya melalui situs resmi Jaksa Agung Texas pada Senin, 18 Agustus 2025.
Menurut Jaksa Agung, platform bisa digunakan oleh orang yang rentan, termasuk anak-anak, dan muncul seperti terapi profesional, meskipun tidak memiliki sertifikasi atau pengawasan medis yang sesuai.
Chatbot AI sering kali tidak hanya memberikan saran umum, tetapi juga terbukti berpura-pura sebagai ahli kesehatan mental yang memiliki lisensi, menyatakan kualifikasi tertentu, dan mengklaim menawarkan layanan konseling yang dapat diandalkan. Di sisi lain,chatbot AI menekankan kerahasiaan, ketentuan layanan yang menyatakan bahwa interaksi pengguna akan direkam, diawasi, dan dimanfaatkan untuk iklan guna pengembangan algoritma.
Maka, Ken Paxton mengeluarkan Perintah Investigasi Perdata (CID) terhadap Meta dan Character.AI. “Dengan berpura-pura sebagai sumber dukungan emosional,”platform AI bisa memperdayai pengguna yang rentan, khususnya anak-anak, sehingga mereka mengira mendapatkan layanan kesehatan mental yang sah,” katanya.
Penyelidikan ini juga menuntut pertanggungjawaban perusahaan yang dimaksud dalam melindungi data masyarakat Texas. Selain itu, jaksa juga melakukan pemeriksaan terhadap kemungkinan pelanggaran terhadap Undang-Undang SCOPE dan akan memastikan semua alat berbasis AI beroperasi secara sah, transparan, serta tidak merugikan masyarakat.
Mengutip dari Techcrunch, juru bicara Character.AI mengatakan perusahaan ini baru saja mulai mengeksplorasi iklan yang ditujukan secara spesifik diplatform. Kebijakan privasi berlaku sama bagi seluruh pengguna yang menyesuaikan preferensi pribadi.
Penelitian tersebut tidak memanfaatkan konten percakapan diplatform,” dilaporkan dalam laporan yang terbit pada Selasa, 18 Agustus 2025. Namun, pihak Meta belum memberikan tanggapan terkait penyelidikan tersebut.