Jakarta –
Seorang remaja yang mengakhiri hidupnya baru-baru ini bertukar pesan dengan chatbot dari Character.AI. Ia merupakan anak dari Sewell Setzer III (14), seorang ibu bernama Megan Garcia.
Bukan main-main, Garcia mengajukan pengaduan polisi terhadap Character.AI. Menurut Garcia, Character.AI gagal menerapkan perlindungan yang memadai jika putranya ‘memasuki’ hubungan yang tidak pantas dengan chatbot fiksi Daenerys Targaryen. Akibatnya, pemuda tersebut pergi sebelum bunuh diri.
Juru bicara Character.AI mengatakan kepada CNN bahwa perusahaan tersebut tidak mengomentari gugatan tersebut, namun mengatakan perusahaan sangat sedih atas kematian tragis salah satu penggunanya.
“Kami sangat memperhatikan keselamatan pengguna kami, dan tim Kepercayaan dan Keamanan kami telah menerapkan sejumlah langkah keamanan baru selama enam bulan terakhir, termasuk pop-up yang memandu pengguna ke National Suicide Prevention Lifeline. – kerusakan atau ide bunuh diri , kata perusahaan itu dalam sebuah pernyataan.
Banyak dari perubahan ini dilakukan setelah kematian Setzer. Pada hari gugatan Garcia diajukan, Character.AI mengumumkan serangkaian fitur keamanan baru, termasuk peningkatan obrolan yang melanggar pedomannya, pemberitahuan untuk memperingatkan pengguna bahwa mereka berinteraksi dengan bot, dan banyak lagi, dan menyertakan umpan balik setelah pengguna berbelanja satu jam di peron.
Perusahaan juga telah memperkenalkan perubahan pada model AI untuk pengguna di bawah usia 18 tahun untuk mengurangi kemungkinan menemukan konten sensitif atau menyinggung.
Dalam situsnya, Character.AI disebutkan bahwa usia minimum pengguna adalah 13 tahun. Di Apple App Store, usia tercantum 17+, dan Google Play Store mencantumkan aplikasi tersebut sesuai untuk remaja. Namun, bagi Garcia, inovasi perusahaannya berjalan lambat.
“Saya harap anak-anak tidak diperbolehkan menggunakan Character.AI. Tidak ada tempat bagi mereka karena tidak ada sekat-sekat yang melindungi mereka,” akunya.
Catatan: Munculnya depresi dan pikiran dominan bukanlah hal yang sepele. Kesehatan mental sama pentingnya dengan kesehatan fisik atau fisik. Jika gejala depresi semakin parah, segera hubungi dan temui tenaga profesional seperti psikolog, psikiater, atau langsung ke rumah sakit jiwa. Layanan konseling kesehatan jiwa juga diberikan oleh Persatuan Dokter Spesialis Kesehatan Jiwa Indonesia (PDSKJI) dalam situs resminya www.pdskji.org. Melalui situs badan profesi tersebut, tes independen ditawarkan untuk mengetahui status kesehatan mental seseorang. Tonton video “Video viral orang menyelamatkan perempuan yang mencoba melompat dari jembatan di Ambon” (ask/rns)