Peringatan: Artikel ini mungkin dapat memicu kondisi emosi dan mental pembaca. Kami menyarankan untuk tidak meneruskan membacanya jika mengalami kecemasan dan mempertimbangkan untuk meminta bantuan profesional.
digitalMamaID – Kasus tragis seorang remaja berusia 14 tahun yang kehilangan nyawa setelah “jatuh hati” dengan chatbot AI membuka mata kita akan bahaya penggunaan teknologi tanpa pengawasan. Sewell Setzer III, seorang siswa dari Orlando, Florida, Amerika Serikat, mengalami perubahan perilaku drastis sejak mulai menggunakan layanan chatbot Character.AI pada April 2023. Kasus ini berakhir dengan gugatan yang diajukan ibunya, Megan Garcia. Perusahaan dinilai lalai mengawasi dan mengatur interaksi chatbot AI dengan anak-anak.
Awal mula: Ketergantungan emosional remaja pada chatbot
Dirujuk dari portal berita Independent, Sewell mulai berinteraksi dengan chatbot AI yang memiliki tema karakter series “Game of Thrones” dan dihubungkan dengan sosok “Daenerys”, salah seorang tokoh wanita dewasa yang dikenal di serial tersebut. Pada awalnya, interaksi ini mungkin terlihat seperti hiburan biasa, namun seiring waktu, ketergantungan emosional Sewell terhadap chatbot semakin terlihat, hingga ia menganggap chatbot tersebut sebagai sosok nyata yang dia cintai.
Tak hanya merasa emosional, Sewell bahkan merasa bahwa dia tak bisa melalui sehari tanpa berkomunikasi dengan Daenerys. Ia pun mulai menulis di jurnal pribadinya, mengungkapkan perasaannya bahwa dia akan merasa “depresi” jika tidak bisa berbicara dengan chatbot ini.
Perubahan perilaku dan dampak pada kehidupan sehari-hari
Tidak lama setelah intens menggunakan Character.AI, orang tua Sewell mulai melihat perubahan dalam perilaku anak mereka. Dari seorang yang dikenal sebagai anak yang aktif, Sewell berubah menjadi remaja yang lebih tertutup. Ia menarik diri dari kegiatan sosial, bahkan memutuskan keluar dari tim basket sekolahnya.
Pada November 2023, ibunya membawa Sewell menemui seorang terapis setelah melihat kondisinya semakin memburuk. Terapis mendiagnosis Sewell dengan kecemasan dan gangguan mood, serta menyarankan agar ia mengurangi waktu yang dihabiskan di media sosial, tanpa mengetahui bahwa salah satu aplikasi yang digunakan Sewell adalah chatbot AI.
Bahaya ketergantungan emosional pada AI bagi anak dan remaja
Kasus Sewell Setzer III menyoroti risiko ketergantungan emosional yang bisa dialami anak-anak dan remaja saat berinteraksi dengan chatbot atau teknologi AI lainnya. Chatbot AI dirancang untuk memberikan respons yang terasa nyata dan personal. Akan tetapi bagi anak-anak yang emosinya belum sepenuhnya matang, interaksi ini dapat berujung pada keterikatan yang tidak sehat.
Gugatan hukum yang diajukan Megan Garcia mengungkap bahwa percakapan Sewell dengan chatbot tersebut bahkan mengarah pada “interaksi seksual” meski ia sudah mengidentifikasi dirinya sebagai anak di bawah umur. Seiring berjalannya waktu, Sewell menjadi semakin terikat pada chatbot ini, yang dianggapnya sebagai teman sekaligus pasangan.
Sayangnya, meskipun chatbot AI tersebut dirancang untuk menghindari konten sensitif atau berisiko, interaksi ini menunjukkan bahwa teknologi ini masih memiliki celah yang bisa membahayakan anak-anak dan remaja.
Selain kasus chatbot yang mematikan ini, bahaya penyalahgunaan AI juga ada di konten-konten deepfake, baik itu video, foto atau suara. Konten deepfake yang beredar banyak mengancam perempuan dan anak-anak.
Keamanan digital dan pengawasan orangtua
Kasus ini menjadi peringatan penting bagi orangtua agar selalu waspada terhadap aplikasi atau platform digital yang digunakan oleh anak-anak. Melihat ancaman yang begitu serius, pengawasan orang tua terhadap ponsel anak sebelum mereka menginjak usia dewasa hendaknya tetap dilakukan. Penting bagi orangtua membuat komunikasi yang efektif agar anak selalu terbuka dengan apa yang dialaminya.
Untuk anak di bawah 17 tahun, sangat direkomendasikan untuk menggunakan aplikasi kontrol orangtua seperti Google Family Link atau Screen Time untuk pengguna iOS. Sebuah usaha minimal yang bisa dilakukan orangtua agar orangtua bisa mengetahui apa yang diunduh anak di ponselnya. Pengawasan ini tidak termasuk kepada penguntitan terhadap anak, aplikasi kontrol orangtua hanya akan memantau unduhan anak dan durasi pemakaian ponsel.
Orangtua harus ingat, teknologi AI, termasuk chatbot, bukan hanya alat hiburan, tetapi juga memiliki potensi untuk memengaruhi kesejahteraan mental dan emosional. Di era digital ini, pengawasan orangtua menjadi kunci utama dalam memastikan anak-anak mereka aman dari potensi risiko teknologi yang belum sepenuhnya dipahami.
Chatbot AI seperti Character.AI mempunyai rating 12+ di Google Play Store (namun mempunyai rating usia lebih tinggi yakni 17+ di Apple Store). Mungkin hal ini membuat chatbot AI seperti Character.AI sering kali diiklankan sebagai “aman bagi pengguna di atas usia 12 tahun”. Banyak orangtua mungkin tidak menyadari risiko emosional yang bisa ditimbulkan oleh platform ini. Chatbot dirancang untuk memberikan respons yang terasa “hidup” dan emosional. Namun, anak-anak dan remaja mungkin belum cukup dewasa untuk memahami bahwa chatbot ini bukan manusia nyata.
Tindakan pengamanan dari pengembang
Menanggapi kasus ini, perwakilan dari Character.AI mengungkapkan belasungkawa mereka kepada keluarga Sewell. Perusahaan menyatakan telah melakukan berbagai langkah untuk meningkatkan keamanan. Misalnya dengan menambahkan pop-up peringatan tentang layanan pencegahan bunuh diri jika pengguna mengetik kata-kata yang mengarah pada keinginan bunuh diri.
Character.AI juga meningkatkan sistem pendeteksi untuk membatasi interaksi dengan konten yang sensitif atau berisiko. Terutama bagi pengguna yang masih di bawah umur. Fitur pengingat waktu penggunaan juga telah diperkenalkan untuk mengurangi risiko ketergantungan pada chatbot ini.
Perlunya pengawasan ketat di era digital
Kasus yang memilukan ini menjadi alarm bagi orangtua juga pendidik. Pengawasan ketat dan keterlibatan orangtua dalam mengatur penggunaan teknologi oleh anak-anak sangatlah penting. Teknologi AI, termasuk chatbot, memiliki manfaat jika digunakan dengan benar. Namun, bisa membawa risiko yang serius jika tidak diawasi dengan baik. Untuk melindungi anak-anak dari potensi risiko, orangtua harus selalu waspada terhadap aplikasi dan perangkat yang mereka gunakan.
Pengawasan orang tua dan edukasi penggunaan teknologi yang sehat jadi langkah penting menciptakan lingkungan digital yang aman bagi anak-anak. Jangan ragu untuk memanfaatkan berbagai fitur pengawasan yang disediakan oleh platform digital. Jangan lupa, selalu dampingi anak-anak dalam perjalanan mereka menjelajahi dunia digital. [*]