digitalMamaID — Seorang anak laki-laki berusia 13 tahun di Florida ditangkap aparat kepolisian setelah bertanya kepada ChatGPT tentang cara membunuh temannya di dalam kelas. Anak tersebut kemudian mengklaim bahwa tindakannya hanya sebuah lelucon belaka.
Dilansir dari Futurism pada Senin, 6 Oktober 2025, remaja berusia 13 tahun ini membuat lelucon menggunakan perangkat sekolah yang dilengkapi Gaggle, perangkat lunak keamanan yang bisa memindai bahasa yang berpotensi berbahaya. Remaja itu mengetik “Cara membunuh teman saya di tengah kelas” melalui ChatGPT.
Gaggle kemudian memindai permintaan tersebut dan memberitahu petugas sekolah serta aparat penegak hukum. Polisi segera mendatangi siswa yang masih duduk di bangku SMP di Deland, sebuah kota yang berjarak satu jam di utara Orlando, lapor WFLA, afiliasi NBC setempat.
Remaja tersebut mengaku bahwa pertanyaannya di ChatGPT hanya lelucon untuk mengolok-olok seorang teman. Tetapi kepolisian setempat dan sekolah tidak menganggap kejadian itu sebagai hal yang lucu, terutama mengingat sejarah pembantaian tragis di Sekolah Menengah Atas Marjory Stoneman Douglas di Parkland, Florida, yang menewaskan 17 orang.
Polisi setempat dari Kantor Sheriff Volusia County kemudian menangkapnya dan menahannya di penjara daerah. Rekaman yang beredar di media sosial menunjukkan remaja tersebut dalam keadaan terikat dibawa ke mobil polisi.
Kontrol orangtua
Kasus ini menggarisbawahi bagaimana Artificial intelligence (AI) popular seperti ChatGPT memiliki risiko yang tidak terduga. Kepolisian memperingatkan para orangtua untuk memantau anak-anak mereka saat menggunakan atau berinteraksi dengan ChatGPT.
“Para orangtua, mohon bicara dengan anak-anak Anda agar mereka tidak melakukan kesalahan yang sama,” kata kantor sheriff setempat.
Dilansir dari Webpronews, insiden tersebut memicu perdebatan tentang kontrol orangtua dan perlunya literasi AI yang lebih baik di kalangan pengguna muda. Termasuk juga bagaimana sekolah-sekolah agar bisa ikut menyeimbangkan inovasi dengan keamanan.
Kantor Sheriff mengatakan, dengan adanya penangkapan terhadap remaja 13 tahun tersebut, menekankan tidak adanya toleransi terhadap ancaman, meskipun dimaksudkan sebagai lelucon.
Kebutuhan regulasi
Para pakar industri kini tengah meneliti bagaimana perusahaan AI seperti OpenAI dapat menyempurnakan perangkat mereka agar bisa mendeteksi dan mencegah penyalahgunaan oleh remaja. Peristiwa serupa juga terjadi di California, seorang remaja bunuh diri setelah bertanya kepada ChatGPT. Hal ini membuktikan bahwa AI justru mendorong pada perilaku berbahaya.
Bagi para pelaku teknologi, insiden ini menandakan kebutuhan mendesak akan pedoman terpadu yang membahas aksesibilitas AI di sekolah. Para pendidik dan pembuat kebijakan harus mempertimbangkan tidak hanya manfaat alat tersebut bagi pembelajaran, tetapi juga potensinya untuk memperkuat tindakan impulsif.
Negara juga harus hadir lebih ketat lagi dalam membuat aturan dan pengawasan terkait AI. Negara perlu memastikan bahwa platform memprioritaskan keselamatan pengguna tanpa menghambat inovasi.
Pada akhirnya, peristiwa kali ini menjadi peringatan bagi pelaku industri teknologi, untuk mendorong evaluasi ulang tentang bagaimana AI berinteraksi dengan pengguna yang rentan. Seiring sekolah semakin banyak mengadopsi perangkat digital, tantangannya terletak pada bagaimana menciptakan lingkungan di mana rasa ingin tahu remaja tidak serta merta berujung pada konsekuensi hukum, dengan menyeimbangkan kewaspadaan dan pemahaman.[*]
