digitalMamaID – Banyak sekolah selama ini menggunakan foto siswa untuk menunjukkan kegiatan belajar, prestasi, atau promosi sekolah. Namun, di era digital dan kecerdasan buatan (AI), praktik yang selama ini dianggap wajar mulai memunculkan kekhawatiran baru terkait keamanan anak di ruang digital.
Kekhawatiran tersebut muncul setelah ditemukan modus di Inggris, di mana pelaku kejahatan siber menyalahgunakan foto-foto siswa yang diambil dari situs sekolah. Dengan bantuan teknologi AI, foto-foto tersebut dimanipulasi menjadi gambar seksual eksplisit dan digunakan sebagai alat pemerasan terhadap sekolah.
Walau belum masif, kasus ini memicu peringatan bahwa foto anak yang diunggah secara publik memiliki risiko eksploitasi digital dan kemudahan akses terhadap teknologi AI membuat modus ini berisiko semakin besar.
Hasil riset IWF
Menurut riset Internet Watch Foundation (IWF) yang melibatkan 250 guru di Inggris, hampir seperempat responden menyatakan sekolah mereka telah terdampak ancaman modus ini.
Dilansir dari The Guadian, sebuah sekolah menengah di Inggris yang baru-baru ini menjadi sasaran pemerasan setelah foto-foto siswanya disalahgunakan oleh pelaku kejahatan siber mengungkapkan kepada IWF bagaimana mereka beraksi.
Foto yang diambil dari situs web atau akun media sosial sekolah tersebut kemudian dimanipulasi menggunakan teknologi AI hingga menjadi gambar bermuatan seksual yang dikategorikan sebagai materi pelecehan seksual anak (Child Sexual Abuse Material atau CSAM). Para pelaku lalu mengirimkan gambar-gambar hasil manipulasi tersebut kepada pihak sekolah dan mengancam akan menyebarkannya secara daring jika tuntutan uang mereka tidak dipenuhi.
Sebagai organisasi yang memantau peredaran CSAM di internet, IWF kemudian membuat “hash” atau sidik jari digital dari gambar-gambar tersebut dan membagikannya kepada berbagai platform teknologi untuk mencegah unggahan ulang. Menurut IWF, sekitar 150 gambar yang ditemukan dalam kasus ini dapat diklasifikasikan sebagai materi pelecehan seksual anak berdasarkan hukum yang berlaku di Inggris.
Menanggapi kasus tersebut, Menteri Perlindungan dan Pencegahan Kekerasan terhadap Perempuan dan Anak Perempuan Inggris Jess Phillips, menyebut praktik pemerasan yang memanfaatkan AI ini sebagai ancaman baru yang sangat mengkhawatirkan. Ia menegaskan pemerintah siap memperbarui regulasi terkait penggunaan AI apabila diperlukan.
“Kami tidak akan ragu mengambil langkah lebih jauh jika diperlukan dan memastikan hukum kami selalu mampu menjawab ancaman terbaru,” ujarnya.
IWF juga menegaskan bahwa kasus ini bukan satu-satunya insiden yang mereka ketahui. Organisasi tersebut menyebut telah menemukan sejumlah upaya pemerasan lain di Inggris yang melibatkan manipulasi foto siswa yang diambil dari situs web maupun akun media sosial sekolah. Namun, demi melindungi para korban, IWF tidak mengungkap identitas sekolah maupun kepolisian yang menangani kasus tersebut.
Rekomendasi EWWG untuk keamanan daring
Merespons ancaman tersebut, Early Warning Working Group (EWWG), sebuah badan penasihat di Inggris yang berfokus pada keamanan daring, menerbitkan panduan bagi sekolah untuk melindungi siswa dari risiko pemerasan berbasis AI. Meski kasus yang terungkap sejauh ini belum tergolong masif, EWWG menilai hanya tinggal menunggu waktu sebelum lebih banyak sekolah menjadi sasaran.
Salah satu rekomendasi utama yang diberikan adalah sebagai berikut:
- Membatasi penggunaan foto siswa yang menampilkan wajah secara jelas di ruang publik digital. Sebagai alternatif, sekolah disarankan menggunakan foto yang diambil dari jarak jauh, gambar yang diburamkan, atau potret yang memperlihatkan siswa dari belakang sehingga lebih sulit disalahgunakan.
- Berhati-hati dalam membagikan informasi yang dapat mengidentifikasi anak, seperti nama lengkap dan wajah, karena data tersebut dapat dimanfaatkan pelaku untuk melakukan eksploitasi maupun pemerasan.
- Mendorong sekolah untuk mengevaluasi kembali kebutuhan penggunaan foto siswa dalam materi publikasi. Menurut EWWG, sekolah tetap dapat merayakan prestasi dan kegiatan siswa tanpa harus menampilkan identitas anak secara jelas. Dengan demikian, tujuan komunikasi dapat tercapai sembari meminimalkan risiko keamanan digital.
- Menerapkan pengaturan privasi yang lebih ketat pada situs web dan akun media sosial sekolah. Langkah tersebut dinilai dapat membatasi akses pihak yang tidak berkepentingan untuk melihat, mengunduh, atau menyebarluaskan konten.
Selain itu, EWWG merekomendasikan sekolah melakukan audit berkala terhadap seluruh foto anak yang dipublikasikan di situs web, media sosial, maupun materi promosi. Persetujuan penggunaan foto dari orang tua dan siswa juga perlu diperbarui secara berkala untuk memastikan penggunaannya tetap sesuai kebutuhan.
Apabila terjadi penyalahgunaan, sekolah diminta segera melapor kepada kepolisian, menyimpan seluruh bukti digital yang berkaitan dengan tindak kejahatan tersebut, serta menyembunyikan foto asli yang telah dimanipulasi guna mencegah penyebaran lebih lanjut.
EWWG sendiri beranggotakan sejumlah lembaga perlindungan anak dan keamanan digital di Inggris, termasuk NSPCC, Internet Watch Foundation (IWF), National Crime Agency (NCA), pemerintah Wales, Education Scotland, dan Safeguarding Board for Northern Ireland.
Aidos, platform untuk melindungi foto anak
Di tengah meningkatnya kekhawatiran atas penyalahgunaan foto anak di internet, sejumlah pihak mulai mengembangkan solusi berbasis teknologi. Salah satunya adalah platform yang dikembangkan organisasi keselamatan anak Aidos.
Platform ini memanfaatkan AI untuk melindungi identitas siswa ketika foto mereka dipublikasikan secara daring. Alih-alih menampilkan wajah asli, sistem akan menggantinya dengan wajah hasil generasi AI yang tetap menyesuaikan pencahayaan, warna kulit, ekspresi, dan konteks foto. Hasilnya, gambar tetap terlihat natural dan realistis, tetapi identitas anak tidak dapat dikenali.
Simon Bailey, mantan kepala kepolisian nasional Inggris untuk perlindungan anak yang kini menjadi penasihat Aidos, mengatakan perkembangan AI telah memperbesar risiko eksploitasi seksual anak di ruang digital. “Pelecehan seksual daring terhadap anak-anak telah mencapai tingkat pandemi, dan kemunculan AI semakin mempercepat ancaman tersebut,” ujarnya.
Menurut Bailey, teknologi seperti yang dikembangkan Aidos dapat menjadi langkah pencegahan sebelum foto anak disalahgunakan untuk pemerasan atau bentuk kejahatan digital lainnya.
“Aidos dapat mencegah bentuk pemerasan seksual ini sejak dini. Saya mendesak setiap kepala sekolah di negara ini untuk bertindak sekarang. Teknologi yang digunakan para penjahat sudah ada di sini, pertanyaannya adalah apakah sekolah-sekolah terlindungi darinya,” katanya. [*]
