Tren penggunaan teknologi kecerdasan buatan (AI) untuk mengedit wajah anak dalam konten dance di media sosial kini menuai kekhawatiran besar. Para pakar memperingatkan bahwa praktik ini berpotensi serius mengancam keamanan data dan privasi anak.
Yeni Herdiyani, Ketua Program Studi Kecerdasan Buatan IPB University, menjelaskan bahwa sebagian besar teknologi AI yang beredar saat ini adalah Generative AI (Gen-AI). Teknologi ini memiliki kemampuan untuk menciptakan gambar, video, teks, bahkan suara yang tampak nyata, berdasarkan model dan data yang telah tersedia.
“Model bayi dan dance sudah mampu dibuat oleh algoritma AI. Jika diberi input berupa foto riil, AI dapat menghasilkan output secara otomatis yang terlihat sangat nyata. Inilah cara kerjanya,” jelas Yeni, seperti dikutip dari laman IPB pada Senin (9/2).
Dari perspektif risiko, penggunaan wajah anak sebagai data untuk AI dinilai sangat rentan terhadap tindak kejahatan digital. Yeni menegaskan bahwa begitu sebuah foto diunggah ke ranah publik, data tersebut secara efektif menjadi mudah diakses secara luas dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.
“Kondisi ini secara spesifik menempatkan anak-anak sebagai kelompok yang paling rentan dalam ekosistem digital,” tambahnya.
Oleh karena itu, Yeni menekankan betapa krusialnya kesadaran orang tua untuk memahami berbagai risiko digital sebelum memutuskan mengunggah atau mengedit wajah anak mereka menggunakan AI. Risiko ini mencakup keamanan data, perlindungan privasi, hingga kemungkinan penyalahgunaan data pribadi.
Selain itu, pengguna juga perlu menyadari bahwa data yang mereka berikan kepada algoritma AI dapat dimanfaatkan untuk melatih model AI sebagai dataset. Konsekuensinya, data tersebut memiliki potensi untuk muncul kembali dalam bentuk atau konteks yang berbeda di kemudian hari.
Menanggapi fenomena ini, Yeni menyoroti pentingnya peningkatan literasi digital di tengah masyarakat. Ia menambahkan bahwa IPB University secara berkelanjutan membekali mahasiswa baru dengan materi etika dan tanggung jawab dalam penggunaan teknologi, melalui mata kuliah berpikir komputasional sejak tahun pertama. Upaya ini diharapkan mampu membentuk masyarakat yang lebih kritis dan bertanggung jawab dalam memanfaatkan teknologi AI.
