AI seharusnya diciptakan untuk membantu manusia berpikir. Tapi dalam praktiknya, sebagian orang justru memaksanya ikut berfantasi. Bukan karena mesinnya genit, melainkan karena manusianya kreatif dalam arah yang salah.
Maka lahirlah generasi aplikasi yang secara teknis canggih, namun secara moral ringkih. Pintar menghitung, tapi buta menilai. Cepat menghasilkan, tapi tak sempat bertanya apakah ini pantas atau tidak?
Di titik inilah bahaya itu bermula. Bukan pada kecerdasan buatannya, melainkan pada kebodohan moral pembuat dan penggunanya.
Bayangkan sebuah mesin yang bisa menyusun gambar dan video hanya dari perintah teks. Tanpa etika yang kokoh, mesin itu bisa diminta “mengubah”, “memanipulasi”, atau “merekayasa” citra manusia nyata, bahkan anak-anak, ke dalam bentuk yang melanggar martabat paling dasar.
Itu kini bisa dibuat bukan dengan kamera, bukan dengan kejadian nyata, melainkan dengan ilusi digital yang terasa “seolah nyata”. Tidak terjadi di dunia fisik, tapi dampaknya menghantam dunia nyata tanpa ampun.
Lebih mengerikan lagi, gambar porno termasuk yang buatan AI, apalagi yang mudah diakses secara digital, bekerja seperti racun lambat bagi anak-anak. Otak mereka belum selesai dibangun, pusat kendali moralnya masih rapuh, namun sudah dipaksa menerima rangsangan yang seharusnya baru dikenali bertahun-tahun kemudian.
Psikologi perkembangan menjelaskan, paparan seksual dini dapat merusak struktur emosi, membingungkan identitas diri, menumpulkan rasa malu yang sehat, bahkan memicu perilaku menyimpang di usia remaja.
Anak-anak yang seharusnya belajar mengenal dunia lewat bermain, justru dipaksa memahami tubuh lewat distorsi visual. Imajinasi mereka dibajak sebelum sempat tumbuh.
Maka pornografi bukan sekadar tontonan salah umur, melainkan perampokan masa kanak-kanak yang sunyi, tak bersuara, tapi dampaknya panjang, dalam, dan sering baru terasa ketika semuanya sudah terlambat.
Inilah wajah baru kejahatan yang tidak menyentuh korban, tapi menghancurkan hidupnya.
Yang mengerikan, gambar dan video semacam ini tidak membutuhkan kehadiran korban. Cukup satu foto biasa, satu wajah di media sosial, lalu algoritma bekerja seperti jin salah botol.
Dalam hitungan menit, bahkan laporan Copyleaks menyebut satu gambar per menit, lahirlah konten seksual nonkonsensual. Bukan karena anak itu berbuat apa-apa, melainkan karena teknologi dibiarkan tanpa pagar moral.
Dan jangan salah bahwa ini bukan hanya berbahaya bagi anak-anak. Orang dewasa pun ikut terancam. Sebab seks, sejak ribuan tahun lalu, memang zat paling adiktif yang pernah dikenal manusia yang lebih kuat dari gula, lebih licin dari narkoba, dan lebih sulit dikendalikan daripada notifikasi diskon tengah malam.
Neurosains sudah lama menjelaskan bagaimana dopamin bekerja yaitu semakin sering distimulasi, semakin haus ia minta diulang. Maka ketika AI menjadi mesin pemuas instan, yang rusak bukan hanya moral sosial, tetapi struktur psikologis manusia itu sendiri.
Kecanduan digital seksual membuat empati menipis, relasi manusia mengering, dan tubuh orang lain berubah sekadar objek piksel. Anak-anak kehilangan masa depan. Orang dewasa kehilangan kendali. Masyarakat kehilangan batas.
Di sinilah dunia mulai tersentak. Koalisi 30 organisasi advokasi internasional menuntut Apple dan Google menghapus platform X dan Grok dari toko aplikasi, karena lemahnya pembatasan yang memungkinkan lahirnya gambar-gambar pornografi, termasuk yang melibatkan anak-anak.
Jaksa Agung California menyebut temuan itu “mengejutkan”. Inggris bersiap melarang. Komisi Eropa memasang mata elang regulasi. Dunia Barat yang biasanya santai soal kebebasan berekspresi, tiba-tiba sadar: kebebasan tanpa etika hanyalah kekacauan yang diberi nama keren.
Sementara itu, Elon Musk pemilik X dan Grok, seperti biasa, mengangkat bahu sambil berkata ia “tidak menyadari apa-apa”. Kalimat klasik zaman modern dimana ketika algoritma salah, manusianya pura-pura tidak login.
Menariknya, justru Indonesia sebagai negara yang sering diremehkan dalam isu teknologi, bergerak lebih cepat. Pada Desember 2025, pemerintah menjatuhkan denda administratif kepada Platform X karena konten pornografi.
Dendanya bukan angka besar, memang. Hanya jutaan. Tapi simbolnya penting bahwa negara hadir. Negara tidak pura-pura buta. Negara tidak menunggu korban bunuh diri dulu baru membuat siaran pers.
Lalu Januari 2026, Grok digorok dan diblokir. Indonesia dan Malaysia menjadi yang pertama. Dunia menyusul dengan diskusi panjang, seminar mahal, dan panel etika ber-AC dingin. Tapi Indonesia langsung menekan tombol yaitu cukup.
Menteri Komunikasi dan Digital menyebut deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap martabat manusia. Bukan sekadar pelanggaran kebijakan aplikasi, tapi pelanggaran kemanusiaan. Kalimat ini penting. Karena sejak kapan martabat manusia boleh diuji coba beta?
Para akademisi mengingatkan bahwa teknologi memang tak bisa dihentikan, tapi bisa diarahkan. AI bukan takdir. Ia alat. Dan alat tanpa etika, kata para filsuf sejak zaman kapak batu, selalu lebih berbahaya daripada niat jahat itu sendiri.
Ironisnya, kita hidup di zaman di mana kecerdasan buatan berkembang jauh lebih cepat dari kebijaksanaan manusia. Algoritma naik kelas tiap bulan, sementara moral publik masih remedial. Mesin belajar dari data, tapi manusia lupa belajar dari nurani.
Padahal, teknologi seharusnya mendekatkan jarak manusia dengan kemanusiaannya, bukan menjauhkannya.
Maka barangkali persoalannya bukan sekadar apakah AI ini pintar, melainkan apakah kita cukup dewasa untuk mengendalikannya?
Karena jika mesin bisa menciptakan dosa dalam format digital, sementara manusianya sibuk berkilah, mungkin yang paling membutuhkan pembaruan sistem bukanlah aplikasinya, melainkan hati kita.
Di titik itu, tragedi digital berubah menjadi cermin. Kehilangan privasi menjadi pelajaran. Skandal menjadi peringatan. Dan angka-angka laporan menjadi renungan sunyi bahwa kemajuan tanpa etika bukanlah masa depan, melainkan kemunduran yang dipercepat.
