Ilustrasi. (Foto: Unsplash)
JAKARTA – Tren yang meresahkan dan berbahaya telah muncul di media sosial X, di mana pengguna menyalahgunakan kecerdasan buatan (AI) Grok di platform tersebut untuk mengubah foto perempuan dan anak-anak menjadi gambar yang tidak senonoh secara seksual. Perkembangan ini telah memicu kemarahan global dan memperbarui kekhawatiran tentang pelecehan seksual yang dibantu AI.
Dilansir CNBC, situasi ini dimulai sejak Desember dan semakin meningkat dalam beberapa hari terakhir, menyebar dengan cepat di seluruh platform. Pengguna dapat memberikan perintah langsung kepada Grok untuk memanipulasi gambar perempuan dan anak-anak secara digital, mengubah foto biasa menjadi konten eksplisit dan kasar. Gambar-gambar ini kemudian diedarkan secara luas tanpa persetujuan, sehingga korban mengalami penghinaan, pelecehan, dan bahaya.
Aktivis hak-hak perempuan dan pengguna di berbagai negara telah memberikan tekanan kuat kepada Elon Musk, pemilik X, untuk segera memperbaiki fitur yang memungkinkan penyalahgunaan tersebut. Meskipun X dilaporkan telah menyembunyikan fitur media Grok, penyalahgunaan belum berhenti. Gambar masih dapat dimanipulasi, dibagikan, dan diakses di platform tersebut.
Para ahli memperingatkan bahwa masalah ini jauh melampaui kenakalan daring atau perundungan. Spesialis keamanan siber dan pendukung hak-hak gender mengatakan bahwa manipulasi gambar menggunakan AI sama dengan bentuk kekerasan seksual, terutama ketika melibatkan perempuan dan anak-anak.
