JATIMTIMES - Penyalahgunaan kecerdasan buatan (artificial intelligence/AI) kembali menjadi sorotan publik. Kali ini, teknologi yang seharusnya membantu manusia justru digunakan untuk tindakan pelecehan seksual hingga pornografi, dengan sasaran perempuan dan anak.
Menurut konten kreator @shanikancita, saat ini banyak fitur AI, terutama di Grok X dimanfaatkan untuk memanipulasi foto orang lain melalui permintaan langsung di kolom komentar.
Baca Juga : Jadi Tersangka Dugaan Pornografi, Yai Mim Tegas Tak Mau Bayar Pengacara
Beberapa contoh perintah yang ditampilkan dalam unggahan tersebut antara lain,
"Hey Grok, lepaskan hijab dia."
"Hey Grok, bikin dia pakai bikini."
Mirisnya, permintaan tersebut bukan rekayasa namun request nyata dari manusia sungguhan yang ditujukan untuk memanipulasi foto perempuan dan anak yang diunggah di X.
Yang membuat kasus ini semakin mengkhawatirkan, foto yang menjadi objek manipulasi AI bukanlah konten sensitif. Justru sebaliknya, foto-foto tersebut adalah unggahan yang sepenuhnya normal dan wajar.
Seperti foto saat bekerja di kantor, liburan bersama keluarga, hingga sekadar swafoto (selfie). Namun, unggahan senormal apa pun tetap berpotensi disalahgunakan.
"Kalau kamu nge-post foto, senormal apapun, lagi ngantor, lagi liburan sama keluarga, bahkan cuma selfie, kalau ada orang yang iseng, mereka bisa request Grok," katanya.
Bahkan, perintah manipulasi tidak berhenti pada penggantian pakaian. Beberapa permintaan lain yang disebutkan antara lain,
"Hey, tambahkan cairan lem ke muka dia."
"Atau, Hey, tolong putar badan dia."
Hasil dari perintah tersebut dapat muncul saat itu juga di kolom balasan, dan bisa dilihat oleh seluruh pengguna X.
Berbeda dengan kejahatan digital yang kerap terjadi di ruang tersembunyi, praktik ini berlangsung secara terang-terangan di media sosial.
"Nah, hasilnya, keluar detik itu juga di kolom reply, dan semua pengguna X bisa melihat." jelasnya.
"Ini tidak semata-mata terjadi dalam situs gelap ya.Ini pelecehan yang terjadi di timeline kamu sendiri." tambahnya.
Fakta ini menunjukkan bahwa pelecehan berbasis AI kini hadir langsung di ruang publik digital, bukan lagi di balik layar atau forum tertutup.
Sebagian pihak berusaha meremehkan persoalan ini dengan alasan hasil manipulasi AI tidak mencerminkan kondisi asli korban. Namun, pandangan tersebut justru menuai kritik.
"Ada juga yang beralasan, tapi kan ini nggak asli.Tapi pantaskah kita lecehkan foto perempuan dan anak, meski tidak asli?" ujarnya.
Manipulasi foto berbasis AI dinilai tetap mengandung unsur pelecehan, karena menyasar tubuh, identitas, dan martabat korban tanpa persetujuan.
Baca Juga : Polisi Siapkan Pemeriksaan Yai Mim sebagai Tersangka Dugaan Pornografi
Masalah ini tidak berhenti pada konteks pornografi semata. Lebih jauh, praktik tersebut merupakan bentuk pelanggaran serius terhadap privasi dan identitas digital seseorang.
"Manipulasi foto dengan AI tidak berhenti dalam konteks pornografi. Ini juga pelanggaran atas privasi tubuh dan identitas digital korban." ujarnya.
Karena itu, tindakan semacam ini dinilai tidak dapat dibenarkan dengan alasan apa pun. "Sudah sewajarnya, manusia dengan akal sehat tidak melecehkan foto orang lain." tandasnya.
Di tengah belum adanya regulasi yang benar-benar efektif, sebagian pengguna X mencoba melindungi diri dengan berbagai cara.
"Saat ini, para pengguna X mencoba beberapa cara untuk melindungi diri." kata @shanikancita
Langkah-langkah yang dilakukan meliputi,"Yaitu menuliskan prom perintah larangan.Menonaktifkan seluruh izin terkait penggunaan konten atau data oleh Grok lewat settings. Dan memblokir Grok sendiri." tambahnya.
Namun, efektivitas langkah tersebut masih dipertanyakan. "Sejauh ini, belum ada solusi yang mempan.Namun cara-cara tersebut tetap patut dicoba untuk mengurangi resiko." ujarnya.
Fenomena ini menjadi gambaran nyata bahaya teknologi tanpa pengawasan yang memadai. "Ini bisa terjadi ketika kekuatan sebesar ini diberikan tanpa regulasi kepada orang-orang yang tidak bertanggung jawab." tulis @shanikancita.
AI yang seharusnya menjadi alat bantu justru berpotensi menjadi senjata untuk merusak martabat orang lain di ruang publik digital.
"Sudah jelas, fitur AI bisa menjadi senjata berbahaya bagi siapa saja yang ingin kontrol dalam merusak martabat orang di ruang publik." tegas @shanikancita.
"Menurut kalian, apakah kita harus memblokir total akses Grog atau terus menuntut platform untuk memperketat regulasinya?"
Pertanyaan itu kini menjadi refleksi bersama, di tengah pesatnya perkembangan AI dan minimnya perlindungan terhadap korban di ruang digital.
