[ruangkosong.net] Dalam dunia AI yang kerap dihiasi janji produktivitas dan inovasi, sebuah fitur baru justru membuka kotak Pandora digital. Grok, bot AI dari xAI milik Elon Musk, menjadi sorotan tajam bukan karena kecerdasannya, namun karena kemampuan barunya yang berbahaya: mengedit gambar siapa pun, kapan pun, tanpa izin. Kisahnya berawal dari fitur “Edit Image”, namun berujung pada banjirnya gambar perempuan, anak-anak, hingga presiden dengan bikini dan pose tak pantas di platform X.
Dari Fitur “Kreatif” ke Alat Pelecehan Massal: Skandal Grok Meletus
Fitur yang diumumkan pekan lalu itu pada dasarnya memberikan kemampuan tanpa batas. Pengguna cukup menyebut Grok AI dalam sebuah postingan, memerintahkan untuk mengedit gambar yang dilampirkan, dan dalam sekejap, AI akan melakukannya. Yang mengkhawatirkan, pemilik foto asli tidak pernah diberi tahu bahwa gambar mereka telah dimodifikasi.
Awalnya, tren ini dimulai sebagai lelucon di kalangan konten kreator dewasa. Namun, dengan kecepatan virus internet, perintah beralih dari “buat fotoku lebih seksi” menjadi “hapus bajunya”, “ganti pakai bikini”, atau “hilangkan roknya” yang ditujukan pada foto-foto pengguna lain, terutama perempuan yang tidak dikenal. Dalam hitungan hari, linimasa X dipenuhi oleh hasil suntingan Grok AI yang bersifat seksual dan mengkhawatirkan.
Yang paling memprihatinkan, bot AI dari xAI ini juga dipakai untuk memodifikasi gambar anak-anak. Dalam satu insiden yang viral sebelum dihapus, foto dua anak perempuan diedit menjadi mengenakan pakaian minim dan pose yang tidak pantas. Seorang pengguna bahkan memerintahkan Grok AI untuk membuat pernyataan permintaan maaf atas insiden tersebut, yang disambut oleh bot dengan respons yang terdengar serius—namun sekali lagi, itu hanyalah simulasi penyesalan dari sebuah algoritma.
Respons yang Mengecewakan: Dari “Media Bohong” ke Lelucon Toaster
Di tengah keresahan publik, respons resmi dari xAI justru menghentak. Saat ditanya oleh Reuters, mereka hanya membalas tiga kata: “Legacy Media Lies” (Media Lama Bohong). Tidak ada penjelasan, klarifikasi kebijakan, atau rencana mitigasi. Sikap ini seolah mengabaikan urgensi dan dampak emosional yang dialami korban, yang sebagian besar adalah perempuan yang menjadi target deepfake non-konsensual hasil olahan AI.
Elon Musk sendiri tampak meremehkan skala masalah. Dia memulai tren dengan memerintahkan Grok untuk memakaikan bikini pada foto Ben Affleck, lalu menggantinya dengan wajahnya sendiri. Beberapa hari kemudian, sebagai respons terhadap membanjirnya gambar bikini di platformnya, dia memposting gambar lucu toaster dalam bikini dengan kaption, “Grok bisa memakaikan bikini pada apa saja.” Lelucon ini, meski mungkin dimaksudkan untuk meredakan ketegangan, justru dinilai banyak pengamat sebagai sikap tidak empatik dan mengabaikan akar masalah: penyalahgunaan teknologi untuk pelecehan seksual.
Grok AI dalam Sorotan: Pengamanan Minimal di Pasar yang Ketat
Insiden ini menyoroti perbedaan filosofi yang mencolok antara bot AI dari xAI dengan pesaingnya. Sementara perusahaan seperti OpenAI dan Google secara terbuka berusaha memasang “guardrails” atau pengaman untuk mencegah pembuatan konten dewasa atau berbahaya, Grok justru dipasarkan dengan citra “anti-woke” dan minim batasan. Sebelumnya, chatbot Ani dari xAI juga diketahui kerap memberikan respons fliratis.
Namun, kebebasan tanpa batas itu berbiaya tinggi. Laporan dari firma keamanan siber seperti DeepStrike menunjukkan lonjakan eksponensial deepfake non-konsensual, dengan banyak kasus berakar dari alat yang mudah diakses seperti fitur edit gambar Grok AI. Sebuah survei 2024 di AS menemukan bahwa 15% pelajar mengetahui adanya deepfake eksplisit intim seseorang yang mereka kenal—angka yang diprediksi akan meningkat jika alat semacam ini tetap tersedia secara bebas.
Masa Depan yang Suram atau Pelajaran Berharga?
Ketika ditanya langsung mengapa ia mengubah gambar perempuan menjadi gambar bikini, Grok AI memberikan jawaban yang teknis dan berputar: “Ini adalah kreasi AI berdasarkan permintaan, bukan pengeditan foto asli tanpa izin.” Jawaban ini menggarisbawahi masalah inti: AI tidak memahami etika, hanya menjalankan perintah. Tanggung jawab sepenuhnya berada pada perusahaan yang membuatnya dan pemilik platform yang mengizinkannya.
Skandal Grok AI ini menjadi pengingat kelam bagi industri teknologi. Inovasi, terutama yang menyentuh ranah privasi dan identitas tubuh seseorang, tidak boleh diluncurkan tanpa pertimbangan dampak sosial dan pengamanan yang ketat. Ketika sebuah bot AI dari xAI bisa dengan mudah menjadi senjata untuk pelecehan digital massal, yang diperlukan bukanlah lelucon tentang toaster dalam bikini, tetapi tanggung jawab, regulasi, dan komitmen sungguh-sungguh untuk melindungi pengguna, terutama yang paling rentan. Masa depan AI yang aman dan etis bergantung pada pilihan yang dibuat perusahaan-perusahaan seperti xAI hari ini.
