Grok Tambahkan Opsi untuk Mencegah Pengeditan Foto Pribadi

Platform AI Grok milik perusahaan xAI kini menghadirkan fitur baru yang memungkinkan pengguna mencegah AI tersebut mengedit foto mereka. Fitur ini muncul setelah muncul berbagai kontroversi terkait penyalahgunaan alat pengeditan gambar di platform X.

Sebelumnya, Grok memiliki kemampuan untuk memodifikasi foto yang diunggah pengguna, termasuk mengubah gaya gambar atau menambahkan elemen visual tertentu. Namun, sejumlah pengguna dilaporkan memanfaatkan fitur tersebut untuk membuat gambar yang tidak pantas, seperti mengubah foto orang nyata menjadi gambar dengan pakaian terbuka atau pose yang bersifat seksual tanpa persetujuan.

Kontroversi tersebut memicu kritik luas dari publik, aktivis keamanan digital, dan regulator di beberapa negara. Beberapa kasus bahkan melibatkan pengeditan foto yang menampilkan individu tanpa izin, sehingga menimbulkan kekhawatiran tentang penyalahgunaan teknologi AI untuk membuat deepfake atau manipulasi gambar yang merugikan.

Sebagai respons, X dan xAI memperkenalkan beberapa langkah pengamanan baru. Salah satunya adalah opsi pengaturan yang memungkinkan pengguna memblokir Grok agar tidak dapat mengedit foto yang mereka unggah. Selain itu, perusahaan juga mulai membatasi kemampuan AI untuk memodifikasi gambar orang nyata menjadi konten yang bersifat seksual atau tidak pantas.

Meski demikian, para pengamat menilai perlindungan ini masih memiliki keterbatasan. Jika seseorang mengunduh foto lalu mengunggahnya kembali secara terpisah, pengeditan oleh AI masih mungkin dilakukan.

Langkah ini menunjukkan meningkatnya tekanan terhadap perusahaan teknologi untuk memperketat kontrol terhadap penggunaan AI generatif, terutama yang berkaitan dengan manipulasi gambar manusia.