Kasus Deepfake AI Grok Seret Nama Kate Middleton
Awalan Berita – Regulator internet, telekomunikasi, dan media Inggris, Ofcom, menyelidiki dugaan pembuatan konten deepfake mesum oleh Grok AI. Kasus ini mencuat setelah Kate Middleton dilaporkan menjadi salah satu korban manipulasi gambar berbasis kecerdasan buatan. Grok merupakan chatbot AI buatan xAI, perusahaan milik Elon Musk, yang terintegrasi langsung dengan platform X. Dugaan ini memicu perhatian serius regulator karena menyangkut pelanggaran privasi, eksploitasi citra diri, serta potensi penyebaran konten ilegal. Ofcom menyatakan telah melakukan kontak langsung dengan xAI untuk meminta klarifikasi dan tindakan konkret.
“Baca Juga: 2026, Induk TikTok Belanja Besar Chip AI Nvidia”
Laporan BBC menemukan sejumlah unggahan di platform X yang memanfaatkan Grok untuk memanipulasi foto perempuan. Pengguna dilaporkan meminta Grok mengubah foto asli menjadi tampilan berbikini atau situasi seksual eksplisit. Permintaan tersebut dilakukan tanpa persetujuan individu yang fotonya digunakan. Kate Middleton disebut menjadi salah satu figur publik yang menjadi sasaran manipulasi visual tersebut. Praktik ini menimbulkan kekhawatiran luas terkait penyalahgunaan AI generatif untuk merusak martabat individu. Istana Kensington hingga kini belum mengeluarkan pernyataan resmi terkait keterlibatan Kate dalam laporan tersebut.
Ofcom menyatakan sedang mempertimbangkan langkah penegakan hukum terhadap Grok dan platform X. Kasus ini dinilai sebagai ujian awal bagi regulator Inggris dalam menghadapi percepatan teknologi kecerdasan buatan. Dalam pernyataannya, Ofcom mengakui adanya kekhawatiran besar terkait kemampuan Grok menghasilkan gambar orang tanpa busana. Regulator juga menyoroti potensi munculnya konten pelecehan seksual terhadap anak dari penyalahgunaan fitur tersebut. Ofcom menegaskan telah menghubungi X dan xAI secara mendesak untuk memahami langkah mitigasi yang diterapkan. Hasil komunikasi ini akan menjadi dasar penilaian awal terkait kemungkinan pelanggaran hukum.
Tim keamanan Grok AI menyatakan telah mengambil tindakan tegas terhadap konten ilegal di platform X. Dalam pernyataan resminya, Grok menegaskan bahwa pihaknya menghapus konten terlarang dan menangguhkan akun pelanggar secara permanen. xAI juga mengklaim bekerja sama dengan pemerintah serta aparat penegak hukum setempat dalam menangani pelanggaran serius. Mereka menyebut bahwa pengguna yang memberi perintah kepada Grok untuk menghasilkan konten ilegal akan menerima sanksi setara dengan pengunggah langsung. Pernyataan ini disampaikan untuk merespons kritik publik dan kekhawatiran regulator.
“Baca Juga: Bocoran Harga Steam Machine Tembus 16 Juta Rupiah”
Kasus yang melibatkan Kate Middleton ini menyoroti tantangan besar dalam pengawasan teknologi AI generatif. Regulasi yang ada sering kali tertinggal dibandingkan kecepatan inovasi teknologi. Ofcom menghadapi tekanan untuk memastikan perlindungan pengguna tetap terjaga tanpa menghambat perkembangan teknologi. Hasil penyelidikan ini berpotensi menjadi preseden penting bagi penegakan hukum AI di Inggris. Keputusan regulator juga akan memengaruhi cara perusahaan teknologi mengelola fitur generatif ke depan. Kasus ini mempertegas urgensi kerangka hukum yang jelas dalam melindungi hak citra diri di era kecerdasan buatan.
