JAWA BARAT — Kementerian Komunikasi dan Digital menyusun peraturan menteri yang mewajibkan pengembang AI memberi label pada konten sintetis seperti video, gambar, dan suara buatan. Kebijakan ini digodok menyusul maraknya penipuan bermodal deepfake, termasuk kasus pertemuan virtual palsu di Hong Kong yang merugikan sebuah perusahaan hingga US$25 juta. Bagi pengguna smartphone di Indonesia, label semacam ini jadi penanda pertama untuk membedakan konten asli dan rekayasa digital.
Wakil Menteri Komunikasi dan Digital Nezar Patria menyampaikan kajian tersebut dalam Konvensi Humas Indonesia 2026 di Surakarta, Sabtu (17/10). Menurut dia, garis pemisah antara realita dan konten sintetik kian tipis seiring cepatnya perkembangan kecerdasan artifisial.
Kemampuan AI menghasilkan video, gambar, dan suara yang makin realistis memperbesar risiko penyalahgunaan teknologi untuk penipuan dan manipulasi informasi. Komdigi menilai label otentisitas perlu jadi kewajiban bagi perusahaan pengembang AI, bukan sekadar inisiatif sukarela.
Regulasi anyar ini kemungkinan besar mewajibkan pemberian label atau tanda pada konten hasil AI. Tujuannya membantu masyarakat membedakan sekaligus menelusuri asal-usul konten digital yang mereka terima.
Pengembang teknologi diharapkan menyertakan penanda yang membedakan konten buatan mesin dari karya asli. Sejumlah perusahaan teknologi global sudah lebih dulu mengembangkan mekanisme autentikasi dan penelusuran asal-usul konten lewat metadata.
"Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan," kata Nezar.
Nezar mencontohkan penipuan lewat pertemuan virtual di Hong Kong sekitar dua tahun lalu. Sebuah perusahaan mengalami kerugian US$25 juta setelah seorang staf keuangan melakukan 15 kali transfer atas instruksi dalam rapat daring.
Jajaran pimpinan yang tampil di layar ternyata hasil rekayasa digital. "Jadi dalam pertemuan online itu semuanya fake, yang asli cuma dia sendiri di situ, si staf itu," ungkapnya.
Kasus itu memperlihatkan bagaimana deepfake bisa menembus prosedur internal perusahaan. Verifikasi identitas lewat tatap muka digital tidak lagi cukup jadi pengaman tunggal.
Pemerintah menyiapkan langkah pengamanan lain melalui Peta Jalan Nasional Kecerdasan Artifisial periode 2026-2029. Penyusunannya melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri.
Nezar menilai penguatan tata kelola AI harus dibarengi peningkatan kemampuan masyarakat dan organisasi dalam memakai teknologi secara bertanggung jawab. Literasi digital soal menilai kebenaran informasi jadi bagian tak terpisahkan dari kebijakan ini.
"AI harus didudukkan sebagai alat, sebagai mitra kerja, bukan pengganti nalar dan tanggung jawab manusia," tegasnya.
Bagi pengguna smartphone, label konten AI berpotensi jadi fitur yang terlihat langsung di aplikasi media sosial dan platform pesan. Pengguna bisa mengecek apakah sebuah video atau pesan suara dibuat mesin sebelum meneruskan ke orang lain.
Pelaku bisnis digital dan investor startup perlu mencermati kewajiban ini sebagai bagian dari kepatuhan produk. Startup yang membangun layanan berbasis generative AI kemungkinan harus menyesuaikan alur produksi konten agar menyertakan metadata dan label otentisitas.
Komdigi belum membeberkan tenggat finalisasi peraturan menteri tersebut. Arah kebijakannya sudah jelas: konten sintetis mesti bisa dilacak asal-usulnya, dan tanggung jawab verifikasi tidak boleh dilempar sepenuhnya ke pengguna.