Perkembangan kecerdasan buatan (AI) membuat batas antara informasi faktual dan rekayasa digital kian kabur. Di tengah arus konten yang terus meningkat, penggunaan AI tanpa keterangan yang jelas dinilai berisiko memperbesar disinformasi, termasuk melalui manipulasi digital seperti deepfake yang dapat merusak reputasi seseorang dalam waktu singkat.
Konten berbasis AI disebut dapat menghadirkan “realitas palsu” yang sulit dibedakan secara kasat mata, terutama pada format audio-visual. Situasi ini memicu kekhawatiran tentang terjadinya “teror digital”, yakni tindakan melalui media digital yang menimbulkan dampak psikologis dan membuat publik kehilangan pegangan dalam menilai kebenaran informasi. Ketidakpastian tersebut dapat memengaruhi pandangan masyarakat, terlebih ketika penggunaan AI semakin meluas karena ketergantungan pada teknologi untuk berbagai kepentingan.
Data riset Amazon Web Services (AWS) mencatat penggunaan AI sebesar 47 persen dan disebut berpotensi terus meningkat tiap tahun, dengan pemanfaatan yang banyak mengarah pada kepentingan bisnis. Sementara itu, pemerintah melalui Kementerian Komunikasi Digital (Komdigi) menyatakan adopsi AI di Indonesia saat ini berada pada angka 92 persen. Di sisi lain, Indonesia juga memiliki 167 juta pengguna media sosial, setara 60,4 persen dari populasi, yang membuat persebaran konten digital berlangsung sangat cepat.
Dalam konteks ini, pemerintah disebut tengah menyusun regulasi lebih ketat terkait konten AI. Salah satu sorotan adalah minimnya penerapan label pada konten yang dibuat atau dimodifikasi dengan AI di platform besar seperti Instagram, TikTok, dan X. Konten semacam itu kerap mengangkat isu sosial budaya, politik, ekonomi, hingga pendidikan, namun dinilai berisiko beredar dengan dasar data yang minim atau tidak terverifikasi.
Penggunaan AI yang tidak terkendali juga dikaitkan dengan meningkatnya hoaks di media sosial. Berdasarkan Pasal 45A ayat (1) Undang-Undang ITE, penyebaran berita bohong dapat dikenai sanksi pidana penjara maksimal enam tahun dan denda hingga Rp1 miliar. Selain itu, Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi menegaskan perlindungan data pribadi warga negara dari penyalahgunaan.
Di level kebijakan, disebutkan adanya Peraturan Presiden (Perpres) yang diturunkan menjadi Peraturan Menteri (Permen) yang memuat peta jalan serta etika penggunaan AI. Regulasi tersebut dinilai diperlukan karena pelabelan konten AI belum banyak diterapkan, sementara risiko kejahatan siber di ruang digital terus meningkat. Tujuannya agar publik memiliki hak atas informasi yang benar dan konten diproduksi sesuai fakta lapangan.
Selain disinformasi, kekhawatiran juga muncul dari sisi kreativitas. Arus konten AI di media sosial dinilai dapat memunculkan risiko standarisasi kreativitas yang berujung pada berkurangnya inovasi, keunikan, dan orisinalitas karya. Kekhawatiran ini disebut dirasakan di kalangan penggiat seni dan akademisi, terutama jika pemanfaatan AI tidak dibarengi etika yang memadai.
Artikel tersebut juga menyoroti bahwa AI dapat digunakan untuk meniru suara dan wajah dengan instruksi tertentu, sehingga menjadi modus serangan siber yang merugikan korban. Disebutkan pula adanya kasus penipuan yang mengatasnamakan golongan tertentu hingga menghasilkan keuntungan puluhan juta rupiah, serta kasus pornografi berbasis deepfake. Kondisi ini dinilai dapat menggerus kepercayaan publik dan memunculkan skeptisisme ketika konten beredar tanpa pertanggungjawaban yang jelas.
Karena itu, penerapan label AI yang menyeluruh di platform media sosial dipandang sebagai langkah penting. Pemerintah didorong mempercepat regulasi yang mewajibkan penyertaan label pada setiap konten AI agar publik lebih mudah membedakan fakta dan rekayasa. Dalam naskah tersebut juga ditegaskan bahwa sanksi hukum tetap berlaku bila AI digunakan untuk merugikan pihak lain.
Sejumlah langkah lain turut diusulkan, seperti penerapan identitas digital agar pembuat konten AI yang tidak menggunakan label dapat dilacak. Pendekatan ini dinilai dapat membantu menekan persebaran hoaks dan memudahkan penanganan serangan siber melalui penelusuran data diri.
Selain regulasi dan penegakan, kampanye edukatif dari pemerintah juga dianggap penting untuk membangun kebiasaan masyarakat memeriksa kebenaran informasi dan meningkatkan kewaspadaan dalam menjaga data pribadi. Usulan lain adalah pengintegrasian literasi AI ke kurikulum di semua jenjang pendidikan, mengingat penggunaan teknologi meningkat pesat terutama pada generasi muda. Dalam konteks pendidikan, penggunaan AI disebut tetap memungkinkan, namun perlu mengacu pada prinsip berpikir kritis dalam menyaring informasi.
Pada akhirnya, pelabelan konten AI disebut dapat membantu publik mengonsumsi informasi digital dengan lebih jelas dan bertanggung jawab. Pemanfaatan AI dinilai dapat dilakukan, tetapi perlu diimbangi etika yang ketat agar tidak menimbulkan kerugian bagi banyak pihak, sekaligus menjaga ruang digital tetap sehat.
