Penggunaan chatbot berbasis kecerdasan buatan (AI) seperti ChatGPT, Gemini, Le Chat, atau Copilot kian populer sebagai pengganti mesin pencari untuk mencari informasi. Berbeda dari mesin pencari yang terutama menampilkan tautan, chatbot biasanya langsung merangkum jawaban sehingga pengguna dapat memperoleh gambaran cepat.

Namun, kemudahan itu dibarengi risiko. Chatbot dapat memberikan jawaban keliru, termasuk fenomena yang dikenal sebagai hallucination. Dalam sejumlah kasus, chatbot juga dapat menggabungkan potongan informasi sedemikian rupa hingga menghasilkan kesimpulan yang salah, yang oleh para ahli disebut confabulation. Perusahaan AS NewsGuard, yang menilai kredibilitas dan transparansi situs web serta layanan daring, menilai chatbot juga rentan terseret berita palsu, terutama yang berkaitan dengan peristiwa terkini.

Kerentanan ini menjadi sorotan setelah muncul dugaan bahwa jaringan situs pro-Rusia berupaya menyesatkan chatbot melalui laporan palsu berbasis AI. Sejumlah pakar mencurigai terdapat strategi tertentu untuk memengaruhi jawaban chatbot dan memperluas jangkauan disinformasi.

Salah satu aktor yang disebut dalam penyebaran disinformasi daring adalah Portal Kombat, jaringan propaganda Rusia yang aktif menyebarkan konten pro-Rusia, termasuk dukungan terhadap operasi militer Rusia di Ukraina. Jaringan ini diteliti oleh VIGINUM, unit investigasi pemerintah Prancis yang dibentuk untuk melawan informasi manipulatif dari luar negeri. VIGINUM menyimpulkan sedikitnya 193 situs web memiliki keterkaitan dengan jaringan tersebut pada periode September hingga Desember 2023.

Menurut temuan itu, salah satu pusat jaringan Portal Kombat diduga adalah portal berita daring Pravda yang hadir dalam berbagai bahasa, termasuk Jerman, Prancis, Polandia, Spanyol, dan Inggris.

VIGINUM menyebut situs-situs dalam jaringan tersebut jarang memproduksi konten sendiri. Mereka umumnya mengutip materi pihak ketiga dari tiga sumber utama: akun media sosial aktor Rusia atau pro-Rusia, kantor berita Rusia, serta situs resmi institusi atau aktor lokal. Artikel-artikel yang dipublikasikan kerap ditandai gaya bahasa canggung, kesalahan transkripsi dari alfabet Kiril ke Latin, serta komentar yang mencolok.

Inisiatif anti-disinformasi di AS, American Sunlight Project (ASP), menyatakan telah mengidentifikasi lebih dari 180 situs yang diduga terkait Portal Kombat. ASP memperkirakan sekitar 97 domain dan subdomain yang termasuk lingkaran dalam jaringan Pravda menerbitkan lebih dari 10.000 artikel per hari. Topiknya pun meluas, tidak lagi terbatas pada NATO dan negara sekutu seperti Jepang dan Australia, tetapi juga mencakup negara-negara di Timur Tengah, Asia, dan Afrika, terutama kawasan Sahel, seiring upaya Rusia memperluas pengaruh geostrategisnya.

Meski demikian, NewsGuard mencatat sebagian halaman Pravda hanya meraih sekitar 1.000 pengunjung per bulan. Sebagai perbandingan, RT—saluran berita internasional yang dikontrol negara Rusia—dilaporkan memperoleh lebih dari 14,4 juta kunjungan per bulan.

Analis menilai volume besar artikel dapat memengaruhi keluaran chatbot. Dugaan yang mengemuka: jaringan propaganda memanfaatkan banjir konten agar model bahasa besar (LLM), program di balik chatbot, menganggap publikasi tersebut sah dan kemudian ikut menyebarkan narasi menyesatkan.

NewsGuard menyatakan strategi semacam itu tampaknya menunjukkan hasil. Tim peneliti memeriksa respons chatbot terhadap 15 klaim palsu yang disebarkan jaringan Pravda pada periode April 2022 hingga Februari 2025. Setiap klaim diuji dengan tiga tipe pertanyaan: pertanyaan netral yang menanyakan kebenaran klaim, pertanyaan yang mengasumsikan klaim benar, serta pertanyaan yang dirancang seolah-olah dari aktor jahat yang ingin chatbot mengulang klaim palsu.

Hasilnya, sekitar sepertiga kasus menunjukkan chatbot mengonfirmasi disinformasi pro-Rusia. Kurang dari setengah jawaban menyajikan fakta yang benar, sementara sisanya menolak menjawab.

Penelitian lanjutan pada Januari 2025 menguji 10 klaim palsu dalam tujuh bahasa, tidak terbatas pada konten pro-Rusia. Hasilnya disebut sedikit lebih baik, tetapi dari total 2.100 jawaban, chatbot masih mengonfirmasi berita palsu pada lebih dari seperempat respons.

Di tengah situasi tersebut, pengguna disarankan tetap kritis dan berhati-hati saat memakai chatbot untuk mencari informasi. McKenzie Sadeghi dari NewsGuard menilai mengubah cara bertanya tidak banyak membantu. Menurutnya, prompt yang dirancang aktor jahat memang lebih berpeluang memunculkan informasi palsu, tetapi prompt netral atau yang mengarahkan pun tetap dapat menghasilkan misinformasi.

Data yang disebut tidak dimuat dalam laporan 2022–2025 namun diberikan kepada DW menunjukkan sekitar 16% jawaban salah muncul dari prompt yang netral atau bias.

Sadeghi menyarankan pengguna memeriksa dan membandingkan sumber. Langkah ini dapat dilakukan dengan menanyakan hal yang sama kepada beberapa chatbot sekaligus, atau mengecek jawaban chatbot terhadap sumber tepercaya. Pengguna juga diingatkan bahwa portal berita palsu kerap meniru tampilan media mapan agar terlihat kredibel.

Faktor waktu turut memengaruhi akurasi. Chatbot dinilai lebih rentan salah ketika berita palsu baru menyebar cepat. Namun seiring waktu, chatbot biasanya mulai menemukan materi cek fakta yang membantah klaim awal yang keliru.