AI Sedang Diracuni Hoaks, Dunia Mungkin Belum Menyadarinya
Riset Cornell Tech mengungkap AI dapat mempercayai informasi palsu akibat manipulasi konten internet. Ancaman baru ini berpotensi menggerus kepercayaan terhadap ekosistem pengetahuan digital.
Ruang Menulis untuk Indonesia
Kopi TIMES adalah ruang kolaboratif bagi siapa saja yang ingin menyuarakan ide, pengalaman, dan pemikiran kepada publik luas. Di sini, tulisan lahir dari beragam latar belakang: akademisi, mahasiswa, guru, santri, profesional, pelaku UMKM, pegiat komunitas, aktivis, birokrat, politisi, seniman, hingga warga biasa yang peduli pada isu di sekitarnya.
JAKARTA – Selama bertahun-tahun, literasi digital mengajarkan satu hal sederhana: jangan mudah percaya pada semua informasi yang beredar di internet. Periksa sumbernya, bandingkan dengan referensi lain, dan jangan terburu-buru membagikannya sebelum memastikan kebenarannya. Asumsinya sederhana, manusialah yang harus dilindungi dari hoaks.
Namun, perkembangan kecerdasan buatan (Artificial Intelligence/AI) mengubah asumsi tersebut.
Kini, bukan hanya manusia yang dapat tertipu oleh informasi palsu. Mesin pun bisa mempercayainya.
Perbedaannya sangat mendasar. Jika satu orang termakan hoaks, dampaknya mungkin berhenti pada lingkaran pertemanannya. Namun, ketika sistem AI yang digunakan jutaan orang mengutip informasi palsu sebagai fakta, kesalahan itu dapat menyebar jauh lebih cepat, lebih luas, dan tampak lebih meyakinkan karena dikemas dengan bahasa yang rapi serta disertai sitasi.
Di sinilah dunia memasuki babak baru dalam perang informasi.
Hoaks tidak lagi hanya ditujukan kepada manusia. Kini, hoaks mulai dirancang untuk menipu mesin.
Ketika AI Menjadi Target
Sebuah penelitian Cornell Tech yang dipublikasikan di arXiv pada 22 Mei 2026 mengungkap fakta yang patut menjadi perhatian. Penelitian berjudul Deep-Research Agents Can Be Poisoned via User-Generated Content yang dilakukan Tingwei Zhang, Harold Triedman, dan Vitaly Shmatikov meneliti bagaimana agen AI yang mampu melakukan riset mendalam (deep-research agents) dapat dimanipulasi hanya melalui perubahan kecil pada halaman-halaman publik di internet.
Yang diuji bukan model AI ataupun algoritmanya. Peneliti tidak membobol sistem OpenAI, Google, maupun mesin pencari lainnya. Mereka hanya memanfaatkan sesuatu yang jauh lebih sederhana, yakni konten buatan pengguna (user-generated content) yang tersedia di internet.
Dalam simulasi yang mereka sebut Web Agent Retrieval Poisoning (WARP), peneliti menyisipkan kalimat pendek pada halaman yang lazim dijadikan rujukan AI, seperti Reddit, Wikipedia, forum diskusi, maupun komunitas daring lainnya. Kalimat tersebut sengaja dirancang untuk mempromosikan entitas yang sebenarnya tidak ada, misalnya produk atau mata uang kripto fiktif.
Hasilnya mencengangkan.
Ketika AI mengambil halaman yang telah dimanipulasi sebagai sumber informasi, entitas palsu muncul dalam 38 hingga 51 persen laporan yang dihasilkan AI. Saat manipulasi dilakukan pada beberapa halaman sekaligus, tingkat kemunculannya meningkat menjadi 42 hingga 62 persen.
Yang lebih mengkhawatirkan, manipulasi itu tidak memerlukan artikel panjang.
Cukup sekitar 13 hingga 15 kata.
Dalam salah satu pengujian, sebuah kalimat sepanjang 15 kata berhasil membuat AI merekomendasikan mata uang kripto fiktif bernama BananaCoin sebagai salah satu investasi jangka panjang yang menjanjikan. Rekomendasi palsu tersebut bahkan muncul berdampingan dengan referensi sah mengenai aset kripto lainnya sehingga tampak kredibel di mata pembaca.
Dari SEO Menuju AEO
Temuan Cornell Tech menunjukkan bahwa dunia digital sedang memasuki fase baru.
Selama dua dekade terakhir, perusahaan berlomba-lomba mengoptimalkan situs web agar muncul di halaman pertama Google melalui Search Engine Optimization (SEO).
Kini, fokus itu mulai bergeser ke Answer Engine Optimization (AEO), yakni upaya agar sebuah merek, produk, atau informasi muncul dalam jawaban AI seperti ChatGPT, Gemini, Claude, maupun Google AI Mode.
Perubahan ini merupakan konsekuensi dari berubahnya perilaku pengguna. Ketika semakin banyak orang bertanya langsung kepada AI dibanding membuka daftar tautan di mesin pencari, perhatian pelaku bisnis pun ikut bergeser.
Namun, setiap teknologi baru selalu menghadirkan peluang sekaligus celah penyalahgunaan.
Jika dahulu spam SEO bertujuan mengelabui algoritma mesin pencari, kini muncul ancaman baru berupa AI retrieval poisoning, yakni upaya meracuni sumber pengetahuan AI.
Yang dimanipulasi bukan lagi halaman hasil pencarian, melainkan bahan bacaan AI itu sendiri.
Mengapa Reddit Menjadi Sasaran?
Penelitian Cornell Tech juga menemukan fakta menarik mengenai sumber informasi AI.
Dalam pengujian terhadap tiga sistem deep-research sumber terbuka, yakni STORM, Co-STORM, dan OmniThink, sekitar 17 hingga 23 persen URL yang digunakan AI berasal dari platform berbasis konten pengguna seperti Reddit, Wikipedia, YouTube, dan Facebook.
Di antara semuanya, Reddit menjadi sumber terbesar.
Sebanyak 54 hingga 71 persen URL berbasis konten pengguna yang dikutip AI berasal dari Reddit.
Temuan ini menjelaskan mengapa banyak jawaban AI terasa sangat "manusiawi". AI tidak hanya membaca jurnal ilmiah atau situs resmi, tetapi juga pengalaman pribadi, diskusi komunitas, hingga percakapan sehari-hari.
Hal itu merupakan kekuatan sekaligus kelemahan. Kekuatan karena AI mampu memahami pengalaman nyata masyarakat.
Kelemahan karena AI juga berpotensi menyerap informasi yang sengaja disisipkan untuk menyesatkan.
Mesin Tidak Mengenal Niat
Berbeda dengan manusia, AI tidak memiliki intuisi. AI tidak mampu membedakan apakah seseorang sedang bercanda, menyindir, atau sengaja menyebarkan disinformasi.
AI bekerja berdasarkan pola.
Jika sebuah informasi muncul pada sumber yang dianggap relevan dan sesuai dengan konteks pertanyaan, informasi tersebut berpeluang masuk ke dalam jawaban.
Inilah yang membuat manipulasi AI menjadi sangat berbahaya.
Bukan karena AI bodoh.
Melainkan karena AI memang dirancang untuk mempercayai data yang berhasil ditemukannya.
Dalam penelitian Cornell Tech, berbagai metode pertahanan juga diuji. Misalnya dengan memblokir seluruh situs berbasis konten pengguna. Cara ini memang mampu menghentikan serangan. Namun konsekuensinya besar.
AI kehilangan akses terhadap pengalaman langsung pengguna, ulasan produk, rekomendasi lokal, hingga diskusi komunitas yang justru sering menjadi informasi paling berguna.
Pendekatan lain menggunakan penyaring teks berbasis AI pun belum terbukti efektif. Kalimat manipulatif yang ditulis AI sendiri tampak sangat alami sehingga sulit dibedakan dari tulisan pengguna biasa.
Dengan kata lain, AI kini menghadapi persoalan klasik manusia: membedakan mana informasi yang jujur dan mana yang sengaja direkayasa.
AI Menjadi Gerbang Pengetahuan
Persoalan ini semakin penting karena cara manusia mencari informasi telah berubah.
Dahulu kita bertanya kepada guru. Kemudian kepada Google.
Kini semakin banyak orang langsung bertanya kepada AI.
Perubahan ini bukan sekadar perubahan teknologi.
Ia adalah perubahan budaya.
AI tidak lagi hanya menjadi alat pencarian.
Ia mulai menjadi pintu pertama masyarakat untuk memahami dunia.
Ketika seseorang ingin mengetahui obat tertentu, memilih universitas, membeli produk, mencari tujuan wisata, bahkan memahami sejarah, AI kerap menjadi tempat pertama yang ditanya.
Artinya, jika pintu pertama itu telah dipengaruhi informasi yang keliru, proses pengambilan keputusan manusia pun ikut terancam.
Google Ikut Berbenah
Perubahan ini juga terlihat dari langkah Google.
Pada pertengahan 2026, Google memperkenalkan fitur How This Ad Was Made yang memungkinkan pengguna mengetahui apakah materi iklan dibuat atau dimodifikasi menggunakan AI.
Langkah tersebut menunjukkan bahwa transparansi mulai menjadi isu penting dalam era kecerdasan buatan generatif.
Di sisi lain, studi SE Ranking terhadap lebih dari 50.000 kata kunci komersial di Amerika Serikat menemukan bahwa iklan teks muncul pada 29,45 persen hasil pencarian Google AI Mode.
Namun menariknya, membeli iklan tidak otomatis membuat sebuah situs lebih sering dikutip AI.
Hanya sekitar 11,53 persen domain pengiklan yang juga muncul sebagai sumber jawaban AI.
Artinya, AI memiliki logika yang berbeda dengan mesin pencari tradisional.
Membayar iklan belum tentu membuat AI mempercayai sebuah sumber.
Sebaliknya, satu komentar yang berhasil masuk ke sumber rujukan AI justru dapat memengaruhi jawaban yang diterima jutaan pengguna.
Tantangan Baru Literasi Digital
Selama ini literasi digital mengajarkan masyarakat untuk memeriksa informasi.
Kini, literasi digital perlu memasuki babak baru.
Kita tidak hanya perlu mengajarkan manusia agar kritis terhadap jawaban AI.
Kita juga harus membangun ekosistem informasi yang sehat agar AI memiliki bahan belajar yang lebih dapat dipercaya.
Karena pada akhirnya AI hanyalah cermin.
Ia memantulkan apa yang tersedia di internet.
Jika internet dipenuhi informasi berkualitas, AI akan belajar dari kualitas tersebut.
Namun jika internet dipenuhi manipulasi, propaganda, dan konten yang sengaja dirancang untuk mengecoh sistem, AI akan memantulkan kekacauan itu kembali kepada manusia.
Menjaga Ekosistem Pengetahuan
Perang informasi abad ke-21 ternyata tidak lagi hanya berlangsung di media sosial.
Ia bergeser ke ruang yang jauh lebih sunyi. Bukan lagi tentang siapa yang lebih dahulu memengaruhi manusia.
Melainkan siapa yang berhasil memengaruhi mesin sebelum mesin berbicara kepada manusia.
Itulah sebabnya penelitian Cornell Tech menjadi pengingat penting.
Yang sedang dipertaruhkan bukan sekadar akurasi jawaban AI.
Yang dipertaruhkan adalah kepercayaan terhadap ekosistem pengetahuan digital.
Ketika masyarakat mulai menjadikan AI sebagai penasihat, asisten, bahkan teman berdiskusi, kualitas jawaban AI akan sangat bergantung pada kualitas informasi yang tersedia di internet.
Karena itu, perang melawan disinformasi tidak lagi cukup dilakukan dengan menghapus hoaks setelah viral.
Pekerjaan yang jauh lebih besar adalah memastikan ruang digital dipenuhi informasi yang akurat, dapat diverifikasi, dan bertanggung jawab.
Sebab, AI tidak pernah menciptakan pengetahuan.
AI hanya mempelajari dan memantulkan apa yang tersedia.
Jika internet dipenuhi kebenaran, AI akan membantu menyebarkannya.
Namun jika internet dipenuhi kebohongan, AI dapat menjadi pengganda disinformasi dalam skala yang belum pernah kita bayangkan sebelumnya.
Dan ketika itu terjadi, kita tidak lagi sekadar menghadapi hoaks.
Kita sedang menghadapi krisis kepercayaan dalam ekosistem pengetahuan digital.
***
*) Imadudin Muhammad, Editor TIMES Indonesia
*) Tulisan opini yang dimuat di KOPI TIMES sepenuhnya menjadi tanggung jawab penulis dan tidak menjadi tanggung jawab Redaksi TIMES Indonesia.
Punya gagasan, analisis, atau opini yang layak diketahui publik? Saatnya suarakan melalui KOPI TIMES! Rubrik ini terbuka bagi siapa saja yang ingin berbagi pandangan, kritik, maupun solusi atas berbagai isu aktual. Kirim tulisan terbaik Anda dengan panjang maksimal 4.000 karakter atau sekitar 600 kata.
Pastikan naskah dilengkapi dengan Nama lengkap, Profesi, Foto diri, dan Nomor telepon yang dapat dihubungi
Kirim opini Anda melalui Kopi.times.co.id
Redaksi berhak melakukan penyuntingan seperlunya serta berhak tidak menayangkan naskah yang dikirim tanpa kewajiban memberikan alasan.
Jangan hanya menjadi pembaca. Jadilah bagian dari percakapan publik. Suara Anda layak didengar, dan gagasan Anda bisa menginspirasi banyak orang melalui KOPI TIMES.
Simak breaking news dan berita pilihan TIMES Indonesia langsung dari WhatsApp-mu!
Klik 👉 Channel TIMES Indonesia
Pastikan WhatsApp kamu sudah terpasang.
