Gelombang disinformasi yang dihasilkan AI tentang perang AS-Israel dengan Iran yang belum pernah terjadi sebelumnya sedang dimonetisasi oleh para kreator daring dengan akses yang semakin besar ke teknologi AI generatif, demikian kata para ahli kepada BBC Verify.
Analisis kami menemukan banyak contoh video yang dihasilkan AI dan citra satelit palsu yang digunakan untuk membuat klaim palsu dan menyesatkan tentang konflik tersebut, yang secara kolektif telah mengumpulkan ratusan juta penayangan daring.
“Skalanya benar-benar mengkhawatirkan dan perang ini telah membuatnya tidak mungkin untuk diabaikan sekarang,” kata Timothy Graham, seorang ahli media digital di Queensland University of Technology.
“Apa yang dulunya membutuhkan produksi video profesional kini dapat dilakukan dalam hitungan menit dengan alat AI. Hambatan untuk menciptakan rekaman konflik sintetis yang meyakinkan pada dasarnya telah runtuh,” katanya.
Amerika Serikat dan Israel mulai melancarkan serangan terhadap Iran pada 28 Februari. Sebagai tanggapan, Iran melancarkan serangan pesawat tak berawak dan rudal terhadap Israel, serta beberapa negara Teluk dan aset militer AS di kawasan tersebut.
Banyak orang beralih ke media sosial untuk mencari dan berbagi informasi terbaru serta untuk membantu memahami konflik yang terjadi dengan cepat selama seminggu terakhir.
Platform X mengumumkan minggu ini bahwa mereka akan menangguhkan sementara para kreator dari program monetisasi mereka jika mereka mengunggah video konflik bersenjata yang dihasilkan AI tanpa label.
Skema ini memberikan imbalan kepada pengguna yang memenuhi syarat yang postingannya menghasilkan banyak tayangan, suka, bagikan, dan komentar dengan pembayaran dari platform.
“Ini merupakan sinyal penting bahwa mereka menyadari bahwa ini adalah masalah besar,” kata Mahsa Alimardani, seorang peneliti yang mengkhususkan diri dalam bidang Iran di Oxford Internet Institute.
Kami menanyakan kepada TikTok dan Meta, perusahaan induk Facebook dan Instagram, apakah mereka berniat mengambil tindakan serupa, tetapi mereka tidak menanggapi permintaan kami untuk memberikan komentar.
Contoh tipikal video yang dihasilkan AI yang telah dilacak oleh BBC Verify tampaknya menunjukkan rudal menghantam kota Tel Aviv di Israel sementara suara ledakan terdengar di latar belakang.
Video ini telah ditampilkan di lebih dari 300 unggahan yang kemudian dibagikan puluhan ribu kali di berbagai platform media sosial.
Beberapa pengguna X beralih ke chatbot AI platform tersebut, Grok, untuk mengkonfirmasi kebenaran video tersebut. Namun dalam banyak kasus yang dilihat oleh BBC Verify, Grok secara keliru bersikeras bahwa video yang dihasilkan AI itu nyata.
Video palsu lainnya, yang telah ditonton puluhan juta kali, mengklaim menunjukkan gedung pencakar langit Burj Khalifa di Dubai terbakar, sementara kerumunan orang tampak berlari menuju gedung tersebut.
Rekaman yang dihasilkan AI ini menyebar luas secara online pada saat warga dan wisatawan sangat khawatir tentang serangan pesawat tak berawak dan rudal di kota tersebut.
“Video palsu seperti ini berdampak buruk pada kepercayaan masyarakat terhadap informasi terverifikasi yang mereka lihat secara online dan membuat pengumpulan bukti nyata menjadi jauh lebih sulit,” kata Alimardani.
Salah satu fitur baru dari konflik ini yang dianalisis oleh BBC Verify adalah munculnya citra satelit yang dihasilkan oleh AI.
Kami memverifikasi beberapa video asli yang menunjukkan serangan drone dan rudal Iran terhadap markas Armada Kelima Angkatan Laut AS di Bahrain pada hari pertama konflik.
Sebuah foto palsu, yang dibagikan di X oleh surat kabar yang berafiliasi dengan pemerintah, The Tehran Times, mulai menyebar pada hari berikutnya dan mengklaim menunjukkan kerusakan parah pada pangkalan tersebut.
Gambar palsu tersebut tampaknya didasarkan pada citra satelit asli pangkalan angkatan laut AS di Bahrain yang diambil pada Februari 2025, yang tersedia untuk umum secara online.
Menurut detektor tanda air SynthID milik Google, gambar palsu tersebut dihasilkan atau diedit menggunakan alat AI Google.
Tiga kendaraan yang diparkir di luar juga berada di tempat yang sama persis baik dalam citra satelit asli maupun gambar AI – meskipun foto-foto tersebut diduga diambil dalam selang waktu satu tahun.
Alat AI Google, termasuk generator video Veo, termasuk dalam daftar platform AI populer yang terus bertambah, seperti model Sora dari OpenAI, aplikasi AI Seedance dari Tiongkok, dan Grok yang terintegrasi ke dalam X.
“Jumlah berbagai alat yang kini tersedia untuk menciptakan beragam manipulasi AI yang sangat realistis belum pernah terjadi sebelumnya,” kata Henry Ajder, seorang ahli AI generatif.
“Kami belum pernah melihat alat-alat ini begitu mudah didapatkan, begitu mudah digunakan, dan begitu murah,” katanya.
Hal ini telah menyebabkan lonjakan konten yang dihasilkan AI secara online “karena saluran menuju media sosial sekarang hampir sepenuhnya dapat diotomatisasi,” kata Victoire Rio, direktur eksekutif dari organisasi nirlaba kebijakan teknologi What To Fix.
Kepala produk X mengatakan pada hari Selasa bahwa “99%” dari akun yang menyebarkan video yang dihasilkan AI seperti ini mencoba untuk “memanipulasi monetisasi” dengan memposting konten yang akan menghasilkan banyak interaksi sebagai imbalan pembayaran melalui program Pembagian Pendapatan Kreator aplikasi tersebut.
Platform tersebut tidak mempublikasikan berapa banyak akun yang tergabung dalam program ini, atau berapa banyak uang yang dapat mereka hasilkan.
Namun Graham memperkirakan bahwa X dapat membayar sekitar “delapan hingga 12 dolar per juta tayangan pengguna terverifikasi”.
“Para kreator harus mencapai lima juta tayangan organik dalam tiga bulan, ditambah memiliki langganan premium X, agar memenuhi syarat,” tambahnya.
“Begitu Anda masuk, konten viral yang dihasilkan AI pada dasarnya adalah mesin pencetak uang,” katanya. “Mereka telah membangun perusahaan disinformasi terbesar.”
X tidak menanggapi permintaan kami untuk memberikan komentar atau pertanyaan kami tentang program Pembagian Pendapatan Kreator.
Para ahli mengatakan kepada BBC Verify bahwa meskipun banyak perusahaan media sosial mengatakan mereka mencoba mengubah sistem moderasi dan deteksi mereka untuk mengatasi skala dan kecepatan penyebaran konten yang dihasilkan AI, tidak ada solusi sederhana untuk masalah ini.
“Masalah yang lebih mendasar adalah bahwa monetisasi yang didorong oleh keterlibatan dan informasi yang akurat pada dasarnya berada dalam ketegangan, dan belum ada platform yang sepenuhnya menyelesaikan ketegangan itu, atau mungkin tidak akan pernah,” kata Graham.