Kecerdasan buatan Grok milik platform X sedang menjadi sorotan setelah dilaporkan ikut menyebarkan konten menyesatkan terkait konflik Iran.
Masalahnya bukan hanya soal AI yang gagal mendeteksi video perang palsu. Sistem tersebut juga disebut menghasilkan gambar konflik yang sebenarnya tidak pernah terjadi.
Situasi ini memunculkan kekhawatiran baru tentang peran AI dalam penyebaran informasi saat konflik geopolitik berlangsung, terutama di platform media sosial yang menjadi sumber berita real-time bagi jutaan pengguna.
Grok Diduga Gagal Membedakan Konten Asli dan Palsu
Menurut laporan investigasi yang dikutip dari Wired melalui situs TechBuzz.ai, chatbot Grok mengalami dua kegagalan sekaligus.
Pertama, sistem tersebut tidak mampu memverifikasi apakah sebuah video konflik benar-benar autentik.
Kedua, Grok justru menghasilkan gambar perang sintetis yang menggambarkan kejadian yang sebenarnya tidak pernah terjadi.
Kombinasi dua masalah ini membuat AI tersebut berpotensi memperparah penyebaran propaganda atau informasi keliru selama konflik berlangsung.
Konten semacam ini berbahaya karena:
- dapat memperkuat narasi propaganda
- menyesatkan publik tentang kondisi lapangan
- mempercepat penyebaran rumor yang sulit diverifikasi
Dalam situasi perang, kesalahan informasi seperti ini bisa berdampak serius karena publik sering bergantung pada media sosial untuk mengetahui perkembangan terbaru.
Masalah Muncul Saat Konflik Iran Memanas
Kasus ini muncul di saat konflik Iran sedang meningkat dan perhatian global tertuju pada berbagai perkembangan di kawasan tersebut.
Media sosial seperti X kini menjadi salah satu sumber utama informasi real-time. Banyak pengguna mencari update cepat melalui platform ini sebelum laporan resmi dari media atau pemerintah muncul.
Masalahnya, volume konten yang sangat besar membuat proses verifikasi semakin sulit.
Ketika AI yang dirancang untuk membantu justru menghasilkan konten baru yang belum diverifikasi, risiko penyebaran informasi keliru menjadi semakin besar.
Mengapa AI Sulit Memverifikasi Konten Perang
Kegagalan Grok diduga berasal dari keterbatasan mendasar teknologi AI saat memproses informasi visual dalam situasi yang berkembang cepat.
Beberapa kendala yang disebutkan antara lain:
- tidak memiliki akses ke database video terverifikasi secara luas
- sulit mendeteksi media sintetis atau deepfake
- cenderung membuat ilustrasi baru saat menghadapi pertanyaan ambigu
Dalam praktiknya, AI bekerja berdasarkan pola data yang pernah dipelajari. Ketika muncul peristiwa baru seperti konflik yang sedang berlangsung, AI sering kekurangan referensi untuk memastikan apakah sebuah video benar atau tidak.
Hal ini membuat verifikasi otomatis menjadi jauh lebih kompleks dibandingkan pengecekan oleh manusia.
Perubahan Moderasi Setelah Akuisisi Elon Musk
Situasi ini juga berkaitan dengan perubahan besar di X sejak diakuisisi Elon Musk.
Sebelumnya, platform tersebut memiliki tim besar yang khusus menangani verifikasi konten saat terjadi krisis global.
Namun setelah restrukturisasi dan pengurangan staf, sebagian fungsi moderasi mulai digantikan oleh sistem otomatis seperti Grok.
Pendekatan ini kini dipertanyakan karena AI dinilai belum mampu menggantikan keahlian manusia dalam memverifikasi informasi sensitif seperti konflik militer.
Platform Lain Mulai Perketat Deteksi Deepfake
Sementara X menghadapi kritik, beberapa platform lain mulai memperketat kebijakan terhadap konten AI terkait konflik.
Beberapa langkah yang mulai diterapkan industri antara lain:
- Meta mengembangkan alat deteksi deepfake khusus untuk zona konflik
- YouTube memperketat aturan terkait konten perang yang dibuat AI
- regulator di Eropa meningkatkan pengawasan melalui Digital Services Act
Langkah ini menunjukkan bahwa penyebaran konten sintetis kini dianggap sebagai ancaman baru dalam ekosistem informasi global.
Risiko Baru: Gambar Perang yang Tidak Pernah Terjadi
Salah satu kekhawatiran terbesar adalah munculnya gambar perang yang sepenuhnya dibuat oleh AI.
Berbeda dengan deepfake yang memodifikasi video asli, gambar sintetis bisa menciptakan peristiwa yang sama sekali tidak pernah terjadi.
Hal ini membuat proses verifikasi menjadi jauh lebih sulit karena tidak ada rekaman asli untuk dibandingkan.
Jika konten semacam ini tersebar luas, publik bisa kesulitan membedakan mana dokumentasi nyata dan mana ilustrasi buatan AI.
Apa Artinya bagi Pengguna Media Sosial
Kasus ini menjadi pengingat bahwa pengguna media sosial perlu lebih berhati-hati saat mengonsumsi informasi konflik.
Beberapa langkah yang bisa dilakukan pengguna antara lain:
- jangan langsung percaya pada gambar atau video viral
- cek apakah konten dilaporkan oleh media kredibel
- periksa apakah ada konteks waktu dan lokasi yang jelas
- hindari menyebarkan konten yang belum terverifikasi
Dalam situasi krisis, kecepatan informasi sering kali mengalahkan akurasi. Karena itu verifikasi dari beberapa sumber menjadi sangat penting.
Penutup
Kasus Grok menunjukkan tantangan besar dalam penggunaan AI untuk moderasi konten selama konflik global.
Alih-alih membantu memverifikasi informasi, sistem otomatis justru berpotensi mempercepat penyebaran konten yang menyesatkan.
Ke depan, platform teknologi kemungkinan perlu menggabungkan kembali pengawasan manusia dengan teknologi AI agar proses verifikasi informasi tetap akurat, terutama saat terjadi peristiwa besar yang mempengaruhi dunia.
Jika kamu merasa artikel ini bermanfaat, bagikan juga ke teman atau komunitas agar lebih banyak orang memahami risiko informasi palsu di media sosial.
