Ketika Mark Zuckerberg bilang pada Kongres AS bahwa Facebook akan menggunakan kecerdasan buatan (AI) untuk mendeteksi berita palsu yang diposting di situs media sosial, dia tidak terlalu spesifik dampaknya bagi masyarakat.
Mengingat pekerjaan saya sendiri menggunakan analisis gambar dan video, saya menyarankan Facebook harus berhati-hati. AI dapat menjadi alat yang berguna untuk menemukan propaganda daring, terlepas dari beberapa kekurangan mendasar, tetapi AI juga bisa menciptakan materi menyesatkan dengan sangat baik.
Para peneliti sudah mempelajari bahwa berita palsu online menyebar jauh lebih cepat dan lebih luas daripada berita asli. Penelitian saya juga menemukan bahwa postingan online dengan informasi medis palsu mendapatkan lebih banyak penayangan, komentar dan likes daripada postingan yang memiliki konten medis yang akurat. Dalam dunia online, perhatian permirsa sangat singkat dan mereka jenuh dengan pilihan konten, maka informasi palsu bisa lebih menarik bagi pemirsa.
Masalahnya akan semakin parah: Pada 2022, khalayak di negara maju akan menemukan lebih banyak berita palsu daripada informasi akurat. Hal ini dapat menghasilkan fenomena yang dijuluki peneliti “reality vertigo”—di mana komputer dapat menghasilkan konten yang meyakinkan sehingga orang-orang biasa mungkin akan sulit mengetahui apa yang benar.
Mendeteksi kebohongan
Mesin pembelajaran algoritma, sejenis AI, telah berhasil selama beberapa dekade melawan surel sampah (spam), dengan menganalisis pesan teks dan menentukan seberapa besar kemungkinan pesan tertentu adalah komunikasi dari orang betulan—atau jualan obat-obatan secara massal atau klaim kekayaan yang hilang.
Menggunakan jenis analisis teks yang dipakai untuk melawan spam, sistem AI dapat mengevaluasi postingan atau judul, dan membandingkan isi konten artikel yang dibagi seseorang secara online. Ada juga pendekatan lain dapat memeriksa artikel sejenis untuk melihat apakah media lain memiliki fakta-fakta yang berbeda. Sistem yang mirip dengan ini dapat mengidentifikasi akun-akun spesifik dan sumber situs penyebar berita palsu.
Lingkaran setan
Namun, metode-metode tersebut mengasumsikan orang-orang yang menyebarkan berita palsu selalu menggunakan pendekatan yang sama. Penyebar berita palsu sering mengubah taktik, memanipulasi konten dalam upaya untuk membuatnya terlihat lebih otentik.
Menggunakan AI untuk mengevaluasi informasi juga dapat mengungkap—dan memperkuat—bias-bias tertentu di masyarakat. Ini bisa berkaitan dengan gender, latar belakang ras atau stereotipe pemukiman. Hal ini dapat berdampak politis, dan berpotensi membatasi ekspresi pandangan tertentu. Contohnya, YouTube telah menghentikan pemasangan iklan dari saluran video tertentu, dan mengakibatkan pembuat video harus mengeluarkan uang.
Konteks juga menjadi kunci. Makna dari kata-kata bisa berubah seiring waktu. Sebuah kata bisa memiliki makna yang beda di situs liberal dan konservatif. Contohnya, postingan dengan istilah “WikiLeaks” dan “DNC” di situs liberal bisa jadi sebuah berita, sementara di situs konservatif istilah tersebut bisa merujuk ke serangkaian teori konspirasi.
Pakai AI untuk buat berita palsu
Namun penggunaan AI untuk mendeteksi berita palsu membawa pada tantangan besar perlombaan teknologi AI sendiri. Sistem kecerdasan buatan sudah berhasil menciptakan “deepfakes”—foto-foto dan video yang mengganti wajah satu orang dengan orang lain untuk membuatnya terlihat seakan-akan wajah seorang selebriti terlihat dalam pose telanjang, contohnya, atau seorang figur publik mengatakan sesuatu yang ia tidak pernah katakan. Bahkan aplikasi ponsel canggih mampu melakukan penggantian ini—sehingga teknologi ini bisa dipakai oleh siapa saja, bahkan mereka yang tidak memiliki keahlian menyunting tingkat Hollywood.
Para peneliti telah mulai menyiapkan AI untuk mengindentifikasi video dan foto palsu buatan AI. Contohnya, teknik untuk pembesaran gambar video dapat mendeteksi perubahan pada detak jantung manusia yang dapat menunjukkan apakah seseorang dalam video adalah asli atau buatan komputer. Namun baik pembuat konten plasu dan pendeteksi konten palsu akan semakin canggih. Beberapa konten palsu akan menjadi sangat canggih hingga sulit untuk disanggah atau diabaikan – tidak seperti generasi awal konten palsu, yang menggunakan bahasa sederhana dan membuat klaim yang mudah disanggah.
Kecerdasan manusia adalah kuncinya
Cara terbaik untuk melawan penyebaran berita palsu berada pada pundak manusia. Konsekuensi sosial berita palsu—meningkatnya polarisasi dan sikap partisan, luruhnya kepercayaan pada media arus utama dan pemerintah—sangatlah penting. Jika semakin banyak orang tahu bahwa taruhannya tinggi, mereka akan lebih waspada dengan informasi, terutama yang basisnya emosi, karena itulah cara efektif untuk mendapatkan perhatian orang.
Ketika seseorang melihat postingan yang membuat marah, ia lebih baik menyelidiki informasi tersebut, daripada langsung menyebarkannya. Menyebarkan konten meningkatkan kredibilitas suatu postingan: Ketika orang lain melihatnya, mereka akan melihat bahwa konten tersebut didapatkan dari orang yang mereka kenal dan percaya, setidaknya sedikit, dan akan kurang menyadari apakah sumber aslinya patut dipertanyakan.
Situs media sosial seperti Youtube dan Facebook dapat secara langsung memutuskan untuk memberi label pada konten mereka, dan menunjukkan secara kelas bahwa sebuah item berita datang dari sumber tepercaya. Zuckerberg bilang pada Kongres dia ingin memobilisasi “komunitas” pengguna Facebook untuk mengarahkan algoritme perusahaannya. Facebook dapat menggalang upaya verifikasi melalui crowd-sourcing. Wikipedia juga menggunakan model, relawan berdedikasi yang melacak dan memverifikasi informasi.
Facebook dapat menggunakan kemitraan dengan organisasi berita dan relawan untuk mengajarkan AI, secara berkesinambungan mengubah sistem untuk merespons perubahan taktik dan topik oleh pembuat propaganda. Ini tidak akan menangkap semua berita yang diposting online, tapi akan memudahkan sejumlah besar orang untuk menentukan maka fakta dan mana palsu. Hal ini dapat mengurangi kemungkinan cerita fiksi dan menyesatkan menjadi populer secara online.
Untungnya, orang-orang yang terpapar berita akurat lebih baik dalam membedakan informasi asli dan palsu. Kuncinya adalah untuk memastikan setidaknya beberapa hal yang orang lihat di dunia online, adalah nyata-nyata benar.