Konten ilegal adalah segala jenis informasi elektronik yang melanggar hukum di suatu negara. Di Indonesia, yang termasuk kategori ini antara lain perjudian, ujaran kebencian, mis/disinformasi, penipuan, pornografi, dan pencemaran nama baik.
Penyebaran konten ilegal di media sosial telah menjadi tantangan besar di Indonesia.
Data Kementerian Komunikasi dan Informatika (Kominfo) menunjukkan, konten ilegal yang dilaporkan Kominfo kepada penyelenggara sistem elektronik hingga Maret 2023 mencapai hampir 1,4 juta konten.
Jumlah terbanyak ada di Twitter (sekarang X), diikuti Facebook dan Instagram, dengan jenis terbanyak adalah pornografi, perjudian, dan penipuan.
Survei PR2Media, sebuah lembaga riset yang berfokus pada regulasi media, terhadap 1.500 pengguna media sosial di 38 provinsi si Indonesia menunjukkan seluruh responden menyatakan sering menjumpai konten ilegal di media sosial. Tiga jenis yang paling sering dijumpai adalah ujaran kebencian, mis/disinformasi, dan penipuan.
Di tengah maraknya penyebaran konten ilegal ini, hingga kini kita belum memiliki regulasi yang mendorong tanggung jawab detail penyelenggara media sosial seperti X, Facebook, YouTube, dan TikTok untuk memitigasi konten ilegal, seperti yang telah ada di Uni Eropa.
Aturan untuk platform masih kurang di Indonesia
Jumlah pengguna media sosial di Indonesia terus bertambah, yang hingga Januari 2023 mencapai 167 juta pengguna, atau 60,4% populasi penduduk. Platform terpopuler adalah YouTube diikuti Facebook, TikTok, Instagram, X, dan LinkedIn.
Namun, dengan variasi konten yang makin beragam, instrumen regulasi yang ada saat ini belum memadai untuk mengatasi penyebaran konten ilegal. Ini berbeda dengan Uni Eropa.
Uni Eropa telah memiliki Digital Services Act. Aturan yang disahkan pada 2022 dan baru diterapkan pada 2024 ini mengatur cara seluruh jenis penyelenggara layanan internet mengatasi konten ilegal di platformnya. Platform yang diatur mulai dari mesin pencari, layanan jual beli, hingga media sosial terbuka.
Seiring dengan besarnya pengaruh platform media sosial terhadap masyarakat, munculnya Digital Services Act bertujuan meminta pertanggungjawaban platform dalam menciptakan lingkungan digital yang lebih aman dan akuntabel dengan membatasi penyebaran konten ilegal.
Kewajiban setiap platform pun berbeda, disesuaikan dengan jumlah penggunanya di Uni Eropa. Khusus untuk media sosial terbuka berukuran besar, kewajiban mereka mencakup membuat laporan tentang cara platform media sosial melakukan pengaturan (moderasi) konten dan memitigasi risiko yang muncul akibat desain dan penggunaan platform.
Pengaturan (moderasi) konten adalah kegiatan penyelenggara media sosial dalam menilai, menandai, membatasi akses, lalu menghapus konten ilegal dan berbahaya atau akun yang mengunggah konten tersebut guna melindungi penggunanya.
Indonesia belum mengatur tata cara penyelenggara media sosial mengatur konten ilegal. Terlepas kontroversinya, sejauh ini Undang Undang Informasi dan Transaksi Eletronik (UU ITE) dan peraturan turunannya yang mengatur konten di internet. Hanya saja, pengaturannya lebih berfokus pada tanggung jawab pemerintah dan pengguna media sosial, sementara tanggung jawab penyelenggara sistem elektronik belum detail.
Ini menjadi masalah besar mengingat yang berkuasa dalam mengatur (misalnya: menghapus) konten di media sosial adalah platformnya, sedangkan pemerintah memiliki kuasa yang terbatas karena bisa saja penyelenggara media sosial tidak mengabulkan aduan dari pemerintah karena alasan melanggar kebebasan berpendapat.
Ini pernah terjadi ketika pemerintah mengancam memblokir Facebook pada tahun 2022 karena belum melakukan pendaftaran ke Kominfo. Namun, warganet mengecam tindakan ini.
Mulai dari revisi UU ITE
Mengingat pentingnya peran penyelenggara media sosial dalam menentukan efektivitas moderasi konten, tim peneliti PR2Media menilai pengaturan tanggung jawab konten bisa dimasukkan ke dalam Peraturan Pemerintah sebagai turunan dari UU ITE yang baru saja direvisi. Revisi yang kedua ini mengatur tanggung jawab platform secara umum, sementara pengaturan teknisnya diserahkan kepada Peraturan Pemerintah.
Berikut ada beberapa usulan regulasi yang bisa dimasukkan ke Peraturan Pemerintah:
- Pemerintah sebaiknya mewajibkan penyelenggara media sosial menyampaikan mekanisme yang mereka gunakan untuk mengenali dan menentukan konten ilegal, baik melalui kecerdasan buatan, manusia, maupun kombinasi keduanya.
Hingga saat ini, informasi tentang jumlah moderator manusia yang dipekerjakan di Indonesia belum pernah diumumkan platform. Mengingat keberagaman masyarakat Indonesia, moderator manusia pun idealnya mewakili keberagaman itu
Platform wajib menyediakan informasi bagi pengguna yang mengalami penangguhan konten atau akunnya. Informasi tersebut memuat penjelasan mengenai pelanggaran yang dilakukan, cara penyelenggara media sosial mendeteksi pelanggaran, dan langkah banding yang dapat ditempuh oleh pengguna.
Platform wajib menyediakan mekanisme banding untuk pengguna yang tidak puas dengan keputusan moderasi konten. Pemrosesan konten ilegal oleh penyelenggara media sosial tidak selalu memuaskan semua pihak. Untuk itu, penyelenggara media sosial wajib menyediakan sistem yang memungkinkan pengguna atau pemerintah mengajukan banding.
Platform wajib mempublikasikan laporan tahunan tentang aduan dari masyarakat dan pemerintah terkait konten ilegal serta tindakan penyelenggara media sosial dalam menindaklanjutinya. Laporan itu terdiri dari aduan yang diterima dari pengguna dan pemerintah Indonesia, jumlah total konten yang dikenai sanksi dan jumlah total akun ditangguhkan, dan jumlah banding terhadap keputusan sanksi terhadap konten atau akun.
Pemerintah memberikan sanksi jika sistem moderasi tidak ditegakkan oleh platform. Sanksi ini idealnya didasarkan pada tingkat “kegagalan” dari sistem yang dimiliki platform untuk memitigasi konten ilegal. Jadi sanksinya bukan kasus per kasus, tapi dengan melihat sistem yang sudah ditegakkan platform untuk mematuhi regulasi.
Hingga sekarang, belum ada resep regulasi di negara mana pun yang sudah teruji efektif meredam konten ilegal di media sosial. Digital Services Act di Uni Eropa juga masih dalam proses pemberlakuan.
Oleh karena itu, penyusunan Peraturan Pemerintah sebagai turunan UU ITE perlu melibatkan diskusi yang berkualitas dengan para pemangku kepentingan, termasuk penyelenggara media sosial.