Kecerdasan buatan dan pembelajaran mesin (machine learning) dapat berkontribusi dalam menyelesaikan masalah-masalah paling pelik dalam hidup kita, termasuk krisis iklim dan pandemi. Tapi teknologi juga berbahaya – jika tidak digunakan secara tepat – dapat melanggengkan ketidakadilan dan ketimpangan struktural.
Untuk mencegah bahaya ini, kita memerlukan kebijakan pengaturan data yang mampu memberdayakan perekonomian masyarakat sekaligus dan menjamin hak-haknya.
Kecerdasan buatan (artificial intelligence atau AI) dan pembelajaran mesin (machine learning) beroperasi dengan rangkaian data (dataset) yang masif. Algoritma diprogram untuk mengenali pola-pola dari dataset ini. Pola-pola ini bisa digunakan untuk menghasilkan pemahaman baru serta memperkirakan perilaku maupun hasil.
AI dan machine learning kian marak digunakan untuk menggantikan keputusan manusia dengan keputusan otomatis yang mewakili manusia. Teknologi ini kerap dipakai di area yang dapat berdampak signifikan bagi kehidupan banyak orang, misalnya kredit atau akses masuk ke suatu negara.
Namun, semua proses terjadi di dalam suatu kotak hitam yang bahkan si pembuat algoritma mungkin tidak punya akses. Karena itu, penting untuk memastikan apa yang masuk ke dalam kotak tersebut.
Dataset dan aktivitas algoritma terbesar dihasilkan oleh jaringan-jaringan sosial global yang mengawasi segala tindak-tanduk kita di dunia maya. Dataset ini dapat digunakan untuk mengantisipasi dan mengarahkan kebutuhan dan keinginan kita.
Perusahaan teknologi besar, lembaga-lembaga multilateral, dan bank-bank penyedia hutang untuk negara miskin telah memanfaatkan potensi AI untuk kemajuan ekonomi dan pembangunan nasional.
Teknologi ini semakin banyak digunakan untuk tujuan sosial dan ekonomi dan juga pembuatan kebijakan publik, perencanaan, dan penganggaran sumber daya. Penggunaannya juga termasuk untuk mengarahkan keputusan pengadilan, memilih pelamar kerja, dan menugaskan akademikus dalam sistem pendidikan.
Pandemi COVID-19 telah menunjukkan betapa berharganya data publik. Kombinasi penggunaan data publik dan privat juga amat berperan untuk mengatasi krisis kesehatan publik maupun bencana.
Meski demikian, kehawatiran terhadap penggunaan AI juga meningkat, terutama terkait persoalan ketimpangan kesempatan dan bahaya yang ditimbulkan.
Ancaman
Meningkatnya penggunaan AI dan pembelajaran mesin dalam kebijakan publik memunculkan isu penting soal keadilan dan hak asasi, khususnya tentang bagaimana data digital dihasilkan.
Dataset memiliki bolong-bolong besar terkait perihal cara pengumpulan data yang mengakibatkan beberapa kelompok orang tidak terlihat, tidak terwakilkan, dan terdiskriminasi.
Misalnya, jaringan masyarakat global menjalankan ekonomi berbasis data. Padahal, sebagian besar penduduk dunia tidak terhubung ke internet sehingga sebagian besar penduduk dianggap tidak ada.
Secara global, AI juga menciptakan risiko yang menghambat kesetaraan gender. Sudah banyak laporan tentang bagaimana sistem-sistem AI bias terhadap perempuan maupun gender lainnya.
Lebih buruk lagi, sistem AI hanya mengandalkan asumsi dan data yang kurang mewakili (bahkan tidak mencakup) kelompok yang mengalami diskriminasi. Akibatnya, hasil mesin komputasi itu hanyamenegaskan ketidaksetaraan dan bias-bias gender, ras, dan penyandang disabilitas.
Sistem-sistem ini pun tidak diawasi dengan mekanisme akuntabilitas dan peraturan yang cukup untuk memitigasi dampaknya terhadap masyarakat.
Ancaman ini begitu besar hingga beberapa forum internasional sudah berdiri untuk komitmen pada pengembangan AI yang “baik”, “etis”, dan “bertanggung jawab”.
Tapi sebagian besar inisiatif ini menawarkan solusi teknis pada masalah sosial dam politik. Artinya, solusi ini masih dikembangkan di luar kerangka perlindungan hak asasi manusia. Sebagian besar gerakan itu juga datang dari negara-negara maju di belahan bumi utara, hanya melibatkan sedikit pemangku kebijakan dari negara-negara berkembang dari belahan bumi selatan.
Pendekatan berbasis hak
Ada beberapa kerangka berbasis hak yang mengatur perkembangan AI, salah satunya adalah Regulasi Umum Perlindungan Data (General Data Protection Regulation atau GDPR) dari Uni Eropa.
Namun, kerangka ini cenderung fokus pada hak-hak generasi pertama atau fundamental, misalnya privasi. Secara umum, privasi dianggap sebagai hak individu – yang belum tentu menjadi nilai penting dalam masyakarat yang mengedepankan kepentingan komunitas.
Pandemi COVID-19 menunjukkan perlunya pengaturan data untuk memenuhi kepentingan kolektif atau tujuan bersama. Hal ini bukan berarti hak atas privasi diabaikan.
Kepentingan bersama juga berarti, dalam proses identifikasi suatu kelompok atau komunitas, pengaturan data juga dapat mencakup identitas suatu individu. Sebab, identitas ini juga berguna untuk mengenali suatu kelompok.
Secara konsep dan praktik, ‘perspektif terbalik’ ini dapat diterapkan dalam tata kelola data. Pengaturan dapat berfokus pada perlindungan data pribadi, keamanan siber, dan sanksi atas pelanggaran.
Fokus tersebut menjadi persyaratan penting untuk AI yang adil. Tapi ini tidak cukup. Ada area-area pengaturan data yang membutuhkan intervensi positif; penyediaan akses data, kegunaan dan integritas data demi keterbukaan (inklusivitas), kesetaraan, dan keadilan sosial.
Isu-isu ini dapat dimasukkan sebagai hak-hak generasi kedua dan ketiga: hak-hak sosial dan ekonomi.
AI yang menghargai hak asasi
Untuk mengatasi masalah-masalah ini, sebuah proyek global diluncurkan berbarengan dengan Summit for Democracy – konferensi tingkat tinggi virtual yang diselenggarakan pemerintah Amerika Serikat.
Konferensi ini adalah forum internasional untuk meningkatkan komitmen dukungan pada demokrasi dan hak asasi. Tujuannya adalah mengukur kemajuan negara-negara dalam mengembangkan AI yang menghormati nilai-nilai hak asasi manusia dan demokrasi.
Proyek ini dikenal sebagai Global Index on Responsible AI (Indeks Global AI yang Bertanggung Jawab). Proyek ini dipimpin oleh lembaga pemikir kebijakan Research ICT Africa dan jaringan independen Data 4 Development.
Negara-negara dan komunitas internasional juga mulai merespon seruan global untuk AI yang bertanggung jawab. Pada 2019, sebanyak 42 negara menandatangani prinsip-prinsip OECD untuk Trustworthy AI yang berkomitmen pada sistem AI yang aman, adil, dan terpercaya.
Yang terbaru, UNESCO mengembangkan Rekomendasi Etik dalam AI yang diadopsi dalam Sidang Umum. Rekomendasinya menitikberatkan pada perlindungan hak-hak fundamental, kebebasan, keberlanjutan lingkungan, dan keberagaman.
Indeks AI Global menjawab kebutuhan adanya standar yang inkslusif dan terukur yang melengkapi pemahaman (yang semakin cepat berevolusi) tentang penerapan AI bertanggung jawab. Indeks itu juga mendorong dan mencatat penerapan prinsip-prinsip pengaturan oleh aktor-aktor relevan.
Indeks AI Global akan mencatat penerapan prinsip AI bertanggung jawab di lebih dari 210 negara. Sebuah jaringan internasional berisi peniliti independen akan dibentuk untuk menilai sejauh mana prinsip-prinsip itu telah diterapkan. Jaringan itu juga akan mengumpulkan data primer dan sekunder terkait indikator kunci AI bertanggung jawab.
Indeks ini akan menyediakan bukti penting yang dibutuhkan pemerintahan, masyarakat sipil, peneliti, dan pemangku kebijakan untuk menegakkan prinsip penggunaan bertanggung jawab dalam pengembangan dan penerapan sistem AI. Bukti-bukti ini akan digunakan juga untuk:
memenuhi kewajiban pembangunan dan hak asasi,
membangun kemampuan AI bertanggung jawab di seluruh dunia, dan
memperkuat kerja sama internasional.
Masyarakat dan pemangku kebijakan yang berkepentingan akan mendapat kesempatan untuk membantu pembantu rancangan dan capaian Indeks yang akan dikembangkan dengan perspektif masyarakat belahan bumi selatan.
Pengembangan indeks ini juga menjadi kesempatan bagi ahli-ahli dari Afrika dan belahan bumi selatan untuk berada di depan, membentuk agenda global dalam penggunaan dan pengembangan AI yang bertanggung jawab.