Perangkat asisten pribadi digital di rumah menjadi semakin populer, tapi kehadirannya menimbulkan masalah privasi. (Shutterstock)

Sisi gelap Alexa, Siri, dan asisten digital pribadi

Beberapa tahun yang lalu, asisten digital pribadi seperti Alexa milik Amazon, Siri milik Apple, dan Google Assistant milik Google terdengar futuristik. Kini, hal futuristik itu telah melekat di masyarakat, bertambah, dan berkembang di mana-mana.

Asisten digital dapat ditemukan di kantor Anda, rumah, mobil, hotel, telepon, dan banyak tempat lainnya. Teknologi ini baru-baru saja mengalami transformasi besar-besaran dan bekerja pada sistem operasi yang didorong oleh kecerdasan buatan (AI). Mereka mengamati dan mengumpulkan data secara real-time dan memiliki kapabilitas untuk mengambil informasi dari berbagai sumber, seperti perangkat pintar dan layanan cloud, yang kemudian informasi tersebut dimasukkan ke dalam konteks yang sesuai dengan menggunakan AI untuk memahami situasi.

Meski kita telah meneliti jauh dalam desain dan eksekusi teknologi AI, tentu masih ada banyak pekerjaan yang harus dilakukan di bidang ini.

Banyak data yang dikumpulkan dan digunakan oleh asisten pribadi, termasuk informasi pribadi, yang berpotensi diidentifikasi dan mungkin merupakan informasi sensitif. Dapatkah Alexa atau asisten digital pribadi lainnya melanggar privasi dan keamanan data kita? Jawabannya adalah mungkin. Tentu ada sisi gelap yang dibawa oleh asisten virtual ini.

Keahlian saya di bidang privasi data, tata kelola data, dan kecerdasan buatan. Saya sebelumnya adalah Pejabat Informasi dan Privasi di Kantor Komisaris Informasi dan Privasi Ontario, Kanada

Layanan yang ramah

Bayangkan situasi berikut.

Ada beberapa tamu yang akan datang ke rumah Anda. Tamu pertama Anda datang dan kamera keamanan di teras rumah Anda menangkapnya berjalan menuju rumah Anda. Kemudian muncul sebuah suara sopan yang mengucapkan selamat datang dan membukakan pintu rumah Anda. Begitu tamu Anda berada di dalam rumah, asisten digital Anda menjelaskan bahwa Anda sedang dalam perjalanan pulang dan akan segera tiba. Melalui sistem audio di rumah Anda, asisten digital kemudian mulai memainkan lagu pilihan yang sesuai dengan lagu favorit tamu Anda (dari fitur teman Spotify Anda). Asisten digital Anda juga bertanya kepada tamu Anda mengenai pilihan minuman kopi: dengan rasa vanilla atau biji kopi Kolombia. Segera setelah itu, tamu Anda mengambil kopi dari mesin kopi digital. Tugas penyambutan kini selesai, asisten digital Anda berhenti dan sembari menunggu, tamu Anda akan melakukan beberapa panggilan.

Sangat menarik bagaimana asisten digital dapat memvalidasi identitas tamu Anda secara akurat dan mandiri; memilih lagu favoritnya, mengingat rasa kopi kesukaannya, dan mengelola peralatan pintar di rumah Anda.

Ketika perangkat pintar menjadi lebih banyak di mana-mana, menjaga privasi kita dan orang lain membutuhkan upaya bersama yang baru dan terpadu. (Shutterstock)

Asisten penerima tamu

Tapi apakah tindakan asisten digital mengkhawatirkan Anda?

Asisten digital dapat merekam percakapan, gambar, dan banyak informasi sensitif lainnya, termasuk lokasi melalui ponsel pintar kita. Mereka menggunakan data kita untuk pembelajaran mesin (machine learning) untuk meningkatkan kemampuan seiring berjalannya waktu. Perangkat lunak mereka dikembangkan dan dikelola oleh perusahaan yang secara terus menerus memikirkan cara baru untuk mengumpulkan dan menggunakan data kita.

Layaknya program komputer lainnya, permasalahan mendasar dari asisten digital ini adalah mereka rentan terhadap kegagalan teknis dan proses. Asisten digital juga dapat diretas dari jarak jauh yang mengakibatkan pelanggaran privasi pengguna.

Misalnya, pernah ada kejadian sepasang suami-istri di Oregon harus mencabut perangkat Alexa, asisten virtual Amazon, karena percakapan pribadi mereka direkam dan dikirim ke salah satu teman yang terdaftar di kontak mereka.

Dalam insiden lain, seorang laki-laki Jerman secara tidak sengaja menerima akses ke 1.700 file audio Alexa milik orang asing yang tak dikenalnya. File-file tersebut mengungkapkan nama orang lengkap dengan kebiasaan, pekerjaan, dan informasi sensitif lainnya.

Kesadaran akan hak istimewa

Meningkatnya popularitas dan ketersediaan asisten digital pribadi telah menghasilkan pelebaran pada sesuatu yang disebut kesenjangan digital. Paradoks yang menarik; individu yang sadar dan peka terhadap masalah privasi biasanya membatasi penggunaan alat-alat digital, sementara pengguna yang kurang sadar terhadap perlindungan privasi secara luas memasukkan asisten pribadi ke dalam kehidupan digital mereka.

Asisten digital merekam data terus menerus atau bisa juga menunggu perintah untuk menjadi aktif. Mereka tidak membatasi pengumpulan data hanya untuk informasi pemilik atau pengguna resmi. Asisten digital pribadi bisa saja mengoleksi dan memproses data pribadi pengguna yang tidak disetujui, seperti suara mereka.

Dalam masyarakat yang terbagi secara digital, seseorang yang mengerti privasi tidak akan melibatkan peralatan seperti itu ke dalam kehidupan mereka, sementara yang lain mungkin menerima atau merasionalisasi perilaku tersebut.

Perangkat pintar menghubungkan pengguna ke peralatan rumah tangga, dengan janji untuk meningkatkan kualitas hidup dengan membuat manajemen rumah tangga lebih mudah dan lebih efisien.. (Shutterstock)

Menghormati privasi orang lain

Pada era perangkat dan akses internet di mana-mana, apa yang seharusnya kita lakukan menghadapi paradoks ini sekaligus menghormati ruang dan pilihan satu sama lain?

Mari kita lihat kembali asisten digital pribadi imajiner kita. Asisten digital pribadi harus memproses berbagai sumber informasi mengenai tamu Anda untuk beroperasi sebagai tuan rumah yang pintar. Apakah asisten digital menggunakan semua data itu untuk pengolahan algoritme atau malah melanggar privasi tamu Anda? Pertanyaan ini akan bergantung pada siapa Anda akan bertanya karena jawabannya akan berbeda-beda.

Ajaran sopan santun atau etiket kita pada dasarnya memberi tahu bahwa kita memiliki tanggung jawab sosial dan etis untuk menghormati nilai yang dipegang satu sama lain dalam hal teknologi digital. Kendati demikian, implikasi dan pertumbuhan teknologi ini sangat signifikan dan cepat sehinga kita belum mampu mendefinisikan kembali norma dan harapan sosial yang seharusnya menjadi kesepahaman bersama masyarakat.

Misalnya, sebagai tuan rumah, apakah kita memiliki kewajiban etis terhadap tamu kita untuk memberi tahu mereka tentang asisten digital pribadi kita? Apakah sopan bagi pengunjung rumah untuk meminta tuan rumah mematikan alat digital mereka? Haruskah kita menanyakan tentang keberadaan alat pintar dan asisten digital sebelum tiba di rumah teman, hotel, atau AirBnB.

Jawaban atas pertanyaan-pertanyaan ini adalah ya, menurut pakar etiket Daniel Post Senning. Senning menjelaskan bahwa kita cukup bertanya pada diri kita sendiri. Apakah kita ingin diberitahu bahwa kita sedang direkam baik dalam pertemuan bisnis maupun pertemuan pribadi? Atau apa kita akan menerima jika diminta untuk mematikan alat digital jika kita menjadi tuan rumah? Aturan etiket bersifat universal: memegang nilai kejujuran, kebaikan, dan selalu menjadi perhatian bersama.

Beri tahu kolega dan tamu Anda bahwa perangkat digital Anda dapat merekam suara, gambar, atau informasi lainnya. Begitu juga minta tuan rumah Anda untuk mematikan asisten digital jika Anda tidak nyaman mereka berada di sekitar Anda. Tapi berhati-hatilah. Anda mungkin tidak ingin meminta tuan rumah Anda untuk mematikan asisten digital apabila ada sanak keluarganya yang berusia lanjut atau difabel dan bergantung pada alat-alat tersebut.

Menjaga privasi kolektif

Privasi adalah norma sosial yang harus kita pertahankan bersama. Pertama-tama, kita perlu mendidik diri kita sendiri mengenai keamanan dunia maya dan risiko potensial dari teknologi digital. Kita seharusnya juga proaktif dalam mengikuti berita terkini mengenai teknologi dan mengambil tindakan saat diperlukan.

Peran pemerintah dalam paradigma kompleks ini sangat penting. Kita membutuhkan undang-undang privasi yang lebih kuat untuk mengatasi masalah privasi yang berhubungan dengan asisten digital pribadi. Kini, perusahaan seperti Amazon, Google, dan Apple sedang membuat aturan tersebut.

Pihak yuridiksi lainnya telah mengembangkan dan mengimplementasikan peraturan seperti Europe’s General Data Protection Regulation (GDPR) yang menyediakan pengawasan pada pengumpulan data untuk berbagai perangkat rumah tangga. Kanada dan negara lain harus mengikuti langkah seperti ini.

This article was originally published in English

Want to write?

Write an article and join a growing community of more than 105,600 academics and researchers from 3,362 institutions.

Register now