Menu Close
TechSolution/Shutterstock

Apakah AI telah meretas sistem operasi peradaban manusia? Peringatan dari Yuval Noah Harari

Buku Sapiens: A Brief History of Humankind dan Homo Deus: A Brief History of Tomorrow telah melatih kita untuk mengharapkan ide-ide revolusioner dari sejarawan ternama, Yuval Noah Harari. Melalui buku ini, kita bak menjadi model kecerdasan buatan (AI) yang dilatih menggunakan kumpulan data besar untuk belajar dan memprediksi.

Dalam buku terbarunya, Nexus: A Brief History of Information Networks from the Stone Age to AI, Harari mengulas perjalanan panjang sejarah dan masa depan jaringan manusia. Ia menggunakan beragam contoh, baik dari masa lalu maupun era modern, untuk menunjukkan bagaimana informasi membentuk dan terus mengubah masyarakat.

Dalam buku Sapiens, Harari mengeksplorasi revolusi kognitif yang memberikan manusia kemampuan unik untuk menciptakan mitos dan narasi bersama. Sementara itu, dalam buku Nexus, ia menyoroti bagaimana narasi ini disebarkan, dipertahankan, dan diubah melalui jaringan informasi.

Salah satu argumen utama Harari dalam buku ini adalah: AI mewakili kekuatan baru yang sangat radikal dalam perkembangan peradaban manusia. Tema tersebut pernah ia angkat dalam sebuah artikel pada 2023 tentang kemampuan AI untuk memanipulasi bahasa, budaya, dan masyarakat. Lewat artikel tersebut, ia mengingatkan bahwa AI telah “meretas sistem operasi peradaban manusia.”

Buku Nexus mencakup perjalanan panjang sejarah manusia, mulai dari kemunculan Homo sapiens dan interaksinya dengan manusia purba hingga perkembangan teknologi mutakhir seperti Neuralink (implan yang memungkinkan pengguna berkomunikasi dengan komputer hanya melalui pikiran) dan dampak AI terhadap masa depan peradaban manusia.

Harari mengajak pembaca melintasi ribuan tahun sejarah lewat Nexus. Kemampuannya untuk mempertahankan argumen yang koheren tentang pentingnya jaringan informasi menjadi salah satu kekuatan terbesar buku ini. Hubungan yang ia gambarkan antara sejarah kuno dan teknologi modern menantang pembaca untuk memikirkan ulang pemahaman mereka tentang masa lalu dan masa kini.

Terkadang, narasi Harari memang terkesan arogan, terutama ketika ia menjelaskan hubungan antara peristiwa dan fenomena yang tampaknya tidak terkait di bawah payung besar “jaringan”. Namun, keberaniannya dalam mengeksplorasi hal ini justru menjadi daya tarik tersendiri bagi para pembacanya.

Terlepas dari apakah pembaca setuju atau tidak, Harari kembali membuktikan bahwa mempelajari sejarah sangat penting bagi kelangsungan hidup manusia.

Sejarah—Harari sekali lagi mengingatkan kita dengan tegas—menawarkan pelajaran berharga dalam etika dan moralitas dengan menyoroti konsekuensi dari tindakan manusia. Sejarah menantang kita untuk mempertimbangkan implikasi moral dari berbagai keputusan yang dibuat oleh para pemimpin maupun orang-orang biasa. Ia juga menantang kita untuk merenungkan pilihan-pilihan kita sendiri.

Jaringan: fondasi kerja sama manusia

Inti dari Nexus adalah gagasan bahwa jaringan—baik sosial, politik, ekonomi, maupun teknologi—merupakan landasan kerja sama dan kekuatan manusia. Harari berpendapat bahwa kekuatan masyarakat selalu berasal dari kemampuan mereka menciptakan dan memelihara jaringan informasi. Jaringan ini kemudian memungkinkan kolaborasi dalam skala besar serta distribusi sumber daya, pengetahuan, dan kekuasaan.

Ia menunjukkan bahwa jaringan ini tidak hanya terbatas pada infrastruktur fisik seperti jalan atau rute perdagangan, tetapi juga mencakup jaringan tak kasat mata berupa keyakinan bersama, narasi budaya, dan hukum.

Harari turut menyoroti bahwa cerita—sebuah tema kunci dalam Sapiens—berperan menciptakan jaringan-jaringan ini. Dia menunjukkan bagaimana kemampuan berkomunikasi dan memperkuat ide-ide abstrak seperti pemerintah, agama, dan uang, telah menjadi dasar bagi kemajuan manusia.

Namun, Nexus bukan hanya tentang sejarah jaringan. Buku ini mengingatkan tentang bahaya yang bakal datang dari jaringan paling canggih dan berkembang pesat saat ini: AI dan bentuk teknologi digital lainnya.

Kritik Harari terhadap AI begitu tegas. Ia melihat AI sebagai jenis kecerdasan baru—yang ia sebut “kecerdasan alien"—berpotensi beroperasi di luar kendali manusia.

Di sinilah tema utama buku ini menjadi sangat mendesak. Jaringan yang selama ini telah melayani umat manusia, memungkinkan tingkat kerja sama dan kemajuan yang belum pernah terjadi sebelumnya, kini berisiko menjadi terlalu rumit dan tidak dapat dikelola sepenuhnya oleh manusia.

Harari mengingatkan bahwa AI bukan hanya alat, tapi juga entitas yang dapat mengambil keputusan dan menghasilkan pengetahuan baru secara mandiri. Kemunculannya dapat mengubah struktur masyarakat manusia secara fundamental. Inilah sebabnya Harari berpendapat bahwa dunia sangat membutuhkan regulasi dan pengawasan terhadap AI.

Analisis AI dalam Nexus dibangun Harari berdasarkan pelajaran sejarah. Dia menggunakan contoh-contoh, mulai dari mitos kuno hingga kemajuan teknologi terkini.

Ia memberikan contoh seperti AlphaGo, pada 2016 sebagai AI pertama yang mampu mengalahkan Lee Sedol. Lee adalah juara dunia permainan Go, sebuah permainan papan strategis yang selama ribuan tahun dianggap sebagai domain kreativitas manusia.

Contoh ini memperlihatkan bahwa AI kini telah melampaui batas pemahaman manusia. Bahkan, para pencipta AlphaGo tidak dapat sepenuhnya menjelaskan beberapa langkah yang diambil oleh AI tersebut.

Sifat "asing” AI ini, yang menurut Harari berbeda dengan penemuan manusia sebelumnya seperti mesin uap atau komputer. AI telah menghadirkan tantangan baru. Tidak jelas apakah manusia akan dapat mempertahankan kendali atas sistem yang telah mereka ciptakan ini.

AI, kekuasaan, dan masa depan jaringan manusia

Dengan gaya khasnya, Harari menghubungkan tema ini dengan masalah politik dan sosial yang lebih luas, terutama kebangkitan otoritarianisme dan populisme.

Ia berargumen bahwa semakin besar peran AI dalam proses pengambilan keputusan, mulai dari menentukan siapa yang mendapatkan pinjaman hingga siapa yang menjadi target dalam serangan militer, semakin terkikis pula transparansi dan akuntabilitas.

Ini bisa menjadi ancaman bagi demokrasi. Sebab, warga mungkin tidak lagi bisa memahami atau menantang kekuatan yang membentuk kehidupan mereka.

Selain itu, Harari menyinggung potensi kepunahan manusia. Meskipun sebelum hal tersebut terjadi, ia membayangkan masa depan jaringan yang didorong oleh AI memperparah ketidaksetaraan dengan perusahaan teknologi besar. Pemerintah pun bisa menggunakan AI untuk mengkonsolidasikan kekuasaan atas informasi dan sumber daya.

Dengan menghubungkan dunia kuno dan era digital, Harari mengulang beberapa argumen kunci dari karyanya sebelumnya, terutama Sapiens. Seperti Sapiens, Nexus mengeksplorasi peran mitos bersama dan fiksi kolektif dalam sejarah manusia, tetapi dengan lebih menekankan pada mekanisme jaringan informasi yang menopang masyarakat.

Sapiens: Riwayat Singkat Umat Manusia.

Harari juga mempertimbangkan masa depan jaringan AI dapat membentuk kembali tidak hanya masyarakat, tetapi juga seluruh biosfer. Ini menciptakan bentuk kehidupan dan kecerdasan baru.

Ia mengingatkan bahwa kebangkitan AI bisa menjadi titik balik dalam sejarah manusia. Pada saat itu, kita mungkin akan kehilangan kendali atas jaringan yang selama ini menjadi sumber kekuatan terbesar kita.

Perspektif futuristik ini menyelaraskan Nexus dengan karya spekulatif Harari lainnya, Homo Deus, yang juga meneliti konsekuensi potensial dari kemajuan teknologi untuk masa depan umat manusia.

Homo Deus sering kali menjelajahi wilayah yang suram. Namun, Nexus tetap berpijak pada analisis historis. Penggunaan contoh-contoh historis yang konkret oleh Harari, mulai dari penemuan mesin cetak hingga kebangkitan kerajaan-kerajaan global, menguatkan argumennya.

Alhasil, Nexus terasa lebih seimbang dan tidak terlalu mengkhawatirkan dibanding beberapa karyanya yang lain—meskipun peringatannya tidak kalah penting.

Seruan untuk bertindak

Salah satu kritik terhadap Nexus mungkin terletak pada kecenderungan Harari untuk menyederhanakan proses sejarah yang kompleks demi mendukung tesisnya. Meskipun demikian, upayanya untuk menghubungkan sejarah manusia ke dalam kerangka jaringan informasi tetap bisa merangsang pemikiran kita.

Misalnya, analisisnya tentang teks-teks agama sebagai alat kontrol sosial semata, telah mengabaikan keragaman interpretasi yang kaya dan pengalaman spiritual mendalam yang telah membentuk tradisi agama. Demikian pula, penggambarannya tentang sistem birokrasi sebagai instrumen untuk mempertahankan kekuasaan telah menihilkan peran sistem-sistem yang memungkinkan mobilitas sosial dan perlindungan hak-hak individu.

Terlepas dari penyederhanaan yang terkadang berlebihan ini, Nexus tetap menjadi seruan yang menggugah untuk bertindak. Buku ini memberikan tinjauan luas tentang sejarah jaringan informasi, sambil menyampaikan peringatan kuat tentang masa depan.

Harari menghubungkan sejarah kuno dengan tantangan teknologi dan politik yang paling mendesak di abad ke-21. Ia pun memberikan kerangka kerja untuk memahami risiko dan peluang yang ditimbulkan oleh teknologi yang berkembang pesat.

Harari, seorang ateis yang berpendapat bahwa agama hanyalah fiksi kolektif yang diciptakan manusia, tampaknya menyiratkan pesan yang jelas bagi banyak orang: AI, meskipun diciptakan oleh manusia, tidak akan pernah memiliki jiwa. Dalam konteks ini, jiwa berarti dorongan unik manusia untuk berkreasi.

Dengan kata lain, AI—sehebat atau secanggih apapun, tidak akan pernah menyamai manusia. AI tidak mampu mendorong kreativitas, emosi, serta penalaran etis dan moral.

Nexus adalah karya yang ambisius, berani, dan juga meresahkan pada saat yang sama. Buku ini tidak menawarkan solusi yang mudah untuk kita pahami. Namun, buku ini menantang para pembaca untuk berpikir kritis tentang apa yang mengatur kehidupan kita dan bagaimana AI dapat mengubahnya.

Bagi siapa pun yang tertarik dengan perpaduan antara sejarah, teknologi, dan kekuasaan, Harari sekali lagi memancing pemikiran yang mendalam.

This article was originally published in English

Want to write?

Write an article and join a growing community of more than 191,300 academics and researchers from 5,063 institutions.

Register now