Oleh Lydia Kostopoulos
Imajinasi manusia adalah fondasi segala sesuatu di dunia sekitar kita. Seperti yang dikatakan oleh penulis motivasi William Arthur Ward “Jika Anda bisa membayangkannya, Anda bisa menciptakannya.”
Sepanjang sejarah, orang-orang dengan fantasi yang tampak berani dan imajinatiflah yang menemukan begitu banyak teknologi yang kita anggap remeh saat ini seperti listrik, pesawat terbang, transplantasi organ, internet, dan telepon seluler—semuanya mempunyai implikasi yang luas bagi masyarakat dan masyarakat. perekonomian global. Dengan konvergensi berbagai teknologi dalam Revolusi Industri Keempat ini, fantasi teknologi yang dimiliki para penemu menjadi semakin berani—terbang ke mana saja di seluruh dunia dalam 30 menit, memperpanjang umur abadi, mencetak seluruh kota secara 3D, mengelola pertanian dari luar angkasa, berkomunikasi ke komputer melalui pemikiran, dan menciptakan kecerdasan buatan yang setara dengan kemampuan kognitif otak manusia dan mampu berbicara untuk berkomunikasi dengan hewan. Ini hanyalah beberapa dari sekian banyak fantasi teknologi yang dikejar orang-orang saat ini.
Fantasi teknologi yang berani inilah yang mendorong inovasi dan berdampak pada masyarakat. Kita telah mempunyai banyak Teknologi Tujuan Umum (GPT) dalam sejarah kita (terutama kebakaran dan listrik), namun, yang berbeda dalam momen bersejarah kita adalah kecepatan pengenalan teknologi tujuan umum ke dalam masyarakat, perekonomian, dan rumah tangga kita. AI dibangun di atas semua teknologi sebelumnya seperti Internet, telepon seluler, Internet of Things (IoT) dan biologi sintetik. Integrasi yang cepat ini memberikan peluang ekonomi dan sosial yang sangat besar namun juga mempunyai potensi bahaya sosial yang sangat besar.
Kohesi sosial dan kesejahteraan mental sesuai dengan arsitektur pengambilan keputusan
Saat kita hidup di era perkembangan teknologi yang semakin pesat, ada baiknya kita mengapresiasi kekuatan arsitektur keputusan yang memengaruhi proses pengambilan keputusan masyarakat. Contoh terbaik untuk menunjukkan hal ini adalah kekuatan arsitektur keputusan media sosial yang kurang dihargai dan diremehkan terhadap tatanan masyarakat kita. Media sosial diciptakan berdasarkan fantasi teknologi yang berani—'Bagaimana jika ada platform digital di mana setiap orang dapat berhubungan dengan semua teman mereka'. Sejak itu, meskipun platform ini tetap menjadi platform untuk terhubung dengan teman-teman Anda, platform ini juga telah berkembang menjadi utilitas bagi bisnis, platform periklanan yang presisi, dan pengeras suara bagi pejabat publik dan teroris.
Selama bertahun-tahun, algoritme mulai berubah dan para ahli teknologi serta insinyur perangkat lunak diminta untuk merancang sistem algoritme yang memberikan insentif agar orang-orang tetap menggunakan platform media sosial selama mungkin sehingga mereka dapat melihat iklan sebanyak mungkin. Salah satu contohnya adalah Facebook yang 97,5 persen pendapatannya berasal dari iklan. Keputusan perusahaan yang hanya berfokus pada pendapatan iklan, tanpa mempertimbangkan dampak sosial, telah menimbulkan banyak konsekuensi terhadap kesehatan mental semua demografi di seluruh populasi.
Pada tingkat individu, arsitektur keputusan algoritmik yang hanya mengutamakan insentif perusahaan telah berdampak buruk pada kesejahteraan mental. Itu Jurnal Wall Street melakukan laporan jurnalisme investigatif mengenai algoritme TikTok dan menemukan bahwa algoritme tersebut mampu mengklasifikasikan dan menampilkan item yang mereka minati kepada pemirsa meskipun mereka tidak menelusurinya secara eksplisit. Yang lebih memprihatinkan lagi, mereka menemukan bahwa hal yang membuat orang-orang menonton lebih banyak video di platform ini belum tentu adalah hal yang mereka minati dan sukai, namun hal yang paling “rentan” bagi mereka. Facebook dan Instagram terbukti memperburuk masalah citra tubuh remaja, khususnya perempuan. Meta menyadarinya dan bagaimana platformnya menciptakan rendahnya harga diri anak-anak dan remaja. Sebuah studi tentang penggunaan media sosial oleh remaja yang melakukan bunuh diri menemukan berbagai tema yang berkaitan dengan dampak berbahaya dari media sosial seperti “ketergantungan, pemicu, viktimisasi dunia maya, dan jebakan psikologis.” Konsekuensi negatif AI di media sosial ini belum sepenuhnya dikelola dan masih menimbulkan kerugian hingga saat ini.
Di tingkat masyarakat, arsitektur keputusan algoritmik yang hanya mengutamakan insentif perusahaan tanpa mempertimbangkan dampak tatanan hilir telah menciptakan masyarakat yang terpolarisasi dan terfragmentasi. Center for Humane Technology menguraikan dampak masyarakat AIon dalam presentasi Dilema AI yang dibawakan oleh Aza Raskin dan Tristan Harris. Dalam presentasinya, mereka membuat perbedaan antara interaksi pertama masyarakat dengan AI melalui media sosial; dan mereka menyebut interaksi kedua masyarakat dengan AI terjadi pada tahun 2023 dengan alat AI generatif yang ada saat ini dan yang sedang berkembang. Informasi yang berlebihan, pengguliran malapetaka, kecanduan, rentang perhatian yang lebih pendek, seksualisasi anak-anak, polarisasi, berita palsu, pabrik pemujaan, bot palsu, dan hancurnya demokrasi adalah beberapa dampak buruk yang telah diidentifikasi dari interaksi algoritmik masyarakat dengan media sosial.
Meskipun pengembang perangkat lunak tidak memiliki niat jahat, mereka mengabaikan tugas mereka terhadap masyarakat ketika mereka hanya berfokus pada pembuatan algoritme yang diberi insentif untuk memaksimalkan keterlibatan di platform.. Penilaian Raskin dan Harris mengenai apa yang terjadi secara sosial dalam interaksi selanjutnya dengan AI adalah sebuah keruntuhan realitas akibat banyaknya pemalsuan, yang pada gilirannya mengakibatkan runtuhnya kepercayaan. Dalam bukunya Gelombang yang Akan Datang, Mustafa Suleyman, pendiri DeepMind Google, juga menyatakan keprihatinannya tentang sifat AI generatif yang ada di mana-mana dan kemampuannya untuk mendemokratisasi pembuatan senjata siber, kode eksploitasi, dan biologi kita. Kekhawatiran yang terjadi setiap hari ini belum sepenuhnya terkendali dan merupakan ancaman penting saat ini.
Meskipun penting untuk mengatasi tantangan sosial dari algoritme yang ada, terdapat algoritme dan cara baru yang dapat digunakan untuk menerapkan algoritme tersebut lebih dalam ke dalam kehidupan kita.
Fantasi baru, teknologi baru, tanggung jawab baru
Sebagai mekanisme penanggulangan kesedihan setelah sahabatnya meninggal, Eugenia Kuyda membuat bot AI percakapan dirinya berdasarkan semua pertukaran teks mereka. Dia melakukan ini agar dia dapat terus mengobrol dengannya secara anumerta. Dari pengalaman ini, dia menciptakan perusahaan Replika di mana siapa pun dapat membuat pendamping AI yang dipersonalisasi untuk diajak ngobrol. Kesaksian tersebut menampilkan banyak pengguna yang merasa bahagia karena mereka merasa telah menemukan teman dan bahwa pendamping algoritmik digital ini telah meringankan kesepian mereka. Faktanya, Replika dan perusahaan AI pendamping digital lainnya sedang menciptakan teknologi berharga yang dapat mengatasi masalah sosial yang semakin meningkat. Pada bulan Mei 2023, Ahli Bedah Umum AS mengeluarkan laporan peringatan yang menyerukan krisis kesehatan masyarakat berupa kesepian dan isolasi sosial. Saat ini, dua negara di dunia telah menunjuk menteri kesepian—Inggris dan Jepang. Namun, penelitian menunjukkan bahwa epidemi kesepian dan pengucilan sosial ini mempunyai dampak yang kuat di Afrika dan India serta di belahan dunia lain yang belum melakukan penelitian.
Mengingat dampak sosial yang merugikan yang ditimbulkan oleh AI terhadap media sosial, seiring dengan diciptakannya chatbot dan pendamping digital berbasis AI yang diciptakan untuk meringankan masalah kesepian yang semakin meningkat, maka penting untuk mempertimbangkan aturan pertama dalam “Tiga Aturan Teknologi yang Manusiawi” yang dijabarkan. oleh Pusat Teknologi Kemanusiaan: “Saat Anda menemukan teknologi baru, Anda menemukan tanggung jawab baru.” Aturan ini tidak hanya relevan bagi mereka yang menemukan teknologi baru, namun berlaku bagi semua orang yang menggunakan teknologi ini. Dalam kebijakan Peraturan Perlindungan Data Umum (GDPR) Uni Eropa yang mengatur bagaimana data pribadi dikelola, terdapat bagian tentang “Hak untuk Dilupakan” yang tidak perlu ada sampai komputer dapat mengingat kita selamanya. Apakah undang-undang baru perlu dibuat untuk memaksa perusahaan memelihara infrastruktur cloud dari mitra digital sepanjang masa hidup seseorang? Akankah hak diperlukan untuk pendamping algoritmik ini sehingga mereka yang bergantung pada mereka tidak perlu bersedih hati, atau merasa kesepian tanpa mereka? Bagaimana jika orang ingin menikahi pasangan AI mereka? Jika pendamping AI menjadi bentuk penting dari infrastruktur sosial dan bagian dari keintiman manusia, undang-undang baru perlu dibuat untuk melindungi algoritma khusus ini dan akses terhadap algoritma tersebut.
Pada saatnya nanti, akan ada kebijakan dan peraturan pemerintah yang baru untuk memitigasi dan mengelola dampak sosial dari teknologi AI yang sudah ada dan yang baru, namun kemajuan teknologi saat ini terus melampaui kecepatan peraturan yang dibuat. Tidak adanya peraturan tidak berarti perusahaan harus melepaskan tanggung jawabnya. Di era di mana kesepian dan isolasi sedang meningkat, mereka yang merancang algoritme memiliki peran besar dalam menciptakan sistem algoritme yang tidak merusak kohesi sosial, memperburuk kesepian, atau mendorong remaja untuk melakukan bunuh diri. Mereka yang memanfaatkan algoritme yang dibuat oleh orang lain harus menjaga akuntabilitas diri mereka sendiri dan orang lain untuk memastikan bahwa sistem algoritme tidak menimbulkan kerugian.
Sementara itu, fantasi teknologi liar yang harus kita anut saat ini adalah merancang sistem algoritmik yang menciptakan insentif bagi kemajuan manusia dan kesejahteraan sosial-ekonomi.
- Tentang penulis: Lydia Kostopoulos adalah penasihat strategi dan inovasi.
- Sumber: Artikel ini diterbitkan oleh Observer Research Foundation