Menghadapi masa depan yang terotomatisasi, kerangka moral apa yang harus membimbing kita?
Mengoptimalkan logistik, mendeteksi penipuan, menyusun karya seni, melakukan penelitian, menyediakan penerjemahan: sistem dari mesin cerdas mengubah hidup kita menjadi lebih baik. Ketika sistem ini menjadi semakin mumpuni, dunia kita menjadi lebih efisien, dan akibatnya menjadi lebih kaya.
Raksasa teknologi seperti Alphabet, Amazon, Facebook, IBM, dan Microsoft – serta individu seperti Stephen Hawking dan Elon Musk – percaya bahwa sekarang adalah waktu yang tepat untuk berbicara tentang lanskap kecerdasan buatan yang hampir tak terbatas. Dalam banyak hal, ini merupakan ranah yang baru bagi studi etika dan penilaian risiko seperti halnya bagi teknologi baru. Jadi, masalah dan percakapan apa yang membuat pakar AI terjaga di malam hari?
1. Pengangguran. Apa yang terjadi setelah tidak ada lagi pekerjaan?
Hierarki tenaga kerja utamanya mengkhawatirkan aspek otomatisasi kecerdasan buatan. Karena kita telah menemukan cara untuk mengotomatisasi pekerjaan, kita dapat menciptakan ruang bagi manusia untuk mengambil peran yang lebih kompleks, beralih dari pekerjaan fisik yang mendominasi dunia pra-industri kepada pekerjaan kognitif yang memiliki ciri pekerjaan strategis dan administratif dalam masyarakat global kita.
Lihatlah pada lini transportasi dan distribusi: saat ini saja, lini tersebut mempekerjakan jutaan orang di Amerika Serikat saja. Apa yang akan terjadi pada mereka jika kendaraan tanpa awak, yang dijanjikan oleh Elon Musk dari Tesla, tersedia secara luas dalam dekade berikutnya? Namun, pada sisi lain, jika kita mempertimbangkan risiko kecelakaan yang lebih rendah, kendaraan semacam ini tampaknya merupakan pilihan yang etis. Skenario yang sama bisa terjadi pada pekerja kantoran, serta sebagian besar tenaga kerja di negara maju.
Di sinilah kita sampai pada pertanyaan tentang bagaimana kita akan menggunakan waktu kita. Kebanyakan orang masih mengandalkan diri dengan menjual waktu mereka untuk memiliki penghasilan yang cukup guna menghidupi diri dan keluarga mereka. Kita hanya dapat berharap bahwa kesempatan ini akan memungkinkan orang untuk menemukan makna dalam kegiatan non-buruh, seperti merawat keluarga mereka, terlibat dengan komunitas mereka, dan mempelajari cara baru untuk berkontribusi pada masyarakat manusia.
Jika kita berhasil dengan transisi ini, suatu hari kita mungkin melihat ke belakang dan menganggap bahwa bahwa adalah hal yang biadab jika manusia diharuskan menjual sebagian besar waktu mereka hanya untuk dapat hidup.
2. Ketimpangan. Bagaimana kita mendistribusikan kekayaan yang diciptakan oleh mesin?
Sistem ekonomi kita didasarkan pada kompensasi atas kontribusi terhadap ekonomi, yang sering kali dinilai menggunakan upah per jam. Mayoritas perusahaan masih bergantung pada jam kerja jika menyangkut pada produk dan layanan. Akan tetapi, dengan menggunakan kecerdasan buatan, sebuah perusahaan dapat secara drastis mengurangi ketergantungan pada tenaga kerja manusia, dan ini berarti bahwa pendapatan akan dinikmati oleh lebih sedikit orang. Akibatnya, individu yang memiliki kepemilikan di perusahaan yang digerakkan oleh kecerdasan buatanlah yang akan berhasil meraup keuntungan.
Kita sudah melihat kesenjangan kekayaan yang melebar saat para pendiri start-up membawa pulang sebagian besar surplus ekonomi yang mereka ciptakan. Pada tahun 2014, pendapatan yang kira-kira sama dihasilkan oleh tiga perusahaan terbesar di Detroit dan tiga perusahaan terbesar di Lembah Silikon … hanya saja, di Lembah Silikon jumlah karyawannya 10 kali lebih sedikit.
Jika kita benar-benar membayangkan masyarakat pascakerja, bagaimana kita menyusun ekonomi pascaburuh yang adil?
3. Kemanusiaan. Bagaimana mesin memengaruhi perilaku dan interaksi kita?
Bot dengan kecerdasan artifisial menjadi semakin lebih baik dari waktu ke waktu dalam menirukan percakapan dan relasi manusia. Pada 2015, bot bernama Eugene Goostman memenangkan Turing Challenge untuk pertama kalinya. Dalam tantangan ini, penilai manusia menggunakan input teks untuk mengobrol dengan entitas yang tidak dikenal, lalu menebak apakah mereka sedang mengobrol dengan manusia atau mesin. Eugene Goostman membodohi lebih dari separuh penilai manusia dengan berpikir bahwa mereka sedang berbicara dengan manusia.
Tonggak sejarah ini hanyalah awal dari zaman di mana kita akan sering berinteraksi dengan mesin seolah-olah mereka adalah manusia; baik dalam layanan pelanggan atau penjualan. Sementara manusia terbatas dalam memberikan perhatian dan kebaikan yang dapat mereka keluarkan kepada orang lain, bot buatan dapat menyalurkan sumber daya yang hampir tak terbatas untuk membangun hubungan.
Meski tidak banyak dari kita yang menyadarinya, kita sudah menjadi saksi bagaimana mesin dapat memicu pusat penghargaan di otak manusia. Lihat saja headline pada click-bait dan video game. Judul ini sering kali dioptimalkan dengan pengujian A/B, bentuk dasar pengoptimalan algoritmik untuk konten yang menarik perhatian kita. Metode ini dan yang lainnya digunakan untuk membuat banyak video dan game seluler menjadi adiktif. Kecanduan teknologi adalah batas baru dari ketergantungan manusia.
Pada sisi lain, mungkin kita bisa memikirkan penggunaan perangkat lunak yang berbeda, yang telah menjadi efektif dalam mengarahkan perhatian manusia dan memicu tindakan tertentu. Jika digunakan dengan benar, ini dapat berkembang menjadi peluang untuk mendorong masyarakat menuju perilaku yang lebih bermanfaat. Namun, di tangan yang salah, hal itu bisa merugikan.
4. Kebodohan artifisial/buatan. Bagaimana kita dapat waspada terhadap kesalahan?
Kecerdasan berasal dari pembelajaran, baik bagi manusia atau mesin. Sistem kecerdasan buatan ini biasanya memiliki fase pelatihan untuk “belajar” untuk mendeteksi pola yang benar dan bertindak sesuai dengan masukan mereka. Setelah sistem ini dilatih sepenuhnya, ia kemudian dapat masuk ke fase pengujian untuk diberi dengan lebih banyak contoh dan dinilai kinerjanya.
Jelas, fase pelatihan tidak dapat mencakup semua kemungkinan dari contoh yang mungkin dihadapi sistem di dunia nyata. Sistem ini bisa dikelabui dengan cara yang tidak dapat berlaku bagi manusia. Misalnya, pola titik acak dapat membuat mesin “melihat” hal-hal yang sebenarnya tidak ada. Jika kita mengandalkan AI untuk membawa kita pada dunia kerja, keamanan, dan efisiensi yang baru, kita perlu memastikan bahwa mesin bekerja sesuai rencana, dan orang tidak dapat menguasainya untuk menggunakannya demi tujuan mereka sendiri.
5. Robot rasis. Bagaimana kita menghilangkan bias AI?
Meskipun kecerdasan buatan memiliki kecepatan dan kapasitas pemrosesan yang jauh melampaui manusia, kecerdasan buatan tidak selalu dapat dipercaya untuk bersikap adil dan netral. Google dan perusahaan induknya Alphabet adalah salah satu yang terkemuka dalam hal kecerdasan buatan, seperti yang terlihat di layanan Foto Google, di mana AI digunakan untuk mengidentifikasi orang, objek, dan pemandangan. Namun, itu bisa salah, seperti saat kamera tidak menangkap tanda sensitivitas rasial, atau saat perangkat lunak yang digunakan untuk memprediksi penjahat pada masa depan menunjukkan bias terhadap orang kulit hitam.
Kita tidak boleh lupa bahwa sistem AI diciptakan oleh manusia, yang bisa saja bias dan menghakimi. Sekali lagi, jika digunakan dengan benar, atau jika digunakan oleh mereka yang memperjuangkan kemajuan sosial, kecerdasan buatan dapat menjadi katalisator bagi perubahan positif.
6. Keamanan. Bagaimana kita menjaga keamanan AI dari musuh?
Semakin kuat suatu teknologi, semakin pula dapat digunakan baik untuk alasan jahat maupun yang baik. Ini berlaku tidak hanya untuk robot yang diproduksi untuk menggantikan tentara manusia, atau senjata otonom, tetapi juga untuk sistem AI yang dapat menyebabkan kerusakan jika digunakan secara jahat. Karena pertempuran ini tidak hanya terjadi di medan pertempuran, keamanan siber akan menjadi hal yang semakin penting. Lagi pula, kita berurusan dengan sistem yang lebih cepat dan lebih mampu daripada diri kita.
7. Jin botol yang jahat. Bagaimana kita melindungi dari konsekuensi yang tidak diinginkan?
Bukan hanya musuh yang harus kita khawatirkan. Bagaimana jika kecerdasan buatan itu sendiri berbalik melawan kita? Ini bukan berarti dengan menjadi “jahat” seperti yang dilakukan manusia, atau seperti bencana AI yang digambarkan dalam film-film Hollywood. Sebaliknya, kita dapat membayangkan sistem AI yang canggih adalah seperti “jin dalam botol” yang dapat memenuhi keinginan, tetapi dengan konsekuensi tak terduga yang mengerikan.
Dalam kasus mesin, tidak mungkin ada sifat jahat yang dimilikinya, kecuali kurangnya pemahaman tentang konteks penuh mengenai keinginan yang dijalankannya. Bayangkan sebuah sistem AI yang diminta untuk memberantas kanker di dunia. Setelah banyak proses komputasi, ia mengeluarkan formula yang, pada kenyataannya, mengakhiri kanker – dengan membunuh semua orang di planet ini. Komputer akan mencapai tujuannya pada kondisi “tidak ada lagi kanker” dengan sangat efisien, tetapi tidak dengan cara yang diinginkan manusia.
8. Singularitas. Bagaimana kita tetap mengendalikan sistem cerdas yang kompleks?
Alasan mengapa manusia berada di puncak rantai makanan bukanlah karena gigi yang tajam atau otot yang kuat. Dominasi manusia hampir seluruhnya karena kecerdikan dan kecerdasan kita. Kita dapat mengatasi hewan yang lebih besar, lebih cepat, dan lebih kuat karena kita dapat membuat dan menggunakan alat untuk mengendalikannya: baik alat fisik seperti kandang dan senjata, maupun alat kognitif seperti pelatihan dan pengondisian.
Ini menimbulkan pertanyaan serius tentang kecerdasan buatan: apakah suatu hari nanti itu akan memiliki keunggulan yang sama atas kita? Kita juga tidak bisa serta-merta “mencabut stop kontak” mesin ini, karena mesin yang cukup canggih dapat mengantisipasi gerakan ini dan mempertahankan diri. Inilah yang oleh sebagian orang disebut “singularitas”: saat ketika manusia bukan lagi makhluk paling cerdas di bumi.
9. Hak robot. Bagaimana kita mendefinisikan perlakuan yang manusiawi terhadap AI?
Sementara para ahli saraf masih berupaya membuka rahasia dari pengalaman sadar, kita pun jadi semakin memahami mekanisme dasar penghargaan dan penolakan. Kita berbagi mekanisme ini bahkan dengan hewan yang memiliki tingkatan sederhana. Pada satu sisi, kita sedang membangun mekanisme penghargaan dan penolakan yang serupa dalam sistem kecerdasan buatan. Misalnya, pembelajaran penguatan mirip dengan melatih anjing: peningkatan kinerja diperkuat dengan hadiah virtual.
Saat ini, sistem ini masih cukup dangkal, tetapi menjadi semakin kompleks dan menyerupai kehidupan. Bisakah kita menganggap suatu sistem menderita ketika hadiahnya justru memberikan masukan negatif? Terlebih lagi, apa yang disebut sebagai algoritme genetika bekerja dengan membuat banyak contoh sistem sekaligus, di mana hanya yang paling berhasil “bertahan” dan bergabunglah yang akan membentuk contoh generasi berikutnya. Ini terjadi selama beberapa generasi dan merupakan cara untuk meningkatkan sistem. Instance yang gagal akan dihapus. Pada titik mana kita dapat menganggap algoritme genetika sebagai bentuk pembunuhan massal?
Begitu kita menganggap mesin sebagai entitas yang dapat melihat, merasakan, dan bertindak, bukanlah lompatan besar untuk merenungkan status hukumnya. Haruskah mereka diperlakukan seperti hewan dengan kecerdasan yang sebanding? Akankah kita mempertimbangkan penderitaan dari mesin “berperasaan”?
Beberapa pertanyaan etis adalah tentang mengurangi penderitaan, dan yang lain adalah tentang mempertaruhkan hasil negatif. Meskipun kita mempertimbangkan berbagai risiko ini, kita juga harus mengingat bahwa, secara keseluruhan, kemajuan teknologi ini berarti kehidupan yang lebih baik bagi semua orang. Kecerdasan buatan memiliki potensi yang sangat besar, dan penerapannya yang bertanggung jawab bergantung pada kita. (t/N. Risanti)
Diterjemahkan dari:
Nama situs : weforum.org
Alamat situs : https://www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artificial-intelligence
Judul asli artikel : Top 9 ethical issues in artificial intelligence
Penulis artikel : Julia Bossmann
