AI yang bias
Ketik “pemimpin terhebat sepanjang masa” di mesin pencari favorit Anda, maka Anda mungkin akan melihat daftar sejumlah pria terkemuka di dunia. Ada berapa banyak wanita yang Anda lihat?
Pencarian gambar untuk “siswi sekolah” kemungkinan besar akan menampilkan halaman yang diisi dengan wanita dan anak perempuan dalam segala jenis kostum yang sensual. Anehnya, jika Anda mengetik “siswa sekolah”, sebagian besar hasilnya akan menunjukkan anak laki-laki dengan seragam sekolah biasa. Hasil pencarian tersebut sama sekali tidak menampilkan atau menampilkan sangat sedikit pria dengan kostum sensual.
Ini adalah contoh bias gender dalam kecerdasan buatan, yang berasal dari representasi stereotip yang mengakar kuat dalam masyarakat kita.
Sistem AI memberikan hasil yang bias. Teknologi mesin pencari tidak netral karena memproses data besar dan memprioritaskan hasil dengan klik terbanyak, yang bergantung pada preferensi dan lokasi pengguna. Dengan demikian, mesin pencari dapat menjadi ruang gema yang mempertahankan bias dari dunia nyata dan selanjutnya memperkuat prasangka dan stereotip ini secara online.
Bagaimana kita dapat memastikan hasil yang lebih seimbang dan akurat? Dapatkah kita menyampaikan hasil penelusuran yang bias? Apa yang akan, atau yang seharusnya, menjadi representasi perempuan yang akurat dalam hasil penelusuran?
Bias gender harus dihindari atau setidaknya diminimalkan dalam pengembangan algoritma, dalam kumpulan data besar yang digunakan untuk pembelajaran mereka, dan dalam penggunaan AI untuk pengambilan keputusan.
Untuk tidak mereplikasi representasi stereotip wanita di ranah digital, UNESCO membahas bias gender dalam AI dalam Rekomendasi UNESCO tentang Etika Kecerdasan Buatan, implementasi penetapan standar global pertama tentang masalah ini.
AI dalam Pengadilan
Penggunaan AI dalam sistem peradilan di seluruh dunia semakin meningkat, menciptakan lebih banyak pertanyaan etis untuk dijelajahi. AI mungkin dapat mengevaluasi kasus dan menerapkan keadilan dengan cara yang lebih baik, lebih cepat, dan lebih efisien daripada seorang hakim.
Metode AI berpotensi memiliki dampak besar dalam berbagai bidang, mulai dari profesi hukum dan peradilan hingga membantu pengambilan keputusan badan publik legislatif dan administratif. Misalnya, mereka dapat meningkatkan efisiensi dan akurasi pengacara baik dalam konseling maupun proses pengadilan, yang menguntungkan bagi pengacara, klien mereka, dan masyarakat secara keseluruhan. Sistem perangkat lunak yang ada untuk hakim dapat dilengkapi dan ditingkatkan melalui alat AI untuk mendukung mereka dalam menyusun keputusan baru. Kecenderungan penggunaan sistem otonom yang terus meningkat ini digambarkan sebagai otomatisasi keadilan.
Beberapa berpendapat bahwa AI dapat membantu menciptakan sistem peradilan pidana yang lebih adil, di mana mesin dapat mengevaluasi dan mempertimbangkan faktor-faktor yang relevan lebih baik daripada manusia, dengan memanfaatkan kecepatan dan konsumsi datanya yang besar. Oleh karena itu, AI akan membuat keputusan berdasarkan informasi tanpa bias dan subjektivitas apa pun.
Tetapi ada banyak tantangan etis:
Kurangnya transparansi alat AI: Keputusan AI tidak selalu dapat dipahami oleh manusia.
AI tidak netral: Keputusan berbasis AI rentan terhadap ketidakakuratan, hasil yang diskriminatif, bias yang tertanam atau disisipkan.
Praktik pemantauan untuk pengumpulan data dan privasi pengguna pengadilan.
Kekhawatiran baru terhadap keadilan dan risiko terhadap Hak Asasi Manusia dan nilai-nilai fundamental lainnya.
Jadi, apakah Anda ingin diadili oleh robot di pengadilan? Maukah Anda, meskipun kita tidak yakin bagaimana robot itu menghasilkan kesimpulannya?
Inilah sebabnya mengapa UNESCO mengadopsi Rekomendasi UNESCO tentang Etika Kecerdasan Buatan, implementasi penetapan standar global pertama tentang masalah ini.
AI menciptakan seni
Penggunaan AI dalam budaya memunculkan refleksi etis yang menarik.
Pada tahun 2016, lukisan Rembrandt, “the Next Rembrandt”, dirancang dengan komputer dan dibuat dengan printer 3D, 351 tahun setelah kematian pelukis tersebut.
Untuk mencapai kemahiran teknologi dan artistik seperti itu, 346 lukisan Rembrandt dianalisis piksel demi piksel dan ditingkatkan dengan algoritma pembelajaran mendalam untuk membuat basis data yang unik. Setiap detail identitas artistik Rembrandt kemudian dapat ditangkap dan menjadi dasar bagi algoritma yang mampu menciptakan mahakarya yang belum pernah ada sebelumnya. Untuk menghidupkan lukisan, printer 3D menciptakan kembali tekstur sapuan kuas dan lapisan warna di kanvas untuk hasil menakjubkan yang dapat mengelabui pakar seni mana pun.
Namun, siapa yang bisa ditunjuk sebagai penciptanya? Perusahaan yang mengatur proyek, para insinyur, algoritma, atau … Rembrandt sendiri?
Pada tahun 2019, perusahaan teknologi Tiongkok Huawei mengumumkan bahwa algoritma AI telah mampu menyelesaikan dua gerakan terakhir Symphony No.8, komposisi yang belum selesai yang dimulai oleh Franz Schubert pada tahun 1822, 197 tahun sebelumnya. Lantas apa jadinya jika AI memiliki kapasitas untuk menciptakan karya seni itu sendiri? Jika pengarang manusia digantikan oleh mesin dan algoritma, sejauh mana hak cipta dapat dikaitkan? Bisakah dan haruskah suatu algoritma diakui sebagai pengarang, dan menikmati hak yang sama sebagai artis?
Karya seni yang dihasilkan oleh AI membutuhkan definisi baru tentang apa artinya menjadi “pencipta/pengarang”, agar sesuai dengan karya kreatif dari pencipta/pengarang “asli” dan algoritma serta teknologi yang menghasilkan karya seni itu sendiri.
Kreativitas, dipahami sebagai kapasitas untuk menghasilkan konten baru dan orisinal melalui imajinasi atau penemuan, memainkan peran sentral dalam masyarakat yang terbuka, inklusif, dan majemuk. Oleh karena itu, dampak AI pada kreativitas manusia patut mendapat perhatian yang cermat. Meskipun AI adalah alat yang ampuh untuk berkreasi, AI memunculkan pertanyaan penting tentang masa depan seni, hak dan remunerasi seniman, serta integritas rantai nilai kreatif.
Kita perlu mengembangkan kerangka kerja baru untuk membedakan pembajakan dan plagiarisme dari orisinalitas dan kreativitas, dan untuk mengakui nilai karya kreatif manusia dalam interaksi kita dengan AI. Kerangka kerja ini diperlukan untuk menghindari eksploitasi yang disengaja atas karya dan kreativitas manusia, dan untuk memastikan remunerasi dan pengakuan yang memadai bagi seniman, integritas rantai nilai budaya, dan kemampuan sektor budaya untuk menyediakan pekerjaan yang layak.
Inilah sebabnya mengapa UNESCO mengadopsi Rekomendasi UNESCO tentang Etika Kecerdasan Buatan, implementasi penetapan standar global pertama tentang masalah ini.
Mobil otonom
Mobil otonom adalah kendaraan yang mampu merasakan lingkungannya dan bergerak dengan sedikit atau tanpa keterlibatan manusia. Agar kendaraan dapat bergerak dengan aman dan memahami lingkungan mengemudinya, sejumlah besar data perlu ditangkap oleh berbagai sensor berbeda di seluruh mobil setiap saat. Ini kemudian diproses oleh sistem komputer penggerak otonom kendaraan.
Mobil otonom juga harus melakukan banyak pelatihan untuk memahami data yang dikumpulkannya dan untuk dapat membuat keputusan yang tepat dalam situasi lalu lintas yang bisa dibayangkan.
Keputusan moral dibuat oleh setiap orang setiap hari. Ketika seorang pengemudi memilih untuk menginjak rem untuk menghindari menabrak pejalan kaki, mereka membuat keputusan moral untuk mengalihkan risiko dari pejalan kaki ke orang-orang di dalam mobil.
Bayangkan sebuah mobil otonom dengan rem rusak melaju dengan kecepatan penuh ke arah seorang nenek dan seorang anak. Dengan menyimpang sedikit, seseorang dapat diselamatkan.
Kali ini, bukan pengemudi manusia yang akan mengambil keputusan, melainkan algoritma mobil.
Siapa yang akan Anda pilih, nenek atau anak? Apakah Anda pikir hanya ada satu jawaban yang benar?
Ini adalah dilema etika yang umum, yang menunjukkan pentingnya etika dalam perkembangan teknologi.
Inilah sebabnya mengapa UNESCO mengadopsi Rekomendasi UNESCO tentang Etika Kecerdasan Buatan, implementasi penetapan standar global pertama tentang masalah ini.
(t/Jing-jing)
Diterjemahkan dari:
Nama situs: Unesco
Alamat situs: https://www.unesco.org/en/artificial-intelligence/recommendation-ethics/cases
Judul asli artikel: Artificial Intelligence: examples of ethical dilemmas
Penulis artikel: Penulis tidak dicantumkan
