Kecerdasan Buatan Membedakan Ras Dan Jenis Kelamin – Kami telah menerima penggunaan kecerdasan buatan (AI) dalam proses yang kompleks mulai dari perawatan kesehatan hingga penggunaan media sosial kami sehari-hari seringkali tanpa penyelidikan kritis, hingga terlambat.
Penggunaan AI tidak dapat dihindari dalam masyarakat modern kita, dan hal itu dapat melanggengkan diskriminasi tanpa para penggunanya menyadari prasangka apa pun. Ketika penyedia layanan kesehatan mengandalkan teknologi yang bias, ada dampak nyata dan berbahaya. https://www.premium303.pro/
Ini menjadi jelas baru-baru ini ketika sebuah penelitian menunjukkan bahwa oksimeter nadi yang mengukur jumlah oksigen dalam darah dan telah menjadi alat penting untuk manajemen klinis COVID-19 kurang akurat pada orang dengan kulit lebih gelap daripada kulit lebih terang. Temuan tersebut menghasilkan tinjauan bias rasial yang sekarang sedang berlangsung, dalam upaya untuk menciptakan standar internasional untuk pengujian perangkat medis.
Ada contoh dalam perawatan kesehatan, bisnis, pemerintahan, dan kehidupan sehari-hari di mana algoritme yang bias menyebabkan masalah, seperti penelusuran seksis dan prediksi rasis tentang kemungkinan pelaku melakukan pelanggaran kembali.
AI sering dianggap lebih objektif daripada manusia. Namun, pada kenyataannya, algoritme AI membuat keputusan berdasarkan data beranotasi manusia, yang dapat menjadi bias dan eksklusif. Penelitian saat ini tentang bias dalam AI berfokus terutama pada gender dan ras. Tapi bagaimana dengan bias terkait usia dapatkah AI menjadi ageist?
Teknologi Ageist?
Pada tahun 2021, Organisasi Kesehatan Dunia merilis laporan global tentang penuaan, yang menyerukan tindakan segera untuk memerangi ageisme karena dampaknya yang meluas pada kesehatan dan kesejahteraan.
Ageisme didefinisikan sebagai “suatu proses stereotip sistematis dan diskriminasi terhadap orang-orang karena mereka sudah tua”. Itu bisa eksplisit atau implisit, dan bisa berupa sikap negatif, kegiatan diskriminatif, atau praktik kelembagaan.
Meluasnya ageisme telah dibawa ke garis depan selama pandemi COVID-19. Orang dewasa yang lebih tua telah diberi label sebagai ” beban bagi masyarakat “, dan di beberapa yurisdiksi, usia telah digunakan sebagai satu-satunya kriteria untuk perawatan yang menyelamatkan jiwa.
Ageisme digital muncul ketika bias dan diskriminasi berbasis usia diciptakan atau didukung oleh teknologi. Sebuah laporan baru-baru ini menunjukkan bahwa “dunia digital” dengan lebih dari 2,5 triliun byte data dihasilkan setiap hari. Namun meskipun orang dewasa yang lebih tua menggunakan teknologi dalam jumlah yang lebih besar dan mendapat manfaat dari penggunaan itu mereka terus menjadi kelompok usia yang paling tidak mungkin memiliki akses ke komputer dan internet.
Ageisme digital dapat muncul ketika sikap ageist mempengaruhi desain teknologi, atau ketika ageism mempersulit orang dewasa yang lebih tua untuk mengakses dan menikmati manfaat penuh dari teknologi digital.
Siklus ketidakadilan
Ada beberapa siklus ketidakadilan yang saling terkait di mana bias teknologi, individu, dan sosial berinteraksi untuk menghasilkan, memperkuat, dan berkontribusi pada era digital.
Hambatan akses teknologi dapat mengecualikan orang dewasa yang lebih tua dari proses penelitian, desain dan pengembangan teknologi digital. Ketidakhadiran mereka dalam desain dan pengembangan teknologi juga dapat dirasionalisasikan dengan keyakinan bahwa orang dewasa yang lebih tua tidak mampu menggunakan teknologi.
Dengan demikian, orang dewasa yang lebih tua dan perspektif mereka jarang terlibat dalam pengembangan AI dan kebijakan terkait, pendanaan, dan layanan dukungan.
Pengalaman dan kebutuhan unik orang dewasa yang lebih tua diabaikan, meskipun usia menjadi prediktor penggunaan teknologi yang lebih kuat daripada karakteristik demografis lainnya termasuk ras dan jenis kelamin.
AI dilatih oleh data, dan tidak adanya orang dewasa yang lebih tua dapat mereproduksi atau bahkan memperkuat asumsi usia di atas dalam outputnya. Banyak teknologi AI berfokus pada citra stereotip orang dewasa yang lebih tua dengan kesehatan yang buruk segmen sempit populasi yang mengabaikan penuaan yang sehat.
Hal ini menciptakan lingkaran umpan balik negatif yang tidak hanya membuat orang dewasa yang lebih tua enggan menggunakan AI, tetapi juga mengakibatkan hilangnya data lebih lanjut dari demografi ini yang akan meningkatkan akurasi AI.
Bahkan ketika orang dewasa yang lebih tua dimasukkan dalam kumpulan data yang besar, mereka sering dikelompokkan menurut pembagian sewenang-wenang oleh pengembang.
Misalnya, orang dewasa yang lebih tua dapat didefinisikan sebagai semua orang yang berusia 50 tahun ke atas, meskipun kelompok usia yang lebih muda dibagi menjadi rentang usia yang lebih sempit. Akibatnya, orang dewasa yang lebih tua dan kebutuhan mereka dapat menjadi tidak terlihat oleh sistem AI.
Dengan cara ini, sistem AI memperkuat ketidaksetaraan dan memperbesar eksklusi sosial untuk sebagian populasi, menciptakan ” kelas bawah digital ” yang terutama terdiri dari kelompok yang lebih tua, miskin, rasial, dan terpinggirkan.
Mengatasi era digital
Kita harus memahami risiko dan bahaya yang terkait dengan bias terkait usia karena semakin banyak orang dewasa yang lebih tua beralih ke teknologi.
Langkah pertama adalah bagi para peneliti dan pengembang untuk mengakui keberadaan era digital di samping bentuk bias algoritmik lainnya, seperti rasisme dan seksisme. Mereka perlu mengarahkan upaya untuk mengidentifikasi dan mengukurnya. Langkah selanjutnya adalah mengembangkan perlindungan untuk sistem AI untuk mengurangi dampak penuaan.
Saat ini sangat sedikit pelatihan, audit, atau pengawasan kegiatan yang didorong oleh AI dari perspektif peraturan atau hukum. Misalnya, rezim regulasi AI Kanada saat ini sangat kurang.
Ini menghadirkan tantangan, tetapi juga peluang untuk memasukkan ageisme di samping bentuk bias dan diskriminasi lain yang perlu dihilangkan. Untuk memerangi era digital, orang dewasa yang lebih tua harus dilibatkan secara bermakna dan kolaboratif dalam merancang teknologi baru.
Dengan bias dalam AI yang sekarang diakui sebagai masalah kritis yang membutuhkan tindakan segera, inilah saatnya untuk mempertimbangkan pengalaman era digital untuk orang dewasa yang lebih tua, dan memahami bagaimana menjadi tua di dunia yang semakin digital dapat memperkuat ketidaksetaraan sosial, pengucilan, dan marginalisasi.