Bayangkan Anda adalah seorang manajer dana lindung nilai yang mencoba mendapatkan keuntungan. Untuk memaksimalkan keuntungan, Anda memutuskan untuk menginstal teknologi terbaru yang memungkinkan komputer menafsirkan perubahan angin pasar dan membuat ribuan pesanan dalam milidetik. Program ini membantu meningkatkan dana Anda untuk sementara waktu, namun kegembiraan awal berubah menjadi ketakutan saat Anda menyaksikan program tersebut menjadi nakal dan membeli ratusan juta saham dalam waktu kurang dari satu jam. Perusahaan Anda berusaha keras untuk menghentikan perdagangan, namun mereka tidak bisa, dan tiba-tiba Anda menghadapi kerugian besar, semua karena algoritma yang tidak terpasang dengan baik.
Kedengarannya distopia, bukan? Namun skenario bencana ini bukanlah hipotetis yang meresahkan tentang meningkatnya ancaman kecerdasan buatan; hal ini sebenarnya terjadi lebih dari satu dekade yang lalu ketika kesalahan pengkodean menyebabkan kerugian sebesar $440 juta bagi Knight Capital, yang akhirnya menyebabkan perusahaan tersebut menjual dirinya sendiri dengan diskon besar-besaran.
“Kecerdasan buatan” bukanlah “masa depan” — ini hanyalah istilah pemasaran untuk versi otomatisasi yang sedikit diperbarui yang telah mengatur kehidupan kita selama bertahun-tahun. Perusahaan telah menggunakan serangkaian nama untuk menyempurnakan teknologi mereka – otomatisasi, algoritme, pembelajaran mesin, dan kini AI – namun pada akhirnya, semua sistem ini bermuara pada gagasan yang sama: menyerahkan pengambilan keputusan kepada komputer untuk menjalankan tugas dengan cepat. jauh lebih cepat daripada yang bisa dilakukan manusia. Meskipun ada ketakutan yang semakin besar bahwa generasi baru AI akan menginfeksi kehidupan kita sehari-hari, membuat jutaan orang kehilangan pekerjaan, dan secara umum merugikan masyarakat, kebanyakan orang tidak menyadari betapa dalamnya pengambilan keputusan yang terkomputerisasi telah mempengaruhi setiap aspek kehidupan. keberadaan kita. Sistem ini didasarkan pada kumpulan data dan aturan yang diajarkan manusia kepada mereka, namun entah itu menghasilkan uang di pasar atau memberi kita berita, semakin banyak hidup kita berada di tangan sistem digital yang tidak dapat dipertanggungjawabkan.
Dalam banyak kasus, algoritma ini terbukti bermanfaat bagi masyarakat. Mereka telah membantu menghilangkan tugas-tugas biasa atau menyamakan kedudukan. Namun algoritma yang mendasari kehidupan digital kita kini semakin banyak membuat keputusan-keputusan meragukan yang memperkaya kekuasaan dan menghancurkan kehidupan orang-orang pada umumnya. Tidak ada alasan untuk takut terhadap AI yang akan mengambil keputusan untuk Anda di masa depan — komputer telah melakukan hal tersebut selama beberapa waktu.
Internet awal adalah pengalaman yang relatif dikurasi oleh manusia — kumpulan halaman web berbeda yang hanya dapat ditemukan jika Anda mengetahui alamat situs tersebut atau melihat tautan ke situs tersebut di situs lain. Hal ini berubah pada bulan Juni 1993, ketika peneliti Matthew Gray menciptakan salah satu “robot web” pertama, sebuah algoritma primitif yang dirancang untuk “mengukur ukuran web”. Penemuan Gray membantu menciptakan mesin pencari dan mengilhami banyak penerusnya — Jump Station, Excite, Yahoo, dan seterusnya. Pada tahun 1998, mahasiswa Stanford Sergey Brin dan Larry Page membuat lompatan berikutnya dalam mengotomatisasi internet ketika mereka menerbitkan makalah akademis tentang “mesin pencari web hiperteks berskala besar” yang disebut Google. Makalah ini merinci bagaimana algoritme mereka “PageRank” menilai pentingnya hasil web berdasarkan kueri pengguna, menyajikan situs yang paling relevan berdasarkan berapa banyak situs web lain yang tertaut ke sana — yang sangat masuk akal dalam skala yang jauh lebih kecil dan lebih besar. internet yang tidak bersalah.
Namun, dalam perjalanannya, industri teknologi beralih dari mengotomatisasi pekerjaan yang memperlambat hidup kita menjadi mendistorsi masyarakat dengan menyerahkan keputusan-keputusan penting kepada komputer.
Hampir tiga dekade setelah berdirinya Google, internet menjadi lebih otomatis. Hal ini memberikan banyak manfaat bagi kebanyakan orang — rekomendasi di Spotify dan Netflix membantu kita menemukan karya seni baru, robo-investor dapat membantu mengembangkan sarang telur dengan biaya rendah, dan aplikasi industri seperti robotika yang digunakan untuk memproduksi banyak kendaraan modern telah berhasil. perekonomian kita menjadi lebih efisien. Namun, dalam perjalanannya, industri teknologi beralih dari mengotomatisasi pekerjaan yang memperlambat hidup kita menjadi mendistorsi masyarakat dengan menyerahkan keputusan-keputusan penting kepada komputer.
Dalam banyak hal, makalah asli Google terasa seperti peringatan kelam. Mereka berpendapat bahwa mesin pencari yang didanai iklan akan “secara inheren bias” terhadap pengiklan tersebut. Maka tidak mengherankan jika para peneliti menemukan bahwa dengan memprioritaskan dana iklan dibandingkan hasil yang bermanfaat, algoritme Google menjadi semakin buruk, menurunkan sumber informasi penting bagi lebih dari 5 miliar orang. Dan ini bukan hanya mesin pencari. Algoritme yang berfokus pada pendapatan di balik jaringan seperti Facebook, Instagram, TikTok, dan Twitter telah mempelajari cara memberikan aliran konten yang menjengkelkan atau membuat marah kepada pengguna untuk meningkatkan keterlibatan pengguna. Ketika kendali manusia berkurang, konsekuensi nyata dari algoritma ini semakin bertambah: algoritma Instagram telah dikaitkan dengan krisis kesehatan mental pada remaja putri. Twitter mengakui bahwa teknologinya cenderung memperkuat tweet dari politisi sayap kanan, influencer, dan sumber berita, dan hal ini semakin memburuk sejak Elon Musk membeli situs tersebut. Cambridge Analytica menggunakan algoritma untuk menjaring data Facebook untuk menargetkan jutaan orang menjelang pemungutan suara Inggris untuk meninggalkan Uni Eropa dan pemilihan presiden AS pada tahun 2016.
Algoritma yang seharusnya membuat pekerjaan lebih mudah atau karyawan lebih produktif telah membantu menjadikan perekonomian tidak menguntungkan pekerja kerah biru dan orang kulit berwarna. Perusahaan seperti Amazon membuat keputusan perekrutan dan pemecatan berdasarkan perhitungan kalkulator yang diagungkan. Pelanggan juga mendapatkan dampak buruk dari AI: Investigasi yang dilakukan oleh Associated Press dan The Markup pada tahun 2019 menemukan bahwa algoritme yang digunakan dalam membuat keputusan pinjaman sangat bias terhadap orang kulit berwarna, dan pemberi pinjaman 80% lebih mungkin menolak orang kulit hitam. pelamar dibandingkan pelamar kulit putih serupa.
Dan masalah-masalah ini berlanjut ke sektor publik, sehingga meracuni layanan pemerintah dengan bias algoritmik. Pemerintah Inggris menghadapi skandal nasional pada tahun 2020 ketika penyelenggara mengganti hampir 40% ujian A-level siswa — sebuah ujian penting yang dapat menentukan kemampuan siswa untuk masuk universitas — dengan nilai yang dipilih secara algoritmik. Hasil ini secara signifikan menggarisbawahi siswa-siswa yang berasal dari sekolah-sekolah negeri yang bebas biaya sekolah, dan malah lebih memilih siswa-siswa yang bersekolah di sekolah-sekolah swasta di daerah-daerah makmur dan membuat kehidupan banyak anak muda menjadi kacau balau. Algoritme “belajar mandiri” yang digunakan oleh otoritas pajak Belanda memberikan sanksi palsu terhadap puluhan ribu orang karena diduga menipu sistem pengasuhan anak di negara tersebut, mendorong orang ke dalam kemiskinan dan menyebabkan ribuan anak ditempatkan di panti asuhan. Di AS, ProPublica menemukan dalam investigasi tahun 2016 bahwa algoritme yang digunakan di berbagai sistem pengadilan negara bagian untuk menilai seberapa besar kemungkinan seseorang melakukan kejahatan di masa depan bersifat bias terhadap warga kulit hitam Amerika, sehingga mengakibatkan hukuman yang lebih berat dari hakim.
Di sektor publik dan swasta, kami telah memberikan kunci pada jaring laba-laba algoritma yang dibangun dengan sedikit wawasan publik tentang cara mereka mengambil keputusan. Ada beberapa penolakan terhadap infiltrasi ini — FTC berupaya mengatur cara bisnis menggunakan algoritme, namun mereka belum melakukannya secara berarti. Dan secara lebih luas, tampaknya pemerintah sudah pasrah membiarkan mesin mengatur kehidupan kita.
Sumber: businessinsider.com
Email: info@konsultanpendidikan.com