AI mungkin akan mengambil pekerjaan Anda dalam waktu dekat – dan pada akhirnya mungkin akan merenggut nyawa manusia, menurut laporan baru yang ditugaskan oleh Departemen Luar Negeri AS.
Departemen Luar Negeri menugaskan startup AI Gladstone untuk melakukan penilaian risiko AI pada Oktober 2022, sekitar sebulan sebelum ChatGPT diluncurkan.
Tujuan dari laporan ini adalah untuk mengkaji risiko persenjataan AI dan hilangnya kendali. Rencana tindakan terkait dimaksudkan untuk meningkatkan keselamatan dan keamanan AI tingkat lanjut, menurut ringkasan eksekutif laporan tersebut.
Laporan setebal 284 halaman tersebut diterbitkan pada hari Senin dan merinci beberapa “risiko bencana” yang terkait dengan kecerdasan umum buatan, suatu tingkat AI yang belum dapat dicapai yang didefinisikan oleh Gladstone sebagai sistem yang dapat “mengungguli manusia dalam berbagai bidang. berbagai domain ekonomi dan strategis.”
Beberapa risiko dapat “menyebabkan kepunahan manusia,” kata laporan itu. Versi online mencakup ringkasan temuan yang lebih singkat.
“Perkembangan AGI, dan kemampuan AI yang mendekati AGI, akan menimbulkan risiko bencana yang belum pernah dihadapi Amerika Serikat,” kata laporan itu.
Gladstone mengatakan pihaknya menggabungkan survei dengan 200 pemangku kepentingan di industri dan pekerja dari pengembang AI terkemuka, seperti OpenAI, Google DeepMind, Anthropic, dan Meta. Laporan ini juga melakukan analisis historis terhadap perkembangan teknologi yang sebanding, seperti perlombaan senjata hingga senjata nuklir.
Laporan tersebut menyimpulkan bahwa AI mempunyai risiko tinggi untuk dijadikan senjata, yang dapat berupa perang biologis, serangan siber massal, kampanye disinformasi, atau robot otonom. CEO Gladstone Jeremie Harris mengatakan kepada BI bahwa dia secara pribadi menganggap serangan dunia maya sebagai risiko tertinggi, sementara CTO Edouard Harris mengatakan campur tangan pemilu adalah kekhawatiran terbesarnya.
Laporan tersebut juga mengindikasikan tingginya risiko kehilangan kendali. Jika hal ini terjadi, hal ini dapat menyebabkan “peristiwa yang menimbulkan korban massal” atau “destabilisasi global,” kata laporan itu.
“Secara publik dan swasta, para peneliti di laboratorium AI terdepan telah menyuarakan kekhawatiran bahwa sistem AI yang dikembangkan dalam 12 hingga 36 bulan ke depan mungkin mampu mengeksekusi serangan malware yang dahsyat, membantu dalam perancangan senjata biologis, dan mengarahkan sekumpulan agen otonom mirip manusia yang diarahkan pada tujuan. , ” kata laporan itu.
Robert Ghrist, dekan pendidikan sarjana di Penn Engineering, setuju bahwa AI dapat berkembang sesuai dengan kecepatan yang disarankan oleh laporan tersebut. Namun dia tidak merasa terlalu khawatir dengan kemungkinan terburuk yang mungkin terjadi.
Sebagai penggila video game, Ghrist mengenang saat pemerintah panik terhadap PlayStation 2. Saat itu masyarakat menganggapnya sebagai superkomputer dan ingin menerapkan kontrol ekspor. Kalau dipikir-pikir, katanya, ini terdengar seperti reaksi berlebihan yang ekstrem.
“Ada kekhawatiran yang sah terkait dengan penerapan kekuasaan baru,” kata Ghrist. “Dan kita harus memikirkan semua hal yang mungkin salah. Kita juga perlu menghabiskan jumlah waktu dan energi yang sama untuk memikirkan semua hal yang mungkin berjalan baik.”
Sumber: businessinsider.com
Email: info@konsultanpendidikan.com
Published by