Dari penemuan roda hingga munculnya mesin cetak hingga pembelahan atom, sejarah penuh dengan kisah-kisah peringatan tentang teknologi baru yang muncul sebelum umat manusia siap menghadapinya.
Bagi Zak Kohane, ketua Departemen Informatika Biomedis di Institut Blavatnik di Harvard Medical School, kedatangan alat kecerdasan buatan generatif seperti ChatGPT pada musim gugur 2022 adalah salah satu momennya.
“Setelah melewati tahap-tahap kesedihan, dari penolakan hingga penerimaan, saya menyadari bahwa kita berada di ambang perubahan besar,” kata Kohane. “Sangat mendesak untuk melakukan diskusi publik.”
Di kalangan akademis, Kohane telah lama dikenal sebagai penginjil AI. Dia telah mempelajari AI dan menulis tentang janji besarnya untuk mengubah pengobatan menjadi lebih baik dengan melakukan segalanya mulai dari mendeteksi sindrom penyakit baru, meminimalkan kerja hafalan, mengurangi kesalahan medis, mengurangi kelelahan dokter, dan memberdayakan pengambilan keputusan klinis, yang semuanya akan menyatu dengan meningkatkan kesehatan pasien.
Lantas mengapa kabar kedatangan ChatGPT begitu meresahkan?
“Ini adalah teknologi yang luar biasa, namun untuk saat ini kami tidak dapat menjamin bahwa saran yang diberikan dapat dipercaya setiap saat,” kata Kohane. “Meskipun menjanjikan, ChatGPT dan alat serupa masih belum matang dan terus berkembang sehingga kita perlu mencari cara untuk memercayai kemampuan mereka dan memverifikasi hasilnya.”
Bagi Kohane dan rekan-rekannya yang berpikiran sama, ada satu pertanyaan yang lebih besar dari pertanyaan lainnya: Bagaimana mencegah bahaya tanpa menghilangkan potensi besar dari teknologi yang menjanjikan?
Dengan mengingat pertanyaan mendesak tersebut, Kohane mengumpulkan rekan-rekannya dari seluruh dunia, lintas disiplin ilmu, dan industri untuk memikirkan pertanyaan-pertanyaan penting tentang AI dalam layanan kesehatan. Tujuannya: Untuk mengembangkan kerangka etika yang akan memberi informasi dan memandu para pembuat kebijakan dan regulator.
“Kami memiliki kewajiban masyarakat untuk mengembangkan jalur yang dapat membimbing kami dalam situasi yang sangat membingungkan ini,” kata Kohane kepada para peserta.
Selama dua hari terakhir bulan Oktober, para ahli di bidang kebijakan, advokasi pasien, ekonomi perawatan kesehatan, AI, bioetika, dan kedokteran merenungkan dan memperdebatkan beberapa pertanyaan terkait penggunaan kecerdasan buatan dalam pengobatan yang aman dan etis.
Pertimbangan tersebut mencapai puncaknya pada serangkaian prinsip panduan luas yang diterbitkan secara bersamaan pada tanggal 22 Februari di Nature Medicine dan The New England Journal of Medicine AI, di mana Kohane menjadi pemimpin redaksi. Prinsip-prinsip ini, kata para peserta, harus membantu menginformasikan diskusi publik dan peraturan AI dalam bidang kedokteran.
Konsensus menyeluruh sepakat pada tema berbuat baik sambil meminimalkan dampak buruk. Mengadopsi AI medis akan menimbulkan tantangan, para peserta sepakat, namun kegagalan untuk melakukan hal ini dapat menimbulkan risiko yang lebih besar, terutama jika AI memberikan manfaat terbesar, seperti dalam menyelesaikan tugas-tugas administratif, mengurangi stres dokter, meningkatkan akses terhadap layanan, dan mengurangi kesalahan medis.
Bagaimana seharusnya regulator menyeimbangkan kepentingan pasien, dokter, dan institusi yang tumpang tindih dan terkadang berbeda dalam perancangan dan penerapan model AI medis?
Karena potensi ketidakselarasan insentif dan kepentingan, peraturan harus mengakui heterogenitas kepentingan dan konteks dan memaksimalkan kesetaraan akses.
Para panelis sepakat bahwa model AI medis harus dirancang dan diterapkan berdasarkan keharusan moral untuk tidak hanya menghindari bahaya tetapi juga berbuat baik dan mencapai manfaat maksimal bagi sebanyak mungkin pasien.
“Pasien harus dipandang sebagai pemangku kepentingan utama dan penerima manfaat utama dari AI medis,” kata Tania Simoncelli, wakil presiden, Science in Society di Chan Zuckerberg Initiative.
Dan pasien harus terlibat secara aktif, kata panelis.
“Pasien harus menjadi peserta aktif dalam proses perancangan, penerapan, dan penggunaan AI, bukan hanya penerima manfaat pasif dari hal-hal yang dilakukan orang pintar untuk mereka,” kata pembela pasien dan aktivis Dave deBronkart, yang dikenal sebagai e-Patient Dave.
Sumber: harvard.edu
Email: info@konsultanpendidikan.com
