“Perusahaan pencarian sedang menyempurnakan teknologi chatbot melalui ujian lisensi medis.“
Google sedang menguji program kecerdasan buatan yang terlatih untuk menjawab pertanyaan medis dengan ahli, bersaing dengan pesaing termasuk Microsoft untuk menerjemahkan kemajuan AI terbaru menjadi produk yang akan digunakan secara luas oleh klinisi. Rilis ChatGPT pada bulan November, program komputer yang dapat dengan lancar merespons berbagai pertanyaan di berbagai subjek, telah memicu eksperimen awal di sistem kesehatan di seluruh AS untuk menggunakan teknologi dasarnya dalam perawatan pasien. Google bertaruh bahwa teknologi chatbot medisnya, yang disebut Med-PaLM 2, akan lebih baik dalam menjalin percakapan tentang masalah kesehatan daripada algoritma tujuan umum karena telah diberi pertanyaan dan jawaban dari ujian lisensi medis. Perusahaan mulai menguji sistem dengan pelanggan termasuk rumah sakit penelitian Mayo Clinic pada bulan April. Med-PaLM 2 dapat digunakan untuk menghasilkan respons terhadap pertanyaan medis dan melakukan tugas seperti merangkum dokumen atau mengorganisir data kesehatan, menurut eksekutif Google dan penelitian yang diterbitkan oleh perusahaan. Industri perawatan kesehatan telah menjadi medan baru dalam pertempuran antara perusahaan teknologi besar dan startup kecil untuk memenangkan pelanggan dengan penawaran AI, meskipun upaya masa lalu seperti inisiatif Watson Health IBM kadang-kadang kesulitan menerjemahkan teknologi menjadi keuntungan yang langgeng.
Para pemimpin medis dan ahli etika mengatakan bahwa meskipun AI generatif dapat menjadi revolusioner untuk kedokteran, pasien harus diberitahu tentang setiap cara baru yang digunakan untuk data kesehatan mereka, dan alat baru harus dievaluasi saat diluncurkan. Google, sebuah unit dari Alphabet ; telah menarik perhatian sebelumnya karena bagaimana ia menangani data kesehatan yang sensitif melalui kemitraannya dengan rumah sakit.
Algoritma AI sudah digunakan di rumah sakit untuk tugas-tugas khusus, seperti memprediksi masalah jantung dari elektrokardiogram pasien. Alat AI generatif menimbulkan risiko baru karena dapat digunakan untuk menghasilkan respons yang terdengar otoritatif terhadap pertanyaan medis, yang berpotensi memengaruhi pasien dengan cara yang tidak didukung oleh dokter.
Eksekutif Google mengatakan bahwa pelanggan yang menguji Med-PaLM 2 akan tetap mengontrol data mereka dalam pengaturan terenkripsi yang tidak dapat diakses oleh perusahaan teknologi, dan program tersebut tidak akan mengambil data apa pun.
Seorang juru bicara Google menolak mengatakan kapan program tersebut akan tersedia secara luas untuk pelanggan atau masyarakat umum.
Pes konkuren Google telah cepat menggabungkan kemajuan AI ke dalam interaksi pasien. Microsoft, investor terbesar di OpenAI dan mitra bisnis terdekatnya, pada bulan April bergabung dengan perusahaan perangkat lunak kesehatan Epic untuk membangun alat yang dapat secara otomatis menyusun pesan untuk pasien menggunakan algoritma di balik ChatGPT.
Penawaran tersebut dapat meningkatkan bisnis komputasi awan perusahaan, area fokus bagi raksasa teknologi saat mereka mempromosikan potensi program AI. Google membuka kantor pada tahun 2021 di Rochester, Minn.—dekat markas Mayo Clinic—untuk bekerja pada proyek menggunakan data rumah sakit. Rumah sakit tersebut mengatakan pada bulan Juni bahwa ia akan menggunakan model AI Google untuk membangun alat pencarian internal baru untuk mencari catatan pasien.
Baik Google maupun Microsoft juga telah menunjukkan minat dalam ambisi yang lebih besar: membangun asisten virtual yang menjawab pertanyaan medis dari pasien di seluruh dunia, terutama di daerah dengan sumber daya terbatas, menurut dokumen perusahaan.
Google memberi tahu karyawan pada bulan April bahwa model AI yang dipercayai sebagai asisten medis dapat “menjadi nilai luar biasa di negara-negara yang memiliki akses terbatas ke dokter,” menurut email internal yang ditinjau oleh The Wall Street Journal yang mengutip seorang peneliti yang bekerja pada proyek tersebut.
Microsoft dan OpenAI mengatakan dalam sebuah makalah yang dirilis pada Maret bahwa algoritma seperti program GPT-4 di balik ChatGPT “dapat dimanfaatkan untuk menyediakan informasi, komunikasi, skrining, dan dukungan keputusan di daerah yang kurang dilayani.”
Greg Corrado, direktur riset senior di Google yang bekerja pada Med-PaLM 2, mengatakan bahwa perusahaan masih dalam tahap awal pengembangan produk menggunakan teknologi tersebut dan bekerja dengan pelanggan untuk memahami kebutuhan mereka.
Peneliti Google Health, Dr. Alan Karthikesalingam, membicarakan tentang Med-PaLM 2 awal tahun ini. Foto: YouTube/Google.
“Menurut Corrado, saya tidak merasa bahwa teknologi semacam ini sudah cukup baik untuk digunakan dalam perjalanan kesehatan keluarga saya,” namun, Med-PaLM 2 “mengambil tempat dalam perawatan kesehatan di mana AI dapat bermanfaat dan memperluasnya sepuluh kali lipat,” katanya.
Google sering kali menahan program AI paling canggihnya dari masyarakat umum karena kekhawatiran tentang keselamatan dan dampak potensialnya pada bisnis online inti pencarian. Kewaspadaan ini memberikan kesempatan bagi Microsoft dan OpenAI, yang lebih cepat merilis chatbot ChatGPT yang populer ke publik dan memberikan akses pelanggan ke sistem AI yang mendasar.
Rumah sakit mulai menguji algoritma GPT OpenAI melalui layanan cloud Microsoft, dalam tugas seperti merangkum catatan dokter atau menghasilkan pengingat. Microsoft menjadi tuan rumah dan mengendalikan sistem AI dalam kasus-kasus ini, kata seorang juru bicara. Med-PaLM 2 dari Google dan GPT-4 dari OpenAI masing-masing mencetak skor yang sama dalam pertanyaan ujian medis, menurut penelitian independen yang dirilis oleh perusahaan-perusahaan tersebut.”
Dokter dan eksekutif kesehatan mengatakan program seperti Med-PaLM 2 masih memerlukan pengembangan dan pengujian lebih lanjut sebelum digunakan untuk mendiagnosis pasien dan menyarankan pengobatan. Pada bulan Mei, Organisasi Kesehatan Dunia mengatakan khawatir “kehati-hatian yang biasanya dilakukan untuk teknologi baru tidak dilakukan secara konsisten dengan LLM,” merujuk pada model bahasa besar yang menggerakkan chatbot. Dokter yang meninjau jawaban yang diberikan oleh Med-PaLM 2 untuk lebih dari 1.000 pertanyaan medis konsumen lebih memilih respons sistem daripada yang dihasilkan oleh dokter dalam delapan dari sembilan kategori evaluasi yang didefinisikan oleh Google, menurut penelitian yang dipublikasikan perusahaan pada bulan Mei.
Namun, para dokter menemukan bahwa Med-PaLM 2 termasuk lebih banyak konten yang tidak akurat atau tidak relevan dalam responsnya dibandingkan dengan rekan-rekan mereka, yang menunjukkan bahwa program ini memiliki masalah serupa dengan chatbot lain yang cenderung dengan percaya diri menghasilkan pernyataan yang tidak terkait atau salah.
Para peneliti Google mengatakan tidak ada peningkatan yang signifikan dalam kemampuan program untuk menghindari informasi yang tidak akurat atau tidak relevan dari versi pertama yang diumumkan pada bulan Desember.
“Kami tidak memiliki cara untuk mengevaluasi hal-hal ini secara besar-besaran,” kata Dev Dash, seorang profesor asisten klinis di Sekolah Kedokteran Universitas Stanford yang telah meneliti aplikasi AI dalam kedokteran. “Ini sangatlah dalam tahap pengembangan.”
Kellie Owens, seorang etis medis di Sekolah Kedokteran NYU Grossman, mengatakan bahwa pasien harus diberi edukasi tentang cara baru penggunaan data kesehatan mereka oleh alat AI.
“Ini perlu menjadi percakapan manusia-ke-manusia,” idealnya antara pasien dan dokter, atau staf medis, bukan pengungkapan yang tersembunyi dalam formulir persetujuan, kata Owens.
Baik Google maupun Microsoft mengatakan mereka tidak menggunakan data pasien untuk melatih algoritma mereka. Corrado mengatakan Google mungkin memungkinkan perusahaan-perusahaan kesehatan untuk membuat versi khusus dari Med-PaLM 2 menggunakan catatan pasien dan data lainnya, tetapi hal itu belum memungkinkan saat ini.
Leave a Reply