AI Klinis Punya Masalah Pembuktian, dan Masalah Itu Adalah Ekonomi

Sebuah kekeliruan yang terus berulang dalam AI klinis adalah menganggap persetujuan regulasi dan akurasi diagnostik yang tinggi sebagai garis akhir. Tim pengembang merayakannya ketika model mereka setara dengan spesialis manusia dan mengamankan izin dari FDA atau CE mark. Namun, model-model ini secara rutin mandek sebelum diterapkan. Hambatannya bukan pada validitas klinis, melainkan pada pembuktian ekonomi kesehatannya. Akurasi dan izin tidak serta-merta menghasilkan adopsi karena sistem rumah sakit tidak membeli performa algoritma, mereka membeli hasil akhir yang masuk akal secara anggaran.

Poin penting

• Titik hambat telah bergeser: AI klinis tidak lagi terhambat oleh data science atau izin regulasi; hambatan utama adopsi kini adalah ekonomi kesehatan dan integrasi alur kerja.
• Akurasi hanyalah standar dasar: Akurasi diagnostik yang tinggi memang membawa sebuah model ke dalam percakapan, tetapi evaluasi ekonomi yang transparanlah yang mengamankan anggaran rumah sakit.
• Usabilitas adalah variabel ekonomi: Desain antarmuka yang buruk dalam alur kerja yang kompleks (seperti NGS) menciptakan beban kognitif dan penalti waktu, yang secara langsung merusak uji kelayakan investasi untuk adopsinya.
• Transparansi kini distandardisasi: Standar CHEERS-AI memaksa vendor untuk merinci biaya tersembunyi dari AI, mulai dari pelatihan staf dan integrasi hingga kurva pembelajaran model dari waktu ke waktu.

Pergeseran dari Data Science ke Ekonomi Kesehatan

Selama bertahun-tahun, pengembangan AI klinis berfokus hampir secara eksklusif pada peningkatan akurasi diagnostik dan pengamanan persetujuan regulasi. Hal ini menciptakan generasi algoritma yang berkinerja sangat baik di lingkungan yang terkontrol namun gagal diskalakan di dunia nyata. Titik hambat dalam AI klinis kini telah bergeser dari data science ke ekonomi kesehatan. Standar Consolidated Health Economic Evaluation Reporting Standards for Interventions that use AI (CHEERS-AI) diperkenalkan untuk memastikan evaluasi dilaporkan secara transparan demi mendukung interpretasi dan perbandingan, karena uji coba awal menunjukkan bahwa detail spesifik AI sering kali hilang atau dilaporkan secara tidak memadai.

Tim pengadaan rumah sakit semakin skeptis terhadap klaim vendor mengenai penghematan biaya. Ketika sebuah vendor mengklaim bahwa intervensi AI mereka menghemat biaya, asumsi yang mendasarinya, seperti biaya riil integrasi, kurva pembelajaran model, dan biaya pemeliharaan software, sering kali tidak transparan. CHEERS-AI memaksa standar transparansi baru, menuntut peneliti untuk merinci mekanisme di mana intervensi tersebut memengaruhi alur perawatan, biaya, dan hasil kesehatan. Tanpa transparansi ini, sistem rumah sakit tidak dapat menilai secara akurat laba atas investasi (ROI) dari penerapan alat AI, yang berujung pada program percontohan yang mandek dan inisiatif yang ditinggalkan.

Mengapa Transparansi Gagal dalam Praktik

Kerangka kerja CHEERS-AI sangatlah ketat, menuntut pengembang untuk memberikan pelaporan terperinci tentang struktur model, data sumber, dan konteks sosioteknis dari penerapannya. Namun, realitas pengadaan TI klinis berarti bahwa standar ini sering kali hanya diperlakukan sebagai daftar periksa kepatuhan alih-alih alat perencanaan strategis. Sebuah rumah sakit mungkin meminta untuk melihat analisis efektivitas biaya suatu model, tetapi jika analisis tersebut mengasumsikan integrasi tanpa friksi ke dalam sistem rekam medis elektronik (EHR), sebuah asumsi yang hampir secara universal keliru, proyeksi ekonomi tersebut akan runtuh di bulan pertama uji coba percontohan.

Keterputusan antara penghematan biaya teoretis dan implementasi praktis ini menciptakan celah kredibilitas. Pengembang harus menyadari bahwa beban pembuktian sedang bergeser. Tidak lagi cukup hanya menunjukkan bahwa alat AI bisa menghemat uang dalam alur kerja yang dioptimalkan dengan sempurna. Vendor harus mendemonstrasikan bahwa alat mereka akan menghemat uang di dalam realitas infrastruktur TI rumah sakit modern yang berantakan, terfragmentasi, dan terikat pada sistem warisan.

Biaya Tersembunyi dari Integrasi Alur Kerja

Biaya tersembunyi yang paling signifikan jarang terletak pada lisensi software itu sendiri; melainkan pada biaya sosioteknis dari integrasi alur kerja. Model yang mengharuskan dokter untuk beralih di antara berbagai antarmuka atau memasukkan data secara manual akan menimbulkan friksi yang dapat meniadakan segala perolehan efisiensi teoretis. Riset tentang alur kerja next-generation sequencing (NGS) yang digerakkan AI menunjukkan bahwa transisi alat berbasis AI ke dalam praktik klinis terhambat oleh alur kerja yang terfragmentasi, usabilitas yang terbatas, dan antarmuka data yang tidak standar.

Tantangan integrasi ini sangat terasa di bidang spesialisasi seperti genomik, di mana volume datanya sangat besar dan keputusan klinisnya sangat berkonsekuensi tinggi. Ketika pipeline analitik yang kompleks gagal disederhanakan menjadi sistem yang transparan dan interaktif, usabilitas yang buruk menyebabkan alat tersebut kurang dimanfaatkan, disalahtafsirkan, atau bahkan ditolak. Nilai teoretis sebuah model sangat dibatasi oleh usabilitasnya. Jika seorang dokter tidak dapat dengan cepat dan yakin menafsirkan output AI, mereka akan kembali ke metode tradisional, yang membuat investasi tersebut menjadi sia-sia.

Studi NGS mempertegas hal ini dengan menyoroti bahwa beban kognitif pada staf klinis sering kali diabaikan selama proses pengadaan. Ketika alat AI memaksa ahli genetika atau ahli patologi untuk terus-menerus berganti konteks, memasukkan ulang data, atau mengurai skor tingkat kepercayaan algoritma yang tidak transparan, penalti waktunya akan terakumulasi dengan cepat. Jika alat AI menghemat sepuluh menit waktu diagnostik tetapi membutuhkan lima belas menit pengelolaan data manual untuk dioperasikan, maka kasus ekonomi kesehatannya hancur.

Para peneliti memetakan di mana AI benar-benar menyentuh alur kerja sekuensing, dan hasilnya tersebar pada empat peran dan lima tahap, bukan terpusat pada modelnya.

Gambar 1. Kebutuhan data untuk AI dalam alur kerja next-generation sequencing, dipetakan pada empat peran klinis dan lima tahap alur kerja. Sumber: Plass, M., Holzinger, A., Reihs, R., & Müller, H., 2026, Integrating AI into clinical practice: Human-centered design requirements for next-generation sequencing workflows, Computerized Medical Imaging and Graphics, 130, 102758, p. 6.

Usabilitas sebagai Variabel Ekonomi Inti

Seperti yang telah kita lihat dalam Mengubah Layanan Kesehatan dengan Ekosistem AI, mengintegrasikan alat-alat ini mengharuskan kita memperlakukan usabilitas sebagai variabel ekonomi inti. Interaksi manusia-komputer yang buruk bukan sekadar masalah antarmuka; ini adalah kegagalan alur kerja sistemik yang menimbulkan penalti finansial yang terukur. Setiap klik ekstra, setiap visualisasi yang membingungkan, dan setiap langkah alur kerja yang terputus menambah beban kognitif pada dokter serta biaya operasional pada rumah sakit.

Mendesain untuk realitas ini berarti menyadari bahwa Spesifikasi Berubah Saat Software Jadi Probabilistik, sangat berbeda dari pengadaan TI tradisional. Software standar memberikan output deterministik berdasarkan aturan yang tetap; model AI memberikan prediksi probabilistik yang membutuhkan penafsiran dan pengawasan manusia. Antarmuka tersebut harus didesain untuk mendukung interaksi bernuansa ini, memberikan penjelasan yang jelas mengenai tingkat kepercayaan dan penalaran dari model tersebut.

Menyeberangi Jurang Menuju Penerapan

Untuk menyeberangi jurang dari algoritma yang disetujui menjadi standar perawatan yang diterapkan, AI klinis harus membuktikan nilainya melalui evaluasi ekonomi yang ketat dan terstandardisasi. Kerangka kerja CHEERS-AI memberikan peta jalan untuk evaluasi ini, menyoroti kebutuhan untuk memperhitungkan biaya spesifik AI dan dampak operasionalnya. Pengembang harus bergerak melampaui demonstrasi ekuivalensi klinis dan mulai mendemonstrasikan superioritas ekonomi di lingkungan dunia nyata.

Akurasi membawa sebuah model ke dalam percakapan. Integrasi alur kerja dan bukti ekonomi yang kuatlah yang membuatnya bertahan di rumah sakit. Masa depan AI klinis tidak akan ditentukan oleh model dengan nilai area under the curve tertinggi, melainkan oleh model yang terintegrasi mulus ke dalam alur kerja klinis dan memberikan nilai ekonomi yang jelas serta dapat dikuantifikasi.

Referensi

• Elvidge, J., Hawksworth, C., Avşar, T. S., Zemplenyi, A., Chalkidou, A., Petrou, S…. & Dawoud, D. (2024). Consolidated Health Economic Evaluation Reporting Standards for Interventions That Use Artificial Intelligence (CHEERS-AI). Value in Health, 27(9), 1196-1205. https://doi.org/10.1016/j.jval.2024.05.006
• Plass, M., Holzinger, A., Reihs, R., & Müller, H. (2026). Integrating AI into clinical practice: Human-centered design requirements for next-generation sequencing workflows. Computerized Medical Imaging and Graphics, 130, 102758. https://doi.org/10.1016/j.compmedimag.2026.102758