Menjembatani kesenjangan antara teknologi AI dan dokter

Sementara penggunaan kecerdasan buatan untuk diagnosis medis terus berkembang, penelitian baru oleh Universitas Adelaide menemukan masih banyak rintangan yang harus diatasi jika dibandingkan dengan dokter.

Di sebuah kertas dipublikasikan di Lancet Kesehatan DigitalMahasiswa Doktoral di Australian Institute for Machine Learning Lana Tikhomirov, Profesor Carolyn Semmler dan tim dari University of Adelaide, telah memanfaatkan penelitian eksternal untuk menyelidiki apa yang dikenal sebagai “jurang AI”.

Kesenjangan AI terjadi karena pengembangan dan komersialisasi sistem pengambilan keputusan AI telah melampaui pemahaman kita tentang nilainya bagi dokter dan dampaknya terhadap pengambilan keputusan manusia.

“Hal ini dapat menimbulkan konsekuensi seperti bias otomatisasi (tidak menyadari kesalahan AI) atau kesalahan penerapan,” kata Tikhomirov. “Kesalahpahaman tentang AI juga membatasi kemampuan kita untuk memaksimalkan teknologi baru ini dan melengkapi manusia dengan baik.

“Meskipun penerapan teknologi di lingkungan berisiko tinggi lainnya, seperti peningkatan otomatisasi di kokpit pesawat, telah diteliti sebelumnya untuk memahami dan meningkatkan cara penggunaannya, evaluasi penerapan AI bagi dokter masih menjadi area yang terabaikan. Kita seharusnya menggunakan AI lebih seperti obat klinis daripada perangkat.”

Penelitian tersebut menemukan bahwa dokter adalah pengambil keputusan yang termotivasi secara kontekstual dan memiliki banyak sumber daya mental sedangkan model AI membuat keputusan tanpa konteks atau memahami korelasi dalam data dan pasien.

“Lingkungan klinis kaya dengan isyarat sensorik yang digunakan untuk melaksanakan diagnosis, meskipun isyarat tersebut tidak terlihat oleh pengamat pemula,” kata Tikhomirov.

“Misalnya, kecerahan nodul pada mammogram dapat menunjukkan keberadaan jenis tumor tertentu, atau gejala spesifik yang tercantum pada formulir permintaan pencitraan dapat memengaruhi seberapa sensitif seorang ahli radiologi dalam menemukan fitur-fitur.

“Dengan pengalaman, dokter mempelajari isyarat mana yang mengarahkan perhatian mereka terhadap informasi yang paling relevan secara klinis di lingkungan mereka.

“Kemampuan untuk menggunakan informasi yang relevan dengan domain ini dikenal sebagai pemanfaatan isyarat, dan merupakan ciri khas keahlian yang memungkinkan dokter untuk dengan cepat mengekstraksi fitur-fitur penting dari situasi klinis sambil tetap menjaga keakuratan yang tinggi, serta memandu pemrosesan dan analisis selanjutnya terhadap fitur-fitur klinis tertentu.

“Sebuah model AI tidak dapat mempertanyakan kumpulan datanya dengan cara yang sama seperti dokter didorong untuk mempertanyakan validitas dari apa yang telah diajarkan kepada mereka: sebuah praktik dalam lingkungan klinis yang disebut kerendahan hati epistemik.”