banner large

AI mengubah kedokteran: Inilah cara kami memastikannya bekerja untuk semua orang

Comment
X
Share

Kami sangat antusias untuk menghadirkan Transform 2022 kembali secara langsung pada 19 Juli dan 20 – 28 Juli secara virtual. Bergabunglah dengan AI dan para pemimpin data untuk pembicaraan yang berwawasan luas dan peluang jaringan yang menarik. Daftar hari ini!


Bagaimana jika dokter Anda dapat langsung menguji lusinan perawatan berbeda untuk menemukan perawatan yang sempurna bagi tubuh, kesehatan, dan nilai Anda? Di lab saya di Fakultas Kedokteran Universitas Stanford, kami sedang mengerjakan teknologi kecerdasan buatan (AI) untuk membuat “kembar digital”: representasi virtual Anda berdasarkan riwayat medis, profil genetik, usia, etnis, dan sejumlah faktor lain seperti apakah Anda merokok dan seberapa banyak Anda berolahraga.

Jika Anda sakit, AI dapat menguji opsi perawatan pada kembaran terkomputerisasi ini, menjalankan skenario berbeda yang tak terhitung jumlahnya untuk memprediksi intervensi mana yang paling efektif. Alih-alih memilih rejimen pengobatan berdasarkan apa yang berhasil untuk rata-rata orang, dokter Anda dapat mengembangkan rencana berdasarkan apa yang berhasil Anda. Dan kembaran digital terus belajar dari pengalaman Anda, selalu memasukkan informasi terbaru tentang kesehatan Anda.

AI mempersonalisasi obat, tetapi untuk orang yang mana?

Meskipun ide futuristik ini mungkin terdengar mustahil, kecerdasan buatan dapat membuat obat yang dipersonalisasi menjadi kenyataan lebih cepat dari yang kita kira. Dampak potensial pada kesehatan kita sangat besar, tetapi sejauh ini, hasilnya lebih menjanjikan untuk beberapa pasien daripada yang lain. Karena AI dibangun oleh manusia menggunakan data yang dihasilkan oleh manusia, AI cenderung mereproduksi bias dan ketidaksetaraan yang sama yang sudah ada dalam sistem perawatan kesehatan kita.

Pada 2019, para peneliti menganalisis algoritme yang digunakan oleh rumah sakit untuk menentukan pasien mana yang harus dirujuk ke program perawatan khusus untuk orang-orang dengan kebutuhan medis yang kompleks. Secara teori, ini adalah jenis AI yang dapat membantu pasien mendapatkan perawatan yang lebih tepat sasaran. Namun, para peneliti menemukan bahwa ketika model digunakan, secara signifikan lebih kecil kemungkinannya untuk menugaskan pasien kulit hitam ke program ini daripada rekan kulit putih mereka dengan profil kesehatan yang serupa. Algoritme yang bias ini tidak hanya memengaruhi layanan kesehatan yang diterima oleh jutaan orang Amerika, tetapi juga kepercayaan mereka terhadap sistem tersebut.

Mendapatkan data, blok bangunan AI, kan

Skenario seperti itu terlalu umum untuk minoritas yang kurang terwakili. Masalahnya bukan pada teknologi itu sendiri. Masalahnya dimulai jauh lebih awal, dengan pertanyaan yang kami ajukan dan data yang kami gunakan untuk melatih AI. Jika kita ingin AI meningkatkan perawatan kesehatan untuk semua orang, kita perlu memperbaikinya sebelum kita mulai membangun model kita.

Pertama adalah data, yang sering condong ke pasien yang paling banyak menggunakan sistem perawatan kesehatan: warga AS kulit putih, berpendidikan, kaya, cisgender. Kelompok-kelompok ini memiliki akses yang lebih baik ke perawatan medis, sehingga mereka terwakili secara berlebihan dalam kumpulan data kesehatan dan uji coba penelitian klinis.

Untuk melihat dampak data miring ini, lihat kanker kulit. Aplikasi berbasis AI dapat menyelamatkan nyawa dengan menganalisis gambar tahi lalat orang dan memperingatkan mereka tentang apa pun yang seharusnya diperiksa oleh dokter kulit. Tetapi aplikasi ini dilatih pada katalog lesi kanker kulit yang ada yang didominasi oleh gambar dari pasien berkulit putih, sehingga tidak berfungsi dengan baik untuk pasien dengan kulit lebih gelap. Dominasi pasien berkulit putih di bidang dermatologi baru saja dipindahkan ke ranah digital.

Rekan-rekan saya dan saya mengalami masalah yang sama ketika mengembangkan model AI untuk memprediksi apakah pasien kanker yang menjalani kemoterapi akan berakhir mengunjungi ruang gawat darurat. Dokter dapat menggunakan alat ini untuk mengidentifikasi pasien yang berisiko dan memberi mereka perawatan dan sumber daya yang ditargetkan untuk mencegah rawat inap, sehingga meningkatkan hasil kesehatan dan mengurangi biaya. Sementara prediksi AI kami sangat akurat, hasilnya tidak dapat diandalkan untuk pasien kulit hitam. Karena pasien yang diwakili dalam data yang kami masukkan ke dalam model kami tidak mencakup cukup banyak orang kulit hitam, model tersebut tidak dapat secara akurat mempelajari pola yang penting bagi populasi ini.

Menambahkan keragaman pada model pelatihan dan tim data

Jelas bahwa kita perlu melatih sistem AI dengan data yang lebih kuat yang mewakili lebih banyak pasien. Kita juga perlu mengajukan pertanyaan yang tepat dari data dan berpikir dengan hati-hati tentang bagaimana kita membingkai masalah yang kita coba pecahkan. Pada panel yang saya moderator di konferensi tahunan Women in Data Science (WiDS) pada bulan Maret, Dr. Jinoos Yazdany dari Rumah Sakit Umum Zuckerberg San Francisco memberikan contoh mengapa pembingkaian itu penting: Tanpa konteks yang tepat, AI bisa sampai pada kesimpulan yang tidak logis seperti menyimpulkan bahwa kunjungan dari pendeta rumah sakit berkontribusi pada kematian pasien (ketika benar-benar, itu sebaliknya — pendeta datang karena pasien sedang sekarat).

Untuk memahami masalah perawatan kesehatan yang kompleks dan memastikan kami mengajukan pertanyaan yang tepat, kami membutuhkan tim interdisipliner yang menggabungkan ilmuwan data dengan pakar medis, serta ahli etika dan ilmuwan sosial. Selama panel WiDS, rekan Stanford saya, Dr. Sylvia Plevritis, menjelaskan mengapa labnya adalah setengah peneliti kanker dan setengah ilmuwan data. “Pada akhirnya,” katanya, “Anda ingin menjawab pertanyaan biomedis atau Anda ingin memecahkan masalah biomedis.” Kami membutuhkan berbagai bentuk keahlian yang bekerja sama untuk membangun alat yang ampuh yang dapat mengidentifikasi kanker kulit atau memprediksi apakah seorang pasien akan berakhir di rumah sakit.

Kami juga membutuhkan keragaman dalam tim peneliti dan kepemimpinan perawatan kesehatan untuk melihat masalah dari sudut yang berbeda dan membawa solusi inovatif ke meja. Katakanlah kami sedang membangun model AI untuk memprediksi pasien mana yang paling mungkin melewatkan janji temu. Para ibu yang bekerja di tim mungkin membalikkan pertanyaan dan malah menanyakan faktor-faktor apa yang paling mungkin mencegah orang membuat janji, seperti menjadwalkan sesi di tengah waktu penjemputan sepulang sekolah.

Praktisi kesehatan dibutuhkan dalam pengembangan AI

Bagian terakhir dari teka-teki adalah bagaimana sistem AI dipraktikkan. Pemimpin layanan kesehatan harus menjadi konsumen kritis dari teknologi baru yang mencolok ini dan bertanya bagaimana AI akan bekerja untuk semua pasien dalam perawatan mereka. Alat AI harus sesuai dengan alur kerja yang ada sehingga penyedia benar-benar akan menggunakannya (dan terus menambahkan data ke model untuk membuatnya lebih akurat). Melibatkan praktisi kesehatan dan pasien dalam pengembangan alat AI menghasilkan produk akhir yang kemungkinan besar akan berhasil digunakan dan berdampak pada hasil perawatan dan pasien.

Membuat alat berbasis AI bekerja untuk semua orang seharusnya tidak hanya menjadi prioritas bagi kelompok yang terpinggirkan. Data yang buruk dan model yang tidak akurat merugikan kita semua. Selama panel WiDS kami, Dr. Yazdany membahas program AI yang dia kembangkan untuk memprediksi hasil bagi pasien dengan rheumatoid arthritis. Model ini awalnya dibuat menggunakan data dari rumah sakit penelitian dan pendidikan yang lebih makmur. Ketika mereka menambahkan data dari rumah sakit lokal yang melayani populasi pasien yang lebih beragam, itu tidak hanya meningkatkan prediksi AI untuk pasien yang terpinggirkan — tetapi juga membuat hasilnya lebih akurat untuk semua orang, termasuk pasien di rumah sakit asal.

AI akan merevolusi kedokteran dengan memprediksi masalah kesehatan sebelum terjadi dan mengidentifikasi perawatan terbaik yang disesuaikan untuk kebutuhan individu kita. Sangat penting bagi kami untuk menempatkan fondasi yang tepat sekarang untuk memastikan perawatan kesehatan berbasis AI berfungsi untuk semua orang.

Dr. Tina Hernandez Boussard adalah Associate Professor di Stanford University yang bekerja di informatika biomedis dan penggunaan teknologi AI dalam perawatan kesehatan. Banyak perspektif dalam artikel ini berasal dari panelnya di acara tahun ini Wanita dalam Ilmu Data (WiDS) konferensi tahunan.

DataDecisionMakers

Selamat datang di komunitas VentureBeat!

DataDecisionMakers adalah tempat para ahli, termasuk orang teknis yang melakukan pekerjaan data, dapat berbagi wawasan dan inovasi terkait data.

Jika Anda ingin membaca tentang ide-ide mutakhir dan informasi terkini, praktik terbaik, dan masa depan data dan teknologi data, bergabunglah dengan kami di DataDecisionMakers.

Anda bahkan mungkin mempertimbangkan untuk menyumbangkan artikel Anda sendiri!

Baca Lebih Lanjut Dari DataDecisionMakers

Leave a Reply

Your email address will not be published.