DSÖ uyarıyor; yapay zekanın tıpta kullanımının hızlandırılması riskli
DSÖ uyarıyor, yapay zekanın tıbbi kullanımının hızlandırılması tıbbi hatalara ve hastaların zarar görmesine neden olabilir! Dünya Sağlık Örgütü, sağlık hizmetlerinde yapay zekâ (AI) araçlarının hızlı yükselişinin, dikkatli olunmazsa hastaların güvenliğini tehdit ettiği konusunda uyardı.
Dünya Sağlık Örgütü’nce 16 Mayıs 2023 tarihinde yayınlanan bildiride, ChatGPT, Bard, Bert ve diğerleri gibi hızla genişleyen platformların hasta sağlığını iyileştirme potansiyeli üzerinde yarattığı heyecan nedeniyle, cihaz geliştiricileri ve diğerlerinin normalde yeni teknolojilere uygulanacak uyarıları bir kenara attığını ifade etti. DSÖ, “Denenmemiş sistemlerin ani bir şekilde benimsenmesi, sağlık çalışanları tarafından hatalara yol açabilir, hastalara zarar verebilir, yapay zekaya olan güveni aşındırabilir ve böylece dünya çapında bu tür teknolojilerin potansiyel uzun vadeli faydalarını ve kullanımlarını baltalayabilir (veya geciktirebilir)” dedi.
Sağlık hizmetlerinde tanıtılan yapay zekâ sistemlerinin çoğu, insan anlayışını, işlemesini ve iletişimini taklit etmek için sözde büyük dil modeli araçlarını kullanır. DSÖ, çoğu hala deneysel aşamada olan teknolojilerin hızlı yükselişinin, sağlık hizmetleri ve bilimsel araştırmalardaki temel değerlere yönelik risklere yakından bakılmasını gerektirdiğini söyledi. Bu değerler arasında şeffaflık, kapsayıcılık, halkın katılımı, uzman denetimi ve titiz değerlendirme yer alıyor.
DSÖ, “Bir karar destek aracı olarak sağlık bilgilerine erişimi iyileştirmek veya hatta yetersiz kaynaklara sahip ortamlarda teşhis kapasitesini artırmak için insanların sağlığını korumak ve eşitsizliği azaltmak için dil modellerini kullanırken risklerin dikkatli bir şekilde incelenmesi zorunludur” dedi.
Bu riskler, yapay zekayı eğitmek için kullanılan verilerin önyargılı olabileceği ve yanlış olduklarında güvenilir veya makul görünen yanıtlar dahil olmak üzere araçların yanıltıcı veya yanlış bilgiler üretmesine yol açabileceği endişelerini içerir. DSÖ, teknolojilerin güvenli, etkili ve etik yollarla kullanılması için sıkı bir gözetim gerektiğini söyledi.
Örgüt, “DSÖ, rutin sağlık hizmetleri ve tıpta yaygın kullanımlarından önce bu endişelerin ele alınmasını ve net fayda kanıtlarının ölçülmesini öneriyor” dedi.
Diğer taraftan hukukçular AI tıbbi cihazlarının benimsenmesinin önündeki teknik olmayan en önemli engellerden birinin kullanıcı güveni olduğunu ifade ediyor. Çoğu insan doktoruna güvenecek, ancak sağlık çalışanlarının da insan olduğunun ve dolayısıyla kaçınılmaz olarak hata yapacaklarının farkında olacaktır. İronik bir şekilde, güveni oluşturan da bu insanlıktır: Bunlar, gözlerinizin içine bakabileceğiniz ve ilişki kurabileceğiniz kişilerdir. Yapay zekâ için durum böyle değil (ya da en azından henüz değil). AI, programlamasının ötesinde, sonuçlar için hiçbir empati, ahlak veya endişe göstermeyecektir. Sonuç olarak, yapay zekâ bir tıbbi cihaz olarak bir insan hekimden çok daha doğru olma potansiyeline sahip olsa da halk meydana gelen herhangi bir hatayı daha az affedecektir. Hukukçulara göre üreticilerin, piyasaya arz edilmeden önce cihazın güvenliğini, etkinliğini ve kalitesini düzenleyicilere göstermeleri gerekecektir. Teknik dosyalarını düzenleyiciye sunarken, üreticilerin muhtemelen mekanizmaları, doğrulamayı ve doğrulamayı anlamak için teknik bir araç oluşturması ve aynı zamanda cihazın çalışmasında yapay zekâ aracılığıyla yapılan değişiklikleri not etmesi gerekecektir.
Hasta güvenini oluşturmak için firmaların cihaz hakkında, örneğin yapay zekanın gerçek dünya verileri üzerinde nasıl eğitildiğini, verilerin doktorlar tarafından incelenip incelenmediğini ve hangi sağlık yetkililerinin cihazın kullanımını onayladığını da açıklaması gerekecektir.
Sıkı siber güvenlik standartlarına bağlılık, tıbbi gizliliğin korunması ve veri işleme ilkelerine uygunluk gibi ek bilgiler, hastalara ve kullanıcılara, ürünlere olan güveni daha da artırabilecek şekilde, üreticinin yasal uyumluluk ve yüksek standartlara bağlılığı konusunda güvence verecektir.