Doktorlar İçin Yapay Zekâ: Klinikte Güvenli Kullanım Rehberi

Büyük dil modelleri (LLM) artık birçok hekimin ve tıp öğrencisinin günlük araç kutusunda: bir mekanizmayı hatırlamak, bir kılavuz önerisini bulmak, bir makaleyi özetlemek ya da TUS sorusunun çözümünü anlamak için kullanılıyor. Bu araçlar zaman kazandırabilir; ancak yanlış kullanıldığında hasta güvenliği, veri gizliliği ve mesleki sorumluluk açısından gerçek riskler taşır. Bu rehber, abartıya da korkuya da kapılmadan, pratik kurallar sunmayı amaçlıyor.

Yapay zekâ nerede gerçekten işe yarar?

Makul ve görece düşük riskli kullanım alanları:

• Bilgiyi hatırlama ve yapılandırma: "Hiponatremide ayırıcı tanı basamakları nelerdir?" gibi sorularda çerçeve oluşturmak.
• Literatüre giriş noktası: Bir konuda hangi kılavuzların ve anahtar çalışmaların bulunduğunu belirlemek.
• Öğrenme: Bir patofizyoloji zincirini adım adım açıklatmak, kendinize soru sordurmak.
• Metin işleri: Hasta bilgilendirme metni taslağı, sunum iskeleti, İngilizce makale özetinin Türkçe özeti.

Dünya Sağlık Örgütü'nün (DSÖ) 2024'te yayımladığı büyük çok-modlu modeller (LMM) rehberi de sağlıkta kullanım alanlarını tanı ve klinik bakım, tıp ve hemşirelik eğitimi, araştırma ve idari işler olarak sıralar; aynı rehber hükümetlere, teknoloji şirketlerine ve sağlık hizmeti sunucularına yönelik 40'tan fazla öneri içerir [1, 2].

Temel risk: Halüsinasyon ve uydurma kaynaklar

LLM'ler akıcı ve kendinden emin metin üretir; bu, içeriğin doğru olduğu anlamına gelmez. Kaynak konusunda durum özellikle dikkat çekicidir. 2023'te yayımlanan bir çalışmada ChatGPT-3.5'e 30 kısa tıbbi makale yazdırılmış ve üretilen 115 kaynak tek tek kontrol edilmiştir: Kaynakların %47'si tamamen uydurma, %46'sı gerçek ama hatalı ve yalnızca %7'si gerçek ve doğru bulunmuştur [3]. En sık hata yanlış PMID numarasıydı [3].

Bu çalışma eski bir model sürümüyle yapılmıştır ve sonuçlar her araca birebir genellenemez. Yine de çıkarılacak ders açıktır: Bir kaynağı açıp okumadıysanız, o kaynak yoktur varsayın.

Pratik doğrulama kontrol listesi

1. Kaynağı açın. DOI veya PubMed bağlantısı gerçekten o makaleye mi gidiyor?
2. İddiayı kaynakta bulun. Makale var olsa bile, söylenen sayı veya öneri gerçekten orada mı?
3. Tarihe bakın. Öneri güncel kılavuzla mı uyumlu? Örneğin ESC 2024 atriyal fibrilasyon kılavuzu CHA₂DS₂-VASc yerine CHA₂DS₂-VA'yı önermektedir [4]; eski verilerle eğitilmiş bir model bu değişikliği bilmeyebilir.
4. Doz ve eşikleri birincil kaynaktan doğrulayın. İlaç dozları için Türkiye'de geçerli Kısa Ürün Bilgisi (KÜB) TİTCK üzerinden kontrol edilebilir [5].
5. Popülasyonu kontrol edin. Öneri yetişkin için mi, çocuk için mi; gebelikte geçerli mi?

Hasta verisi ve KVKK

Türkiye'de 6698 sayılı Kişisel Verilerin Korunması Kanunu (KVKK), sağlıkla ilgili verileri özel nitelikli kişisel veri olarak tanımlar [6]. Kanunun 2024'te 7499 sayılı Kanun ile değiştirilen 6. maddesine göre özel nitelikli kişisel verilerin işlenmesi kural olarak yasaktır; sağlık verileri bakımından istisnalar arasında kamu sağlığının korunması, koruyucu hekimlik, tıbbi teşhis, tedavi ve bakım hizmetleri gibi amaçlarla sır saklama yükümlülüğü altındaki kişiler veya yetkili kurumlar tarafından işlenmesi sayılır [6]. Kanun ayrıca özel nitelikli veriler için Kurul'ca belirlenen yeterli önlemlerin alınmasını şart koşar ve yurt dışına veri aktarımını ayrı kurallara bağlar (madde 9) [6].

Bu, hukuki bir değerlendirme değildir; ancak pratik sonuç basittir:

• Genel amaçlı bir yapay zekâ aracına hastayı tanımlayabilecek hiçbir bilgi girmeyin: ad, T.C. kimlik numarası, protokol numarası, doğum tarihi, adres, telefon, nadir bir tanıyla birleşince kişiyi belli eden ayrıntılar, görüntülerdeki isim etiketleri.
• Soruyu genelleştirin. "65 yaşında, eGFR'si 35 olan AF hastasında DOAK dozu nasıl seçilir?" sorusu, hastanın kimliğine gerek duymadan klinik bilgiyi alır.
• Kurumunuzun politikasını öğrenin. Hastanenizin onayladığı araçlar, sözleşmeler ve veri işleme koşulları varsa onları kullanın.
• Sunucunun nerede olduğunu sorun. Verinin hangi ülkede işlendiği, KVKK'nın yurt dışı aktarım hükümleri bakımından önemlidir [6].

Avrupa Birliği Yapay Zekâ Yasası neden ilgilendirir?

AB Yapay Zekâ Yasası (Tüzük (AB) 2024/1689), yapay zekâ sistemlerini risk düzeylerine göre düzenler; tıbbi cihaz niteliğindeki yapay zekâ sistemleri genel olarak yüksek riskli kategoride değerlendirilir [7]. Türkiye AB üyesi olmasa da, Avrupa'da geliştirilen ve sunulan araçlar bu çerçeveye uymak zorundadır; bu da kullandığınız aracın şeffaflık ve dokümantasyon düzeyini etkiler. Uygulama takvimi kademelidir ve bazı tarihler sonraki düzenlemelerle değişebileceğinden, güncel durumu resmi metinden takip etmek gerekir [7].

Klinik sorumluluk kimde?

Yapay zekâ aracı bir öneri sunduğunda, kararın sorumluluğu hâlâ hekimdedir. DSÖ, riskler arasında yanlış, eksik veya yanlı ifadelerin yanı sıra otomasyon yanlılığını da sayar: hataların fark edilmemesi ya da zor kararların uygunsuz biçimde modele bırakılması [2]. Güvenli kullanım için:

• Yapay zekâyı ikinci görüş gibi değil, hızlı bir başvuru kaynağı gibi kullanın. Ürettiği bilgi, sizin doğrulamanızdan geçmeden hastaya ulaşmamalı.
• Belirsizliği sorun. "Bu konuda kanıt düzeyi nedir, hangi kılavuz neyi öneriyor, çelişki var mı?" gibi sorular, tek bir kesin cevaptan daha değerlidir.
• Aciliyette güvenmeyin. Akut durumlarda kurum protokolleri, hesaplayıcılar ve kıdemli hekim danışmanlığı önceliklidir.
• Kayıt tutun. Bir kararı etkileyen bilgiyi hangi kaynaktan doğruladığınızı not edin.

Tıp öğrencileri için ek öneriler

• Önce kendiniz deneyin. Soru çözümünde önce kendi cevabınızı yazın, sonra yapay zekâyla karşılaştırın; aksi takdirde öğrenme yerine tanıma becerisi gelişir.
• Kaynağa geri dönün. Yapay zekânın açıkladığı mekanizmayı ders kitabı veya kılavuzla teyit edin.
• Sınav bilgisini güncelleyin. Soru bankaları ve modeller eski kılavuzlara dayanabilir; TUS hazırlığında güncel kılavuz değişikliklerini ayrıca takip edin. Bkz. TUS'a hazırlıkta klinik skorlar.
• Hesaplamaları doğrulanmış araçlarla yapın. Skorları ve formülleri dil modeline hesaplatmak yerine doğrulanmış hesaplayıcıları kullanın.

Bir aracı değerlendirirken sorulacak sorular

Sonuç

Yapay zekâ, hekimin bilgiye erişimini hızlandırabilir; ancak klinik muhakemenin, kaynak okumanın ve hasta mahremiyetine özenin yerini tutmaz. En güvenli yaklaşım: kimliksizleştir, sor, kaynağı aç, doğrula, sonra karar ver.

Medelix, AB'de barındırılan ve klinik sorulara güncel literatür ve kılavuzlardan kaynak göstererek yanıt veren bir tıbbi yapay zekâ asistanıdır. Gösterilen kaynakların açılıp kontrol edilmesi, yukarıdaki kuralların Medelix için de geçerli olduğu anlamına gelir.

Kaynaklar

1. World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. 2024. https://www.who.int/publications/i/item/9789240084759
2. World Health Organization. WHO releases AI ethics and governance guidance for large multi-modal models (haber bülteni, 18 Ocak 2024). https://www.who.int/news/item/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-models
3. Bhattacharyya M, Miller VM, Bhattacharyya D, Miller LE. High Rates of Fabricated and Inaccurate References in ChatGPT-Generated Medical Content. Cureus. 2023;15(5):e39238. https://doi.org/10.7759/cureus.39238
4. Van Gelder IC, Rienstra M, Bunting KV, et al. 2024 ESC Guidelines for the management of atrial fibrillation. Eur Heart J. 2024;45(36):3314–3414. https://doi.org/10.1093/eurheartj/ehae176
5. Türkiye İlaç ve Tıbbi Cihaz Kurumu (TİTCK). KÜB/KT sorgulama. https://www.titck.gov.tr/kubkt
6. Kişisel Verileri Koruma Kurumu. Personal Data Protection Law No. 6698 (İngilizce çeviri; Türkçe metin esastır). https://www.kvkk.gov.tr/Icerik/6649/Personal-Data-Protection-Law
7. Regulation (EU) 2024/1689 (Artificial Intelligence Act). EUR-Lex. https://eur-lex.europa.eu/eli/reg/2024/1689/oj