1966-yilda Massachusets texnologiya institutining kompyuter olimi Jozef Veysenbaum ELIZA nomli kichik dastur yozdi. Uning eng mashhur ssenariysi psixoterapevtga taqlid qilib, foydalanuvchining o'z so'zlarini savolga aylantirib qaytarardi: "Men charchadim" degan gapga "Nega charchadingiz?" deb javob berardi. ELIZA hech narsani tushunmasdi, ammo odamlar unga xuddi u ularga g'amxo'rlik qilayotgandek dardini yorayotganini ko'rib, Veysenbaumning o'zi hayratda qoldi. Oradan qariyb 60 yil o'tib, chatbotlar kasalxona xatlarini tayyorlay oladi, qon tahlili natijalarini tushuntira oladi va tibbiy imtihon savollariga o'tish balini olishga yetarli darajada javob bera oladi. Eski savol yangi kuch bilan qaytdi: hamma narsani biladigandek gapiradigan mashinaga qanchalik ishonish mumkin?
Chatbot tibbiyotni qanday "biladi"
ChatGPT, Gemini yoki Claude kabi zamonaviy chatbotlar katta til modellari (large language models, LLM) asosida qurilgan. Bular kitoblardan tortib veb-saytlar va ilmiy maqolalargacha bo'lgan ulkan matnlar to'plamida o'qitilgan kompyuter dasturlaridir. O'qitish jarayonida model matnda keyingi qaysi so'z kelishi ehtimoli yuqori ekanini bashorat qilishni o'rganadi. Milliardlab marta takrorlangan bu oddiy vazifa ravon matn yoza oladigan, hujjatlarni qisqacha bayon qiladigan va deyarli har qanday mavzuda, jumladan tibbiyotda ham savollarga javob bera oladigan tizimni yuzaga keltiradi.
Modelning nimani qilmasligi ham shunchalik muhim. Agar unga maxsus ulanmagan bo'lsa, u tekshirilgan tibbiy ma'lumotlar bazasiga murojaat qilmaydi, bemorni ko'rikdan o'tkaza olmaydi va shifokor o'rgatilgandek mulohaza yuritmaydi. U statistik jihatdan ishonarli ko'rinadigan matn hosil qiladi. Ko'pincha ishonarli va to'g'ri javob bir xil bo'ladi. Ba'zan esa bunday bo'lmaydi va modelda ularning farqini bildiradigan ichki ogohlantirish yo'q.
Imtihonlardan o'tish
Shifokorlar e'tiborini tortgan ilk natijalar litsenziya imtihonlaridan keldi. 2023-yil boshida Tiffani Kung boshchiligidagi jamoa PLOS Digital Health jurnalida ChatGPT AQShdagi har bir shifokor topshirishi shart bo'lgan Amerika Qo'shma Shtatlari tibbiy litsenziya imtihoni (USMLE) savollarida hech qanday maxsus tayyorgarliksiz o'tish chegarasida yoki unga yaqin natija ko'rsatganini xabar qildi. O'sha yili Karan Singxal boshchiligidagi Google tadqiqotchilari Nature jurnalida kompaniyaning PaLM tizimi asosida qurilgan til modellarini tasvirlab berdi; aynan shu ish natijasida Med-PaLM nomli tibbiy versiya ham yaratildi. Ulardan eng yaxshisi USMLE uslubidagi katta savollar to'plamining 67,6 foiziga to'g'ri javob berdi, bu odatda o'tish chegarasi deb hisoblanadigan taxminan 60 foizdan ancha yuqori edi.
Biroq imtihon tor sinovdir. Test savollari tayyor holda keladi: kerakli faktlar berilgan va faqat bitta to'g'ri javob bor. Haqiqiy bemorlar bilan hammasi ancha murakkab. 2024-yilda Myunxen texnika universiteti tadqiqotchilari Paul Xager boshchiligida bir nechta ochiq modellarga AQSh kasalxonasiga qorin og'rig'i bilan murojaat qilgan taxminan 2400 nafar haqiqiy bemorning yozuvlarini berib, ulardan xuddi shifokor kabi bosqichma-bosqich tashxisga yetib borishni so'radi. Nature Medicine jurnalida chop etilgan natijalarga ko'ra, modellar shifokorlarga qaraganda sezilarli darajada kamroq aniq tashxis qo'ygan, ko'pincha davolash bo'yicha klinik tavsiyalarga amal qilmagan va hatto ma'lumotlar berilish tartibi o'zgarishidan ham chalg'igan.
Muomala madaniyati va qog'ozbozlik
Yana bir kutilmagan natija ohangga taalluqli edi. 2023-yilda JAMA Internal Medicine jurnalida chop etilgan tadqiqotda Kaliforniya universiteti San-Diyego filialidan Jon Ayers va hamkasblari Reddit forumida oddiy odamlar qoldirgan va tasdiqlangan shifokorlar allaqachon javob bergan 195 ta tibbiy savolni olishdi. Ular xuddi shu savollarni ChatGPTga berishdi, so'ngra litsenziyaga ega tibbiyot mutaxassislaridan iborat hay'atdan qaysi javob kimniki ekanini bilmagan holda ikki to'plamni solishtirishni so'rashdi. Baholovchilar o'z baholarining taxminan 79 foizida chatbot javobini afzal ko'rishdi va uning javoblarini shifokorlarnikiga qaraganda ancha ko'p hollarda hamdardlik bilan yozilgan deb topishdi.
Bu chatbotlar yaxshiroq shifokor degani emas. Odamlarning javoblari ko'ngillilar bo'sh vaqtlarida yozgan qisqa izohlar edi, hay'at esa faqat matnni baholadi, maslahat kimgadir haqiqatan yordam berganini emas. Ammo tadqiqot real rolga ishora qiladi: band klinitsistlarga aniqroq va iliqroq xabarlarni tayyorlashda yordam berish, keyin esa shifokor ularni tekshirib, imzolaydi.
Sog'liqni saqlashda chatbotlardan haqiqiy foydalanishning katta qismi ham xuddi shunday ko'zga tashlanmaydigan ishlardir. Bir qancha mamlakatlardagi kasalxonalar "fon kotiblari" (ambient scribes) deb ataladigan vositalarni sinovdan o'tkazmoqda: ular bemorning roziligi bilan qabulni tinglab, klinik qaydlarning qoralamasini tayyorlaydi, shunda shifokor klaviaturaga emas, bemorga qaray oladi. Boshqa tizimlar uzun tibbiy hujjatlarni qisqacha bayon qiladi, ko'rsatmalarni soddaroq tilda yoki boshqa tilda qayta yozadi va tibbiyot talabalariga mashq qilishda yordam beradi. Har bir holatda asosiy tamoyil bir xil: yakuniy qaror uchun malakali mutaxassis javobgar bo'lib qoladi.
Xavflar: ishonch bilan qilingan xatolar, tarafkashlik va maxfiylik
Chatbotlarning eng mashhur zaif tomoni tadqiqotchilar gallyutsinatsiya deb ataydigan hodisadir: model obro'li ko'rinadigan, lekin yolg'on ma'lumot hosil qiladi, masalan, mavjud bo'lmagan dori o'zaro ta'siri yoki hech qachon chop etilmagan tadqiqotga havola. Javob to'g'ri bo'ladimi yoki noto'g'ri, ohang bir xil darajada ishonchli bo'lgani uchun bunday xatolarni, ayniqsa tibbiy ma'lumotga ega bo'lmagan odam uchun, payqash qiyin. Boshqa muammolar ham shunchalik jiddiy:
- Tarafkashlik. Modellar mavjud matnlardan o'rganadi, ularda esa ayrim aholi guruhlari, tillar va mamlakatlar haddan tashqari ko'p aks etgan. Maslahatlar Markaziy Osiyodagi bemorlardan ko'ra Shimoliy Amerika yoki G'arbiy Yevropadagi bemorlarga ko'proq mos kelishi mumkin, kamroq tarqalgan tillarda esa javoblar sifati pasayishi mumkin.
- Maxfiylik. Alomatlar, tahlil natijalari va dorilar ro'yxati maxfiy ma'lumotlardir. Xizmatga qarab, siz yozgan narsalar saqlanishi yoki mahsulotni yaxshilash uchun ishlatilishi mumkin.
- Eskirgan yoki mahalliy sharoitga mos bo'lmagan bilim. Modelning bilimi o'qitish tugagan nuqtada to'xtaydi, u sizning mamlakatingizda qaysi dorilar ro'yxatdan o'tganini yoki qaysi davolash tavsiyalari amal qilishini bilmasligi mumkin.
- Haddan tashqari ishonish. Bemorlar ham, shifokorlar ham ravon javobga juda oson ishonib qolishi mumkin. Bu moyillik avtomatlashtirish tarafkashligi (automation bias) deb ataladi.
2024-yil yanvarida Jahon sog'liqni saqlash tashkiloti sog'liqni saqlashda ana shunday "katta multimodal modellar" etikasi va boshqaruvi bo'yicha qo'llanma e'lon qildi. Unda hukumatlar, texnologiya kompaniyalari va tibbiyot muassasalari uchun 40 dan ortiq tavsiya bor. Ular orasida tizimni bemorlarda qo'llashdan oldin mustaqil sinovdan o'tkazish, tizimlar qanday yaratilgani haqida ochiqlik va biror narsa noto'g'ri ketganda kim javobgar ekani to'g'risida aniq qoidalar bor.
Bemorlar nimalarni bilishi kerak
Ehtiyotkorlik bilan foydalanilsa, chatbot foydali boshlang'ich nuqta bo'lishi mumkin: tahlil xulosasidagi notanish so'zni tushunish, qabuldan oldin savollar tayyorlash yoki shifokor allaqachon qo'ygan tashxisni anglab olish uchun. Bir nechta oddiy odat bundan foydalanishni xavfsizroq qiladi:
- Javobni tashxis yoki retsept emas, umumiy ma'lumot sifatida qabul qiling va muhim narsalarni shifokor yoki farmatsevt bilan tekshiring.
- Chatbot maslahat bergani uchun hech qachon dori qabul qilishni boshlamang, to'xtatmang yoki o'zgartirmang.
- Ko'krak og'rig'i, nafas olish qiyinlashishi, insult belgilari yoki o'ziga zarar yetkazish haqidagi o'ylar kabi favqulodda holatlarda mashinaga yozish o'rniga tez yordam xizmatiga murojaat qiling.
- To'liq ismingiz, hujjat raqamlari yoki sizni aniqlash mumkin bo'lgan boshqa ma'lumotlarni kiritmang.
- Chatbotdan manbalarini so'rang va agar u tekshirish mumkin bo'lgan haqiqiy manbalarni keltira olmasa, ehtiyot bo'ling.
Hali noma'lum bo'lgan narsalar
Eng katta ochiq savol chatbotlar tibbiy savollarga javob bera oladimi-yo'qmi emas, balki ulardan foydalanish odamlarni haqiqatan sog'lomroq qiladimi, degan savoldir. Imtihon ballari va ekspert baholari buning faqat o'rnini bosuvchi ko'rsatkichlaridir. To'g'ri tashxislar, kamroq xatolar, shifokorlarda kamroq kasbiy charchoq va bemorlar uchun yaxshiroq natijalar kabi real oqibatlarni o'lchaydigan yirik klinik sinovlar endigina boshlanmoqda. Tadqiqotchilar, shuningdek, bu vositalar o'zbek, qozoq yoki tojik kabi tillarda hamda o'qitish ma'lumotlarining katta qismi kelib chiqqan tizimlardan juda farq qiladigan sog'liqni saqlash tizimlarida qanday ishlashini bilishni istaydi. Bu savollarga javob topilmaguncha, chatbotni ko'p o'qigan yordamchi deb tasavvur qilish eng xavfsiz yo'l: u ko'pincha foydali, ba'zan xato qiladi va sizni ko'rikdan o'tkaza oladigan shifokorning o'rnini hech qachon bosa olmaydi.
Manbalar: World Health Organization (2024): Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models; Nature (2023), Singhal et al.: Large language models encode clinical knowledge; JAMA Internal Medicine (2023), Ayers et al.: Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum; Nature Medicine (2024), Hager et al.: Evaluation and mitigation of the limitations of large language models in clinical decision-making; PLOS Digital Health (2023), Kung et al.: Performance of ChatGPT on USMLE. Rasm: Daniel Sone, National Cancer Institute / Wikimedia Commons (Public domain).
Izohlar
Izoh qoldirish uchun tizimga kiring Kirish