Медицинадагы жасалма интеллект чат-боттору: мүмкүнчүлүктөр, тобокелдиктер жана бейтаптар эмнени билиши керек
Саламаттыктагы ИИ Макала

Медицинадагы жасалма интеллект чат-боттору: мүмкүнчүлүктөр, тобокелдиктер жана бейтаптар эмнени билиши керек

Neuronix 06 Jun, 2025 6 мин окуу

1966-жылы Массачусетс технология институтунун информатика илимпозу Жозеф Вейценбаум ELIZA аттуу чакан программа жазган. Анын эң белгилүү сценарийи психотерапевтти тууроо менен колдонуучунун өз сөздөрүн суроого айлантып кайтарчу: «Мен чарчадым» деген сөзгө «Эмнеге чарчадыңыз?» деп жооп берчү. ELIZA эч нерсе түшүнчү эмес, бирок адамдар ага чындап эле кам көрүп жаткандай сырын ачып жатканын көрүп, Вейценбаумдун өзү таң калган. Арадан 60 жылга жакын убакыт өткөндө чат-боттор оорукана каттарын даярдай алат, кан анализинин жыйынтыктарын түшүндүрө алат жана медициналык сынак суроолоруна өтүү баллын алууга жетиштүү деңгээлде жооп бере алат. Эски суроо жаңы күч менен кайтып келди: баарын билгендей сүйлөгөн машинага канчалык ишенүүгө болот?

Чат-бот медицинаны кантип «билет»

ChatGPT, Gemini же Claude сыяктуу заманбап чат-боттор чоң тил моделдерине (large language models, LLM) негизделген. Булар китептерден баштап веб-сайттарга жана илимий макалаларга чейинки эбегейсиз көп тексттерде үйрөтүлгөн компьютердик программалар. Үйрөтүү учурунда модель тексттеги кийинки кайсы сөз келиши ыктымал экенин божомолдоону үйрөнөт. Миллиарддаган жолу кайталанган ушул жөнөкөй тапшырма ырааттуу текст жаза алган, документтердин кыскача мазмунун берген жана дээрлик ар кандай темада, анын ичинде медицинада да суроолорго жооп бере алган системаны пайда кылат.

Моделдин эмнени жасабай турганы да ошончолук маанилүү. Эгер ага атайын туташтырылбаса, ал текшерилген медициналык маалымат базасына кайрылбайт, бейтапты текшере албайт жана дарыгер үйрөтүлгөндөй ой жүгүртпөйт. Ал статистикалык жактан чындыкка окшош текст түзөт. Көбүнчө чындыкка окшош жана туура жооп бир эле нерсе болуп чыгат. Кээде андай болбойт, ал эми моделде алардын айырмасын билдирген ички белги жок.

Сынактар тапшырылды

Дарыгерлердин көңүлүн бурган алгачкы жыйынтыктар лицензиялык сынактардан келди. 2023-жылдын башында Тиффани Кунг жетектеген топ PLOS Digital Health журналында ChatGPT эч кандай атайын даярдыксыз АКШдагы ар бир дарыгер тапшырууга милдеттүү болгон Америка Кошмо Штаттарынын медициналык лицензиялык сынагынын (USMLE) суроолорунда өтүү чегинде же ага жакын натыйжа көрсөткөнүн билдирген. Ошол эле жылы Каран Сингхал жетектеген Google изилдөөчүлөрү Nature журналында компаниянын PaLM системасына негизделген тил моделдеринин топтомун сүрөттөп беришкен; дал ушул иштин натыйжасында Med-PaLM аттуу медициналык версия да түзүлгөн. Алардын эң мыктысы USMLE үлгүсүндөгү чоң суроолор топтомунун 67,6%ына туура жооп берген, бул адатта өтүү чеги деп эсептелген болжол менен 60%дан бир кыйла жогору болчу.

Бирок сынак тар чөйрөдөгү текшерүү. Тест суроолору даяр түрдө келет: керектүү фактылар берилген жана бир гана туура жооп бар. Чыныгы бейтаптар менен баары алда канча татаал. 2024-жылы Мюнхен техникалык университетинин изилдөөчүлөрү Пауль Хагердин жетекчилиги астында бир нече эркин жеткиликтүү моделге АКШ ооруканасына ич оору менен кайрылган болжол менен 2400 чыныгы бейтаптын жазууларын берип, алардан дарыгер сыяктуу кадам-кадам менен диагнозго жетүүнү суранышкан. Nature Medicine журналында жарыяланган жыйынтыктар боюнча моделдер дарыгерлерге караганда диагнозду байкаларлык так эмес коюшкан, дарылоо боюнча клиникалык көрсөтмөлөрдү көп учурда сакташкан эмес жана маалыматтын берилүү тартибинен эле адашып калышкан.

Сүйлөшүү маданияты жана кагаз иштери

Дагы бир күтүлбөгөн жыйынтык сүйлөө маанайына тиешелүү болгон. 2023-жылы JAMA Internal Medicine журналында жарыяланган изилдөөдө Калифорния университетинин Сан-Диегодогу бөлүмүнөн Жон Айерс жана анын кесиптештери Reddit форумунда карапайым адамдар калтырган жана тастыкталган дарыгерлер жооп берип койгон ден соолукка тиешелүү 195 суроону алышкан. Ошол эле суроолорду ChatGPTге беришип, андан кийин лицензиясы бар медицина адистеринен турган топтон кайсы жооп кимдики экенин билбей туруп эки жооп топтомун салыштырууну суранышкан. Баалоочулар өз бааларынын болжол менен 79%ында чат-боттун жообун артык көрүшкөн жана анын жоопторун дарыгерлердикине караганда алда канча көп учурда боор оорукердик менен жазылган деп табышкан.

Бул чат-боттор жакшыраак дарыгер дегенди билдирбейт. Адамдардын жооптору ыктыярчылардын бош убактысында жазган кыска жазуулары эле, ал эми эксперттер кеңештин чындап эле кимдир бирөөгө жардам бергенин эмес, текстти гана баалашкан. Бирок изилдөө реалдуу ролду көрсөтүп турат: убактысы аз клиницисттерге түшүнүктүүрөөк жана жылуураак билдирүүлөрдү даярдоого жардам берүү, андан кийин дарыгер аларды текшерип, кол коёт.

Саламаттыкты сактоодо чат-ботторду чыныгы колдонуунун басымдуу бөлүгү да ушундай көзгө көп деле урунбаган иштер. Бир нече өлкөдөгү ооруканалар «фондук катчылар» (ambient scribes) деп аталган куралдарды сынап жатышат: алар бейтаптын макулдугу менен кабыл алууну угуп, клиникалык жазуулардын долбоорун даярдайт, ошондо дарыгер клавиатурага эмес, бейтапка карай алат. Башка системалар узун медициналык документтердин кыскача мазмунун берет, көрсөтмөлөрдү жөнөкөй тилде же башка тилде кайра жазат жана медицина студенттерине машыгууга жардам берет. Ар бир учурда негизги принцип бирдей: акыркы чечим үчүн квалификациялуу адис жооп берет.

Тобокелдиктер: ишенимдүү каталар, бир жактуулук жана купуялык

Чат-боттордун эң белгилүү алсыз жагы изилдөөчүлөр галлюцинация деп атаган көрүнүш: модель кадыр-барктуу угулган, бирок жалган маалыматты чыгарат, мисалы, жок дары өз ара аракеттенүүсүн же эч качан жарыяланбаган изилдөөгө шилтемени. Жооп туура болобу же туура эмеспи, үнү бирдей ишенимдүү болгондуктан, мындай каталарды, айрыкча медициналык билими жок адамга, байкоо кыйын. Башка көйгөйлөр да ошончолук олуттуу:

  • Бир жактуулук. Моделдер бар тексттерден үйрөнөт, ал эми аларда айрым калк топтору, тилдер жана өлкөлөр ашыкча көп чагылдырылган. Кеңештер Борбордук Азиядагы бейтаптарга караганда Түндүк Америкадагы же Батыш Европадагы бейтаптарга көбүрөөк ылайыктуу болушу мүмкүн, ал эми аз тараган тилдерде жооптордун сапаты төмөндөшү мүмкүн.
  • Купуялык. Симптомдор, анализдин жыйынтыктары жана дарылардын тизмеси купуя маалыматтар. Кызматка жараша сиз жазган нерселер сакталышы же продуктту жакшыртуу үчүн колдонулушу мүмкүн.
  • Эскирген же жергиликтүү шартка ылайык келбеген билим. Моделдин билими үйрөтүү аяктаган учурда токтойт жана ал сиздин өлкөңүздө кайсы дарылар катталганын же кайсы дарылоо көрсөтмөлөрү колдонуларын билбеши мүмкүн.
  • Ашыкча ишеним. Бейтаптар да, дарыгерлер да ырааттуу жоопко өтө оңой ишенип калышы мүмкүн. Бул ыкташуу автоматташтыруу бир жактуулугу (automation bias) деп аталат.

2024-жылдын январында Дүйнөлүк саламаттыкты сактоо уюму саламаттыкты сактоодогу ушундай «чоң мультимодалдык моделдердин» этикасы жана башкаруусу боюнча колдонмо жарыялаган. Анда өкмөттөр, технология компаниялары жана медициналык мекемелер үчүн 40тан ашык сунуш бар. Алардын арасында системаны бейтаптарга колдонуудан мурун көз карандысыз сыноодон өткөрүү, системалар кантип түзүлөрү тууралуу ачыктык жана бир нерсе туура эмес болуп калса, ким жооптуу экени тууралуу так эрежелер бар.

Бейтаптар эмнени билиши керек

Этияттык менен колдонулса, чат-бот пайдалуу баштапкы чекит боло алат: анализдин жыйынтыгындагы тааныш эмес сөздү түшүнүү, кабыл алууга чейин суроолорду даярдоо же дарыгер коюп койгон диагнозду түшүнүү үчүн. Бир нече жөнөкөй адат муну коопсузураак кылат:

  • Жоопту диагноз же рецепт катары эмес, маалымат катары кабыл алыңыз жана маанилүү нерселердин баарын дарыгер же фармацевт менен текшериңиз.
  • Чат-бот кеңеш бергени үчүн эч качан дары ичүүнү баштабаңыз, токтотпоңуз же өзгөртпөңүз.
  • Көкүрөк ооруганда, дем алуу кыйындаганда, инсульттун белгилери байкалганда же өзүңүзгө зыян келтирүү тууралуу ойлор пайда болгондо сыяктуу шашылыш учурларда машинага жазуунун ордуна тез жардам кызматына кайрылыңыз.
  • Толук атыңызды, документтердин номерлерин же сизди аныктоого мүмкүн болгон башка маалыматтарды киргизбеңиз.
  • Чат-боттон булактарын сураңыз жана ал текшерүүгө мүмкүн болгон чыныгы булактарды атай албаса, сак болуңуз.

Азырынча белгисиз нерселер

Эң чоң ачык суроо чат-боттор медициналык суроолорго жооп бере алабы деген эмес, аларды колдонуу адамдарды чындап эле дени сак кылабы деген суроо. Сынак баллдары жана эксперттердин баалары муну кыйыр гана көрсөтөт. Туура диагноздор, азыраак каталар, дарыгерлердин кесиптик чарчоосунун азайышы жана бейтаптар үчүн жакшыраак натыйжалар сыяктуу чыныгы жыйынтыктарды өлчөгөн ири клиникалык сыноолор жаңы гана башталып жатат. Изилдөөчүлөр ошондой эле бул куралдар өзбек, казак же тажик сыяктуу тилдерде жана үйрөтүүчү маалыматтардын көпчүлүгү алынган системалардан таптакыр айырмаланган саламаттыкты сактоо системаларында кантип иштээрин билгиси келет. Бул суроолорго жооп табылганга чейин чат-ботту көп окуган жардамчы катары элестетүү эң коопсуз: ал көбүнчө пайдалуу, кээде жаңылышат жана сизди текшере алган дарыгердин ордун эч качан баса албайт.

Булактар: World Health Organization (2024): Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models; Nature (2023), Singhal et al.: Large language models encode clinical knowledge; JAMA Internal Medicine (2023), Ayers et al.: Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum; Nature Medicine (2024), Hager et al.: Evaluation and mitigation of the limitations of large language models in clinical decision-making; PLOS Digital Health (2023), Kung et al.: Performance of ChatGPT on USMLE. Сүрөт: Daniel Sone, National Cancer Institute / Wikimedia Commons (Public domain).

медицинадагы чат-боттор саламаттыкты сактоодогу чоң тил моделдери chatgpt медициналык кеңеш med-palm chatgpt медициналык сынак жасалма интеллекттин галлюцинациясы медициналык маалыматтардын купуялуулугу автоматташтыруу бир жактуулугу дсу жасалма интеллект боюнча колдонмосу медицинадагы жасалма интеллект санариптик саламаттык

Бул пост менен бөлүшүү:

Жакты (Макалаларды жактыруу үчүн кирүү керек)

Пикирлер

Пикир калтыруу үчүн кирүү керек Кирүү

Тектеш макалалар