Чатботҳои зеҳни сунъӣ дар тиб: имкониятҳо, хатарҳо ва он чи беморон бояд донанд
Зеҳни сунъӣ дар тиб Мақола

Чатботҳои зеҳни сунъӣ дар тиб: имкониятҳо, хатарҳо ва он чи беморон бояд донанд

Neuronix 06 Jun, 2025 7 дақиқа хониш

Соли 1966 Ҷозеф Вейценбаум, олими информатикаи Донишкадаи технологии Массачусетс, барномаи хурде бо номи ELIZA навишт. Сенарияи машҳуртарини он ба психотерапевт тақлид карда, суханони худи корбарро ба савол табдил медод: ба ибораи «Ман хаста шудам» ҷавоб медод «Чаро шумо хаста шудед?». ELIZA ҳеҷ чизро намефаҳмид, вале Вейценбаум дар ҳайрат монд, вақте дид, ки одамон ба он дарди дил мекунанд, гӯё он воқеан ғамхорӣ мекарда бошад. Қариб 60 сол баъд чатботҳо метавонанд мактубҳои беморхонаро омода кунанд, натиҷаҳои таҳлили хунро шарҳ диҳанд ва ба саволҳои имтиҳони тиббӣ чунон хуб ҷавоб диҳанд, ки бояд аз он гузаранд. Саволи кӯҳна бо қуввати нав баргашт: ба мошине, ки гӯё ҳама чизро медонад, то чӣ андоза бовар кардан мумкин аст?

Чатбот тибро чӣ гуна «медонад»

Чатботҳои муосир, ба монанди ChatGPT, Gemini ё Claude, бар пояи моделҳои калони забонӣ (large language models, LLM) сохта шудаанд. Инҳо барномаҳои компютерие мебошанд, ки дар маҷмӯаҳои бузурги матн, аз китобҳо то сомонаҳо ва мақолаҳои илмӣ, омӯзонида шудаанд. Ҳангоми омӯзиш модел пешгӯӣ карданро меомӯзад, ки дар матн кадом калима эҳтимолан баъдтар меояд. Ин вазифаи содда, ки миллиардҳо маротиба такрор мешавад, системаеро ба вуҷуд меорад, ки матни равон менависад, ҳуҷҷатҳоро мухтасар баён мекунад ва қариб дар ҳар мавзӯъ, аз ҷумла тиб, ба саволҳо ҷавоб медиҳад.

Он чизе, ки модел намекунад, низ ҳамон қадар муҳим аст. Агар он махсус ба чунин манбаъ пайваст нашуда бошад, ба пойгоҳи санҷидашудаи маълумоти тиббӣ муроҷиат намекунад, беморро муоина карда наметавонад ва тавре ки табибро таълим медиҳанд, мулоҳиза намеронад. Он матнеро тавлид мекунад, ки аз ҷиҳати оморӣ боварибахш менамояд. Аксар вақт боварибахш ва дуруст як чиз мебошанд. Гоҳо не, ва дар модел ягон огоҳкунандаи дохилӣ нест, ки фарқи онҳоро нишон диҳад.

Имтиҳонҳо супорида шуданд

Аввалин натиҷаҳое, ки диққати табибонро ҷалб карданд, аз имтиҳонҳои иҷозатномадиҳӣ буданд. Дар аввали соли 2023 гурӯҳе таҳти роҳбарии Тиффани Кунг дар маҷаллаи PLOS Digital Health хабар дод, ки ChatGPT бе ягон омодагии махсус дар саволҳои Имтиҳони иҷозатномаи тиббии Иёлоти Муттаҳида (USMLE), ки ҳар як табиби амрикоӣ бояд супорад, дар сатҳи ҳадди гузариш ё наздик ба он натиҷа нишон дод. Ҳамон сол муҳаққиқони Google таҳти роҳбарии Каран Сингҳал дар Nature маҷмӯи моделҳои забониеро тавсиф карданд, ки бар пояи системаи PaLM-и ин ширкат сохта шуда буданд; дар доираи ҳамин кор версияи тиббии Med-PaLM низ пайдо шуд. Беҳтарини онҳо ба 67,6%-и маҷмӯи калони саволҳои навъи USMLE дуруст ҷавоб дод, ки аз тақрибан 60%, ки одатан ҳадди гузариш ҳисоб мешавад, хеле зиёд буд.

Аммо имтиҳон санҷиши маҳдуд аст. Саволҳои тестӣ омода меоянд: далелҳои зарурӣ дода шудаанд ва танҳо як ҷавоби дуруст ҳаст. Бо беморони воқеӣ ҳама чиз мураккабтар аст. Соли 2024 муҳаққиқони Донишгоҳи техникии Мюнхен таҳти роҳбарии Паул Ҳагер ба якчанд модели озодона дастрас сабтҳои тақрибан 2400 бемори воқеиро доданд, ки бо дарди шикам ба беморхонае дар ИМА муроҷиат карда буданд, ва аз онҳо хоҳиш карданд, ки мисли табиб қадам ба қадам ба ташхис расанд. Тибқи мақолаи онҳо дар Nature Medicine, моделҳо нисбат ба табибон ташхисро ба таври назаррас камтар дақиқ гузоштанд, аксар вақт ба тавсияҳои клиникии табобат риоя накарданд ва ҳатто аз тартиби пешниҳоди маълумот гумроҳ мешуданд.

Тарзи муомила ва корҳои коғазӣ

Боз як натиҷаи ғайричашмдошт ба оҳанги сухан марбут буд. Дар таҳқиқоти соли 2023 дар маҷаллаи JAMA Internal Medicine Ҷон Айерс ва ҳамкоронаш аз Донишгоҳи Калифорния дар Сан-Диего 195 саволи марбут ба саломатиро гирифтанд, ки одамони оддӣ дар форуми Reddit гузошта буданд ва табибони тасдиқшуда аллакай ба онҳо ҷавоб дода буданд. Ҳамон саволҳоро ба ChatGPT доданд ва сипас аз гурӯҳи мутахассисони соҳаи тиб, ки иҷозатнома доштанд, хоҳиш карданд, ки ду маҷмӯи ҷавобҳоро бе донистани он ки кадомаш аз кист, муқоиса кунанд. Арзёбон дар тақрибан 79%-и баҳоҳояшон ҷавоби чатботро афзал донистанд ва ҷавобҳои онро нисбат ба ҷавобҳои табибон хеле бештар ҳамдардона арзёбӣ карданд.

Ин маънои онро надорад, ки чатботҳо табибони беҳтаранд. Ҷавобҳои одамон қайдҳои кӯтоҳи ихтиёриён буданд, ки дар вақти холиашон навишта шуда буданд, ва ҳакамон танҳо матнро баҳо медоданд, на он ки маслиҳат воқеан ба касе кӯмак кардааст ё не. Аммо таҳқиқот ба нақши воқеӣ ишора мекунад: ба клиницистони сермашғул дар таҳияи паёмҳои равшантару гармтар кӯмак кардан, ки баъд табиб онҳоро месанҷад ва имзо мекунад.

Қисми зиёди истифодаи воқеии чатботҳо дар соҳаи тандурустӣ низ чунин корҳои ба чашм нонамоён аст. Беморхонаҳо дар якчанд кишвар «котибони заминавӣ» (ambient scribes)-ро месанҷанд: воситаҳое, ки бо розигии бемор қабулро гӯш карда, сабтҳои клиникиро ба таври пешакӣ таҳия мекунанд, то табиб на ба клавиатура, балки ба бемор нигоҳ кунад. Системаҳои дигар парвандаҳои дарози тиббиро мухтасар баён мекунанд, дастурҳоро бо забони соддатар ё ба забони дигар аз нав менависанд ва ба донишҷӯёни тиб дар машқ кӯмак мекунанд. Дар ҳар маврид принсипи асосӣ як аст: масъулияти қарори ниҳоӣ бар дӯши мутахассиси соҳибихтисос мемонад.

Хатарҳо: хатоҳои бобоварӣ, ғаразнокӣ ва махфият

Заифии маъруфтарини чатботҳо он чизест, ки муҳаққиқон галлюсинатсия меноманд: модел маълумотеро тавлид мекунад, ки бонуфуз садо медиҳад, вале дурӯғ аст, масалан таъсири мутақобилаи доруҳо, ки вуҷуд надорад, ё истинод ба таҳқиқоте, ки ҳеҷ гоҳ нашр нашудааст. Азбаски оҳанг новобаста аз дурустӣ ё нодурустии ҷавоб якхела бобоварӣ аст, чунин хатоҳоро пай бурдан душвор аст, махсусан барои касе, ки маълумоти тиббӣ надорад. Мушкилоти дигар низ ҳамон қадар ҷиддӣ ҳастанд:

  • Ғаразнокӣ. Моделҳо аз матнҳои мавҷуда меомӯзанд, ки дар онҳо баъзе гурӯҳҳои аҳолӣ, забонҳо ва кишварҳо аз ҳад зиёд инъикос ёфтаанд. Маслиҳатҳо метавонанд ба беморони Амрикои Шимолӣ ё Аврупои Ғарбӣ нисбат ба беморони Осиёи Марказӣ бештар мувофиқ бошанд, ва дар забонҳои камтар маъмул сифати ҷавобҳо метавонад паст шавад.
  • Махфият. Аломатҳо, натиҷаҳои таҳлил ва рӯйхати доруҳо маълумоти ҳассосанд. Вобаста ба хидмат, он чи шумо менависед, метавонад нигоҳ дошта шавад ё барои беҳтар кардани маҳсулот истифода гардад.
  • Дониши кӯҳна ё ба шароити маҳаллӣ номувофиқ. Дониши модел дар лаҳзаи анҷоми омӯзиш қатъ мегардад ва он метавонад надонад, ки дар кишвари шумо кадом доруҳо ба қайд гирифта шудаанд ё кадом тавсияҳои табобатӣ амал мекунанд.
  • Боварии аз ҳад зиёд. Ҳам беморон ва ҳам табибон метавонанд ба ҷавоби равон хеле зуд бовар кунанд. Ин майлро ғаразнокии автоматикунонӣ (automation bias) меноманд.

Дар моҳи январи соли 2024 Созмони умумиҷаҳонии тандурустӣ дастуреро оид ба ахлоқ ва идоракунии чунин «моделҳои калони бисёрҳолата» (large multi-modal models) дар соҳаи тандурустӣ нашр кард, ки зиёда аз 40 тавсияро барои ҳукуматҳо, ширкатҳои технологӣ ва муассисаҳои тиббӣ дар бар мегирад. Аз ҷумлаи онҳо санҷиши мустақили система пеш аз истифода бо беморон, шаффофият дар бораи чӣ гуна сохта шудани системаҳо ва қоидаҳои равшан дар бораи он ки ҳангоми рӯй додани хато кӣ масъул аст.

Беморон бояд чиро донанд

Агар бо эҳтиёт истифода шавад, чатбот метавонад нуқтаи оғози муфид бошад: барои фаҳмидани калимаи ношинос дар хулосаи таҳлил, омода кардани саволҳо пеш аз қабул ё дарк кардани ташхисе, ки табиб аллакай гузоштааст. Якчанд одати содда ин истифодаро бехатартар мегардонад:

  • Ҷавобро на ҳамчун ташхис ё дорухат, балки ҳамчун маълумоти умумӣ қабул кунед ва ҳама чизи муҳимро бо табиб ё дорусоз санҷед.
  • Ҳеҷ гоҳ танҳо аз рӯи маслиҳати чатбот истеъмоли доруро оғоз накунед, қатъ накунед ва тағйир надиҳед.
  • Дар ҳолатҳои фаврӣ, ба монанди дарди қафаси сина, душвории нафаскашӣ, нишонаҳои сакта ё фикрҳо дар бораи ба худ зарар расонидан, ба ҷои навиштан ба мошин ба ёрии таъҷилӣ занг занед.
  • Номи пурра, рақамҳои ҳуҷҷатҳо ва дигар маълумотеро, ки шахсияти шуморо муайян мекунад, ворид накунед.
  • Аз чатбот манбаъҳояшро пурсед ва агар он манбаъҳои воқеии қобили санҷишро овардан натавонад, эҳтиёт шавед.

Он чи то ҳол номаълум аст

Саволи асосии кушода на дар он аст, ки оё чатботҳо ба саволҳои тиббӣ ҷавоб дода метавонанд, балки дар он аст, ки оё истифодаи онҳо одамонро воқеан солимтар мегардонад. Холҳои имтиҳон ва баҳоҳои коршиносон танҳо нишондиҳандаҳои ғайримустақими ин мебошанд. Озмоишҳои бузурги клиникие, ки натиҷаҳои воқеӣ, аз қабили ташхисҳои дуруст, хатоҳои камтар, хастагии касбии камтари табибон ва натиҷаҳои беҳтар барои беморонро чен мекунанд, навакак оғоз мешаванд. Муҳаққиқон инчунин мехоҳанд донанд, ки ин воситаҳо дар забонҳое чун ӯзбекӣ, қазоқӣ ё тоҷикӣ ва дар системаҳои тандурустие, ки аз системаҳои манбаи аксари маълумоти омӯзишӣ хеле фарқ мекунанд, чӣ гуна кор мекунанд. То пайдо шудани ҷавоб ба ин саволҳо, беҳтар аст чатботро ҳамчун ёрдамчии серхонда тасаввур кунем: аксар вақт муфид, гоҳо хатокор ва ҳеҷ гоҳ ивазкунандаи табибе, ки шуморо муоина карда метавонад.

Манбаъҳо: World Health Organization (2024): Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models; Nature (2023), Singhal et al.: Large language models encode clinical knowledge; JAMA Internal Medicine (2023), Ayers et al.: Comparing physician and artificial intelligence chatbot responses to patient questions posted to a public social media forum; Nature Medicine (2024), Hager et al.: Evaluation and mitigation of the limitations of large language models in clinical decision-making; PLOS Digital Health (2023), Kung et al.: Performance of ChatGPT on USMLE. Тасвир: Daniel Sone, National Cancer Institute / Wikimedia Commons (Public domain).

чатботҳо дар тиб моделҳои калони забонӣ дар тандурустӣ маслиҳати тиббии chatgpt med-palm chatgpt ва имтиҳони тиббӣ галлюсинатсияи зеҳни сунъӣ махфияти маълумоти тиббӣ ғаразнокии автоматикунонӣ дастури сст оид ба зеҳни сунъӣ зеҳни сунъӣ дар тиб тандурустии рақамӣ

Ин навиштаро мубодила кунед:

Писанд омадан (Лутфан барои писанд кардан ворид шавед)

Шарҳҳо

Лутфан барои навиштани шарҳ ворид шавед Ворид шудан

Мақолаҳои марбут