Përgatiti: Fatbardh Dema
Pacientët nuk duhet të besojnë se chatbotët e fuqizuar nga inteligjenca artificiale (AI) do të jenë gjithmonë të saktë në dhënien e informacioneve për ilaçet, ka konkluduar një hulumtim në revistën prestigjioze shkencore “BMJ Quality & Safety”, pasi gjeti një numër të konsiderueshëm të përgjigjeve të gabuara apo me potencial të dëmshëm.
Hulumtuesit kanë shtuar se kompleksiteti i përgjigjeve që ofrojnë chatbotët e bën edhe më të vështirë për pacientët që t’i kuptojnë mirë terapitë.
Në shkurt të vitit 2023, motorët e kërkimit iu nënshtruan një ndryshimi të theksuar falë prezantimit të chatbotëve të fuqizuar nga AI, që ofronin premtimin për rezultate më të zgjeruara të kërkimit, përgjigje më gjithëpërfshirëse dhe një lloji të ri të përvojës ndërvepruese, sipas studiuesve.
Përderisa këta chatbotë mund të trajnohen me sete të të dhënave nga i gjithë interneti, duke ua mundësuar bashkëbisedimin në çfarëdo teme, përfshirë kërkesat që lidhen me kujdes shëndetësor, ato mund të gjenerojnë edhe përmbajtje të pakuptimta e edhe të dëmshme, kanë shtuar hulumtuesit.
Studimet e mëhershme kanë monitoruar ndikimet e këtyre chatbotëve në perspektivën e profesionistëve të kujdesit shëndetësor dhe jo të pacientëve. Për ta adresuar këtë, hulumtuesit eksploruan mbi përgjigjet e ofruara për 50 barnat më të përshkruara në Shtetet e Bashkuara të Amerikës në vitin 2020. Ata hulumtuan për përgjigjet se sa ishin të plota dhe të sakta, duke përdorur “Bing”, një motor kërkimi me veçori chatboti të fuqizuar nga AI.
Për të simuluar pacientët që konsultojnë chatbotë për informacione mbi ilaçe, studiuesit rishikuan bazat e të dhënave të kërkimit dhe u konsultuan me një farmacist klinik dhe mjekë me ekspertizë në këtë sferë, për të identifikuar pyetjet që pacientët më shpesh u bëjnë profesionistëve të kujdesit shëndetësor.
Chatboti ishte pyetur 10 pyetje për secilin prej 50 ilaçeve. Ai gjeneroi 500 përgjigje në përgjithësi. Pyetjet ishin lidhur me atë se për çka përdoret ilaçi, si funksionon, instruksionet për përdorim, efektet anësore dhe kundërindikacionet.
Kuptueshmëria e përgjigjeve të ofruara nga chatboti u vlerësua duke kalkuluar një përllogaritës të quajtur “Flesch Reading Ease Score”, që përllogarit nivelin arsimor të kërkuar për të kuptuar diçka të caktuar. Niveli i pikëve nga 0 në 30 konsiderohet shumë i zorshëm për t’u kuptuar, duke e bërë të nevojshëm nivelin e lartë shkollor. Në anën tjetër, pikët nga 91 deri në 100 nënkuptojnë se teksti është i lehtë për t’u kuptuar dhe i përshtatshëm madje edhe për fëmijët prej 11 vjeç.
Për të kuptuar plotësinë dhe saktësinë e përgjigjeve të chatbotit, përgjigjet u krahasuan me informatat e përditësuara për ilaçet për profesionistët e kujdesit shëndetësor dhe pacientët në uebfaqen “drugs.com”.
Shtrirja e dëmit të mundshëm nëse pacienti ndoqi rekomandimet e chatbotit u vlerësuan nga shtatë ekspertë në sigurinë e ilaçeve, duke përdorur nëngrupin prej 20 përgjigjesh në të cilat chatboti shfaqi pasaktësi ose joplotshmëri, ose rrezik potencial për sigurinë e pacientit.
Hulumtuesit përdorën shkallën e dëmit sipas vlerësimit Agjencisë për Kërkime dhe Cilësi të Kujdesit Shëndetësor (AHRQ) në SHBA për të matur rrezikun e mundshëm.
Mesatarja e kuptueshmërisë sipas “Flesch Reading Ease Score” ishte pak mbi 37, që nënkupton se duhet shkollim i lartë. Në përgjithësi, mesatarisht plotësia e përgjigjeve nga chatboti ishte 77%. Pesë nga 10 pyetjet morën përgjigje të plotë, ndërsa pyetja 3 (çka duhet të marrë në konsideratë për të marrë këtë bari?) pati përgjigjen më të paplotë me vetëm 23 për qind plotësi.
Përgjigjet e chatbotëve s’u përshtatën me të dhënat e referencës në 126 nga 484 përgjigje (26%) dhe ishin plotësisht të paqëndrueshme në 16 nga 484 përgjigjet (pak më shumë se 3%).
Vlerësimi i nëngrupit prej 20 përgjigjesh zbuloi se rreth 54% ishin në përputhje me konsensusin shkencor. Rreth 39% ishin kundër, ndërsa s’kishte konsensus shkencor për 6-përqindëshin e mbetur.
Rezultatet potencialisht të dëmshme nga këshillat e chatbotëve u ndanë në tri kategori. Shumë të mundshme si rrezik u vlerësuan 3% e këshillave të chatbotit, mesatarisht të mundshme si rrezik ishin 29% e përgjigjeve dhe 34% u vlerësuan si të pamundura ose aspak të mundshme për të shkaktuar dëme.
E 42% e përgjigjeve u konsideruan se çonin në dëm të moderuar ose të lehtë dhe 22% në vdekje ose dëmtim të rëndë. Rreth një e treta (36%) konsiderohej se s’çonte në asnjë dëm.
Hulumtuesit kanë pranuar që studimi i tyre nuk mori për bazë përvojat reale të pacientëve dhe nëse kërkesat e tyre në chatbotë në gjuhë të ndryshme mund të përmirësojnë kualitetin e përgjigjeve.
“Në këtë studim, kemi mbikëqyrur që motorët e kërkimit me chatbot të fuqizuar nga AI japin përgjigje në përgjithësi komplete dhe të sakta në pyetjet e pacientëve. Gjithsesi, përgjigjet e chatbotëve ishin shumë zor të kuptueshme dhe përgjigjet në vazhdimësi kanë mungesë të informatave ose tregonin pasaktësi, me potencial për të kërcënuar sigurinë e pacientëve dhe mjekimin”, thuhet në studim.
Ekspertët po ashtu kanë thënë se pengesë tjetër e madhe ka qenë paaftësia e chatbotit për t’i kuptuar qëllimet themelore të pyetjes së pacientëve.
“Pavarësisht potencialit të tyre, është ende thelbësore që pacientët të konsultohen me profesionistët e tyre shëndetësorë, pasi që chatbotët jo përherë mund të gjenerojnë informacione pa gabime”, thuhet në konkluzë të ekspertëve që kanë këshilluar për kujdes deri sa të ketë në dispozicion motorë të citimeve me norma më të larta të saktësisë.
Ky shkrim u përkthye nga “bmjgroup.coms”, i publikuar më 11 tetor 2024.
