Kengele ya wataalam baada ya ChatGPT Health kushindwa kutambua dharura za matibabu

AI Inapokosea: Pengo Hatari katika Zana za Afya Zinazoendeshwa na AI

Ujuzi Bandia ulipaswa kuleta mapinduzi katika upatikanaji wa huduma ya afya. Mamilioni ya watu ulimwenguni kote sasa wanageukia gumzo za AI kwa mwongozo wa matibabu kabla ya kuzungumza na daktari - kuelezea dalili, kutafuta uhakikisho, na kuamini majibu ya algoriti kwa ustawi wao. Lakini kundi linalokua la wataalamu wa matibabu na watafiti wa AI linaibua wasiwasi wa dharura: baadhi ya zana za afya za AI zinazotumiwa sana zinashindwa kutambua dharura zinazotishia maisha, na hivyo kuwaweka watumiaji katika hatari kubwa. Madhara hayo yanaenea zaidi ya huduma ya afya, na kulazimisha kila sekta kukabili swali lisilofaa kuhusu zana za AI wanazotegemea kila siku.

Tathmini za hivi majuzi za wasaidizi wa afya wanaotumia AI zimefichua maeneo ya kutisha. Katika hali za majaribio zinazodhibitiwa, zana hizi zimeripotiwa kukosa ishara za onyo za hali ya juu kama vile kiharusi, mshtuko wa moyo na sepsis - hali ambapo kila dakika ya kuchelewa kwa matibabu inaweza kumaanisha tofauti kati ya kupona na uharibifu wa kudumu. Wakati chatbot inajibu dalili za embolism ya mapafu kwa ushauri wa "kupumzika na kufuatilia," matokeo yake si ya kinadharia. Hupimwa katika maisha.

Kile Wataalamu wa Kimatibabu Wanachokiona Hasa

Madaktari wa dharura na wataalam wa huduma mahututi wameanza kurekodi kesi ambapo wagonjwa walifika hospitalini wakiwa wamechelewa kwa njia hatari, baada ya kushauriana na chatbots za AI ambazo zilishindwa kuashiria umuhimu. Mapendekezo ya Dkt. kutoka kwa zana za AI mara nyingi husomeka kuwa yanakubalika na tulivu - ambalo ndilo tatizo haswa. Jibu la kutia moyo kwa mtu anayepata maumivu makali ya kifua na upungufu wa kupumua haukosi utambuzi tu; inakatisha tamaa mtu huyo kutafuta huduma ya dharura anayohitaji.

Tafiti zinazochunguza usahihi wa gumzo la kiafya la AI zimegundua viwango vya makosa ambavyo havitakubalika katika mpangilio wowote wa kimatibabu. Uchambuzi mmoja uliotajwa sana uligundua kuwa wasaidizi maarufu wa AI walitambua kwa usahihi hitaji la uingiliaji wa dharura katika chini ya 50% ya kesi zinazohusisha hali mbaya sana. Kwa muktadha, mwanafunzi wa mwaka wa kwanza wa matibabu aliyefunzwa katika itifaki za majaribio atatarajiwa kuripoti hali hizi kwa usahihi wa karibu. Pengo si la pembeni - ni pengo.

Suala kuu si kwamba AI haina maarifa ya matibabu. Miundo mikubwa ya lugha imeonyesha utendakazi wa kuvutia kwenye mitihani ya leseni ya matibabu na inaweza kukumbuka idadi kubwa ya fasihi za kimatibabu. Kushindwa kunatokana na sababu za kimazingira chini ya utata - uwezo wa kupima dalili zinazoshindana, kutambua mawasilisho yasiyo ya kawaida, na kukosea upande wa tahadhari wakati kutokuwa na uhakika ni juu. Hizi ndizo ujuzi ambao matabibu wenye uzoefu hukuza kwa miaka mingi ya mazoezi na kwamba usanifu wa sasa wa AI unatatizika kuigiza kwa uhakika.

Kwa Nini AI Inatatizika na Uamuzi wa Kiwango cha Juu

Ili kuelewa ni kwa nini zana za afya za AI hazifanyi kazi katika utambuzi wa dharura, inasaidia kuelewa jinsi miundo mikubwa ya lugha inavyofanya kazi. Mifumo hii hutoa majibu kulingana na mifumo ya takwimu katika data ya mafunzo. Zimeboreshwa ili kutoa maandishi muhimu, mazungumzo, na yanayofaa kimuktadha - yasifanye kazi kama zana za uchunguzi zilizo na viwango vya usalama vilivyojumuishwa ndani. Mtumiaji anapoelezea dalili, modeli haifanyi mawazo ya kimatibabu; inatabiri jinsi jibu la manufaa lingeonekana kulingana na mifumo ambayo imejifunza.

Hii inaleta utofauti wa kimsingi kati ya matarajio ya mtumiaji na uwezo wa mfumo. Mtu anayeandika "Nina maumivu makali ya kichwa ghafla na maono yangu hayaoni" anatarajia AI kuelewa uzito wa hali yake. Mfano huo, hata hivyo, unaweza kutoa jibu ambalo linashughulikia maumivu ya kichwa kwa ujumla - kupendekeza unyevu, kupumzika, au msamaha wa maumivu - kwa sababu majibu hayo yanaonekana mara kwa mara katika data yake ya mafunzo kwa maswali yanayohusiana na maumivu ya kichwa. Uwezekano wa kitakwimu wa sababu mbaya hufunika idadi ndogo ya matukio ambapo dalili hizo zinaonyesha dharura ya kimatibabu kama vile kuvuja damu kwa sehemu ya chini ya damu.

Njia hatari zaidi ya AI ya kushindwa kufanya kazi si kukosea kabisa — ni kujiamini, kwa uwazi, karibu-sahihi katika hali ambapo "karibu" inaweza kugharimu maisha ya mtu au biashara yake.

Zaidi ya Huduma ya Afya: Tatizo la Kuaminiana Linalokabili Kila Sekta

Ingawa kushindwa kwa huduma ya afya ni kubwa zaidi, tatizo la msingi linaenea kwa kila sekta ambapo biashara na watu binafsi hutegemea AI kwa maamuzi muhimu. Kampuni za huduma za kifedha zinazotumia AI kugundua ulaghai hukabiliwa na hatari kama hizo - mfumo unaonasa 95% ya miamala ya ulaghai unasikika kuwa ya kuvutia hadi ukokote hasara kutoka kwa 5% inayokosa. Timu za kisheria zinazotumia AI kukagua kandarasi zinaweza kupata kuwa zana hiyo inatoa muhtasari wa vifungu kwa ujasiri huku ikikosa udhihirisho muhimu wa dhima uliozikwa katika lugha ngumu.

Kwa biashara 138,000+ zinazotumia majukwaa kama Mewayz kudhibiti shughuli - kutoka CRM na ankara hadi HR na uchanganuzi - somo kutoka kwa hitilafu za zana za afya za AI ni wazi: otomatiki inapaswa kukuza uamuzi wa kibinadamu, kamwe usibadilishe kabisa katika utiririshaji wa kazi muhimu. Hii ndiyo sababu majukwaa ya biashara yanayowajibika huunda AI kama safu ya uboreshaji na vituo vya ukaguzi vya binadamu, badala ya kuwa watoa maamuzi wanaojitegemea wanaofanya kazi bila uangalizi.

Biashara zitakazoimarika katika enzi ya AI ni zile zinazoelewa mahali pa kupeleka mitambo otomatiki kwa fujo na mahali pa kudumisha udhibiti wa binadamu. Kupanga miadi, kutoa vikumbusho vya ankara, kufuatilia utaratibu wa meli, kuchanganua mitindo ya wateja - hivi ni vikoa ambapo uwekaji kiotomatiki wa AI hutoa thamani kubwa na hatari ndogo. Lakini maamuzi yanayohusu kufuata, ustawi wa wafanyakazi, ahadi za kifedha au usalama wa mteja yanahitaji ukaguzi wa kibinadamu, bila kujali jinsi teknolojia msingi inavyokuwa ya hali ya juu.

Kanuni Tano za Kuasili kwa AI katika Biashara

Kufeli kwa zana za afya za AI hutoa mfumo wa vitendo kwa shirika lolote linalotathmini jinsi ya kuunganisha AI katika shughuli zao. Kanuni hizi zinatumika ikiwa unaanzisha huduma ya afya au unasimamia kampuni ya huduma za watu 50:

1. Fafanua radius ya mlipuko. Kabla ya kusambaza zana yoyote ya AI, ramani ya hali mbaya zaidi ikiwa itashindwa. Ikiwa matokeo ni madogo (mstari wa barua pepe unaozalishwa kiotomatiki wa shida kidogo), endesha kwa uhuru. Ikiwa matokeo ni makubwa (makataa ya mwisho ya mishahara ambayo hayakufanyika, uwasilishaji wa kodi usio sahihi, malalamiko ya mteja ambayo hayajashughulikiwa vibaya), jenga hatua za lazima za ukaguzi wa kibinadamu.
2. Chukua kujiamini kwa AI kama ishara, si uamuzi. Mifumo ya AI kwa hakika "haijui" mambo - hutoa matokeo ya uwezekano. Gumzo linalosema "huenda hili ni suala dogo" halichunguzi; inalingana na muundo. Tumia wasiwasi huo huo kwa maarifa ya biashara yanayotokana na AI, makadirio ya kifedha na mapendekezo ya uendeshaji.
3. Kagua kwa kuendelea, si tu wakati wa kusambaza. Utendaji wa AI unaweza kuharibika kadiri hali halisi ya ulimwengu inavyosogezwa kutoka kwa data ya mafunzo. Anzisha mizunguko ya ukaguzi wa mara kwa mara ambapo wataalam wa kibinadamu hutathmini matokeo ya AI dhidi ya ukweli wa msingi. Hii ni muhimu kwa dashibodi ya uchanganuzi wa biashara yako kama ilivyo kwa AI ya matibabu.
4. Dumisha njia mbadala. Kila mtiririko wa kazi unaoendeshwa na AI unapaswa kuwa na njia wazi ya kupanda hadi kwa mtu anayefanya maamuzi. Ikiwa usaidizi wako wa kiotomatiki kwa wateja hauwezi kusuluhisha suala katika mabadilishano mawili, unapaswa kukabidhiwa mtu bila mshono - sio kumshawishi mteja kupitia mapendekezo yanayozidi kuwa yasiyo muhimu.
5. Chagua mifumo ambayo inashiriki falsafa hii. Zana unazounda biashara yako zinaonyesha maadili yako kuhusu kutegemewa na kuwajibika. Mifumo kama vile Mewayz inayounganisha uwekaji otomatiki wa AI katika moduli 207 - kutoka kwa mifumo ya kuweka nafasi hadi ya malipo - hufanya hivyo kwa kuelewa kwamba otomatiki hushughulikia sauti huku wanadamu wakiamua.

Nini Wagonjwa na Wateja Wanataka Kweli Kutoka AI

Utafiti unaonyesha mara kwa mara kuwa watu hawataki kabisa AI kuchukua nafasi ya utaalamu wa binadamu - wanataka ifanye utaalam wa binadamu kufikiwa zaidi. Utafiti wa 2024 uliofanywa na Kituo cha Utafiti cha Pew uligundua kuwa 60% ya Wamarekani hawatafurahishwa na mtoa huduma wao wa afya kutegemea AI kwa uchunguzi, wakati huo huo wakionyesha kupendezwa na zana za AI ambazo zinaweza kuwasaidia kutayarisha maswali bora kwa daktari wao au kuelewa istilahi za matibabu. Tamaa ni ya kuongeza, sio badala.

Nguvu hii hucheza katika miktadha ya biashara. Wamiliki wa biashara ndogondogo hawataki AI inayowafanyia maamuzi ya kifedha - wanataka mfumo unaopanga data zao za kifedha kwa uwazi, kuripoti hitilafu, na kuwasilisha chaguo ili waweze kufanya chaguo sahihi haraka. Majukwaa ya biashara yaliyofanikiwa zaidi yanaelewa tofauti hii intuitively. Huweka kiotomatiki kazi ya kuchosha, inayotumia muda ambayo huwazika wajasiriamali - kuingiza data, kuratibu miadi, ufuatiliaji wa ankara, utoaji wa ripoti - huku wakiweka binadamu katika udhibiti thabiti wa mikakati, mahusiano na maamuzi muhimu.

Mapungufu ya AI ya huduma ya afya, kwa njia nyingi, ni hadithi ya tahadhari kuhusu kile kinachotokea wakati makampuni ya teknolojia yanatanguliza uwezo kuliko matumizi yanayofaa. Kuunda AI ambayo inaweza kujadili dalili za matibabu ni ya kuvutia kiufundi. Kuunda ile ambayo inajua kwa uhakika wakati wa kusema "acha kuzungumza nami na upige ambulensi" kunahitaji falsafa ya muundo tofauti kabisa - ambayo inatanguliza mipaka ya usalama kuliko ufasaha wa mazungumzo.

Kujenga Mustakabali Salama wa AI kwa Biashara na Zaidi ya

Njia ya kusonga mbele sio kuachana na AI - faida za teknolojia ni muhimu sana na zinasambazwa kwa upana sana ili kubadilisha mkondo. Badala yake, kengele ya huduma ya afya inapaswa kuchochea mbinu ya kukomaa zaidi ya uwekaji wa AI katika kila tasnia. Hii inamaanisha mifumo ya udhibiti ambayo inashikilia zana za afya za AI kwa viwango vya kimatibabu, viwango vya tasnia ambavyo hupima zana za biashara za AI dhidi ya matokeo ya ulimwengu halisi (sio tu matukio ya onyesho), na mabadiliko ya kitamaduni kutoka kwa dhana kwamba otomatiki zaidi kila wakati ni sawa na maendeleo zaidi.

Kwa wamiliki wa biashara wanaotumia mandhari hii, ushauri wa vitendo ni wa moja kwa moja: wekeza katika mifumo na zana zinazochukulia AI kama msaidizi dhabiti badala ya neno lisiloweza kukosea. Tafuta mifumo inayoharakisha utendakazi wako na data yako kuwa wazi zaidi bila kuondoa uwezo wako wa kubatilisha, kurekebisha na hatimaye kuamua. Iwe unasimamia timu ya watu mia tano au tano, safu sahihi ya teknolojia inapaswa kukupa nguvu - sio kuondoa usukani wako.

Wataalamu wa matibabu wanaotoa kengele kuhusu zana za afya za AI hawapinga teknolojia. Wana uwajibikaji. Wanaelewa kwamba algoriti ya kisasa zaidi ulimwenguni ni nzuri tu kama mfumo wa hundi, mizani, na uangalizi wa kibinadamu uliojengwa kuizunguka. Kanuni hiyo haitumiki tu kwa dawa. Inatumika kwa kila ankara unayotuma, kila mfanyakazi unayeingia ndani, kila uhusiano wa mteja unaokuza, na kila uamuzi unaobadilisha mustakabali wa biashara yako.

Maswali Yanayoulizwa Sana

Kwa nini ChatGPT Health ilishindwa kutambua dharura za matibabu?

Afya ya ChatGPT na zana sawa za afya za AI zinategemea kulinganisha muundo badala ya hoja za kimatibabu. Wataalamu wa matibabu waligundua kwamba mifumo hii mara nyingi huainisha vibaya dalili za dharura kama vile maumivu ya kifua au viashiria vya kiharusi kama malalamiko ya kawaida, bila uamuzi wa kimazingira ambao matabibu waliofunzwa huibuka kwa miaka mingi. Zana hazikuundwa kwa itifaki za majaribio ya dharura, na hivyo kutengeneza pengo hatari kati ya matarajio ya mtumiaji na uwezo halisi wa uchunguzi.

Je, gumzo za kiafya za AI zinaweza kuaminiwa kwa ushauri wa matibabu?

Soga za sasa za AI za afya hazipaswi kamwe kuchukua nafasi ya ushauri wa kitaalamu wa matibabu, hasa kwa dalili za dharura. Ingawa wanaweza kutoa maelezo ya afya ya jumla, wataalam wanaonya dhidi ya kuwategemea kwa uchunguzi. Watumiaji wanapaswa kutibu mwongozo wa afya unaotokana na AI kama kianzio pekee na kila mara watafute huduma ya matibabu iliyohitimu wanapopatwa na dalili zinazohusu au dharura zinazoweza kutokea.

Je, kuna hatari gani za kutegemea AI kwa maamuzi ya afya?

Hatari kuu ni pamoja na kucheleweshwa kwa matibabu ya hali nyeti kwa wakati kama vile mshtuko wa moyo na kiharusi, utambuzi usio sahihi unaosababisha matibabu yasiyofaa, na uhakikisho wa uwongo ambao hukatisha tamaa kutafuta huduma ya kitaalamu. Idadi ya watu walio katika mazingira magumu bila ufikiaji rahisi wa huduma ya afya wameathirika kwa njia isiyo sawa, kwani wanaweza kutegemea zaidi zana za bure za AI badala ya kushauriana na wataalamu wa matibabu.

Biashara zinapaswa kuchukuliaje utegemezi wa zana za AI katika shughuli zote?

Wafanyabiashara lazima watathmini kwa kina kila zana ya AI wanayotumia, iwe ya huduma ya afya au uendeshaji. Mifumo kama vile Mewayz hutoa Mfumo wa Uendeshaji wa biashara wa moduli 207 kuanzia $19/mo, uliojengwa kwa uwazi na kutegemewa katika msingi wake. Badala ya kuamini kwa upofu mfumo wowote wa AI, mashirika yanapaswa kutekeleza tabaka za uangalizi wa kibinadamu na kuchagua zana zilizoundwa kwa madhumuni na rekodi za wimbo zilizothibitishwa.