अध्ययन में चेतावनी दी गई है कि एआई चैटबॉट चिकित्सा सलाह के लिए असुरक्षित हैं।

ऑक्सफोर्ड विश्वविद्यालय के नए शोध के अनुसार, चिकित्सा सलाह लेने के लिए कृत्रिम बुद्धिमत्ता वाले चैटबॉट का उपयोग करना खतरनाक हो सकता है, जिससे रोगी सुरक्षा को लेकर चिंताएं बढ़ गई हैं।

RSI अध्ययन एक अध्ययन में पाया गया कि चिकित्सा संबंधी निर्णय लेने के लिए एआई पर निर्भर रहना स्पष्ट जोखिम प्रस्तुत करता है, जिसका मुख्य कारण चैटबॉट द्वारा साझा की गई गलत और असंगत जानकारी है।

शोधकर्ताओं ने चेतावनी दी कि हालांकि एआई उपकरण आत्मविश्वासपूर्ण प्रतीत होते हैं, लेकिन जब लोग वास्तविक स्वास्थ्य लक्षणों के लिए मदद मांगते हैं तो वे अक्सर विश्वसनीय मार्गदर्शन देने में विफल रहते हैं।

इस शोध का नेतृत्व ऑक्सफोर्ड इंटरनेट इंस्टीट्यूट और ऑक्सफोर्ड विश्वविद्यालय के नफिल्ड डिपार्टमेंट ऑफ प्राइमरी केयर हेल्थ साइंसेज के विशेषज्ञों ने किया।

डॉ. रेबेका पायने, जो एक जनरल प्रैक्टिशनर और इस अध्ययन की सह-लेखिका हैं, ने कहा कि ये निष्कर्ष एआई-संचालित स्वास्थ्य सलाह में जनता के बढ़ते विश्वास को चुनौती देते हैं।

उन्होंने स्पष्ट किया कि व्यापक प्रचार के बावजूद, कृत्रिम बुद्धिमत्ता नैदानिक ​​निर्णय लेने में प्रशिक्षित चिकित्सा पेशेवरों की जगह लेने के लिए तैयार नहीं है।

डॉ. पायने ने चेतावनी दी कि मरीज़ बड़े भाषा मॉडल से लक्षणों के बारे में पूछ सकते हैं। गलत निदान प्राप्त होने का जोखिम और उन संकेतों को नजरअंदाज करना जो यह दर्शाते हैं कि तत्काल चिकित्सा सहायता की आवश्यकता है।

इस अध्ययन में यह परीक्षण किया गया कि स्वास्थ्य संबंधी निर्णय लेते समय लोग एआई के साथ कैसे बातचीत करते हैं, जिससे सैद्धांतिक ज्ञान और वास्तविक दुनिया की देखभाल के बीच के अंतर को उजागर किया गया।

लगभग 1,300 प्रतिभागियों से विभिन्न चिकित्सा परिदृश्यों में संभावित स्वास्थ्य स्थितियों की पहचान करने और उचित कार्रवाई तय करने के लिए कहा गया था।

कुछ प्रतिभागियों ने संभावित निदान और सलाह प्राप्त करने के लिए बड़े भाषा मॉडल चैटबॉट का उपयोग किया, जबकि अन्य ने एक सामान्य चिकित्सक से परामर्श करने सहित पारंपरिक तरीकों का अनुसरण किया।

इसके बाद शोधकर्ताओं ने लिए गए निर्णयों की गुणवत्ता का आकलन किया, जिसमें सटीकता, सुरक्षा और इस बात पर ध्यान केंद्रित किया गया कि क्या उपयोगकर्ताओं ने यह पहचाना कि तत्काल देखभाल की आवश्यकता कब थी।

परिणामों से पता चला कि एआई सिस्टम अक्सर उपयोगी और हानिकारक जानकारी का मिश्रण प्रदान करते हैं, जिसे कई उपयोगकर्ताओं को अलग करने या उस पर सवाल उठाने में कठिनाई होती है।

सही जानकारी शामिल किए जाने पर भी, अक्सर उनके साथ भ्रामक सुझाव भी दिखाई देते थे, जिससे मरीजों के लिए स्पष्टता की बजाय भ्रम की स्थिति पैदा होती थी।

शोधकर्ताओं ने पाया कि हालांकि एआई चैटबॉट मानकीकृत चिकित्सा ज्ञान परीक्षणों में अच्छा प्रदर्शन करते हैं, लेकिन वास्तविक दुनिया में उनका उपयोग एक अलग ही कहानी बयां करता है।

उन्होंने चेतावनी दी कि व्यक्तिगत स्वास्थ्य संबंधी चिंताओं पर सीधे एआई का प्रयोग करने से उन व्यक्तियों के लिए गंभीर जोखिम पैदा हो सकते हैं जो आश्वासन या मार्गदर्शन की तलाश में हैं।

अध्ययन में इस बात पर जोर दिया गया कि चिकित्सीय सलाह के लिए विवेक, संदर्भ और मानवीय संपर्क की आवश्यकता होती है, ऐसे क्षेत्र जहां एआई अभी भी अपर्याप्त है।

डॉ. पायने ने कहा कि ये निष्कर्ष उन एआई प्रणालियों के निर्माण की कठिनाई को उजागर करते हैं जो स्वास्थ्य सेवा जैसे संवेदनशील, उच्च जोखिम वाले क्षेत्रों में लोगों का सही मायने में समर्थन कर सकें।

उन्होंने आगे कहा कि स्वास्थ्य संबंधी निर्णय शायद ही कभी सीधे-सादे होते हैं और अक्सर बारीकियों, तात्कालिकता और भावनात्मक संकेतों को पहचानने पर निर्भर करते हैं।

इस अध्ययन के प्रमुख लेखक, ऑक्सफोर्ड इंटरनेट इंस्टीट्यूट के एंड्रयू बीन ने कहा कि शीर्ष प्रदर्शन करने वाले एआई मॉडल भी मनुष्यों के साथ बातचीत करते समय संघर्ष करते हैं।

उन्होंने बताया कि लोग लक्षणों, भावनाओं और अनिश्चितता का वर्णन कैसे करते हैं, इसे समझना वर्तमान एआई प्रणालियों के लिए एक बड़ी चुनौती बनी हुई है।

बीन ने कहा कि इस शोध का उद्देश्य सुरक्षित और अधिक जिम्मेदार एआई उपकरणों के विकास को प्रोत्साहित करना है।

दक्षिण एशियाई समुदायों के लिए, जहां पहुंच संबंधी बाधाएं, भाषा संबंधी अंतर और सांस्कृतिक कलंक यदि ये जोखिम पहले से ही स्वास्थ्य सेवा को प्रभावित कर रहे हैं, तो ये और भी अधिक हो सकते हैं।

विशेषज्ञों का मानना ​​है कि एआई को पेशेवर चिकित्सा सलाह का स्थान नहीं लेना चाहिए, खासकर उन समुदायों के लिए जो पहले से ही जटिल स्वास्थ्य असमानताओं का सामना कर रहे हैं।

शोधकर्ताओं ने इस बात पर जोर दिया कि एआई स्वास्थ्य सेवा में सहायक भूमिका निभा सकता है, लेकिन केवल प्रशिक्षित पेशेवरों और सख्त सुरक्षा उपायों के साथ मिलकर ही।

उन्होंने मरीजों से आग्रह किया कि वे चैटबॉट की सलाह को सावधानी से लें और लक्षण या स्वास्थ्य संबंधी चिंताओं का अनुभव होने पर योग्य डॉक्टरों से मदद लें।