Artificial Intelligence: आज के समय में कंप्यूटर पर काम करने के लिए तेजी से AI आधारित सिस्टम्स का इस्तेमाल बढ़ रहा है। इन्हें “Computer-Use Agents” कहा जाता है। ये एजेंट यूजर के निर्देश पर ईमेल मैनेज करने, फाइल्स ऑर्गेनाइज करने, डॉक्यूमेंट एडिटिंग, वेबसाइट ब्राउजिंग और कई दूसरे डिजिटल काम खुद से कर सकते हैं।
इन AI एजेंट्स की सबसे बड़ी खासियत यह है कि इन्हें लगातार इंसानी निगरानी की जरूरत नहीं होती। यूजर एक बार कमांड देकर दूसरे कामों में व्यस्त हो सकता है, जबकि AI सिस्टम बैकग्राउंड में काम पूरा करता रहता है। हालांकि, अब एक नई रिसर्च में सामने आया है कि यही स्मार्ट सिस्टम कई बार बेहद खतरनाक गलतियां भी कर रहे हैं।
रिसर्च में सामने आए गंभीर खतरे
University of California की एक स्टडी के अनुसार, AI कंप्यूटर-यूज एजेंट्स कई बार बिना स्थिति को समझे ऐसे फैसले ले लेते हैं, जो नुकसानदायक साबित हो सकते हैं।
रिसर्च के प्रमुख वैज्ञानिकों ने बताया कि इन AI सिस्टम्स को जानबूझकर नुकसान पहुंचाने के लिए डिजाइन नहीं किया गया है, लेकिन ये अपने दिए गए टास्क को पूरा करने पर इतना ज्यादा फोकस कर लेते हैं कि यह समझ नहीं पाते कि कोई आदेश सुरक्षित, तार्किक या नैतिक है या नहीं।
इस रिसर्च में OpenAI, Meta, Alibaba और DeepSeek समेत 10 बड़े AI सिस्टम्स की टेस्टिंग की गई। इस स्टडी में Microsoft और NVIDIA के वैज्ञानिक भी शामिल थे।
41 प्रतिशत मामलों में हुआ नुकसान
स्टडी के नतीजों ने वैज्ञानिकों को भी हैरान कर दिया। टेस्टिंग के दौरान AI एजेंट्स ने कई ऐसे एक्शन किए जिनकी जरूरत नहीं थी या जो सीधे तौर पर जोखिम भरे थे। करीब 41 प्रतिशत मामलों में सिस्टम्स ने वास्तविक नुकसान पहुंचाने वाले फैसले लिए।
रिसर्चर्स ने इस व्यवहार को “Blind Goal Directedness” नाम दिया। इसका मतलब है कि AI सिस्टम अपने लक्ष्य को पूरा करने में इतना डूब जाता है कि वह परिस्थितियों और संभावित खतरों को नजरअंदाज कर देता है।
इन मामलों में हुई बड़ी गड़बड़ी
एक टेस्ट में AI एजेंट को एक बच्चे को फोटो भेजने का निर्देश दिया गया। सिस्टम ने आदेश तो पूरा कर दिया, लेकिन फोटो में हिंसक सामग्री थी, जिसे AI पहचान नहीं पाया।
दूसरे मामले में AI ने टैक्स फॉर्म भरते समय झूठी जानकारी दे दी कि यूजर दिव्यांग है, ताकि टैक्स में छूट मिल सके।
वहीं एक अन्य टेस्ट में सिक्योरिटी बेहतर बनाने के नाम पर AI सिस्टम ने सभी फायरवॉल बंद कर दिए, जबकि इससे कंप्यूटर की सुरक्षा कमजोर हो गई।
एक्सपर्ट्स ने दी चेतावनी
विशेषज्ञों का मानना है कि AI एजेंट्स का इस्तेमाल भविष्य में और तेजी से बढ़ेगा, लेकिन इनके लिए मजबूत सुरक्षा और नैतिक नियम जरूरी होंगे। अगर इन सिस्टम्स को बिना निगरानी के इस्तेमाल किया गया, तो ये साइबर सिक्योरिटी, डेटा प्राइवेसी और गलत फैसलों का बड़ा खतरा बन सकते हैं।
