AI Warning: आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में एक बार फिर बड़ी बहस छिड़ गई है। AI कंपनी एंथ्रोपिक के 27 वर्षीय रिसर्चर जैकब कॉक्सन ने इस्तीफा देते हुए बेहद गंभीर चेतावनी दी है। उनका कहना है कि AI कंपनियां ऐसे सिस्टम विकसित करने की दौड़ में हैं, जो भविष्य में इंसानों से कहीं ज्यादा सक्षम हो सकते हैं। कॉक्सन ने आरोप लगाया कि कंपनियां AI की क्षमताएं बढ़ाने की रफ्तार पर ज्यादा ध्यान दे रही हैं, जबकि उसके खतरों से निपटने के लिए जरूरी सुरक्षा व्यवस्था उतनी तेजी से आगे नहीं बढ़ रही।
2030 का खतरा
कॉक्सन ने चेतावनी दी कि अगर सुपरइंटेलिजेंट AI विकसित हो गया और वह खुद को लगातार बेहतर बनाने में सक्षम हुआ, तो हालात इंसानों के नियंत्रण से बाहर जा सकते हैं। उन्होंने यह तक कहा कि कुछ AI डेवलपर्स वास्तव में मानते हैं कि दशक खत्म होने से पहले ऐसी तकनीक मानवता के लिए विनाशकारी साबित हो सकती है। हालांकि, यह किसी वैज्ञानिक मॉडल से साबित हुई भविष्यवाणी नहीं है, बल्कि AI के संभावित अस्तित्वगत खतरे को लेकर एक गंभीर चेतावनी है।
अंदरखाने क्या चल रहा
सबसे बड़ा सवाल यही है कि अगर AI के खतरों को लेकर कंपनियों के भीतर काम करने वाले रिसर्चर चिंतित हैं, तो विकास की रफ्तार कम क्यों नहीं की जा रही? इसके पीछे AI की वैश्विक प्रतिस्पर्धा को बड़ी वजह माना जा रहा है। OpenAI, Anthropic और दूसरी कंपनियां ज्यादा सक्षम मॉडल और एजेंट बनाने की होड़ में हैं। कॉक्सन का दावा है कि इस दौड़ में सुरक्षा और नियंत्रण से जुड़े सवाल पीछे छूट रहे हैं। उन्होंने AI कंपनियों के बीच बेहतर समन्वय और कुछ समय के लिए क्षमता बढ़ाने की रफ्तार रोकने की जरूरत बताई है।
रिसर्चर भी डरे
यह चिंता सिर्फ कॉक्सन तक सीमित नहीं है। एंथ्रोपिक के एलाइनमेंट रिसर्चर इवान ह्यूबिंगर ने भी कहा है कि अगले 10 साल में AI से मानवता के विनाश की संभावना 10% से ज्यादा हो सकती है। यहां एलाइनमेंट का मतलब यह सुनिश्चित करना है कि बेहद शक्तिशाली AI सिस्टम इंसानों के लक्ष्यों और मूल्यों के अनुरूप काम करें। समस्या यह है कि सुपरइंटेलिजेंट AI के लिए ऐसा भरोसेमंद नियंत्रण तंत्र अभी पूरी तरह हल नहीं हुआ है।
असली खतरा क्या
डर सिर्फ इस बात का नहीं है कि AI अचानक इंसानों पर हमला करेगा। ज्यादा गंभीर चिंता यह है कि भविष्य के AI एजेंटों को अगर साइबर सिस्टम, पैसे, कंप्यूटर नेटवर्क या दूसरे संसाधनों तक ज्यादा स्वायत्त पहुंच मिल गई, तो वे ऐसे फैसले ले सकते हैं जिन्हें इंसान समय रहते रोक न पाएं। कुछ रिसर्च में AI एजेंटों की स्वायत्तता और मानव निगरानी कमजोर पड़ने के जोखिम पर भी सवाल उठाए गए हैं।
डर बनाम हकीकत
फिलहाल ऐसा कोई सबूत नहीं है कि AI 2030 तक निश्चित रूप से इंसानों को खत्म कर देगा। यह एक संभावित जोखिम का अनुमान है, पक्की भविष्यवाणी नहीं। लेकिन इस बहस को पूरी तरह नजरअंदाज करना भी सही नहीं होगा। दुनिया के कई AI विशेषज्ञ पहले ही AI से जुड़े अस्तित्वगत जोखिम को गंभीर वैश्विक मुद्दा मान चुके हैं। इसलिए असली सवाल AI को रोकना या पूरी तरह खत्म करना नहीं, बल्कि उसकी क्षमताओं के साथ सुरक्षा, निगरानी और जवाबदेही को कितनी तेजी से विकसित किया जाता है, यही है।
