'ChatGPT पर आंख मूंदकर भरोसा ना करें...', CEO सैम ऑल्टमैन की चेतावनी ने बढ़ाई हलचल

OpenAI द्वारा विकसित किया गया AI टूल ChatGPT दुनियाभर में सुर्खियों में बना हुआ है. खासतौर पर Ghibli ट्रेंड के बाद से इसकी लोकप्रियता में जबरदस्त उछाल देखा गया है. रिसर्च, लेखन और सलाह के लिए लाखों लोग इसका इस्तेमाल कर रहे हैं. लेकिन क्या ChatGPT हर बार पूरी तरह सही जानकारी देता है? इस पर अब OpenAI के CEO सैम ऑल्टमैन ने खुद बड़ा बयान दिया है, जिससे AI पर लोगों के अंधविश्वास पर सवाल उठने लगे हैं.

OpenAI के आधिकारिक पॉडकास्ट के पहले एपिसोड में सैम ऑल्टमैन ने यूजर्स को सतर्क करते हुए कहा कि ChatGPT पर लोगों का भरोसा बेहद ज्यादा है, जबकि ये तकनीक अभी भी भ्रम पैदा करती है. उन्होंने ये भी माना कि ChatGPT एक उपयोगी उपकरण है, लेकिन इस पर आंख बंद करके भरोसा करना खतरनाक हो सकता है.

ChatGPT पर लोगों का बढ़ता भरोसा

सैम ऑल्टमैन ने कहा कि लोग ChatGPT पर बहुत ज्यादा भरोसा करते हैं, जो दिलचस्प है क्योंकि ये एक ऐसी तकनीक है जो भ्रम पैदा करती है. ये वो चीज नहीं है जिस पर आपको अंधाधुंध भरोसा करना चाहिए. उनके मुताबिक, ChatGPT जैसे AI मॉडल भाषा के पैटर्न पर आधारित होते हैं, ना कि वास्तविक समझ पर. इसलिए यह कभी-कभी ऐसे जवाब भी दे सकता है जो पूरी तरह से गलत या मनगढ़ंत हों.

AI कैसे करता है भ्रम पैदा?

ChatGPT को बड़े पैमाने पर टेक्स्ट डेटा पर ट्रेन किया गया है, जिसके आधार पर ये अगला संभावित शब्द या वाक्य अनुमानित करता है. लेकिन इसमें मानवीय समझ या वास्तविकता की जांच की क्षमता नहीं होती. जब AI कोई झूठी या गलत जानकारी पेश करता है, तो तकनीकी रूप से इसे 'हैलुसीनेशन' या 'भ्रम' कहा जाता है. यहीं से इसका गलत इस्तेमाल या गलतफहमी की संभावना पैदा होती है.

सैम ऑल्टमैन की यूजर्स को सलाह

सैम ऑल्टमैन ने साफ कहा कि ChatGPT जैसे बड़े लैंग्वेज मॉडल्स से मिली जानकारी पर यूजर्स को आंख बंद करके यकीन नहीं करना चाहिए. उन्होंने सलाह दी कि इस्तेमाल से पहले तथ्यों की जांच जरूर करें. यही बात AI के गॉडफादर कहे जाने वाले Geoffrey Hinton भी दोहरा चुके हैं कि AI चाहे जितना भी उपयोगी हो, ये इंसानी विवेक का विकल्प नहीं है.