ज़ेनेप तुफ़ेकी
@zeynep · उत्तर अमेरिका
ज़ेनेप तुफ़ेकी को उत्तरी अमेरिका अध्याय में संयुक्त राज्य से जुड़ी पत्रकारिता और समसामयिक विषय की कवरेज के लिए Storyz World द्वारा फ़ॉलो किया जाता है।
किसी एआई मॉडल में पहले के गणितीय काम को शामिल किए जाने का दूसरा आरोप। ध्यान दें कि अधिक पारदर्शिता और बेहतर व्यवहार के बावजूद, OpenAI शायद अब भी इस बात को “खारिज करने में सक्षम न हो कि हमारे उत्पादों के उनके उपयोग से प्राप्त पहचान-रहित डेटा ने हमारे मॉडलों को बेहतर बनाने में मदद की हो”, अन्य माध्यमों के अलावा।
अंग्रेज़ी से अनुवादितअसल समस्या यह है कि संदर्भ के बिना किसी दावे की रिपोर्ट करने में जल्दबाज़ी करना। इसके अलावा, अगर समाधान को मान्यता मिलती है (क्यों नहीं?), तो क्या यह उस चीज़ का प्रतिनिधित्व करता है जिसे मिलेनियम पुरस्कार प्रोत्साहित करने वाला था? मैराथन पदक का उद्देश्य इसे उन लोगों को देना नहीं है जो रोलरब्लेड करके फिनिश लाइन तक पहुँच सकते हैं। तरीकों/प्रक्रियाओं में बदलाव महज़ गौण बातें नहीं हैं। नवियर–स्टोक्स का अस्तित्व/चिकनाई संबंधी प्रश्न बहुत शानदार है, लेकिन यह कोई व्यावहारिक सवाल नहीं है। प्रगति का वास्तव में क्या अर्थ है, इसे समझने के लिए प्रक्रिया/विधि महत्वपूर्ण है। +
अंग्रेज़ी से अनुवादितहमारे आम एआई बेंचमार्क इतने उपयोगी नहीं हैं। हम ऐसी उपलब्धियों से चकाचौंध हो रहे हैं जिनके निहित परिणाम वैसे होना ज़रूरी नहीं हैं जैसी लोग उम्मीद करते हैं। यह कुछ-कुछ वैसा ही है जैसे बड़े पैमाने के प्रदर्शनों में इंटरनेट-पूर्व दौर जैसी सत्ता पलटने की ताकत नहीं होती। (हाँ, मेरी किताब)।
अंग्रेज़ी से अनुवादितविज्ञान और अनुसंधान में एआई संभवतः ऐसे क्षेत्र हैं जो जनता की अपेक्षाओं को निराश करेंगे। हाँ, मैंने नेवियर-स्टोक्स की घोषणा देखी, और हाँ, श्रेय को लेकर विवाद से परे भी मैं इस बात पर विश्वास करती हूँ। एआई के कारण समग्र रूप से विज्ञान को *प्रतिकूल हवाओं* का सामना भी करना पड़ सकता है। कुछ शानदार प्रयास इसे नहीं बदलते।
अंग्रेज़ी से अनुवादितमुझे लगता है कि एआई बहुत महत्वपूर्ण प्रभावों वाली एक परिवर्तनकारी तकनीक है। मुझे बहुत से प्रभावों की उम्मीद है! मैं बस यह सोचती हूँ कि मौजूदा अधिकांश बेंचमार्क बहुत उपयोगी नहीं हैं और सामाजिक भविष्यवाणियाँ उस तरह एआई बेंचमार्क के अनुसार नहीं हो रही हैं, जैसा कि बहुत से लोग दावा कर रहे थे!
अंग्रेज़ी से अनुवादितबात सिर्फ़ यह नहीं है कि “नक्शा भू-भाग नहीं है”, बल्कि यह है कि मौजूदा एआई बेंचमार्क तो नक्शा भी नहीं हैं! और अगर हम पॉडकास्ट के माहौल को छोड़कर अनुभवजन्य रूप से देखें, तो यह स्पष्ट है कि इन बेंचमार्कों को समाज के किस पहलू का प्रतिनिधि मानने की प्रमुख थ्योरियाँ अब तक ग़लत हैं।
अंग्रेज़ी से अनुवादितइनमें से कोई भी विशिष्ट सामाजिक प्रभावों का प्रत्यक्ष प्रमाण नहीं है, हालांकि खर्च किया गया पैसा स्पष्ट रूप से महत्वपूर्ण परिणाम पैदा करता है। लेकिन यह सब तब भी हो सकता है, जब एआई का रोज़गार पर बहुत अधिक असर न पड़े और जब वह विज्ञान की गति धीमी कर दे तथा उसके अन्य नए प्रभाव हों।
अंग्रेज़ी से अनुवादितमुझे नहीं लगता कि एआई बेंचमार्क समाज के प्रतिनिधि संकेतक हैं। वे एक जटिल प्रणाली के लिए *इनपुट* हैं। हमें इस बारे में *कैसे* की एक सुसंगत थ्योरी चाहिए। उदाहरण के लिए, मुझे लगता है कि विज्ञान *धीमा पड़ सकता है*। बेंचमार्क ऊपर जा रहे हैं, लेकिन एक प्रक्रिया के रूप में विज्ञान एआई से वास्तव में बाधित हो सकता है, चाहे एआई Erdős की समस्याएँ हल करे या नहीं।
अंग्रेज़ी से अनुवादितएआई बेंचमार्क अकेले व्यापक प्रभावों या परिणामों का संकेत नहीं देते। बिल्कुल भी नहीं। इसके अलावा, मुझे लगता है कि हमारे अधिकांश बेंचमार्क सामाजिक प्रभावों के बारे में सोचने के लिए काफी बेकार हैं और यह बात पहले से ही अनुभवजन्य रूप से स्पष्ट है, लेकिन अगर वे उपयोगी भी होते, तो वे अकेले पर्याप्त नहीं होते!
अंग्रेज़ी से अनुवादितहह। इसमें एक दिलचस्प पहलू इनपुट की आवृत्ति के प्रति LLM की उच्च संवेदनशीलता है (जो इस बात का एक और प्रमुख कारण है कि सीमित क्षेत्रों के बाहर बड़े पैमाने पर वे आर्थिक रूप से इतने उपयोगी नहीं हैं): विफलता के रूप में रिक्त स्थान।
अंग्रेज़ी से अनुवादितएआई मॉडल का प्रेरित करने वाला रुझान बड़े पैमाने पर उसकी आर्थिक उपयोगिता को बहुत सीमित कर देता है, जाहिर है। इसी वजह से सभी अलग-अलग प्रभावशाली उदाहरण इतने प्रासंगिक नहीं हैं। उदाहरण के लिए, हाल ही में मैंने एक सशुल्क मॉडल से उस परिदृश्य के परिणामों के बारे में हमारी जानकारी का सारांश माँगा, जिसमें मार्ग X नहीं अपनाया जाता। अधिकांश अध्ययन यह देखते हैं कि मार्ग X अपनाए जाने पर क्या होता है। हमेशा की तरह, मैंने स्रोत और लिंक आदि माँगे। मॉडल ने जिन अध्ययनों की सूची दी, उनके शीर्षकों, सारांशों आदि में मुश्किल से दिखाई देने वाले बदलाव जोड़ दिए, ताकि अध्ययन के दायरे में “X नहीं” शामिल हो जाए। यह अच्छा और सूक्ष्म था। पलक झपकी और आप चूक गए। आपको हर लिंक पर क्लिक करके अध्ययन का एक बड़ा हिस्सा पढ़ना पड़ता। यह अब भी शून्य से शुरू करने की तुलना में थोड़ा तेज था, लेकिन कम विशेषज्ञता होने पर यह जाल शून्य से शुरू करने से अधिक खतरनाक है। इसके अलावा, यह त्रुटि के दूसरे रास्ते भी खोलता है। सबसे उन्नत मॉडल भी कभी-कभी ऐसा करते हैं, और वास्तविक अतिरिक्त मेहनत के बिना इन सूक्ष्म प्रेरक गढ़ंतों को पकड़ना कठिन है; इसके लिए विशेषज्ञता और समय दोनों चाहिए। यह सच है कि कभी-कभी वे ऐसा नहीं भी करते, लेकिन उस विशेषज्ञता और प्रयास के बिना मामलों में अंतर कर पाना आपके भाग्य पर है। सॉफ्टवेयर को प्रभावित करने के बजाय काम करना चाहिए, इसलिए सत्यापन-योग्यता के पहलू के अलावा यह एक अलग खेल है।
अंग्रेज़ी से अनुवादित