काठमाडौं । एआई कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले कृत्रिम बुद्धिमत्ता (एआई) मोडेलको विकास अहिलेको गतिमा अघि बढाउँदा त्यसबाट उत्पन्न हुन सक्ने जोखिम नियन्त्रण गर्न कठिन हुने बताएका छन् । उनले एआई विकासलाई पूर्ण रूपमा रोक्न नभई केही समयका लागि यसको गति घटाएर सुरक्षा उपाय बलियो बनाउनुपर्ने प्रस्ताव गरेका छन् ।

शनिबार सार्वजनिक गरेको आफ्नो पत्र ‘वी मस्ट पेस द फ्रन्टियर’मार्फत अमोडेईले एआई विकासको दौड रोक्ने पक्षमा आफू नरहेको स्पष्ट पारेका छन् । तर, एआईका क्षमता तीव्र गतिमा बढिरहेका कारण त्यसबाट आउन सक्ने गम्भीर जोखिमबारे तयारी गर्न कम्पनी र सरकारलाई पर्याप्त समय आवश्यक रहेको उनको भनाइ छ ।

उनले एआई सुरक्षाका लागि तीन मुख्य उपाय प्रस्ताव गरेका छन् । पहिलो, एआई मोडेल विकास भइरहेका चरणमै स्वतन्त्र पक्षबाट निगरानी र मूल्यांकन गरिनुपर्ने उनको सुझाव छ ।

दोस्रो, एआई उद्योगभर लागू हुने सुरक्षा मापदण्ड र नियमन आवश्यक रहेको उनले बताएका छन् । तेस्रो, देश देशबीच समन्वय हुने गरी विश्वव्यापी एआई नियमनको आवश्यकता उनले औँल्याएका छन् ।

‘मानव अस्तित्वमै जोखिम आउन सक्छ’
एआईको क्षमतासँगै यसको सम्भावित दुरुपयोग र दीर्घकालीन जोखिमबारे विश्वभर चिन्ता बढिरहेको छ । अमोडेईले पनि एआई अत्यधिक शक्तिशाली बन्दै जाँदा मानव नियन्त्रणभन्दा बाहिर जान सक्ने सम्भावनालाई गम्भीर रूपमा लिनुपर्ने बताएका छन् ।

यसअघि एन्थ्रोपिकले आफ्ना एआई मोडेलमार्फत जैविक हतियार निर्माणमा सहयोग पुर्‍याउने उद्देश्यका केही दुरुपयोग प्रयास पहिचान गरी रोकिएको दाबी गरेको थियो ।

एन्थ्रोपिकको सुरक्षा टोलीबाट पछिल्लो समय दुई कर्मचारीले राजीनामा दिएको घटनाले पनि एआई सुरक्षाबारे बहसलाई थप बल दिएको छ । उनीहरूले मानवभन्दा बढी सक्षम मेसिन निर्माण गर्ने प्रतिस्पर्धा नियन्त्रणबाहिर गएमा त्यसले मानव अस्तित्वमै जोखिम निम्त्याउन सक्ने चेतावनी दिएका छन् ।

अल्टम्यान र मस्कको पनि समर्थन
अमोडेईको प्रस्तावलाई उनका प्रतिस्पर्धी कम्पनीका प्रमुखहरूले समेत समर्थन गरेका छन् । ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले सामाजिक सञ्जाल एक्समार्फत अमोडेईको विचारसँग आफू सहमत रहेको बताएका छन् ।

यसअघि ‘फर्च्युन’सँगको अन्तर्वार्तामा अल्टम्यानले पनि एआईको क्षमता विकासको गतिअनुसार आवश्यक सुरक्षा प्रणाली अझै पर्याप्त नभएको बताएका थिए । मानव नियन्त्रणभन्दा बाहिर जान सक्ने एआई सम्भावनाप्रति आफू ‘पूर्ण रूपमा’ विश्वस्त रहेको उनको भनाइ थियो ।

स्पेसएक्सका प्रमुख एलन मस्कले पनि अमोडेईको प्रस्तावलाई समर्थन गरेका छन् । उनले एक्समा संक्षिप्त प्रतिक्रिया दिँदै ‘डारियो सही छन्’ भनेका थिए ।

‘एआईले आफैँ अर्को पुस्ता बनाउन सक्ने अवस्था आउँदैछ’
अमोडेईका अनुसार एआई प्रविधिको विकास यति तीव्र गतिमा भइरहेको छ कि भविष्यका मोडेलले अझ शक्तिशाली एआई प्रणाली निर्माणमा समेत योगदान पुर्‍याउन सक्ने अवस्था नजिकिँदै गएको छ । उनले गत जुलाईमा ओपनएआईसँग सम्बन्धित एउटा घटनालाई पनि उदाहरणका रूपमा उल्लेख गरेका छन् ।

अनुसन्धानमा ओपनएआईका केही एआई एजेन्टले आफूलाई दिइएको निर्देशनको सीमाभन्दा बाहिर गएर साइबर सुरक्षा आक्रमण गरेको देखिएको दाबी गरिएको थियो । यसले एआई उपकरणलाई नियन्त्रणमा राख्ने चुनौती थप जटिल बन्दै गएको अमोडेईको तर्क छ ।

चीन अगाडि बढ्ने जोखिमबारे पनि चिन्ता
एआई विकासको गति घटाउँदा अमेरिका वा अन्य पश्चिमी देशभन्दा चीनजस्ता मुलुक अगाडि बढ्न सक्ने चिन्ताबारे पनि अमोडेईले आफ्नो पत्रमा चर्चा गरेका छन् ।

उनका अनुसार एआई अझ महत्वपूर्ण क्षमताको चरणमा पुग्नुअघि एक दुई वर्ष विकासको गति केही सुस्त बनाएर उक्त समयलाई सुरक्षा प्रणाली निर्माण, परीक्षण र एआईलाई मानवअनुकूल बनाउने काममा प्रयोग गर्न सकिए ठूलो जोखिम कम गर्न सकिन्छ ।

तर, यस्तो प्रयास एकतर्फी नभई अन्तर्राष्ट्रिय समन्वयमा आधारित हुनुपर्ने उनको धारणा छ । साथै, सुरक्षा उपाय अपनाउँदा अमेरिकी कम्पनीले एआई क्षेत्रमा हासिल गरेको व्यावसायिक र प्राविधिक अग्रता कमजोर हुन नहुने उनले बताएका छन् ।

अमोडेईले अमेरिकी सरकारले आफ्ना कम्पनीले उत्पादन गरेका उन्नत एआई चिप चीनमा बिक्री गर्न रोक्नुपर्ने र अधिनायकवादी शासन भएका मुलुकसँग संवेदनशील एआई प्रविधि साझेदारी नगर्नुपर्ने सुझाव समेत दिएका छन् ।

उनको प्रस्तावले एआई विकासलाई तीव्रता दिने होडसँगै यसको सुरक्षा, नियमन र मानव नियन्त्रणको सीमाबारे विश्वव्यापी बहसलाई थप चर्काउने देखिएको छ ।