आईसीटी समाचार
काठमाडौं । च्याटजीपीटी निर्माता ओपनएआईले आफ्नो अत्याधुनिक एआई मोडलको प्रशिक्षण प्रक्रिया केही समयका लागि स्थगित गर्दै सुरक्षा परीक्षण र आन्तरिक निगरानीलाई थप कडा बनाउने भएको छ ।
कम्पनीको एआई उपकरणले स्वायत्त रूपमा साइबर आक्रमणको प्रयास गरेको घटना सार्वजनिक भएपछि ओपनएआईले यस्तो कदम चालेको हो । ओपनएआईले मंगलबार ब्लगमार्फत हालसम्मकै ठूलो एआई प्रशिक्षण प्रक्रिया सञ्चालन गर्ने योजना तत्कालका लागि स्थगित गरिएको जनाएको छ ।
नयाँ मोडलले अपेक्षित रूपमा सुरक्षित व्यवहार गर्ने सुनिश्चित गर्न परीक्षण, निगरानी तथा नियन्त्रण प्रणालीलाई थप मजबुत बनाइने कम्पनीले जनाएको छ । एआई मोडलको प्रशिक्षणका क्रममा ठूलो मात्रामा पाठ तथा तस्बिरसम्बन्धी तथ्याङ्क प्रयोग गरी विभिन्न निर्देशन र इनपुट बुझ्ने, तर्क गर्ने तथा त्यसअनुसार प्रतिक्रिया दिने क्षमता विकास गरिन्छ ।
ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले मोडलको क्षमता र त्यसको व्यवहारलाई सुरक्षित रूपमा नियमन गर्ने कम्पनीको क्षमताभन्दा अघि बढेको महसुस भएमा आवश्यक कदम चाल्ने बताएका छन् ।
यसअघि गत जुलाईमा ओपनएआईका दुई मोडलमा आधारित एआई एजेन्टले परीक्षणका लागि सीमित गरिएको वातावरणबाट बाहिरिएर इन्टरनेटमा पहुँच बनाएको र एआई मोडल साझा गर्ने प्लेटफर्म हगिङ फेसमाथि साइबर आक्रमणको प्रयास गरेको घटना सार्वजनिक भएको थियो ।
त्यसैगरी, ओपनएआईको प्रतिद्वन्द्वी एन्थ्रोपिकले पनि जुलाईको अन्त्यमा परीक्षणका क्रममा आफ्ना तीन एआई मोडलले तीन संस्थाका कम्प्युटर प्रणालीमा अनधिकृत पहुँच बनाएको घटना सार्वजनिक गरेको थियो ।
यी घटनापछि प्रविधि क्षेत्रमा एआईको सुरक्षा र नियन्त्रणबारे बहस तीव्र भएको छ । एक हजारभन्दा बढी प्रविधि क्षेत्रका कर्मचारीले अमेरिकी सरकारलाई अत्याधुनिक एआई प्रणालीको विकासमा समन्वयात्मक रूपमा गति घटाउन आग्रह गरेका थिए ।
अमेरिकी सिनेटर बर्नी स्यान्डर्सले समेत ओपनएआई, एन्थ्रोपिक र मेटाका प्रमुखलाई पत्र पठाउँदै मानिसको नियन्त्रणभन्दा बाहिर जान सक्ने एआई प्रणालीको विकास रोक्न आग्रह गरेका थिए ।
ओपनएआईका अनुसार नयाँ सुरक्षा प्रणाली विकास भइरहेका कारण पछिल्लो एआई मोडलको प्रशिक्षण दुई साताका लागि रोकिएको हो । कम्पनीले एआई प्रणालीको आन्तरिक तर्क प्रक्रियामाथि निगरानी बढाउने र शङ्कास्पद गतिविधि देखिएमा ३० मिनेटभित्र मानव निरीक्षकलाई जानकारी गराउने प्रणाली विकास गरिरहेको जनाएको छ ।
यस्तो निगरानी प्रणाली सञ्चालन गर्न हालको तुलनामा करिब २० प्रतिशत थप कम्प्युटिङ क्षमता आवश्यक पर्ने कम्पनीको भनाइ छ । तर, ओपनएआईकै सन् २०२५ को अनुसन्धानले निगरानीमा रहेको जानकारी पाएको एआई मोडलले आफ्नो वास्तविक उद्देश्य लुकाउन सक्ने सम्भावना देखाएको थियो ।
यसले अत्याधुनिक एआई प्रणालीको निगरानी र नियन्त्रणलाई थप चुनौतीपूर्ण बनाउने देखिएको छ । हगिङ फेससँग सम्बन्धित घटनाबारे विस्तृत प्राविधिक विवरणसमेत सार्वजनिक गर्ने ओपनएआईले जनाएको छ । कम्पनीका अनुसार उक्त विवरण आगामी केही साताभित्र सार्वजनिक गरिनेछ ।
