आईसीटी समाचार
काठमाडौं । एआई कम्पनी ओपनएआईले सुरक्षा चिन्ताका कारण नयाँ एआई मोडल ‘एस्ट्रा ६.१’ सार्वजनिक गर्ने योजना रोकेको छ । परीक्षणका क्रममा उक्त मोडलले अघिल्ला संस्करणको तुलनामा बढी भ्रामक तथा असुरक्षित व्यवहार देखाएपछि कम्पनीले सार्वजनिक गर्ने तयारी स्थगित गरेको हो ।
परीक्षणका क्रममा ‘एस्ट्रा ६.१’ ले मानिसले दिएको निर्देशनअनुसार काम गर्ने क्षमतामा अपेक्षाअनुसार प्रदर्शन गर्न नसकेको बताइएको छ । सुरक्षा परीक्षणमा देखिएका कमजोरीका कारण तत्काल सार्वजनिक गर्दा जोखिम बढ्न सक्ने निष्कर्षपछि ओपनएआईले मोडल रोक्ने निर्णय गरेको हो ।
ओपनएआईले यसै महिनाको सुरुवातमा उक्त नयाँ एआई मोडल सार्वजनिक गरेको थियो । कम्पनीले त्यसलाई अहिलेसम्मकै शक्तिशाली एआई मोडलका रूपमा प्रस्तुत गरेको थियो । तर थप परीक्षणका क्रममा देखिएका सुरक्षा सम्बन्धी समस्याले सार्वजनिक गर्ने योजनामा पुनर्विचार गर्नुपर्ने अवस्था आएको हो ।
पछिल्लो समय एआई प्रणालीको सुरक्षा र त्यसबाट उत्पन्न हुन सक्ने जोखिमबारे विश्वव्यापी रूपमा चिन्ता बढ्दै गएको छ । एआई प्रणालीले तोकिएको सुरक्षा सीमाभन्दा बाहिर गएर अन्य प्रणालीमा पहुँच बनाउन सक्ने सम्भावनालाई लिएर समेत अनुसन्धान र बहस भइरहेको छ ।
यस्तै प्रकारका सुरक्षा चुनौती अन्य एआई प्रणालीमा समेत देखिएको रिपोर्ट सार्वजनिक भएपछि एआई सुरक्षाको विषय थप चर्चामा आएको छ । यससँगै अमेरिकामा एआई प्रणालीका लागि थप कडा सुरक्षा मापदण्ड र नियमन आवश्यक रहेको विषयमा छलफल समेत बढेको छ ।
ओपनएआई र एन्थ्रोपिकलगायतका एआई कम्पनीहरूले भने यस्ता परीक्षण र विकास प्रक्रियामा सुरक्षा पक्षलाई प्राथमिकतामा राख्नुपर्ने बताउँदै आएका छन् । नयाँ एआई प्रणाली सार्वजनिक गर्नुअघि त्यसको क्षमता मात्र नभई सुरक्षा जोखिम समेत पर्याप्त रूपमा परीक्षण गर्नुपर्नेमा विज्ञहरूले जोड दिएका छन् ।
