आईसीटी समाचार
काठमाडौं । कृत्रिम बुद्धिमत्ता (एआई) प्रणालीको सुरक्षा परीक्षणका क्रममा अनपेक्षित व्यवहार देखिएको घटनामा मेटा पनि जोडिएको छ । यसअघि ओपनएआई र एन्थ्रोपिकले यस्तै प्रकृतिका घटनाबारे जानकारी सार्वजनिक गरेपछि मेटाले पनि आफ्ना एक एआई मोडेलले परीक्षणका क्रममा अर्को कम्पनीको प्रणालीमा पहुँच बनाएको स्वीकार गरेको हो ।
मेटाले बुधबार सार्वजनिक गरेको विवरणअनुसार कम्पनीको म्युज स्पार्क १.१ एआई मोडेलले साइबर सुरक्षा परीक्षणका बेला अर्को कम्पनीको आन्तरिक प्रणालीमा परिवर्तन गरेको थियो । कम्पनीका अनुसार यो घटना एआईको स्वेच्छाचारी व्यवहारका कारण नभई परीक्षण वातावरणमा भएको प्राविधिक त्रुटिका कारण भएको हो ।
यो परीक्षण स्वतन्त्र सुरक्षा परीक्षण कम्पनी इर्रेगुलरले तयार गरेको ‘स्यान्डबक्स’ वातावरणमा गरिएको थियो । सामान्य अवस्थामा यस्तो परीक्षण वातावरण पूर्ण रूपमा इन्टरनेटबाट अलग हुन्छ । तर, गलत कन्फिगरेसनका कारण एआई मोडेलले सार्वजनिक इन्टरनेटमा पहुँच पाएपछि बाह्य प्रणालीसँग अन्तरक्रिया गर्न सफल भएको मेटाले जनाएको छ ।
स्यान्डबक्सलाई वास्तविक प्रणालीमा असर नपुग्ने गरी प्रयोग गरिने छुट्टै भर्चुअल परीक्षण वातावरणका रूपमा लिइन्छ । यस्ता वातावरणमा एआई मोडेलको क्षमता र सम्भावित जोखिमको मूल्याङ्कन गरिन्छ ।
यसअघि गत साता एन्थ्रोपिकले पनि आफ्नो क्लाउड एआई मोडेलले परीक्षणका क्रममा तीनवटा संस्थाका प्रणालीमा अनधिकृत पहुँच बनाएको जानकारी दिएको थियो । कम्पनीका अनुसार १ लाख ४१ हजार ६ वटा परीक्षण सत्रको समीक्षा गर्दा परीक्षण वातावरणको गलत कन्फिगरेसनका कारण मोडेलहरूले इन्टरनेटमा पहुँच बनाएको तथ्य फेला परेको थियो ।
त्यसअघि ओपनएआईले पनि आफ्ना एआई मोडेलहरूले सुरक्षा परीक्षणका क्रममा तोकिएको सीमाभन्दा बाहिर गएर इन्टरनेटमा पहुँच बनाएको र अपेक्षित नियन्त्रणभन्दा फरक व्यवहार देखाएको पहिलोपटक सार्वजनिक गरेको थियो ।
यस वर्ष ओपनएआई र एन्थ्रोपिकले क्रमश: आफ्ना सबैभन्दा शक्तिशाली एआई मोडेल सोल र माइथोस सार्वजनिक गरेका छन् । ती अत्याधुनिक मोडेलहरूको क्षमता बढेसँगै तिनको सुरक्षा र नियन्त्रणसम्बन्धी चुनौती पनि बढ्दै गएको विज्ञहरूले औँल्याइरहेका छन् ।
यहीबीच बेलायतको एआई सेक्युरिटी इन्स्टिच्युटले मंगलबार सार्वजनिक गरेको प्रतिवेदनले ओपनएआईको जीपीटी ५.६ सोल र एन्थ्रोपिकको क्लाउड माइथोस ५ ले सुरक्षा परीक्षणका क्रममा यसअघि नदेखिएको स्तरको छलकपटपूर्ण व्यवहार प्रदर्शन गरेको उल्लेख गरेको छ ।
प्रतिवेदनमा ती मोडेलहरूले दीर्घकालीन र सम्भावित रूपमा हानिकारक गतिविधि सञ्चालन गर्न सक्ने संकेत देखिएको भन्दै उच्चस्तरीय सुरक्षा परीक्षण र कडा निगरानी आवश्यक रहेको चेतावनी दिइएको छ ।
विज्ञहरूका अनुसार एआई प्रविधि अझ शक्तिशाली बन्दै जाँदा सुरक्षा परीक्षणका मापदण्ड पनि सोहीअनुसार कडा बनाउनुपर्ने आवश्यकता झन् बढेको छ ।
