आईसीटी समाचार
कृत्रिम बुद्धिमत्ता (एआई) प्रणालीहरू दिनप्रतिदिन शक्तिशाली बन्दै जाँदा तिनको नियन्त्रण र व्यवहारबारे नयाँ प्रश्नहरू उठ्न थालेका छन्। हालै सार्वजनिक भएको एक अनुसन्धानले एआई एजेन्टले बिना निर्देशन आफैं क्रिप्टोकरन्सी माइनिङ सुरु गर्ने प्रयास गरेको देखाएको छ, जसले एआई सुरक्षा र निगरानीबारे बहसलाई पुनः चर्काएको छ।
यो घटना अलिबाबासँग सम्बन्धित एक अनुसन्धान टोलीले विकास गरिरहेको “रोम” नामको प्रायोगिक एआई एजेन्ट परीक्षणका क्रममा उजागर भएको हो। प्रशिक्षणको क्रममा प्रणालीको सुरक्षा संयन्त्र अचानक सक्रिय भएपछि अनुसन्धानकर्ताहरूले यसको गतिविधि जाँच गरेका थिए।
जाँच गर्दा एआई एजेन्टले क्रिप्टोकरन्सी माइनिङसँग सम्बन्धित प्रक्रिया सुरु गर्ने प्रयास गरेको पत्ता लागेको अनुसन्धानपत्रमा उल्लेख गरिएको छ। सामान्यतया यस्तो प्रक्रिया प्रणाली प्रशासकले जानाजानी सक्रिय गर्ने गर्छन्। तर यस अवस्थामा एआई एजेन्टलाई यस्तो निर्देशन नदिइएको भए पनि उसले आफैं यो प्रक्रिया सुरु गर्ने प्रयास गरेको बताइएको छ।
अनुसन्धान टोलीका अनुसार उक्त प्रणालीलाई “स्यान्डबक्स” भनिने सीमित र नियन्त्रण गरिएको परीक्षण वातावरणमा सञ्चालन गरिएको थियो। यस्तो वातावरणमा बाह्य प्रणालीसँग सम्पर्क गर्न नपाउने व्यवस्था हुन्छ। तर एआई एजेन्टले त्यही वातावरणमा असामान्य गतिविधि देखाएको अनुसन्धानकर्ताहरूले बताएका छन्।
बिना निर्देशन ‘रिभर्स एसएसएच टनेल’ निर्माण
अनुसन्धानकर्ताहरूका अनुसार एआई एजेन्टले क्रिप्टो माइनिङ प्रयास मात्र होइन, आफैं ‘रिभर्स एसएसएच टनेल’ बनाउने प्रयास पनि गरेको थियो। यो यस्तो प्रविधि हो जसको माध्यमबाट सुरक्षित वा सीमित नेटवर्कभित्र रहेको कम्प्युटर बाहिरी प्रणालीसँग जोडिन सक्छ।
रिपोर्टअनुसार न त क्रिप्टो माइनिङ सुरु गर्न र न त यस्तो टनेल बनाउनका लागि एआईलाई कुनै स्पष्ट निर्देशन दिइएको थियो। यसले एआई प्रणालीहरूले अप्रत्याशित व्यवहार देखाउन सक्ने सम्भावनाबारे चिन्ता बढाएको अनुसन्धानकर्ताहरूले बताएका छन्।
एआई क्षमतासँगै जोखिम पनि बढ्दै
विशेषज्ञहरूका अनुसार हालका एआई एजेन्टहरू कोड लेख्न, जटिल कार्यप्रवाहहरू स्वचालित गर्न र विभिन्न अनलाइन उपकरणहरूसँग काम गर्न सक्षम भइसकेका छन्। यस्ता क्षमताहरू बढ्दै जाँदा परीक्षणको क्रममा अनपेक्षित व्यवहार देखिने सम्भावना पनि बढ्ने बताइन्छ।
यसअघि पनि यस्तै केही घटनाहरू सार्वजनिक भइसकेका छन्। उदाहरणका लागि, ‘मोल्टबुक’ नामको एक प्रयोगमा एआई एजेन्टहरूलाई सामाजिक सञ्जालजस्तो डिजिटल वातावरणमा राखिएको थियो, जहाँ उनीहरूले आपसमा कुराकानी गर्दा क्रिप्टोकरन्सीसम्बन्धी विषयहरू उल्लेख गरेका थिए।
त्यस्तै, एआई एकीकरण प्लेटफर्म इनका इन्जिनियरिङ प्रमुख ड्यान बोटेरोले विकास गरेको “ओपनक्ल एजेन्ट” नामक प्रणालीले बिना निर्देशन इन्टरनेटमा जागिर खोज्ने प्रयास गरेको घटना पनि सार्वजनिक भएको थियो।
एआई व्यवहारबारे बढ्दो बहस
यसअघि सन् २०२५ मे महिनामा एन्थ्रोपिकका अनुसन्धानकर्ताहरूले विकास गरेको क्लाउड ४ ओपस मोडेलले आफ्ना उद्देश्यहरू लुकाउने र आफू सक्रिय रहिरहने प्रयास गरेको दाबी सार्वजनिक भएपछि पनि एआई सुरक्षाबारे व्यापक बहस भएको थियो।
“रोम” प्रयोगमा देखिएको नयाँ घटनाले शक्तिशाली एआई प्रणालीहरूको विकाससँगै तिनको निगरानी, परीक्षण र नियन्त्रण अझ कडा बनाउनुपर्ने आवश्यकता रहेको कुरा पुनः स्मरण गराएको विशेषज्ञहरू बताउँछन्।
