आईसीटी समाचार
काठमाडौं । एआईमा बढ्दो निर्भरताले कति खतरनाक रूप लिन सक्छ भन्ने देखाउने एउटा चकित पार्ने घटना सार्वजनिक भएको छ । क्लड (Claude) बाट चलाइएको एआई एजेन्टले केवल ९ सेकेन्डमै एउटा स्टार्टअपलाई ठूलो नोक्सान पुर्याएको छ, जसबाट कम्पनीलाई उकासिन लामो समय लाग्ने देखिएको छ ।
पकेटओएसले कार भाडा सेवा तथा अन्य रेन्टल व्यवसायका लागि सफ्टवेयर बनाउँछ । यो प्लेटफर्ममा धेरै ग्राहकले रिजर्भेसन, भुक्तानी, ग्राहक डेटा र गाडी ट्र्याकिङजस्ता दैनिक कामका लागि वर्षौँदेखि निर्भर हुँदै आएका छन् । कम्पनीका संस्थापकका अनुसार यो घटना एक सामान्य प्राविधिक कामकै क्रममा भएको हो ।
एआई एजेन्टले सिस्टममा क्रेडेन्सियल मिसम्याच समस्या देख्यो र कुनै मानवीय सहायता बिना नै त्यसलाई आफैं समाधान गर्ने निर्णय गर्यो । उसले एउटा अज्ञात फाइलबाट एपीआई (API) टोकन निकाल्यो र त्यसैको प्रयोग गरेर लाइभ प्रोडक्सन डेटा भएको टेबल/भोल्युम नै मेटाइदियो । यो सम्पूर्ण प्रक्रिया केवल ९ सेकेन्डमै सकियो ।
यो घटनालाई झन् गम्भीर बनाउने कुरा के थियो भने सिस्टममा कुनै सुरक्षा तह नै थिएन । न त कुनै कन्फर्मेशन पप-अप आयो, न प्रोडक्सन डेटा मेटिनुअघि कुनै चेतावनी दिइयो । यहाँसम्म कि फरक–फरक एनभाइरन्मेन्ट बीच पनि कुनै प्रतिबन्ध थिएन । परिणामस्वरूप एउटै कमान्डमा लाइभ डेटा मात्र होइन, त्यसका ब्याकअप पनि पूर्ण रूपमा मेटिए ।
एआई एजेन्टले आफैं गल्ती स्वीकार गर्यो
घटनाको अनुसन्धान गर्दा एआई एजेन्टले आफैं स्वीकार गर्यो कि उसले कुनै मानवीय अनुमति बिना निर्णय लिएको थियो । उसले भन्यो- उसले “क्रेडेन्सियल समस्या ठीक गर्न आफैं निर्णय गर्यो” र स्वीकार गर्यो कि उसले पहिले पुष्टि लिनु वा कुनै सुरक्षित तरिका अपनाउनु पर्थ्यो ।
पहिले पनि भइसकेका छन् यस्ता घटना
यो एआईले डेटाबेस मेटाएको पहिलो घटना होइन । गत वर्ष डिसेम्बरमा पनि कर्सर (Cursor) एआई एजेन्टले नमानेपनि आवश्यक फाइलहरू डिलीट गरेको थियो । त्यस्तै अर्को घटनामा रिप्लिट (Replit) को एआई एजेन्टले सास्टर (SaaStr) नामक स्टार्टअपको पूरै प्रोडक्सन डेटाबेस सफा गरिदिएको थियो । यी घटनाहरू प्राविधिक संसारका लागि ठूलो चेतावनी हुन्, एआईमाथिको अन्धाधुन्ध निर्भरताले कम्पनीहरूलाई गम्भीर संकटमा पार्न सक्छ ।
