दुरुपयोगको जोखिम देखिएपछि गुगलले रोक्यो ‘गुगल अर्थ एआई’ फिचर

काठमाडौं । गुगलले आफ्नो नयाँ 'गुगल अर्थ एआई' फिचर सार्वजनिक गरेको केही समयमै त्यसको दुरुपयोग हुने जोखिम देखिएपछि सेवा अस्थायी रूपमा स्थगित गरेको छ । वास्तविक भूगोल र नक्सालाई आधार बनाएर अत्यन्तै यथार्थजस्ता देखिने कृत्रिम तस्बिर सिर्जना गर्न सक्ने यो प्रविधिबाट गलत सूचना फैलिन सक्ने चिन्ता बढेपछि कम्पनीले थप सुरक्षा व्यवस्था लागू नगरेसम्म सुविधा रोक्ने निर्णय गरेको हो ।

गुगलले हालै 'नानो बनाना २ (Nano Banana 2)' नामक एआई इमेज जेनेरेटरलाई गुगल अर्थसँग एकीकृत गरेको घोषणा गरेको थियो । तर, सार्वजनिक भएको ४८ घण्टाभन्दा कम समयमै केही प्रयोगकर्ताले कम्पनीको नीति विपरीत सामाग्री तयार गर्न थालेपछि उक्त सुविधा हटाइएको गुगलले जनाएको छ ।

यो प्रविधिले प्रयोगकर्तालाई टेक्स्टमार्फत निर्देशन दिएर गुगल अर्थमा उपलब्ध उपग्रह, हवाई तथा थ्री डी नक्सालाई आधार बनाउँदै नयाँ दृश्य सिर्जना गर्न सक्ने सुविधा दिएको थियो । तर, यही क्षमताले वास्तविक स्थानमा नभएका घटना, भवन वा अन्य संरचनालाई पनि वास्तविकजस्तै देखिने गरी प्रस्तुत गर्न सक्ने भएकाले यसले गलत सूचना फैलाउने जोखिम बढाएको विज्ञहरूले बताएका छन् ।

आर्टिफिसियल इन्टेलिजेन्स तथा मिडिया विश्लेषक हेन्क भान एसका अनुसार यो प्रविधिको सबैभन्दा ठूलो समस्या नक्कली तस्बिर बनाउनु मात्र होइन, ती तस्बिरलाई वास्तविक नक्सासँग जोडेर प्रस्तुत गर्नु हो । उनका अनुसार कुनै काल्पनिक दृश्य वास्तविक भूगोलमा राखिँदा मानिसहरूले त्यसलाई सहजै सत्य ठान्न सक्छन् ।

अनुसन्धानका क्रममा उक्त एआई प्रणालीले इरानमा अस्तित्वमै नभएको आणविक ऊर्जा केन्द्र, अमेरिका–मेक्सिको सीमामा काल्पनिक शरणार्थी शिविर तथा गाजाको एक अस्पताल नजिक बम विस्फोटबाट बनेको ठूलो खाल्डो देखिने कृत्रिम तस्बिर तयार गरेको पाइएको थियो । यी सबै दृश्य वास्तविक स्थानसँग जोडिएकाले भ्रामक सूचना फैलाउने सम्भावना उच्च रहेको विश्लेषकहरूको निष्कर्ष छ ।

गुगलले भने आफ्नो एआईबाट सिर्जना भएका तस्बिरमा अदृश्य डिजिटल वाटरमार्क राखिएको र प्रयोगकर्ताले जेमिनी वा गुगल लेन्समार्फत तस्बिरको सत्यता परीक्षण गर्न सक्ने जनाएको थियो । यद्यपि, BBC Verify ले गरेको परीक्षणमा यी सुरक्षा उपाय प्रभावकारी भएपनि केही अवस्थामा सजिलै छल्न सकिने देखिएको उल्लेख गरिएको छ ।

परीक्षणका क्रममा एआईलाई प्रत्यक्ष रूपमा आपत्तिजनक दृश्य बनाउन अनुरोध गर्दा त्यसले अस्वीकार गरे पनि, उही अर्थ आउने गरी शब्द परिवर्तन गरेर निर्देशन दिँदा सुरक्षा प्रणाली छल्न सकिएको बीबीसीले जनाएको छ । उदाहरणका रूपमा, बेलायती संसद् बाहिर हिंसात्मक दृश्य सिर्जना गर्न गरिएको प्रत्यक्ष अनुरोध अस्वीकार भए पनि घुमाउरो भाषामा गरिएको समान अनुरोध स्वीकार गरिएको थियो ।

त्यस्तै, ह्वाइट हाउस परिसरमा राजनीतिक सन्देश राख्न अस्वीकार गरे पनि सोही स्थानमा अन्य संरचना सिर्जना गर्न भने प्रणाली तयार भएको देखिएको थियो ।

बीबीसीका अनुसार धेरैजसो बाह्य एआई पहिचान प्रणालीहरूले पनि गुगल अर्थ एआईबाट बनाइएका केही कृत्रिम स्याटेलाइट तस्बिरलाई वास्तविक ठानेका थिए, जसले यस्ता प्रविधिको दुरुपयोग रोक्न अझ प्रभावकारी सुरक्षा आवश्यक रहेको संकेत गर्छ ।

एआई अनुसन्धानकर्ता हेनरी एज्डरले विशेष गरी युद्ध, द्वन्द्व वा संकटग्रस्त क्षेत्रमा यस्ता प्रविधिको दुरुपयोग अत्यन्तै संवेदनशील विषय भएको बताएका छन् । उनका अनुसार पत्रकार, अनुसन्धानकर्ता र सर्वसाधारणले लामो समयदेखि स्याटेलाइट तस्बिरलाई विश्वसनीय प्रमाणका रूपमा प्रयोग गर्दै आएका छन् । तर, एआईमार्फत त्यही स्रोतलाई पनि सजिलै नक्कली बनाउन सकिने अवस्था सिर्जना हुँदा तथ्यमा आधारित सूचना प्रणालीमै चुनौती थपिएको छ ।

यस्तै, गैरनाफामूलक स्याटेलाइट सेवा कमन स्पेसका सहसंस्थापक तथा जियोस्पेसियल विश्लेषक बिल ग्रियरले स्याटेलाइट डेटा ऐतिहासिक रूपमा विश्वसनीय मानिने भएकाले नक्कली दृश्यको बढ्दो प्रयोगले सार्वजनिक विश्वासमा गम्भीर असर पार्न सक्ने बताएका छन् ।

उनका अनुसार भविष्यमा वास्तविक तथ्याङ्कमा पहुँच झन् सीमित हुँदै गए र एआईबाट सिर्जना गरिएका नक्कली तस्बिर बढ्दै गए भने सत्य र भ्रम छुट्याउन झन् कठिन बन्नेछ ।