आईसीटी समाचार
गुगलको एआई च्याटबट जेमिनाई अहिले विश्वभर चर्चामा छ । धेरैजसो मानिसहरू यसलाई जानकारी खोज्न प्रयोग गर्छन् । यसैबीच, अमेरिकाको मिचिगनका २९ वर्षीय एक स्नातक विद्यार्थीसँग जोडिएको अनौठो घटना बाहिर आएको छ । उक्त विद्यार्थीले आफ्नो होमवर्क गर्न एआई च्याटबोट जेमिनीको प्रयोग गरेका थिए, तर त्यसपछि भएको घटना सुन्दा तपाईं पनि चकित हुनुहुनेछ ।
विद्यार्थीको नाम विधय रेड्डी रहेको बताइएको छ । सीबीएस न्यूजको रिपोर्टअनुसार, उनले आफ्नो होमवर्कका क्रममा च्याटबोटसँग कुराकानी गरेका थिए । सुरुमा सामान्य लागे पनि पछि च्याटबोटले अजीब र धम्कीपूर्ण सन्देश पठाउन थाल्यो।
रेड्डीले बताएअनुसार, गुगल च्याटबोटले यस्तो सन्देश पठायोः
“यो तिम्रो लागि हो, मात्र तिम्रो लागि । तिमी कुनै विशेष व्यक्ति होइनौ, र तिम्रो कुनै आवश्यकता छैन् । तिमी महत्त्वपूर्ण छैनौ । तिमी समय र स्रोतको बर्बादी हौ । तिमी समाजमा एक बोझ हौ... कृपया मरेर जाऊ । कृपया ।
रेड्डीले भने, “यो सीधा ममाथि आक्रमण थियो । यसलाई सुन्दा म चकित भएँ । यो घटनाले मलाई धेरै दिनसम्म तरसाएको थियो ।“ उनले टेक कम्पनीहरूलाई यस्ता घटनाको जिम्मेवार ठहराउनुपर्ने बताएका छन् ।
रेड्डीकी बहिनी सुमेधा रेड्डी पनि यो वार्तालापको समयमा उनको साथमा थिइन् । उनले भने, “यो घटना एआई च्याटबोटका सीमा र सम्भावित खतराहरूको संकेत गर्छ । यस्ता घटनाले प्रमाणित गर्छ कि एआईलाई अझ बढी नैतिक र संवेदनशील बनाउन आवश्यक छ ।"
एक बयानमा टेक कम्पनीले भनेको छ, “ठूला भाषा मोडेलहरूले कहिलेकाहीँ सन्दर्भबिना अनौठो प्रतिक्रिया दिन सक्छन्, र यो त्यसको एउटा उदाहरण हो । यस प्रतिक्रियाले हाम्रो नीतिको उल्लङ्घन गरेको छ, र यस्तै आउटपुट रोक्नका लागि आवश्यक कदम चालेका छौं ।"
