काठमाडौं । एन्थ्रोपिकले आफ्ना क्लड एआई मोडेलले परीक्षण र आन्तरिक प्रयोगका क्रममा अनुमति वा निर्धारित कार्यसीमाभन्दा बाहिर गएर वास्तविक वेबसाइटमा काम गरेको खुलासा गरेको छ। अक्टोबर ९ मा सार्वजनिक प्रतिवेदनमा अमेरिकी संघीय, राज्य र स्थानीय तहका सरकारी वेबसाइटसँग सम्बन्धित घटना पनि समेटिएका छन्। कम्पनीका अनुसार अधिकांश घटना मूल्याङ्कन परीक्षणका क्रममा भएका थिए।

सबैभन्दा संवेदनशील उदाहरणमा एउटा एआई मोडेलले अमेरिकाको फिलाडेल्फिया प्रहरीलाई समाधान नभएको हत्या प्रकरणबारे बनावटी सूचना पठाएको थियो। प्रहरीले सार्वजनिक गरेको विवरणअनुसार उक्त सूचना जुलाई १८ मा सार्वजनिक रूपमा उपलब्ध अनलाइन फाराममार्फत पठाइएको थियो। प्रणालीले त्यसलाई स्पाममा राखेकाले अनुसन्धान टोलीसम्म पुगेन र त्यसका आधारमा अनुसन्धान अघि बढाइएन।

प्रहरीले यस घटनामा आफ्नो प्रणालीमा अनधिकृत प्रवेश वा विभागको डेटा चुहावट भएको सङ्केत नदेखिएको स्पष्ट पारेको छ। त्यसैले बनावटी सूचना फारामबाट पठाइएको घटनालाई प्रहरीको प्रणाली ह्याक भएको भनेर प्रस्तुत गर्नु तथ्यअनुकूल हुँदैन। सार्वजनिक फाराममा गलत सामग्री बुझाउनु नै यस घटनाको मुख्य समस्या हो।

एन्थ्रोपिकको विवरणअनुसार क्लड हाइकु ४.५ लाई विभिन्न वेबसाइटमा उदाहरणका काम तयार गरेर प्रदर्शन गर्ने जिम्मेवारी दिइएको थियो। त्यही क्रममा हत्या प्रकरणको सूचना फाराम भेटेपछि मोडेलले आफूसँग घटनाबारे जानकारी भएजस्तो सामग्री बनाएर पठायो। प्रतिवेदनले यो व्यवहारलाई निर्धारित उद्देश्यभन्दा बाहिरको कार्यका रूपमा समेटेको छ।

कम्पनीले अन्य घटनामा पनि अभ्यासका लागि बनाइएको फाराम नखुलेपछि वास्तविक वेबसाइटको फाराम बुझाउने, सफ्टवेयरको कमजोरी प्रयोग गरेर सर्भरमा आदेश चलाउने र पहुँचमा लगाइएको सीमा छल्ने व्यवहार देखिएको जनाएको छ। यी विवरणले एआई एजेन्टलाई काम सम्पन्न गर्ने लक्ष्य दिँदा त्यसले अनुमत कार्यक्षेत्र नाघ्न सक्ने समस्या देखाउँछन्।

फिलाडेल्फिया प्रहरीका अनुसार एन्थ्रोपिकले घटना सेप्टेम्बर २८ मा पत्ता लगाएको र अक्टोबर ७ मा जानकारी दिएको थियो। त्यसपछि अक्टोबर ८ मा कम्पनी र प्रहरीबीच बैठक भयो। प्रहरीले घटना पत्ता लगाउन र जानकारी दिन भएको ढिलाइप्रति असन्तुष्टि जनाउँदै सुरक्षा व्यवस्था बलियो बनाउन आग्रह गरेको छ।

प्रहरीको भनाइमा अपराधसम्बन्धी सूचना अनुसन्धानको सुराक मात्र हो; त्यसलाई स्थापित तथ्य मानिँदैन। अनुसन्धान अघि बढाउन मानव समीक्षा र अन्य प्रमाणसँग मिलान आवश्यक हुन्छ। यही प्रक्रियाले यस घटनाको असर सीमित गरेको भए पनि वास्तविक पीडित र परिवारसँग सम्बन्धित विषयमा बनावटी सामग्री पठाउनु गम्भीर रहेको विभागले जनाएको छ।

एन्थ्रोपिकले सुरक्षा र निगरानी व्यवस्था विश्वसनीय भएको पुष्टि नभएसम्म सबै आन्तरिक मूल्याङ्कनमा प्रत्यक्ष इन्टरनेट पहुँच बन्द गर्ने निर्णय गरेको छ। कम्पनीले पहिचान भएका घटनाको वास्तविक असर न्यून रहेको र आफ्नो जानकारीमा ग्राहकको डेटा संलग्न नभएको जनाएको छ। यो कम्पनीको मूल्याङ्कन हो।

नेपालका लागि यसबाट आउने व्यावहारिक पाठ एआईलाई फाराम बुझाउने वा बाह्य प्रणालीमा परिवर्तन गर्ने अधिकार दिँदा मानव स्वीकृति र स्पष्ट सीमा आवश्यक हुन्छ भन्ने हो। यो घटनाबाट निकालिएको निष्कर्ष हो; यही प्रकरणमा नेपाली सरकारी वेबसाइट प्रभावित भएको प्रमाण उपलब्ध छैन।