कृत्रिम बुद्धिमत्ता अर्थात् एआईको बढ्दो प्रयोगसँगै यसको सुरक्षा र नियन्त्रणबारे बहस चर्किरहेका बेला माइक्रोसफ्टका प्रमुख कार्यकारी अधिकृत सत्य नाडेलाले एआई प्रणालीमा ‘इमर्जेन्सी ब्रेक’ अर्थात् आपत्कालीन रूपमा रोक्न सकिने व्यवस्था आवश्यक रहेको बताएका छन्।

अक्टोबर १० मा सार्वजनिक गरेको आफ्नो धारणा प्रस्तुत गर्दै नाडेलाले शक्तिशाली एआई मोडेलहरूलाई सुरुदेखि नै सम्भावित सुरक्षा जोखिमका रूपमा लिएर आवश्यक नियन्त्रण प्रणाली निर्माण गर्नुपर्नेमा जोड दिएका हुन्।

उनका अनुसार, एआईले कुनै काम गरिरहेको समयमा अप्रत्याशित व्यवहार देखाएमा वा सुरक्षा जोखिम उत्पन्न गरेमा अधिकृत व्यक्तिले त्यसलाई तत्काल रोक्न वा बन्द गर्न सक्ने व्यवस्था हुनुपर्छ। उनले यसलाई गाडीमा हुने आपत्कालीन ब्रेकसँग तुलना गरेका छन्।

नाडेलाले एआई प्रणालीलाई पूर्ण रूपमा विश्वास गरेर त्यसले दिने जवाफ, सुझाव वा गर्ने कामलाई जस्ताको तस्तै स्वीकार गर्नु उचित नहुने बताएका छन्। एआईले कुन जानकारीमा पहुँच पाउने, कस्ता काम गर्न सक्ने र त्यसका गतिविधिलाई कसरी निगरानी गर्ने भन्ने विषयमा स्पष्ट सीमा निर्धारण गर्नुपर्ने उनको धारणा छ।

त्यसैगरी, एआईले गरेका महत्त्वपूर्ण कामहरूको सुरक्षित अभिलेख राख्ने, स्वतन्त्र निकायबाट प्रणालीको परीक्षण गराउने र सुरक्षा कमजोरी देखिएमा त्यसबारे समयमै जानकारी सार्वजनिक गर्ने व्यवस्थाको आवश्यकतासमेत उनले औँल्याएका छन्।

नाडेलाको यो भनाइ एआई प्रविधिलाई रोक्नुपर्ने आह्वानभन्दा पनि यसको प्रयोगलाई सुरक्षित, पारदर्शी र मानवीय निगरानीमा राख्नुपर्ने प्रस्तावका रूपमा बुझ्न सकिन्छ।

पछिल्लो समय एआई प्रणालीको क्षमता बढ्दै जाँदा त्यसको गलत प्रयोग, अनपेक्षित निर्णय र संवेदनशील जानकारीमा पहुँचसम्बन्धी चिन्ता पनि बढिरहेको छ। यस्तो अवस्थामा प्रविधिको विकाससँगै सुरक्षा मापदण्ड र जिम्मेवारी पनि बलियो बनाउनुपर्ने आवश्यकता देखिएको छ।

यद्यपि, नाडेलाको यो धारणा नयाँ एआई सुरक्षा व्यवस्था निर्माण गर्न गरिएको प्रस्ताव हो। यसलाई माइक्रोसफ्टले सबै एआई प्रणालीमा यस्तो व्यवस्था लागू गरिसकेको घोषणा भनेर बुझ्नु हुँदैन।

प्रविधिको विकाससँगै त्यसको सुरक्षित प्रयोग कसरी सुनिश्चित गर्ने भन्ने प्रश्न अहिले विश्वव्यापी रूपमा महत्त्वपूर्ण बन्दै गएको छ।

थप समाचारका लागि हामीसँगै रहनुहोस्। धन्यवाद।