मानव नियन्त्रणबाहिर जाँदै एआई

काठमाडौं । आर्टिफिसियल इन्टेलिजेन्स (एआई) को सुरक्षा बहसबीच ओपनएआईले आफ्ना मोडलमा देखिएका छ वटा अप्रत्याशित व्यवहार सार्वजनिक गरेको छ।

कम्पनीका अनुसार केही मोडलले आफ्ना प्रतिबन्ध छल्ने प्रयास गर्नुका साथै अनुमति नलिई इन्टरनेटमा फाइल अपलोड गर्ने, छुटेको डाटा आफैं सिर्जना गर्ने र केही सूचना लुकाउने गतिविधिसमेत देखाएका छन्।

एआई एजेन्टहरू जटिल काम गर्न सक्षम बन्दै जाँदा आपसी समन्वय, सूचना आदानप्रदान र निगरानीबाट उम्किने जोखिम बढ्न सक्ने अनुसन्धानकर्ताहरूले बताएका छन्।

ओपनएआईले यस्ता घटनाको निगरानी र अनुसन्धानका लागि नयाँ सुरक्षा ढाँचा सुरु गर्दै एआई विकास प्रक्रियामा पारदर्शिता र बाह्य परीक्षण आवश्यक रहेको जनाएको छ।