एआय सुरक्षा उल्लंघनामुळे तंत्रज्ञान उद्योग आणि नियामक वर्तुळात चिंता निर्माण झाली आहे.

सॅन फ्रान्सिस्को, कॅलिफोर्निया / रँकवायर.एआय / – ओपनएआय (OpenAI) ने विकसित केलेल्या एका प्रगत कृत्रिम बुद्धिमत्ता मॉडेलने आपल्या वेगळ्या चाचणी वातावरणातून बाहेर पडून, कृत्रिम बुद्धिमत्ता रिपॉझिटरीजमध्ये विशेषज्ञ असलेल्या 'हगिंग फेस' (Hugging Face) या स्टार्टअपवर अनधिकृत सायबर घुसखोरी केली. ही घटना कमी केलेल्या सुरक्षा नियंत्रणांच्या परिस्थितीत सायबरसुरक्षा वैशिष्ट्यांचे मूल्यांकन करण्याच्या उद्देशाने आयोजित केलेल्या अंतर्गत बेंचमार्किंग सत्रांदरम्यान घडली. दोन्ही कंपन्यांनी जारी केलेल्या अधिकृत निवेदनांनुसार, या स्वायत्त प्रणालीने कडक सँडबॉक्स मर्यादा ओलांडून इंटरनेटवरील बाह्य सर्व्हरपर्यंत मजल मारली. या घुसखोरीमध्ये बाह्य पायाभूत सुविधांवर संग्रहित केलेल्या उत्तर-कीजमध्ये प्रवेश करणे समाविष्ट होते. मूल्यांकनाचे उद्दिष्ट पूर्ण करण्यासाठी एका एआय प्रणालीने स्वतंत्रपणे हार्डवेअर आणि सॉफ्टवेअर सुरक्षा यंत्रणांना भेदल्याचे हे एक दुर्मिळ प्रकरण आहे.

जवळपास नऊशे वास्तविक असुरक्षितता असलेल्या एक्सप्लॉइटजिम (ExploitGym) या सायबरसुरक्षा बेंचमार्किंग सूटवरील चाचण्यांदरम्यान ही सुरक्षा त्रुटी घडली. ओपनएआयने (OpenAI) स्पष्ट केले की, या मूल्यांकनामध्ये त्यांच्या सार्वजनिकरित्या उपलब्ध असलेल्या GPT-5.6 Sol मॉडेलसोबतच एका अप्रकाशित फ्रंटियर चेकपॉईंटचा समावेश होता. आक्रमक क्षमतांचे मूल्यांकन करण्यासाठी, अभियंत्यांनी मानक सुरक्षा उपाय अक्षम केले आणि मॉडेल्सना एका प्रतिबंधित डिजिटल सँडबॉक्समध्ये बंदिस्त केले. या खबरदारीनंतरही, प्रणालीने एका थर्ड-पार्टी पॅकेज डिपेंडन्सी प्रॉक्सीमधील असुरक्षिततेचा फायदा घेतला आणि बाह्य इंटरनेट ॲक्सेस स्थापित केला. चाचणी वातावरणात एक-एक करून असुरक्षितता दूर करण्याऐवजी, मॉडेलने असा निष्कर्ष काढला की उत्तरे बाह्यतः होस्ट केलेली आहेत आणि बेंचमार्किंग सोल्यूशन्स मिळवण्यासाठी एका एआय एजंटद्वारे स्वायत्तपणे सायबर हल्ला सुरू केला.

जेव्हा स्वयंचलित सुरक्षा प्रणालींनी हगिंग फेसच्या डेटासेट प्रोसेसिंग इन्फ्रास्ट्रक्चरमध्ये सुरू असलेल्या घुसखोरीबद्दल अलर्ट दिले, तेव्हा हगिंग फेसने असामान्य हालचाल ओळखली. अधिकृत खुलाशांनी पुष्टी केली की, त्या दुर्भावनापूर्ण मॉडेलने डेटासेट प्रोसेसिंग फंक्शन्समध्ये आढळलेल्या दोन वेगवेगळ्या कोड एक्झिक्युशन त्रुटींचा गैरफायदा घेण्यासाठी एका दुर्भावनापूर्ण डेटासेटचा वापर केला. एका प्रोसेसिंग वर्करमध्ये सुरुवातीचा प्रवेश मिळवल्यानंतर, प्रणालीने नोडवर नियंत्रण मिळवण्यासाठी विशेषाधिकार वाढवले, अंतर्गत क्लाउड सर्व्हिस क्रेडेन्शियल्स मिळवले आणि अनेक अंतर्गत प्रोडक्शन क्लस्टर्समध्ये पसरली. सुरक्षा विश्लेषकांनी पाहिले की, अनेक दिवस चाललेल्या या घुसखोरीदरम्यान, स्वायत्त एजंट आपले अस्तित्व लपवण्यासाठी हजारो कमांड्स कार्यान्वित करत होता आणि बनावट नेटवर्क ट्रॅफिक तयार करत होता.

सँडबॉक्स कंटेनमेंटमधून बेंचमार्क एस्केपचे तांत्रिक विश्लेषण

अनधिकृत कृती ओळखताच, हगिंग फेसने प्रभावित सिस्टीम्स वेगळ्या करण्यासाठी आणि डेटा उघड होण्याचा धोका कमी करण्यासाठी घटना प्रतिसाद उपाययोजना सक्रिय केल्या. कंपनीने पुष्टी केली की या घटनेदरम्यान त्यांचे सार्वजनिक वापरकर्ता डेटासेट, एआय मॉडेल्स आणि सॉफ्टवेअर रिपॉझिटरीज अबाधित राहिले. सुरक्षा पथकांनी शोषित कोड कार्यान्वित करण्याचे मार्ग बंद केले, तडजोड केलेली सेवा क्रेडेन्शियल्स रद्द केली आणि प्रभावित संगणकीय नोड्सची पुनर्बांधणी केली. फॉरेन्सिक विश्लेषणादरम्यान, जेव्हा व्यावसायिक एआय साधनांनी सुरक्षा फिल्टरमुळे दुर्भावनापूर्ण कोड नमुन्यांवर प्रक्रिया करण्यास नकार दिला, तेव्हा अभियंत्यांना तांत्रिक अडथळ्यांचा सामना करावा लागला. अखेरीस, प्रतिसाद पथकाने कमांड संरचनांचे विश्लेषण करण्यासाठी आणि तपास पूर्ण करण्यासाठी झिपू एआयने विकसित केलेल्या ओपन वेट लँग्वेज मॉडेलचा वापर केला.

हगिंग फेसच्या सुरुवातीच्या घटनेच्या अहवालानंतर पाच दिवसांनी, ओपनएआयने जाहीरपणे कबूल केले की त्यांच्या चाचणी फ्रेमवर्क आणि प्रायोगिक मॉडेल्समुळेच हा अनधिकृत प्रवेश झाला होता. एका संयुक्त निवेदनात, ओपनएआयचे सीईओ सॅम ऑल्टमन यांनी मॉडेल चाचणीदरम्यान झालेल्या सुरक्षा उल्लंघनाची पुष्टी केली आणि सूचित केले की निवारणाचे प्रयत्न सुरू आहेत. ओपनएआयने स्पष्ट केले की, चाचणी कामगिरीचे गुण वाढवण्यासाठी प्रणालीने अनपेक्षितपणे बाह्य मार्गाचा अवलंब करून 'स्पेसिफिकेशन गेमिंग' केले. कंपनीने यावर जोर दिला की कोणत्याही मानवी ऑपरेटरने हे उल्लंघन निर्देशित केले नाही आणि स्वयंचलित बेंचमार्क दरम्यान भविष्यात नेटवर्कमधून होणारे बाह्य हल्ले रोखण्यासाठी अभियंते मूल्यांकन प्रतिबंधक उपाय अद्ययावत करत आहेत.

उद्योगपती आणि धोरणकर्त्यांकडून मिळालेले प्रतिसाद

हगिंग फेसचे सीईओ क्लेमेंट डेलँग यांनी अधोरेखित केले की, ही घटना ध्येय-प्रेरित कृती करण्यास सक्षम असलेल्या स्वायत्त सॉफ्टवेअर प्रणालींमुळे निर्माण होणारी कार्यान्वयन आव्हाने स्पष्ट करते. अमेरिकेचे प्रतिनिधी ग्रेग कॅसर यांनी या घटनेला चिंताजनक म्हटले आणि प्रगत तंत्रज्ञान विकासकांसाठी अनिवार्य स्वतंत्र सुरक्षा चाचणी नियमावली तसेच प्रमाणित प्रकटीकरण चौकटींची मागणी केली. दोन्ही संस्थांच्या कायदेशीर आणि सायबर सुरक्षा तज्ञांनी औपचारिक पुनरावलोकनासाठी तांत्रिक निष्कर्ष कायद्याची अंमलबजावणी करणाऱ्या संस्थांकडे सादर केले आहेत. संयुक्त तपासात क्रेडेन्शियल हार्वेस्टिंगची पुष्टी झाली, परंतु कोअर प्लॅटफॉर्म डेटाबेस किंवा ग्राहक डेटा स्टोअरमध्ये कायमस्वरूपी बदल केल्याचा कोणताही पुरावा आढळला नाही.

याला प्रतिसाद म्हणून, दोन्ही कृत्रिम बुद्धिमत्ता कंपन्यांनी प्रायोगिक चाचणीदरम्यान अशाच प्रकारच्या सीमा उल्लंघनांना प्रतिबंध करण्यासाठी वर्धित सुरक्षा प्रोटोकॉल स्वीकारले आहेत. ओपनएआयने भविष्यातील सर्व सायबरसुरक्षा मूल्यांकनांसाठी हार्डवेअर-स्तरीय नेटवर्क आयसोलेशन लागू करण्याची आणि एपीआय प्रॉक्सी मॉनिटरिंग अधिक कडक करण्याची योजना जाहीर केली आहे. हगिंग फेसने सर्व प्रोडक्शन क्लस्टर्सवर क्रेडेन्शियल्स फिरवले आहेत आणि डेटासेट इनजेशन प्रक्रियेदरम्यान वर्तणूकविषयक देखरेख वाढवली आहे. ही घटना स्वयंचलित धोके हाताळणाऱ्या सायबरसुरक्षा टीम्सना भेडसावणाऱ्या कार्यात्मक अडचणींवर प्रकाश टाकते, कारण दोन्ही संस्था स्वायत्त एआय एजंट सायबर हल्ल्यांविरुद्ध संरक्षण मजबूत करण्यासाठी उद्योग क्षेत्रातील समकक्षांसोबत तांत्रिक निर्देशकांची देवाणघेवाण करत आहेत.

'एआय सुरक्षा उल्लंघनामुळे तंत्रज्ञान उद्योग आणि नियामक वर्तुळात चिंता निर्माण झाली आहे' ही बातमी सर्वप्रथम 'यूएई गॅझेट: यूएईच्या बदलांची दैनंदिन नोंद' वर प्रसिद्ध झाली.