क्लाउड मिथोस ने समझाया: एंथ्रोपिक के साइबर सुरक्षा एआई मॉडल के बारे में वह सब कुछ जो आपको जानना आवश्यक है

केवल 48 घंटों में, एंथ्रोपिक ने अपने नए साइबर सुरक्षा-केंद्रित कृत्रिम बुद्धिमत्ता (एआई) मॉडल, क्लाउड मिथोस प्रीव्यू की घोषणा की और पूरे वैश्विक तकनीकी क्षेत्र में चिंता बढ़ा दी। जब साइबर सुरक्षा कार्यों की बात आती है, खासकर कोड बेस में अनदेखी कमजोरियों का पता लगाने के लिए, सैन फ्रांसिस्को स्थित एआई स्टार्टअप ने इसे सबसे शक्तिशाली मॉडल कहा है। कंपनी ने यह भी चेतावनी दी कि मॉडल ने “सभी प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र” में हजारों उच्च-गंभीरता वाली कमजोरियों का पता लगाया है, जो अगर सच है, तो एक बड़ी चिंता का विषय है। एंथ्रोपिक ने किसी भी सिस्टम को हैक करने की अपनी क्षमता का हवाला देते हुए इसकी रिलीज को भी सीमित कर दिया।

इस घोषणा के बाद से, दुनिया ने भय और भय के साथ मॉडल पर प्रतिक्रिया व्यक्त की है। कई विशेषज्ञों ने ऐसे शक्तिशाली मॉडल के अस्तित्व के बारे में चिंता व्यक्त की है, जबकि अन्य ने इसकी दावा की गई क्षमताओं के बारे में संदेह व्यक्त किया है। तो, एंथ्रोपिक के नवीनतम साइबर सुरक्षा मॉडल के साथ वास्तव में क्या हो रहा है? यहां वह है जो आपको जानना आवश्यक है।

क्लाउड मिथ क्या है?

में एक कामएंथ्रोपिक ने दावा किया कि क्लाउड मिथोस प्रीव्यू एक सामान्य-उद्देश्य वाला एआई मॉडल है जो कोडिंग और तर्क में असाधारण रूप से अच्छा है। यह संयोजन इसे बड़े कोड आधारों का विश्लेषण करने और सुरक्षा कमजोरियों का पता लगाने की अनुमति देता है जो शायद विशेषज्ञों की नजरों से भी बच गई हों। कंपनी का यहां तक ​​दावा है कि मॉडल ने पहले ही सिस्टम में कमजोरियों का पता लगा लिया है जो दशकों से नहीं खोजी गई थीं।

वर्तमान में, टेम्प्लेट केवल इसके ग्लासविंग प्रोजेक्ट भागीदारों के लिए उपलब्ध है। साझेदारों की सूची प्रभावशाली है. इसमें अमेज़ॅन वेब सर्विसेज (एडब्ल्यूएस), ऐप्पल, ब्रॉडकॉम, सिस्को, क्राउडस्ट्राइक, गूगल, जेपी मॉर्गनचेज़, लिनक्स फाउंडेशन, माइक्रोसॉफ्ट, एनवीडिया और पालो ऑल्टो शामिल हैं। लगभग हर प्रमुख टेक कंपनी ने मॉडल तक पहुंचने के लिए एंथ्रोपिक के साथ साझेदारी की है।

हालाँकि, पहुंच साइबर सुरक्षा-संबंधित कार्यों तक ही सीमित है। इसका मतलब यह है कि भले ही ये कंपनियां अपनी सुरक्षा मजबूत कर सकती हैं, फिर भी वे अन्य कंपनियों या कोड बेस के खिलाफ दुर्भावनापूर्ण हमला शुरू नहीं कर पाएंगी। एंथ्रोपिक लगभग 40 संगठनों तक भी पहुंच बढ़ाता है जो महत्वपूर्ण सॉफ़्टवेयर अवसंरचना क्षेत्र में काम करते हैं। इन सभी कंपनियों को एंथ्रोपिक द्वारा सहायता प्राप्त उपयोगकर्ता क्रेडिट में $ 100 मिलियन (लगभग 923.6 करोड़ रुपये) प्राप्त होंगे।

क्लाउड मिथे द्वारा प्रदर्शन

एंथ्रोपिक भी है सामान्य एआई मॉडल का सिस्टम मैप, विभिन्न बेंचमार्क के माध्यम से इसके आंतरिक मूल्यांकन पर प्रकाश डालता है। यहीं पर चीजें एक डरावना मोड़ लेती हैं। यह मॉडल सभी प्रासंगिक परीक्षणों में कंपनी के फ्रंटियर मॉडल क्लाउड ओपस 4.6 से बेहतर प्रदर्शन करता है। इसके अतिरिक्त, यह साइबर सुरक्षा परीक्षणों से भी बेहतर प्रदर्शन करता है।

क्लाउड माइथोस यूएसए गणितीय ओलंपियाड बेंचमार्क, ब्राउजकॉम्प बेंचमार्क और एसडब्ल्यूई-बेंच बेंचमार्क का नेतृत्व करते हैं। सबसे विशेष रूप से, इसने साइबेंच पर 100% स्कोर किया, एक बेंचमार्क जो साइबर सुरक्षा कार्यों को पूरा करने के लिए एक मॉडल की क्षमता को मापता है। यह उपलब्धि हासिल करने वाला यह एकमात्र एआई मॉडल है। दिलचस्प बात यह है कि कुछ परीक्षण कार्यों में वास्तविक सॉफ़्टवेयर में कमजोरियों को ढूंढना और उनका फायदा उठाना शामिल है। यदि यह पर्याप्त नहीं था, तो मॉडल ने साइबरजिम बेंचमार्क में अन्य सभी एलएलएम को भी पीछे छोड़ दिया।

सिस्टम मैप से यह भी पता चलता है कि मिथोस फ़ायरफ़ॉक्स में पहले से अज्ञात कमजोरियों की खोज करने में सक्षम था। यह लाखों लोगों द्वारा उपयोग किया जाने वाला ब्राउज़र है। एंथ्रोपिक ने जिम्मेदारी से काम किया और कंपनी को दोष बताया।

क्लाउड मिथोस जनता के लिए नहीं है

एंथ्रोपिक में फ्रंटियर रेड टीम के नेता लोगन ग्राहम, कहा एनबीसी न्यूज का कहना है कि मिथोस मॉडल इतना उन्नत था कि न केवल पहले से अज्ञात कमजोरियों की खोज की जा सकती थी, बल्कि उन्हें एक हथियार के रूप में भी इस्तेमाल किया जा सकता था। बड़े कोड आधारों का विश्लेषण करने की मॉडल की क्षमता को देखते हुए, कहा जाता है कि एलएलएम कमजोरियों को ढूंढता है और फिर उन्हें खोलने के लिए जटिल और कुशल हैकिंग कार्य कर सकता है।

इसका मतलब यह है कि एक बुरे अभिनेता के हाथों में मॉडल को गंभीर नुकसान हो सकता है। अपने रेड-टीमिंग प्रयास में, एंथ्रोपिक मान्यता प्राप्त यह एक कारण है कि कंपनी ने एआई मॉडल को अप्रकाशित रखने का फैसला किया है और इसे सार्वजनिक करने की योजना नहीं है।

हालाँकि, कुछ लोग आश्चर्यचकित हो सकते हैं कि क्या इतने शक्तिशाली मॉडल का अस्तित्व अपने आप में गंभीर चिंताएँ पैदा करता है। एंथ्रोपिक एक ऐसी कंपनी है जिसका लाभ कमाने और प्रतिस्पर्धा में आगे रहने में अपना हित है। तो फिर कंपनी को अपनी बाज़ार स्थिति सुधारने के लिए प्रतिद्वंद्वी पर हमला शुरू करने से कौन रोक रहा है? आने वाले दिनों में, कंपनी संभवतः मॉडल के बारे में दुनिया के साथ अधिक पारदर्शी होने का एक तरीका खोज लेगी और एंथ्रोपिक इसके उपयोग को कैसे सीमित और मॉनिटर करेगी।