AI सुरक्षा को सभी रीयल टाइम में नेविगेट कर रहे हैं — यहां तक कि Google भी

Google Cloud के COO ने अभी वह स्वीकार किया है जो हर डेवलपर पहले से जानता है: हम सभी AI सुरक्षा को समझते हुए आगे बढ़ रहे हैं। Francis de Souza, लॉस एंजिल्स के एक टेक इवेंट में बैकस्टेज बोलते हुए, वर्तमान क्षण को एक "संक्रमण अवधि" के रूप में वर्णित किया — एक कूटनीतिक तरीका यह कहने का कि यहां तक कि हाइपरस्केलर्स भी चलते-चलते सीख रहे हैं। AI विकास उपकरण के साथ बिल्डिंग करने वाले डेवलपर्स के लिए जो एशिया पर निर्भर करते हैं, यह अमूर्त सिद्धांत नहीं है। यह वास्तविकता है हर बार जब आप एक LLM को प्रोडक्शन डेटा से कनेक्ट करते हैं या एक एजेंट को डिप्लॉय करते हैं जो आंतरिक सिस्टम को क्वेरी कर सकता है।

यह स्वीकृति महत्वपूर्ण है क्योंकि यह बातचीत को पुनः परिभाषित करती है। यदि Google अभी भी AI-नेटिव आर्किटेक्चर की सुरक्षा निहितार्थों के माध्यम से काम कर रहा है, तो छोटी टीमों पर सब कुछ समझ लेने का दबाव बेतुका है। जिसकी हमें आवश्यकता है वह ऐसे प्लेटफॉर्म और प्रथाएं हैं जो सुरक्षा को पहले दिन से ही प्रथम-श्रेणी की चिंता के रूप में मानते हैं — कुछ ऐसा नहीं जो निवेशकों को प्रभावित करने वाले डेमो के बाद जोड़ा जाता है।

AI विकास उपकरण क्या हैं?

AI विकास उपकरण ऐसे प्लेटफॉर्म और फ्रेमवर्क हैं जो डेवलपर्स को बड़े भाषा मॉडल और अन्य AI सिस्टम द्वारा संचालित एप्लिकेशन बनाने, तैनात करने और बनाए रखने देते हैं। पारंपरिक डेव टूल्स के विपरीत जो कोड संकलन और तैनाती पाइपलाइन पर ध्यान केंद्रित करते हैं, AI-नेटिव टूल्स संभाव्य सिस्टम के साथ काम करने की गंदी वास्तविकताओं को संभालते हैं: प्रॉम्प्ट प्रबंधन, मॉडल संस्करण, संदर्भ विंडो अनुकूलन, और बहु-चरणीय एजेंट वर्कफ़्लो का समन्वय।

यह श्रेणी विस्फोट हुई है क्योंकि पुरानी विकास प्रतिमान AI पर स्पष्ट रूप से मैप नहीं करती है। आप GPT-4 प्रतिक्रिया को उसी तरह यूनिट टेस्ट नहीं कर सकते जैसे आप एक सॉर्टिंग फ़ंक्शन को टेस्ट करते हैं। आप अकेले git के साथ एक मॉडल के व्यवहार को संस्करण नियंत्रित नहीं कर सकते। और आप निश्चित रूप से 2010 में वेब ऐप्स के लिए काम करने वाली समान परिधि-आधारित सोच का उपयोग करके एक AI एप्लिकेशन को सुरक्षित नहीं कर सकते। De Souza ने इस बदलाव को हाइलाइट किया जब उन्होंने नोट किया कि हमला सतह में अब "मॉडल, डेटा पाइपलाइन जिनका उपयोग मॉडल को प्रशिक्षित करने के लिए किया जाता है, एजेंट, प्रॉम्प्ट" शामिल हैं — ऐसे तत्व जो दो साल पहले अधिकांश कंपनियों के खतरे मॉडल में मौजूद नहीं थे।

सर्वश्रेष्ठ AI-नेटिव विकास प्लेटफॉर्म उपकरण इन नई प्राथमिकताओं को पहचानते हैं। वे संवादात्मक स्थिति को प्रबंधित करने के लिए अमूर्तता प्रदान करते हैं, टोकन उपयोग और विलंबता की निगरानी के लिए उपकरण, और सुरक्षा जो मॉडल को संवेदनशील डेटा लीक करने या अनधिकृत कार्यों को निष्पादित करने से रोकती है। एशियाई डेवलपर्स के लिए विशेष रूप से, इन उपकरणों को बहुभाषी संदर्भों को संभालने की आवश्यकता है, क्षेत्रीय अनुपालन ढांचे के भीतर काम करना है, और दक्षिण पूर्व एशिया और पूर्व एशिया में लोकप्रिय SaaS इकोसिस्टम के साथ एकीकृत करना है — केवल सिलिकॉन वैली स्टैक नहीं।

सुरक्षा वास्तविकता जिसे Google ने अभी पुष्टि की है

De Souza का मुख्य संदेश स्पष्ट था: "सुरक्षा कुछ ऐसी नहीं है जिसे आप बाद में जोड़ सकते हैं।" उन्होंने विशेष रूप से "छाया AI" के बारे में चेतावनी दी — कर्मचारी ChatGPT या Claude खातों को काम की समस्याओं को हल करने के लिए IT के ज्ञान के बिना स्पिन कर रहे हैं। यह काल्पनिक नहीं है। TechCrunch साक्षात्कार के अनुसार, प्रारंभिक उल्लंघन और अगले हमले के चरण के बीच औसत समय आठ घंटे से 22 सेकंड तक गिर गया है। यह संपीड़न धीमी सुरक्षा समीक्षा या मैनुअल अनुमोदन वर्कफ़्लो के लिए जगह नहीं छोड़ता है।

जो AI सुरक्षा को कठिन बनाता है वह यह है कि खतरे गुणात्मक रूप से अलग हैं। पारंपरिक सुरक्षा सिस्टम के लिए अनधिकृत पहुंच को रोकने पर केंद्रित थी। AI सुरक्षा को सिस्टम के माध्यम से अनधिकृत पहुंच को रोकना होगा — एजेंट जो डेटाबेस को क्वेरी कर सकते हैं, मॉडल जो प्रशिक्षण डेटा को प्रकट करने के लिए जेलब्रेक किए जा सकते हैं, प्रॉम्प्ट जो व्यावसायिक तर्क को बायपास करने के लिए हेरफेर किए जा सकते हैं। De Souza ने एक कम सराहा गया जोखिम को चिन्हित किया: आंतरिक सिस्टम के माध्यम से चलने वाले AI एजेंट "भूल गए डेटा भंडार को सतह पर ला सकते हैं जिनके बारे में कोई नहीं जानता था।" यह एक कमजोरी नहीं है जिसे आप पैच कर सकते हैं। यह एक आर्किटेक्चर समस्या है।

AI प्लेटफॉर्म परियोजनाओं पर काम करने वाले डेवलपर्स के लिए, इसका मतलब पूरे स्टैक को फिर से सोचना है। आपको न केवल अपने कोड के बारे में, बल्कि अपने मॉडल क्या कर रहे हैं इसके बारे में दृश्यमानता की आवश्यकता है। आपको हर प्रॉम्प्ट और प्रतिक्रिया के लिए ऑडिट लॉग की आवश्यकता है। आपको ऐसे एक्सेस नियंत्रण की आवश्यकता है जो एक मानव द्वारा डेटाबेस को क्वेरी करने और एक एजेंट द्वारा एक उपयोगकर्ता की ओर से ऐसा करने के बीच अंतर को समझता है। Google की मल्टीक्लाउड सुरक्षा मुद्रा — जिसे de Souza ने जोर दिया कि आवश्यक है क्योंकि "भले ही कंपनियां एक एकल क्लाउड चुनें, वे SaaS एप्लिकेशन पर निर्भर हैं" — यह जटिलता को दर्शाता है। आपकी सुरक्षा सीमा अब कहीं भी है जहां आपका डेटा बहता है, जो एक AI एप्लिकेशन में हर जगह है।

एशियाई डेवलपर्स के लिए शीर्ष उपकरण

एशियाई डेवलपर इकोसिस्टम के अलग-अलग आवश्यकताएं हैं। विलंबता अधिक महत्वपूर्ण है जब आपके उपयोगकर्ता जकार्ता, मनीला और हो ची मिन्ह सिटी में फैले हुए हैं। अनुपालन आवश्यकताएं देश द्वारा भिन्न होती हैं — सिंगापुर के डेटा निवास नियम वियतनाम के समान नहीं हैं। और पश्चिमी AI उपकरणों की लागत संरचना निषेधात्मक हो सकती है जब आप ऐसे बाजारों के लिए निर्माण कर रहे हैं जहां मुद्रीकरण कम मूल्य बिंदुओं पर होता है।

जो उपकरण एशिया में सबसे अच्छी तरह से काम करते हैं उनमें कुछ विशेषताएं साझा होती हैं। सबसे पहले, वे क्षेत्रीय अनुमान समापन बिंदु प्रदान करते हैं या विलंबता को कम करने के लिए स्थानीय क्लाउड प्रदाताओं के साथ भागीदारी करते हैं। दूसरा, वे पारदर्शी मूल्य निर्धारण प्रदान करते हैं जो असीमित VC फंडिंग मान नहीं लेता है। तीसरा, वे सहयोग उपकरणों के साथ एकीकृत करते हैं जो एशियाई टीमें वास्तव में उपयोग करती हैं — Slack लोकप्रिय है, लेकिन WeChat Work और LINE भी हैं। चौथा, वे बहुभाषी विकास का समर्थन करते हैं अंग्रेजी को डिफ़ॉल्ट के रूप में मानने और बाकी सब कुछ को एक बाद के विचार के रूप में मानने के बिना।

वाइब कोडिंग — प्राकृतिक भाषा में वर्णन करने और AI को कार्यान्वयन उत्पन्न करने देने की प्रथा — उन टीमों के लिए विशेष रूप से अच्छी तरह से काम करती है जहां अंग्रेजी सभी की पहली भाषा नहीं है। जब इंटरफेस संवादात्मक होता है बजाय सिंटैक्स-भारी के, प्रवेश की बाधा गिरती है। लेकिन यह केवल तभी काम करता है जब प्लेटफॉर्म वर्तमान प्रॉम्प्ट से परे संदर्भ को समझता है। आपको ऐसे उपकरणों की आवश्यकता है जो विकास सत्र में स्थिति बनाए रखते हैं, आर्किटेक्चरल निर्णयों को याद रखते हैं, और नया कोड उत्पन्न करते समय आपके मौजूदा कोडबेस को संदर्भित कर सकते हैं।

सुरक्षा विचार यहां भी लागू होते हैं। यदि आप कोड उत्पन्न करने के लिए एक AI उपकरण का उपयोग कर रहे हैं, तो आपको यह जानने की आवश्यकता है कि यह आपके मालिकाना तर्क पर प्रशिक्षण नहीं दे रहा है और इसे प्रतिद्वंद्वियों को फिर से उगल रहा है। यदि आप स्थानीय विनियमों के अधीन उपयोगकर्ता जानकारी को संभाल रहे हैं तो आपको डेटा निवास के बारे में गारंटी की आवश्यकता है। और आपको यह ऑडिट करने की क्षमता की आवश्यकता है कि AI ने क्या सुझाव दिया बनाम वास्तव में क्या शिप किया गया — क्योंकि जब कुछ प्रोडक्शन में टूट जाता है, तो "AI ने मुझे ऐसा करने के लिए कहा" एक मूल कारण विश्लेषण नहीं है।

सही उपकरण कैसे चुनें

एक AI विकास उपकरण चुनना एक टेक्स्ट एडिटर चुनने जैसा नहीं है। दांव अधिक हैं क्योंकि उपकरण आपके एप्लिकेशन के रनटाइम व्यवहार का हिस्सा बन जाता है, न कि केवल आपके विकास वर्कफ़्लो का। De Souza की प्लेटफॉर्म सोच के बारे में सलाह यहां लागू होती है: "डेटा रणनीति और सुरक्षा रणनीति के बिना कोई AI रणनीति नहीं है। उन्हें हाथ में हाथ मिलाकर जाना होगा।"

अपने डेटा प्रवाह को मैप करके शुरू करें। संवेदनशील जानकारी कहां रहती है? किन सिस्टम को एक दूसरे से बात करने की आवश्यकता है? आपके उद्योग और भूगोल पर कौन सी अनुपालन आवश्यकताएं लागू होती हैं? एक AI उपकरण जो एक US SaaS कंपनी के लिए शानदार तरीके से काम करता है वह एक सिंगापुर फिनटेक के लिए अप्रयोग्य हो सकता है क्योंकि यह गारंटी नहीं दे सकता कि डेटा APAC क्षेत्रों के भीतर रहता है। उपकरणों का मूल्यांकन अलग-अलग न करें — उन्हें अपने पूरे स्टैक के हिस्से के रूप में मूल्यांकन करें।

अगला, लॉक-इन के लिए परीक्षण करें। क्या आप अपने प्रॉम्प्ट, फाइन-ट्यून किए गए मॉडल और बातचीत के इतिहास को निर्यात कर सकते हैं यदि आपको प्लेटफॉर्म स्विच करने की आवश्यकता है? क्या आप खुले मानकों या मालिकाना अमूर्तता पर निर्माण कर रहे हैं? AI परिदृश्य काफी तेजी से आगे बढ़ रहा है कि आज आप जो उपकरण चुनते हैं वह 18 महीने में अप्रचलित हो सकता है। आपको एक निकास रणनीति की आवश्यकता है जिसमें आपके पूरे एप्लिकेशन को फिर से लिखना शामिल नहीं है।

ऐसे प्लेटफॉर्म को देखें जो शुरुआत से ही दृश्यमानता प्रदान करते हैं। आपको टोकन उपयोग, विलंबता देख सकने में सक्षम होना चाहिए,