الجميع يتنقل عبر أمان الذكاء الاصطناعي في الوقت الفعلي — حتى Google

اعترف الرئيس التنفيذي للعمليات في Google Cloud بما يعرفه كل مطور بالفعل: نحن جميعاً نكتشف أمان الذكاء الاصطناعي أثناء التقدم. وصف فرانسيس دي سوزا، متحدثاً خلف الكواليس في حدث تقني في لوس أنجلوس، اللحظة الحالية بأنها "فترة انتقالية" — وهي طريقة دبلوماسية للقول بأن حتى عمالقة التكنولوجيا يتعلمون أثناء التنفيذ. بالنسبة للمطورين الذين يبنون باستخدام أدوات تطوير الذكاء الاصطناعي في آسيا، هذا ليس نظرية مجردة. إنها الواقع في كل مرة تربط فيها نموذج لغة كبير ببيانات الإنتاج أو تنشر وكيلاً يمكنه الاستعلام عن الأنظمة الداخلية.

الاعتراف مهم لأنه يعيد صياغة المحادثة. إذا كانت Google لا تزال تعمل على فهم الآثار الأمنية للبنى الأصلية للذكاء الاصطناعي، فإن الضغط على الفرق الأصغر لتحقيق كل شيء هو أمر سخيف. ما نحتاجه بدلاً من ذلك هو منصات وممارسات تعامل الأمان كمصدر قلق من الدرجة الأولى من اليوم الأول — وليس شيئاً مرفقاً بعد أن تثير العرض التوضيحي إعجاب المستثمرين.

ما هي أدوات تطوير الذكاء الاصطناعي؟

أدوات تطوير الذكاء الاصطناعي هي منصات وأطر عمل تسمح للمطورين ببناء ونشر والحفاظ على التطبيقات المدعومة بنماذج اللغات الكبيرة وأنظمة الذكاء الاصطناعي الأخرى. على عكس أدوات التطوير التقليدية التي تركز على تجميع الأكواد وخطوط أنابيب النشر، تتعامل الأدوات الأصلية للذكاء الاصطناعي مع الواقع المعقد للعمل مع الأنظمة الاحتمالية: إدارة المحفزات، وإصدار النموذج، وتحسين نافذة السياق، وتنسيق سير عمل الوكيل متعدد الخطوات.

انفجرت هذه الفئة لأن نموذج التطوير القديم لا ينطبق بشكل نظيف على الذكاء الاصطناعي. لا يمكنك اختبار استجابة GPT-4 بالطريقة التي تختبر بها دالة الفرز. لا يمكنك التحكم في إصدار سلوك النموذج باستخدام git وحده. وبالتأكيد لا يمكنك تأمين تطبيق الذكاء الاصطناعي باستخدام نفس التفكير المستند إلى المحيط الذي كان يعمل لتطبيقات الويب في عام 2010. أبرز دي سوزا هذا التحول عندما لاحظ أن سطح الهجوم يتضمن الآن "النماذج وخطوط أنابيب البيانات المستخدمة لتدريب النماذج والوكلاء والمحفزات" — عناصر لم تكن موجودة في نماذج التهديد لدى معظم الشركات قبل سنتين.

أفضل أدوات منصة تطوير أصلية للذكاء الاصطناعي تعترف بهذه البدائيات الجديدة. توفر تجريدات لإدارة الحالة الحوارية وأدوات لمراقبة استخدام الرموز والكمون وحواجز حماية تمنع النماذج من تسرب البيانات الحساسة أو تنفيذ إجراءات غير مصرح بها. بالنسبة للمطورين الآسيويين على وجه الخصوص، تحتاج هذه الأدوات إلى التعامل مع السياقات متعددة اللغات والعمل ضمن أطر الامتثال الإقليمية والتكامل مع أنظمة SaaS الشهيرة في جنوب شرق آسيا وشرق آسيا — وليس فقط مكدس وادي السيليكون.

واقع الأمان الذي أكدته Google للتو

كانت الرسالة الأساسية لدي سوزا صريحة: "الأمان ليس شيئاً يمكنك إضافته لاحقاً." حذر بشكل خاص من "الذكاء الاصطناعي الظل" — الموظفون الذين ينشئون حسابات ChatGPT أو Claude لحل مشاكل العمل دون معرفة قسم تكنولوجيا المعلومات. هذا ليس افتراضياً. وفقاً لـ مقابلة TechCrunch، انخفض متوسط الوقت بين الخرق الأولي ومرحلة الهجوم التالية من ثماني ساعات إلى 22 ثانية. هذا الضغط لا يترك مجالاً لمراجعات الأمان البطيئة أو سير العمل الموافقة اليدوية.

ما يجعل أمان الذكاء الاصطناعي أصعب هو أن التهديدات مختلفة نوعياً. ركز الأمان التقليدي على منع الوصول غير المصرح به إلى الأنظمة. يجب أن يمنع أمان الذكاء الاصطناعي الوصول غير المصرح به من خلال الأنظمة — وكلاء يمكنهم الاستعلام عن قواعد البيانات، ونماذج يمكن كسرها للكشف عن بيانات التدريب، ومحفزات يمكن التلاعب بها لتجاوز منطق الأعمال. حذر دي سوزا من خطر واحد لم يحظ بتقدير كافٍ: وكلاء الذكاء الاصطناعي الذين يتحركون عبر الأنظمة الداخلية يمكنهم الكشف عن "مستودعات البيانات المنسية التي لا يعرف أحد بوجودها." هذا ليس ثغرة يمكنك إصلاحها. إنها مشكلة معمارية.

بالنسبة للمطورين الذين يعملون على مشاريع منصة الذكاء الاصطناعي، هذا يعني إعادة التفكير في المكدس بالكامل. تحتاج إلى الرؤية في ما تفعله نماذجك، وليس فقط ما يفعله الكود الخاص بك. تحتاج إلى سجلات تدقيق لكل محفز واستجابة. تحتاج إلى عناصر تحكم في الوصول تفهم الفرق بين استعلام بشري لقاعدة بيانات واستعلام وكيل للقيام بنفس الشيء نيابة عن المستخدم. تعكس موقف أمان Google متعدد السحابة — الذي أكد دي سوزا أنه ضروري لأن "حتى إذا اختارت الشركات سحابة واحدة، فإنها تعتمد على تطبيقات SaaS" — هذا التعقيد. حدود الأمان الخاصة بك الآن هي أينما تتدفق بياناتك، وهي في تطبيق الذكاء الاصطناعي في كل مكان.

أفضل الأدوات للمطورين الآسيويين

لنظام المطورين الآسيويين احتياجات مميزة. تأخر الوقت مهم أكثر عندما ينتشر المستخدمون لديك عبر جاكرتا ومانيلا وهو تشي منه سيتي. تختلف متطلبات الامتثال حسب الدولة — قواعد إقامة البيانات في سنغافورة ليست هي نفسها في فيتنام. وقد يكون هيكل التكلفة لأدوات الذكاء الاصطناعي الغربية مرتفعاً جداً عندما تبني للأسواق حيث يحدث النقد في نقاط سعر أقل.

الأدوات التي تعمل بشكل أفضل في آسيا تشترك في بعض الخصائص. أولاً، توفر نقاط نهاية استدلال إقليمية أو تشارك مع مزودي السحابة المحليين لتقليل الكمون. ثانياً، توفر تسعيراً شفافاً لا يفترض تمويل VC غير محدود. ثالثاً، يتكاملون مع أدوات التعاون التي تستخدمها الفرق الآسيوية فعلياً — Slack شهير، لكن WeChat Work و LINE أيضاً. رابعاً، يدعمون التطوير متعدد اللغات دون اعتبار اللغة الإنجليزية الافتراضية وكل شيء آخر كملاحظة ثانوية.

البرمجة بالإحساس — ممارسة وصف ما تريده باللغة الطبيعية وترك الذكاء الاصطناعي ينشئ التنفيذ — تعمل بشكل جيد بشكل خاص للفرق حيث اللغة الإنجليزية ليست لغة الجميع الأولى. عندما تكون الواجهة حوارية بدلاً من أن تكون ثقيلة بناء الجملة، ينخفض حاجز الدخول. لكن هذا يعمل فقط إذا كانت المنصة تفهم السياق بما يتجاوز المحفز الحالي. تحتاج إلى أدوات تحافظ على الحالة عبر جلسة التطوير وتتذكر القرارات المعمارية ويمكنها الإشارة إلى قاعدة الأكواد الموجودة لديك عند إنشاء أكواد جديدة.

تنطبق الاعتبارات الأمنية هنا أيضاً. إذا كنت تستخدم أداة ذكاء اصطناعي لإنشاء أكواد، فتحتاج إلى معرفة أنها لا تتدرب على منطقك الملكي وتعيد إنتاجه للمنافسين. تحتاج إلى ضمانات حول إقامة البيانات إذا كنت تتعامل مع معلومات المستخدم الخاضعة للوائح محلية. وتحتاج إلى القدرة على تدقيق ما اقترحه الذكاء الاصطناعي مقابل ما تم شحنه فعلياً — لأنه عندما ينقطع شيء ما في الإنتاج، "قال لي الذكاء الاصطناعي أن أفعل ذلك" ليس تحليل السبب الجذري.

كيفية اختيار الأداة الصحيحة

اختيار أداة تطوير الذكاء الاصطناعي ليس مثل اختيار محرر نصوص. الرهانات أعلى لأن الأداة تصبح جزءاً من سلوك وقت التشغيل في تطبيقك، وليس فقط سير عمل التطوير الخاص بك. ينطبق نصيحة دي سوزا حول التفكير في المنصة هنا: "لا توجد استراتيجية ذكاء اصطناعي بدون استراتيجية بيانات واستراتيجية أمان. يجب أن تسير جنباً إلى جنب."

ابدأ بتعيين تدفق البيانات الخاص بك. أين تعيش المعلومات الحساسة؟ أي الأنظمة تحتاج إلى التحدث مع بعضها البعض؟ ما متطلبات الامتثال التي تنطبق على صناعتك وجغرافيتك؟ قد تكون أداة ذكاء اصطناعي تعمل بشكل رائع لشركة SaaS أمريكية غير قابلة للاستخدام لشركة fintech في سنغافورة لأنها لا يمكنها ضمان بقاء البيانات ضمن مناطق APAC. لا تقيم الأدوات بمعزل عن الآخرين — قيمها كجزء من المكدس بالكامل.

بعد ذلك، اختبر الحبس. هل يمكنك تصدير المحفزات والنماذج المضبوطة بدقة وسجلات المحادثة إذا كنت بحاجة إلى التبديل بين المنصات؟ هل تبني على معايير مفتوحة أم تجريدات ملكية؟ المشهد الذكاء الاصطناعي يتحرك بسرعة كافية بحيث قد تكون الأداة التي تختارها اليوم قديمة في 18 شهراً. تحتاج إلى استراتيجية خروج لا تتضمن إعادة كتابة التطبيق بالكامل.

ابحث عن منصات توفر الرؤية من البداية. يجب أن تكون قادراً على رؤية استخدام الرموز والكمون