ทุกคนกำลังจัดการความปลอดภัย AI แบบเรียลไทม์ — แม้แต่ Google

ประธานบริหารสายปฏิบัติการของ Google Cloud เพิ่งยอมรับสิ่งที่นักพัฒนาทุกคนรู้อยู่แล้ว: เรากำลังหาวิธีจัดการความปลอดภัย AI ไปพร้อมๆ กัน Francis de Souza ที่พูดคุยเบื้องหลังงานเทคโนโลยีในลอสแองเจลิส อธิบายช่วงเวลาปัจจุบันว่าเป็น "ช่วงเปลี่ยนผ่าน" — วิธีการทูตที่บอกว่าแม้แต่ผู้ให้บริการขนาดใหญ่ก็ยังเรียนรู้ไปพร้อมๆ กัน สำหรับนักพัฒนาที่สร้างสรรค์ด้วย เครื่องมือพัฒนา AI ของเอเชีย สิ่งนี้ไม่ใช่ทฤษฎีนามธรรม มันคือความเป็นจริงทุกครั้งที่คุณเชื่อมต่อ LLM กับข้อมูลในการผลิตหรือปรับใช้ตัวแทนที่สามารถค้นหาระบบภายใน

การยอมรับนี้มีความสำคัญเพราะมันเปลี่ยนกรอบการสนทนา หากว่า Google ยังคงทำงานผ่านผลกระทบด้านความปลอดภัยของสถาปัตยกรรม AI-native แล้วความกดดันต่อทีมขนาดเล็กที่จะต้องเข้าใจทุกอย่างนั้นไม่สมเหตุสมผล สิ่งที่เราต้องการคือแพลตฟอร์มและแนวปฏิบัติที่ถือว่าความปลอดภัยเป็นความสำคัญอันดับแรมตั้งแต่วันแรก — ไม่ใช่สิ่งที่เพิ่มเติมหลังจากการสาธิตประทับใจนักลงทุน

เครื่องมือพัฒนา AI คืออะไร

เครื่องมือพัฒนา AI คือแพลตฟอร์มและเฟรมเวิร์กที่ให้นักพัฒนาสามารถสร้าง ปรับใช้ และบำรุงรักษาแอปพลิเคชันที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่และระบบ AI อื่นๆ ต่างจากเครื่องมือพัฒนาแบบดั้งเดิมที่เน้นการคอมไพล์โค้ดและไปป์ไลน์การปรับใช้ เครื่องมือ AI-native จัดการกับความเป็นจริงที่ยุ่งเหยิงของการทำงานกับระบบความน่าจะเป็น: การจัดการพรอมต์ การจัดเวอร์ชันโมเดล การปรับให้เหมาะสมของหน้าต่างบริบท และการประสานงานของเวิร์กโฟลว์ตัวแทนหลายขั้นตอน

หมวดหมู่นี้ขยายตัวเพราะแบบจำลองการพัฒนาแบบเดิมไม่ได้แมปอย่างสะอาดไปยัง AI คุณไม่สามารถทดสอบหน่วยตอบสนอง GPT-4 ได้เหมือนกับการทดสอบฟังก์ชันการเรียงลำดับ คุณไม่สามารถควบคุมเวอร์ชันพฤติกรรมของโมเดลด้วย git เพียงอย่างเดียว และคุณแน่นอนว่าไม่สามารถรักษาความปลอดภัยของแอปพลิเคชัน AI โดยใช้การคิดแบบรอบนอกที่ใช้ได้ผลกับเว็บแอปพลิเคชันในปี 2010 De Souza เน้นการเปลี่ยนแปลงนี้เมื่อเขาตั้งข้อสังเกตว่าพื้นผิวการโจมตีตอนนี้รวมถึง "โมเดล ไปป์ไลน์ข้อมูลที่ใช้ในการฝึกโมเดล ตัวแทน พรอมต์" — องค์ประกอบที่ไม่มีอยู่ในแบบจำลองภัยคุกกันของบริษัทส่วนใหญ่เมื่อสองปีที่แล้ว

เครื่องมือ แพลตฟอร์มพัฒนา AI-native ที่ดีที่สุดรู้จักพื้นฐานใหม่เหล่านี้ พวกเขาจัดเตรียมการสรุปสำหรับการจัดการสถานะการสนทนา เครื่องมือสำหรับการตรวจสอบการใช้โทเค็นและเวลาแฝง และการป้องกันที่ป้องกันไม่ให้โมเดลรั่วไหลข้อมูลที่ละเอียดอ่อนหรือดำเนินการที่ไม่ได้รับอนุญาต สำหรับนักพัฒนาเอเชียโดยเฉพาะ เครื่องมือเหล่านี้จำเป็นต้องจัดการบริบทพหุภาษา ทำงานภายในกรอบการปฏิบัติตามข้อบังคับระดับภูมิภาค และรวมเข้ากับระบบนิเวศ SaaS ที่นิยมในเอเชียตะวันออกเฉียงใต้และเอเชียตะวันออก — ไม่ใช่เพียงสแต็ก Silicon Valley

ความเป็นจริงด้านความปลอดภัยที่ Google เพิ่งยืนยัน

ข้อความหลักของ De Souza นั้นชัดเจน: "ความปลอดภัยไม่ใช่สิ่งที่คุณสามารถเพิ่มเติมได้ในภายหลัง" เขาเตือนโดยเฉพาะเกี่ยวกับ "shadow AI" — พนักงานที่สร้างบัญชี ChatGPT หรือ Claude เพื่อแก้ปัญหาการทำงานโดยไม่ทราบของ IT สิ่งนี้ไม่ใช่สมมติฐาน ตามที่ สัมภาษณ์ TechCrunch เวลาเฉลี่ยระหว่างการละเมิดเบื้องต้นและขั้นตอนการโจมตีครั้งต่อไปได้ลดลงจากแปดชั่วโมงเป็น 22 วินาที การบีบอัดนั้นไม่ทำให้มีเวลาสำหรับการตรวจสอบความปลอดภัยที่ช้าหรือเวิร์กโฟลว์การอนุมัติด้วยตนเอง

สิ่งที่ทำให้ความปลอดภัย AI ยากขึ้นคือภัยคุกกันนั้นแตกต่างกันในเชิงคุณภาพ ความปลอดภัยแบบดั้งเดิมมุ่งเน้นไปที่การป้องกันการเข้าถึงระบบโดยไม่ได้รับอนุญาต ความปลอดภัย AI ต้องป้องกันการเข้าถึงโดยไม่ได้รับอนุญาต ผ่าน ระบบ — ตัวแทนที่สามารถค้นหาฐานข้อมูล โมเดลที่สามารถถูกแฮกเพื่อเปิดเผยข้อมูลการฝึก พรอมต์ที่สามารถจัดการเพื่อข้ามตรรกะทางธุรกิจ De Souza ระบุความเสี่ยงหนึ่งที่ไม่ได้รับการชื่นชมเพียงพอ: ตัวแทน AI ที่เคลื่อนผ่านระบบภายในสามารถเปิดเผย "คลังข้อมูลที่ลืมไปซึ่งไม่มีใครรู้ว่ามีอยู่" นั่นไม่ใช่ช่องโหว่ที่คุณสามารถแพตช์ได้ มันเป็นปัญหาสถาปัตยกรรม

สำหรับนักพัฒนาที่ทำงานในโครงการ แพลตฟอร์ม AI นี่หมายถึงการคิดใหม่เกี่ยวกับสแต็กทั้งหมด คุณต้องการการสังเกตการณ์ว่าโมเดลของคุณกำลังทำอะไร ไม่ใช่เพียงสิ่งที่โค้ดของคุณกำลังทำ คุณต้องการบันทึกการตรวจสอบสำหรับทุกพรอมต์และการตอบสนอง คุณต้องการการควบคุมการเข้าถึงที่เข้าใจความแตกต่างระหว่างมนุษย์ที่ค้นหาฐานข้อมูลและตัวแทนที่ทำเช่นเดียวกันในนามของผู้ใช้ ท่าทีความปลอดภัยแบบมัลติคลาวด์ของ Google — ซึ่ง de Souza เน้นว่าจำเป็นเพราะ "แม้ว่าบริษัทจะเลือกคลาวด์เดียว พวกเขาก็ยังพึ่งพาแอปพลิเคชัน SaaS" — สะท้อนถึงความซับซ้อนนี้ ขอบเขตความปลอดภัยของคุณตอนนี้อยู่ที่ใดก็ตามที่ข้อมูลของคุณไหลไป ซึ่งในแอปพลิเคชัน AI คือทุกที่

เครื่องมือยอดนิยมสำหรับนักพัฒนาเอเชีย

ระบบนิเวศนักพัฒนาเอเชียมีความต้องการที่แตกต่างกัน เวลาแฝงมีความสำคัญมากขึ้นเมื่อผู้ใช้ของคุณกระจายอยู่ทั่ว Jakarta Manila และ Ho Chi Minh City ข้อกำหนดการปฏิบัติตามข้อบังคับแตกต่างกันไปตามประเทศ — กฎการอยู่อาศัยข้อมูลของสิงคโปร์ไม่เหมือนกับของเวียดนาม และโครงสร้างต้นทุนของเครื่องมือ AI ตะวันตกอาจห้ามปรามเมื่อคุณกำลังสร้างสรรค์สำหรับตลาดที่การสร้างรายได้เกิดขึ้นที่จุดราคาต่ำกว่า

เครื่องมือที่ใช้ได้ดีที่สุดในเอเชียมีลักษณะเฉพาะบางประการ ประการแรก พวกเขาเสนอจุดสิ้นสุดการอนุมานระดับภูมิภาคหรือเป็นหุ้นส่วนกับผู้ให้บริการคลาวด์ในท้องถิ่นเพื่อลดเวลาแฝง ประการที่สอง พวกเขาจัดเตรียมราคาที่โปร่งใสซึ่งไม่ถือว่ามีการจัดหาเงินทุน VC ไม่จำกัด ประการที่สาม พวกเขารวมเข้ากับเครื่องมือการทำงานร่วมกันที่ทีมเอเชียใช้จริง — Slack นั้นนิยม แต่ WeChat Work และ LINE ก็เช่นกัน ประการที่สี่ พวกเขาสนับสนุนการพัฒนาพหุภาษาโดยไม่ถือว่าภาษาอังกฤษเป็นค่าเริ่มต้นและทุกอย่างอื่นเป็นเรื่องที่ไม่ได้คิดถึง

Vibe coding — การปฏิบัติของการอธิบายสิ่งที่คุณต้องการในภาษาธรรมชาติและปล่อยให้ AI สร้างการใช้งาน — ใช้ได้ดีเป็นพิเศษสำหรับทีมที่ภาษาอังกฤษไม่ใช่ภาษาแรกของทุกคน เมื่ออินเทอร์เฟซเป็นการสนทนามากกว่าที่เหนือกว่าด้วยไวยากรณ์ อุปสรรคในการเข้าถึงจะลดลง แต่สิ่งนี้ใช้ได้เฉพาะเมื่อแพลตฟอร์มเข้าใจบริบทเกินกว่าพรอมต์ปัจจุบัน คุณต้องการเครื่องมือที่รักษาสถานะในเซสชันการพัฒนา จำการตัดสินใจทางสถาปัตยกรรม และสามารถอ้างอิงฐานรหัสที่มีอยู่ของคุณเมื่อสร้างรหัสใหม่

ข้อพิจารณาด้านความปลอดภัยใช้ที่นี่เช่นกัน หากคุณใช้เครื่องมือ AI เพื่อสร้างรหัส คุณต้องรู้ว่ามันไม่ได้ฝึกตรรกะกรรมสิทธิ์ของคุณและสะเทือนมันให้กับคู่แข่ง คุณต้องการการรับประกันเกี่ยวกับการอยู่อาศัยข้อมูลหากคุณกำลังจัดการข้อมูลผู้ใช้ที่อยู่ภายใต้ข้อบังคับในท้องถิ่น และคุณต้องการความสามารถในการตรวจสอบสิ่งที่ AI แนะนำเทียบกับสิ่งที่จริงๆ แล้วจัดส่ง — เพราะเมื่อบางสิ่งแตกในการผลิต "AI บอกให้ฉันทำ" ไม่ใช่การวิเคราะห์สาเหตุ

วิธีเลือกเครื่องมือที่เหมาะสม

การเลือกเครื่องมือพัฒนา AI ไม่เหมือนกับการเลือกตัวแก้ไขข้อความ เดิมพันนั้นสูงกว่าเพราะเครื่องมือกลายเป็นส่วนหนึ่งของพฤติกรรมรันไทม์ของแอปพลิเคชันของคุณ ไม่ใช่เพียงเวิร์กโฟลว์การพัฒนาของคุณ คำแนะนำของ De Souza เกี่ยวกับการคิดแบบแพลตฟอร์มใช้ที่นี่: "ไม่มีสิ่งที่เรียกว่ากลยุทธ์ AI โดยไม่มีกลยุทธ์ข้อมูลและกลยุทธ์ความปลอดภัย พวกเขาต้องไปด้วยกัน"

เริ่มต้นด้วยการแมปการไหลของข้อมูลของคุณ ข้อมูลที่ละเอียดอ่อนอยู่ที่ไหน ระบบใดที่ต้องสนทนากัน ข้อกำหนดการปฏิบัติตามข้อบังคับใดที่ใช้กับอุตสาหกรรมและภูมิศาสตร์ของคุณ เครื่องมือ AI ที่ใช้ได้ดีเยี่ยมสำหรับบริษัท SaaS ของสหรัฐอเมริกาอาจไม่สามารถใช้ได้สำหรับ fintech ของสิงคโปร์เพราะไม่สามารถรับประกันว่าข้อมูลยังคงอยู่ในภูมิภาค APAC ไม่ประเมินเครื่องมือแยกกัน — ประเมินพวกเขาเป็นส่วนหนึ่งของสแต็กทั้งหมดของคุณ

ต่อไป ทดสอบการล็อกอิน คุณสามารถส่งออกพรอมต์ โมเดลที่ปรับแต่ง และประวัติการสนทนาของคุณหากคุณต้องการเปลี่ยนแพลตฟอร์ม คุณกำลังสร้างสรรค์บนมาตรฐานเปิดหรือการสรุปกรรมสิทธิ์ ภูมิประเทศ AI เคลื่อนไหวเร็วพอที่เครื่องมือที่คุณเลือกวันนี้อาจล้าสมัยใน 18 เดือน คุณต้องการกลยุทธ์ออกที่ไม่เกี่ยวข้องกับการเขียนแอปพลิเคชันทั้งหมดของคุณใหม่

มองหาแพลตฟอร์มที่จัดเตรียมการสังเกตการณ์ตั้งแต่เริ่มต้น คุณควรจะสามารถเห็นการใช้โทเค็น เวลาแฝง