โมเดล AI แบบเปิดกำลังเข้าใกล้ระดับสูงสุด แต่ช่องว่างด้านความปลอดภัยยังคงมี

เมื่อปีที่แล้ว ช่องว่างระหว่างโมเดลชั้นนำแบบปิดและโมเดล AI แบบเปิดดูเหมือนจะไม่สามารถเอาชนะได้ วันนี้ช่องว่างนั้นกำลังปิดตัวเร็วกว่าที่นักวิจัยส่วนใหญ่คาดการณ์ไว้ และโมเดล AI แบบเปิดกำลังจับเท่าทีมชั้นนำในการทดสอบเกณฑ์มาตรฐานครั้งแล้วครั้งเล่า แต่เมื่อความสามารถเข้าใกล้เท่าเทียมกัน คำถามที่ยากขึ้นก็เกิดขึ้น: ความปลอดภัยสามารถติดตามได้หรือไม่?

เกิดอะไรขึ้น

วิถีของโมเดล AI แบบเปิดได้เปลี่ยนแปลงไปอย่างมาก สิ่งที่เริ่มต้นเป็นการแข่งขันเพื่อจับคู่โมเดลแบบปิดในเกณฑ์มาตรฐานการเขียนโค้ดหรือการให้เหตุผลที่แคบ ๆ ได้วิวัฒนาการไปสู่สิ่งที่กว้างขึ้น การเปิดตัวล่าสุดจากห้องปฏิบัติการวิจัยและบริษัทเทคโนโลยีทั่วสหรัฐอเมริกา ยุโรป และจีนได้แสดงให้เห็นว่าโมเดล AI แบบเปิดสามารถแข่งขันได้ในด้านการทำตามคำสั่ง การให้เหตุผลแบบหลายขั้นตอน และแม้กระทั่งงานสร้างสรรค์บางอย่างที่เคยดูเหมือนเป็นอาณาเขตเฉพาะของระบบกรรมสิทธิ์ที่มีราคาแพงที่สุด

รูปแบบนี้สอดคล้องและมีการบันทึกไว้เป็นอย่างดี: ห้องปฏิบัติการชั้นนำเปิดตัวโมเดลแบบปิด สร้างเพดานความสามารถใหม่ และภายในเดือน — บางครั้งเป็นสัปดาห์ — โมเดล AI แบบเปิดที่ได้รับการฝึกอบรมบนสถาปัตยกรรมและเทคนิคที่คล้ายกันจะปิดระยะห่างส่วนใหญ่ชุมชนจึงปรับแต่ง ควอนไทซ์ และปรับใช้โมเดลนั้นทุกที่ตั้งแต่คลัสเตอร์วิจัยไปจนถึงแล็ปท็อปผู้บริโภค

สิ่งที่ไม่ได้ติดตามคือโครงสร้างพื้นฐานด้านความปลอดภัย โมเดลแบบปิดมาพร้อมกับการทดสอบแดง การทดสอบ AI ตามธรรมชาติ การเรียนรู้เสริมจากข้อเสนอแนะของมนุษย์ที่ปรับแต่งโดยเฉพาะเพื่อหลีกเลี่ยงอันตราย และไปป์ไลน์การตรวจสอบอย่างต่อเนื่อง โมเดล AI แบบเปิด ตามลักษณะของมัน มาโดยไม่มีการป้องกันเหล่านั้น น้ำหนักคือผลิตภัณฑ์ สิ่งที่คุณทำกับพวกเขา — และวิธีที่ปลอดภัยในการปรับใช้พวกเขา — ขึ้นอยู่กับผู้ดำเนินการโดยสิ้นเชิง

นี่ไม่ใช่การวิจารณ์การพัฒนา AI แบบเปิด มันเป็นความเป็นจริงของโครงสร้าง เมื่อคุณเปิดตัวน้ำหนักโมเดลต่อสาธารณะ คุณไม่สามารถควบคุมการปรับแต่งที่เกิดขึ้นในภายหลังได้ นักวิจัยได้แสดงให้เห็นซ้ำแล้วซ้ำเล่าว่าการปรับแต่งด้านความปลอดภัยที่นำไปใช้กับโมเดล AI แบบเปิดสามารถถูกกำจัดออกไปได้ด้วยการคำนวณที่ค่อนข้างน้อยและชุดข้อมูลเล็ก ๆ ของตัวอย่างที่ไม่เป็นมิตร ความสามารถนั้นอยู่ที่นั่น ชั้นความปลอดภัยเป็นทางเลือก และดังนั้นจึงเปราะบาง

ผลลัพธ์คือภูมิทัศน์ที่โมเดลแบบเปิดที่มีความสามารถมากที่สุดนั้นประทับใจอย่างแท้จริง — และอันตรายจริง ๆ ในการปรับใช้อย่างไม่ระมัดระวังมากกว่าคู่ที่ปิดของพวกเขาในระดับความสามารถที่คล้ายกัน

ทำไมสิ่งนี้จึงสำคัญสำหรับเอเชีย

ตำแหน่งของเอเชียในเรื่องนี้ไม่ใช่เรื่องรอบนอก โมเดล AI แบบเปิดที่มีความสามารถมากที่สุดบางส่วนที่มีอยู่ในการหมุนเวียนมาจากบริษัทเทคโนโลยีจีนและสถาบันวิจัย นักพัฒนาทั่วเอเชียตะวันออกเฉียงใต้ อินเดีย ญี่ปุ่น และเกาหลีใต้เป็นผู้ปรับแต่งและปรับใช้โมเดลเหล่านี้ที่ใช้งานอยู่มากที่สุด สร้างผลิตภัณฑ์ที่ให้บริการแก่ผู้ใช้หลายร้อยล้านคน

เรื่องนี้มีความสำคัญด้วยเหตุผลหลายประการที่เฉพาะเจาะจงกับภูมิภาค ประการแรก กรอบกฎระเบียบในเอเชียมีความแตกต่างกันมาก พระราชกฤษฎีการ AI ของสหภาพยุโรปสร้างพื้นฐานที่เป็นเอกภาพค่อนข้างมาก (แม้ว่าไม่สมบูรณ์แบบ) สำหรับการปรับใช้ในยุโรป เอเชียไม่มีสิ่งที่เทียบเท่า นักพัฒนาในสิงคโปร์ดำเนินการภายใต้ความคาดหวังที่แตกต่างจากผู้ที่อยู่ในอินโดนีเซีย เวียดนาม หรือญี่ปุ่น ความแตกต่างนั้นหมายความว่าช่องว่างด้านความปลอดภัยในโมเดล AI แบบเปิดลงจอดแตกต่างกันไปขึ้นอยู่กับว่าคุณกำลังสร้าง — และไม่มีพื้นฐานทั่วไปเพื่อจับการปรับใช้ที่อันตรายที่สุด

ประการที่สอง ระบบนิเวศของนักพัฒนาในเอเชียมุ่งเน้นไปที่การปรับใช้ที่ใช้ได้จริงมากกว่าการวิจัยพื้นฐาน คำถามที่ผู้ก่อตั้งและวิศวกรในภูมิภาคส่วนใหญ่ถามคือไม่ใช่ "เราจะฝึกอบรมโมเดลที่ปลอดภัยยิ่งขึ้นได้อย่างไร" — มันคือ "เราจะส่งมอบได้เร็วขึ้นโดยใช้โมเดลที่ดีที่สุดที่มีอยู่ได้อย่างไร" โมเดล AI แบบเปิดนั้นน่าดึงดูดมากสำหรับกรณีการใช้งานนี้: ไม่มีค่า API ไม่มีขีดจำกัดอัตรา ควบคุมสแต็กได้เต็มที่ และความสามารถในการปรับแต่งข้อมูลกรรมสิทธิ์โดยไม่ต้องส่งไปยังเซิร์ฟเวอร์ของบุคคลที่สาม

สิ่งเหล่านี้เป็นข้อดีที่แท้จริง แต่มาพร้อมกับความรับผิดชอบที่แท้จริงที่ระบบนิเวศเทคโนโลยีเอเชียเพิ่งเริ่มต้นจัดการอย่างจริงจัง เมื่อสตาร์ทอัพในจาการ์ตาหรือโฮจิมินห์ซิตี้ปรับใช้โมเดล AI แบบเปิดที่ปรับแต่งแล้วในผลิตภัณฑ์ที่หันหน้าไปทางผู้บริโภค คุณสมบัติด้านความปลอดภัยของการปรับใช้นั้นขึ้นอยู่กับพวกเขาโดยสิ้นเชิง ไม่มีทีมความปลอดภัยที่ห้องปฏิบัติการชั้นนำยืนอยู่ระหว่างการปรับแต่งของพวกเขากับผู้ใช้ของพวกเขา

ประการที่สาม ภาษาและบริบททางวัฒนธรรมทำให้ปัญหาซับซ้อนยิ่งขึ้น การวิจัยด้านความปลอดภัยส่วนใหญ่และการทดสอบแดงสำหรับโมเดล AI แบบเปิดดำเนินการในภาษาอังกฤษ โมเดลเดียวกันที่มีพฤติกรรมสมควรบนพรอมต์ที่ไม่เป็นมิตรในภาษาอังกฤษอาจมีพฤติกรรมแตกต่างกันมากเมื่อได้รับพรอมต์ในภาษาบาหاสาอินโดนีเซีย ไทย หรือเวียดนาม — ภาษาที่มีข้อมูลการปรับแต่งด้านความปลอดภัยน้อยและการประเมินผลนั้นยากต่อการดำเนินการอย่างเข้มงวด

สิ่งนี้หมายถึงอะไรสำหรับนักพัฒนา

หากคุณเป็นนักพัฒนาที่สร้างบนโมเดล AI แบบเปิด — ไม่ว่าคุณจะทำการอนุมานในเครื่อง ปรับใช้บนโครงสร้างพื้นฐานของคลาวด์ หรือปรับแต่งสำหรับโดเมนเฉพาะ — ช่องว่างด้านความปลอดภัยคือปัญหาของคุณในการแก้ไข ไม่ใช่ของคนอื่น นั่นเป็นการเปลี่ยนแปลงที่มีนัยสำคัญจากกระบวนทัศน์โมเดลแบบปิด และต้องใช้แบบจำลองทางจิตใจที่แตกต่างกันสำหรับวิธีที่คุณคิดเกี่ยวกับสแต็กของคุณ

มีบางสิ่งที่คุ้มค่าในการเข้าใจอย่างเป็นรูปธรรม

การปรับแต่งด้านความปลอดภัยไม่ใช่ขั้นตอนที่ดำเนินการเพียงครั้งเดียว หากคุณใช้เทคนิค RLHF หรือ AI ตามธรรมชาติกับโมเดลฐาน AI แบบเปิด คุณสมบัติเหล่านั้นอาจเสื่อมลงเมื่อคุณดำเนินการปรับแต่งต่อไปเพื่อความสามารถ ทุกการทำงานการฝึกอบรมที่เพิ่มประสิทธิภาพสำหรับประสิทธิภาพของงานสามารถทำให้คุณสมบัติการจัดตำแหน่งเสื่อมลง คุณต้องมีไปป์ไลน์การประเมินผลที่ทดสอบคุณสมบัติด้านความปลอดภัยอย่างต่อเนื่อง ไม่ใช่แค่ในการปรับใช้เบื้องต้น

พรอมต์ระบบไม่ใช่ชั้นความปลอดภัย การสั่งให้โมเดล "ไม่เคยพูดถึงหัวข้อที่เป็นอันตราย" ผ่านพรอมต์ระบบคือการลดความเร็ว ไม่ใช่การป้องกัน ผู้ใช้ที่มีจุดประสงค์ร้ายที่มีทักษะวิศวกรรมพรอมต์ปานกลางสามารถเส้นทางรอบข้อจำกัดที่ใช้พรอมต์ระบบได้ หากแอปพลิเคชันของคุณมีข้อกำหนดด้านความปลอดภัยที่มีความหมาย พวกเขาจำเป็นต้องได้รับการบังคับใช้ในหลายชั้น — รวมถึงการกรองผลลัพธ์ การจำกัดอัตรา และการตรวจสอบพฤติกรรม

ช่องว่างความสามารถ-ความปลอดภัยปรับขนาดตามขนาดโมเดล โมเดลที่ได้รับการหาปริมาณที่เล็กกว่าและทำงานได้อย่างมีประสิทธิภาพบนฮาร์ดแวร์ผู้บริโภคโดยทั่วไปแล้วจะเสี่ยงต่อการทำลายมากกว่าคู่ที่มีความแม่นยำเต็มของพวกเขา เนื่องจากการปรับแต่งด้านความปลอดภัยมักจะเปราะบางขึ้นที่จำนวนพารามิเตอร์ที่ต่ำกว่า หากคุณกำลังปรับใช้โมเดลที่ได้รับการหาปริมาณเพื่อลดต้นทุนการอนุมาน ให้นำสิ่งนั้นมาพิจารณาในแบบจำลองภัยคุณ

การประเมินผลในภาษาเป้าหมายของคุณไม่อาจเลี่ยงได้ หากผู้ใช้ของคุณโต้ตอบกับผลิตภัณฑ์ของคุณเป็นหลักในภาษาอื่นที่ไม่ใช่ภาษาอังกฤษ การประเมินผลด้านความปลอดภัยของคุณจะต้องเกิดขึ้นในภาษานั้น ผลการทดสอบแดงในภาษาอังกฤษไม่ได้ถ่ายโอนได้อย่างน่าเชื่อถือ นี่คือพื้นที่ที่ชุมชนโอเพนซอร์สที่กว้างขึ้นมีจุดบอดที่มีนัยสำคัญ และที่ซึ่งนักพัฒนาที่สร้างสำหรับตลาดเอเชียต้องลงทุนในความพยายามของตนเอง

สำหรับทีมที่สร้างบน MonstarX — แพลตฟอร์มพัฒนา AI ที่เป็นเจ้าของในเอเชีย — การพิจารณาเหล่านี้มีความสำคัญเพิ่มเติมต่อวิธีการจัดโครงสร้างการปรับใช้ในการผลิต ตัวเชื่อมต่อ ของแพลตฟอร์มทำให้ง่ายต่อการกำหนดเส้นทางผลลัพธ์ของโมเดลผ่านตัวจำแนกความปลอดภัยภายนอกหรือ API การคัดกรองเนื้อหาก่อนที่จะถึงผู้ใช้ปลายทาง ซึ่งให้กลไกการปฏิบัติจริงแก่นักพัฒนาสำหรับการเพิ่มชั้นความปลอดภัยบนการปรับใช้ AI แบบเปิดโดยไม่ต้องสร้างสแต็กของพวกเขาใหม่ทั้งหมด

ประเด็นที่กว้างขึ้นคือโมเดล AI แบบเปิดให้คุณพลังและความรับผิดชอบพร้อมกัน นักพัฒนาที่จะสร้างผลิตภัณฑ์ที่ทนทานที่สุดบนโมเดลเหล่านี้คือผู้ที่ถือว่าโครงสร้างพื้นฐานด้านความปลอดภัยเป็นข้อกังวลทางวิศวกรรมชั้นหนึ่ง — ไม่ใช่ความคิดหลัง และไม่ใช่สิ่งที่พวกเขากำลังรอให้ผู้ให้บริการโมเดลแก้ไข

ประเด็นสำคัญ

การบรรจบกันของโมเดล AI แบบเปิด