Các mô hình AI mã nguồn mở đang bắt kịp với công nghệ tiên tiến. Khoảng cách về an toàn vẫn còn.

Một năm trước, khoảng cách giữa các mô hình biên giới đóng và các mô hình mã nguồn mở tương ứng của chúng có vẻ không thể vượt qua. Hôm nay, khoảng cách đó đang thu hẹp nhanh hơn dự đoán của hầu hết các nhà nghiên cứu — và các mô hình AI mã nguồn mở đang bắt kịp với đầu đoàn trên từng tiêu chuẩn đánh giá. Nhưng khi khả năng tương đương tiến gần, một câu hỏi khó hơn nổi lên: liệu an toàn có theo kịp không?

Điều Gì Đã Xảy Ra

Quỹ đạo của các mô hình mã nguồn mở đã thay đổi đáng kể. Những gì bắt đầu như một cuộc đua để phù hợp với các mô hình đóng trên các tiêu chuẩn đánh giá mã hóa hoặc lập luận hẹp đã phát triển thành một cái gì đó rộng hơn. Các bản phát hành gần đây từ các phòng thí nghiệm nghiên cứu và công ty công nghệ trên khắp Mỹ, Châu Âu và Trung Quốc đã chứng minh rằng các mô hình mã nguồn mở hiện có thể cạnh tranh về tuân theo hướng dẫn, lập luận đa bước, và thậm chí các tác vụ sáng tạo nhất định mà một lần cảm thấy như lãnh thổ độc quyền của các hệ thống độc quyền đắt nhất.

Mô hình này là nhất quán và được ghi chép tốt: một phòng thí nghiệm biên giới vận chuyển một mô hình đóng, thiết lập một trần khả năng mới, và trong vòng vài tháng — đôi khi vài tuần — một mô hình mã nguồn mở được đào tạo trên các kiến trúc và kỹ thuật tương tự sẽ đóng phần lớn khoảng cách. Cộng đồng sau đó tinh chỉnh, lượng tử hóa và triển khai mô hình đó ở khắp nơi, từ các cụm nghiên cứu đến máy tính xách tay của người tiêu dùng.

Những gì chưa theo kịp là cơ sở hạ tầng an toàn. Các mô hình đóng được vận chuyển với kiểm tra đỏ mặt rộng rãi, kỹ thuật AI theo hiến pháp, học tăng cường từ phản hồi của con người được điều chỉnh đặc biệt để tránh tổn hại, và các đường ống giám sát liên tục. Các mô hình mã nguồn mở, theo bản chất của chúng, được vận chuyển mà không có những biện pháp bảo vệ đó. Các trọng số là sản phẩm. Những gì bạn làm với chúng — và cách bạn triển khai chúng một cách an toàn — hoàn toàn tùy thuộc vào nhà điều hành.

Đây không phải là một chỉ trích của sự phát triển mã nguồn mở. Đó là một hiện thực cấu trúc. Khi bạn phát hành các trọng số mô hình công khai, bạn không thể kiểm soát việc tinh chỉnh xảy ra sau đó. Các nhà nghiên cứu đã lặp đi lặp lại chứng minh rằng việc tinh chỉnh an toàn được áp dụng cho các mô hình mã nguồn mở có thể bị tước đi với tính toán khiêm tốn và một tập dữ liệu nhỏ của các ví dụ đối kháng. Khả năng đó là có. Lớp an toàn là tùy chọn, và do đó dễ vỡ.

Kết quả là một bối cảnh nơi các mô hình mở có khả năng nhất thực sự ấn tượng — và thực sự nguy hiểm hơn khi triển khai không cẩn thận so với các mô hình đóng tương đương ở các mức khả năng tương tự.

Tại Sao Điều Này Quan Trọng Đối Với Châu Á

Vị trí của Châu Á trong câu chuyện này không phải là ngoại vi. Một số mô hình mã nguồn mở có khả năng nhất đang lưu hành đã xuất phát từ các công ty công nghệ và tổ chức nghiên cứu Trung Quốc. Các nhà phát triển trên khắp Đông Nam Á, Ấn Độ, Nhật Bản và Hàn Quốc là những người tinh chỉnh và triển khai các mô hình này tích cực nhất, xây dựng các sản phẩm phục vụ hàng trăm triệu người dùng.

Điều này quan trọng vì một số lý do cụ thể đối với khu vực. Thứ nhất, các khung quy định ở Châu Á bị phân mảnh. Đạo luật AI của EU thiết lập một đường cơ sở tương đối thống nhất (nếu không hoàn hảo) cho các triển khai Châu Âu. Châu Á không có tương đương. Các nhà phát triển ở Singapore hoạt động dưới các kỳ vọng khác nhau so với những người ở Indonesia, Việt Nam hoặc Nhật Bản. Sự phân mảnh đó có nghĩa là khoảng cách an toàn trong các mô hình mã nguồn mở hạ cánh khác nhau tùy thuộc vào nơi bạn đang xây dựng — và không có sàn chung để bắt các triển khai nguy hiểm nhất.

Thứ hai, hệ sinh thái nhà phát triển của Châu Á tập trung không cân xứng vào triển khai thực tế hơn là nghiên cứu nền tảng. Câu hỏi mà hầu hết các nhà sáng lập và kỹ sư trong khu vực đang đặt ra không phải là "làm cách nào chúng ta có thể đào tạo các mô hình an toàn hơn?" — đó là "làm cách nào chúng ta có thể vận chuyển nhanh hơn bằng cách sử dụng các mô hình tốt nhất có sẵn?" Các mô hình mã nguồn mở rất hấp dẫn cho trường hợp sử dụng này: không có chi phí API, không có giới hạn tốc độ, kiểm soát toàn bộ ngăn xếp, và khả năng tinh chỉnh trên dữ liệu độc quyền mà không gửi nó đến máy chủ của bên thứ ba.

Đó là những lợi thế thực sự. Nhưng chúng đi kèm với những trách nhiệm thực sự mà hệ sinh thái công nghệ Châu Á mới bắt đầu grapple một cách nghiêm túc. Khi một công ty khởi nghiệp ở Jakarta hoặc Thành phố Hồ Chí Minh triển khai một mô hình mã nguồn mở được tinh chỉnh trong một sản phẩm hướng tới người tiêu dùng, các thuộc tính an toàn của triển khai đó hoàn toàn phụ thuộc vào họ. Không có đội an toàn ở một phòng thí nghiệm biên giới đứng giữa tinh chỉnh của họ và người dùng của họ.

Thứ ba, ngôn ngữ và bối cảnh văn hóa làm trầm trọng thêm vấn đề. Hầu hết các nghiên cứu an toàn và kiểm tra đỏ mặt cho các mô hình mã nguồn mở được tiến hành bằng tiếng Anh. Mô hình tương tự có thể hoạt động hợp lý trên các lời nhắc đối kháng tiếng Anh có thể hoạt động rất khác khi được nhắc bằng Bahasa Indonesia, Thái hoặc Tiếng Việt — những ngôn ngữ nơi dữ liệu tinh chỉnh an toàn là thưa thớt và đánh giá khó tiến hành một cách chặt chẽ.

Điều Này Có Ý Nghĩa Gì Đối Với Các Nhà Phát Triển

Nếu bạn là một nhà phát triển xây dựng trên các mô hình mã nguồn mở — cho dù bạn đang chạy suy luận cục bộ, triển khai trên cơ sở hạ tầng đám mây, hay tinh chỉnh cho một miền cụ thể — khoảng cách an toàn là vấn đề của bạn để giải quyết, không phải của người khác. Đó là một sự thay đổi đáng kể từ mô hình mã đóng, và nó đòi hỏi một mô hình tư duy khác nhau về cách bạn nghĩ về ngăn xếp của mình.

Một vài điều đáng được nội tâm cụ thể.

Tinh chỉnh an toàn không phải là một bước một lần. Nếu bạn áp dụng RLHF hoặc kỹ thuật AI theo hiến pháp cho một mô hình cơ sở mã nguồn mở, những thuộc tính đó có thể giảm khi bạn tiếp tục tinh chỉnh để có khả năng. Mỗi lần chạy đào tạo tối ưu hóa hiệu suất tác vụ có thể xói mòn các thuộc tính căn chỉnh. Bạn cần các đường ống đánh giá kiểm tra các thuộc tính an toàn liên tục, không chỉ khi triển khai ban đầu.

Lời nhắc hệ thống không phải là một lớp an toàn. Hướng dẫn một mô hình "không bao giờ thảo luận về các chủ đề có hại" thông qua một lời nhắc hệ thống là một tốc độ va chạm, không phải một biện pháp bảo vệ. Những người dùng đối kháng có kỹ năng kỹ thuật lời nhắc khiêm tốn có thể định tuyến xung quanh các hạn chế dựa trên lời nhắc hệ thống. Nếu ứng dụng của bạn có yêu cầu an toàn có ý nghĩa, chúng cần được thực thi ở nhiều lớp — bao gồm lọc đầu ra, giới hạn tốc độ và giám sát hành vi.

Khoảng cách khả năng-an toàn tỷ lệ với kích thước mô hình. Các mô hình được lượng tử hóa nhỏ hơn chạy hiệu quả trên phần cứng của người tiêu dùng nói chung dễ bị phá vỡ hơn so với các mô hình độ chính xác đầy đủ của chúng, bởi vì tinh chỉnh an toàn có xu hướng dễ vỡ hơn ở số lượng tham số thấp hơn. Nếu bạn triển khai một mô hình được lượng tử hóa để giảm chi phí suy luận, hãy tính toán điều đó vào mô hình mối đe dọa của bạn.

Đánh giá bằng ngôn ngữ mục tiêu của bạn là không thể thương lượng. Nếu người dùng của bạn chủ yếu tương tác với sản phẩm của bạn bằng một ngôn ngữ khác ngoài tiếng Anh, đánh giá an toàn của bạn phải diễn ra bằng ngôn ngữ đó. Kết quả kiểm tra đỏ mặt tiếng Anh không chuyển giao một cách đáng tin cậy. Đây là một khu vực nơi cộng đồng mã nguồn mở rộng hơn có những điểm mù đáng kể, và nơi các nhà phát triển xây dựng cho các thị trường Châu Á cần đầu tư nỗ lực của riêng họ.

Đối với các đội xây dựng trên MonstarX — nền tảng phát triển AI gốc của Châu Á — những cân nhắc này ngày càng trở thành trung tâm của cách các triển khai sản xuất được cấu trúc. Các bộ kết nối của nền tảng giúp dễ dàng định tuyến các đầu ra mô hình thông qua các bộ phân loại an toàn bên ngoài hoặc API kiểm duyệt nội dung trước khi chúng tiếp cận người dùng cuối, điều này cung cấp cho các nhà phát triển một cơ chế thực tế để thêm các lớp an toàn trên các triển khai mã nguồn mở mà không cần xây dựng lại toàn bộ ngăn xếp của họ.

Điểm rộng hơn là các mô hình mã nguồn mở cung cấp cho bạn sức mạnh và trách nhiệm đồng thời. Các nhà phát triển sẽ xây dựng các sản phẩm bền vững nhất trên các mô hình này là những người coi cơ sở hạ tầng an toàn là một mối quan tâm kỹ thuật hạng nhất — không phải một suy nghĩ sau, và không phải một cái gì đó họ đang chờ nhà cung cấp mô hình giải quyết.

Những Điểm Chính

Sự hội tụ của các mô hình mã nguồn mở