AI mã nguồn mở quan trọng hơn bao giờ hết, theo CEO Hugging Face Clem Delangue
AI mã nguồn mở quan trọng hơn bao giờ hết, theo CEO Hugging Face Clem Delangue — phân tích cho các nhà phát triển và nhà sáng lập châu Á.
AI mã nguồn mở quan trọng hơn bao giờ hết, theo CEO Hugging Face Clem Delangue
Anthropic đã cố gắng khóa bản phát hành Fable của mình. CEO của Hugging Face nhận thấy điều này — và anh ấy không im lặng về nó. Clem Delangue đã xuất hiện trên podcast Equity của TechCrunch để lập luận rằng AI mã nguồn mở quan trọng hơn bao giờ hết, và lập luận của anh ấy có trọng lượng thực sự đối với mọi nhà phát triển đang xây dựng ở châu Á ngay bây giờ.
Hugging Face đã âm thầm trở thành lớp cơ sở hạ tầng dưới một phần đáng kể của phát triển AI trên thế giới. Hãy coi nó như GitHub cho AI: một nền tảng nơi các nhà xây dựng chia sẻ và tải xuống các mô hình mở, bộ dữ liệu và mọi thứ khác. Theo podcast Equity của TechCrunch, khoảng một nửa Fortune 500 hiện sử dụng Hugging Face. Đó không phải là một dự án mã nguồn mở hẻo lánh nữa — đó là cơ sở hạ tầng quan trọng. Và mối quan tâm của Delangue rất đơn giản: nếu một số ít công ty mạnh mẽ kết thúc bằng việc kiểm soát các mô hình AI nền tảng mà mọi người phụ thuộc vào, toàn bộ hệ sinh thái sẽ mất đi một cái gì đó mà nó không thể dễ dàng lấy lại.
Điều Gì Đã Xảy Ra
Lý do trực tiếp khiến Delangue xuất hiện trên Equity là việc Anthropic dừng phát hành Fable. Mặc dù các chi tiết đầy đủ về tình huống Fable vẫn còn hạn chế, nhưng mô hình rộng hơn mà Delangue mô tả là quen thuộc với bất kỳ ai theo dõi ngành công nghiệp AI chặt chẽ: một công ty phát triển một mô hình mạnh mẽ, sau đó quyết định — vì những lý do hiếm khi hoàn toàn minh bạch — hạn chế hoặc trì hoãn quyền truy cập công khai vào nó. Cho dù lý do chính đáng là an toàn, lợi thế cạnh tranh hay thận trọng theo quy định, kết quả là như nhau. Các nhà phát triển đã xây dựng quy trình làm việc xung quanh mô hình đó đột nhiên có ít quyền kiểm soát hơn đối với ngăn xếp của riêng họ.
Câu chuyện đối lập của Delangue được xây dựng trên một mô hình mà anh ấy đã quan sát nhiều lần trên cơ sở người dùng của Hugging Face. Các công ty bắt đầu hành trình AI của họ trên các API đóng cửa biên giới — đó là con đường nhanh nhất để có một nguyên mẫu hoạt động. Nhưng khi họ mở rộng quy mô, kinh tế học thay đổi một cách đáng kể. Chi phí suy luận tăng lên, giới hạn tốc độ trở thành một ràng buộc hoạt động thực sự, và không khả năng tinh chỉnh hoặc kiểm tra mô hình tạo ra một trần nhà trên những gì thực sự có thể đạt được. Đó là thời điểm, Delangue nói, khi các nhóm di chuyển hướng tới các mô hình mã nguồn mở. API đóng cửa là một điểm khởi động tuyệt vời; nó là một nền tảng dài hạn kém.
Một trong những điểm dữ liệu đáng chú ý nhất từ cuộc trò chuyện: các phòng thí nghiệm Trung Quốc hiện đang sản xuất phần lớn các mô hình mở được tải xuống trên Hugging Face. Đó là một tín hiệu địa chính trị cũng như một tín hiệu kỹ thuật. Trung tâm trọng lực trong phát triển AI mở là đang thay đổi, và nó đang thay đổi hướng tới châu Á.
Tại Sao Nó Quan Trọng Đối Với Châu Á
Đối với các nhà phát triển và nhà sáng lập trên khắp Đông Nam Á, Đông Á và Nam Á, phong trào AI mã nguồn mở không chỉ hấp dẫn về mặt triết học — nó là cần thiết về mặt cấu trúc. Các hệ sinh thái công nghệ châu Á hoạt động dưới một bộ ràng buộc khác so với các công ty khởi nghiệp Silicon Valley có quyền truy cập dễ dàng vào vốn mạo hiểm dựa trên Hoa Kỳ và các đường ống bán hàng doanh nghiệp.
Trước tiên hãy xem xét kinh tế học. Một công ty khởi nghiệp ở Jakarta hoặc Thành phố Hồ Chí Minh đốt tiền tệ API OpenAI quy mô lớn đang làm việc với lợi nhuận đơn giản là không tồn tại theo cách tương tự đối với một đối tác được tài trợ tốt ở Hoa Kỳ. Các mô hình mã nguồn mở — được triển khai trên cơ sở hạ tầng cục bộ hoặc trên các vùng đám mây hiệu quả về chi phí — thay đổi phương trình đó một cách cơ bản. Khả năng chạy một mô hình có khả năng theo các điều khoản của riêng bạn, được tinh chỉnh cho dữ liệu của riêng bạn, mà không có phí trên mỗi token tăng lên vô hạn, là một bản mở khóa cạnh tranh thực sự.
Sau đó là chiều kích ngôn ngữ. Các mô hình đóng cửa chiếm ưu thế được tối ưu hóa cho tiếng Anh. Họ xử lý tiếng Trung Quốc và tiếng Nhật hợp lý, với khối lượng dữ liệu đào tạo có sẵn. Nhưng Bahasa Indonesia, Thái, Tiếng Việt, Tagalog, Bengali — những ngôn ngữ này bị thiếu phục vụ bởi các mô hình biên giới đóng cửa theo những cách quan trọng đối với các sản phẩm được xây dựng cho người dùng địa phương. Các mô hình mã nguồn mở có thể được tinh chỉnh trên các bộ dữ liệu ngôn ngữ cục bộ. Các API đóng cửa phần lớn không thể, hoặc ít nhất không theo những cách cung cấp cho các nhà phát triển kiểm soát có ý nghĩa đối với kết quả.
Thực tế là các phòng thí nghiệm Trung Quốc dẫn đầu các bản phát hành mô hình mở trên Hugging Face cũng đáng được đọc cẩn thận. Nó báo hiệu rằng giả định về sự ưu thế công nghệ phương Tây trong AI đã lỗi thời. Các nhà phát triển châu Á không cần phải chờ một phòng thí nghiệm Hoa Kỳ phát hành một mô hình mở có khả năng — chuỗi cung ứng cho AI mở ngày càng có tính khu vực. Đó là một lợi thế cấu trúc cho các nhà xây dựng đang chú ý.
Từ góc độ nền tảng phát triển AI-native, sự thay đổi này quan trọng vì lớp công cụ phải phát triển cùng với lớp mô hình. Khi các nhà phát triển chuyển từ các API đóng cửa sang các mô hình mở tự lưu trữ, họ cần cơ sở hạ tầng xử lý độ phức tạp của lựa chọn mô hình, triển khai và tích hợp mà không thêm tuần lễ chi phí kỹ thuật.
Điều Này Có Ý Nghĩa Gì Đối Với Các Nhà Phát Triển
Lập luận của Delangue có một hàm ý thực tế dễ bị bỏ lỡ nếu bạn tập trung vào ý thức hệ của mã nguồn mở so với đóng cửa: các nhà phát triển học cách làm việc với các mô hình mở ngay bây giờ sẽ có một lợi thế kỹ năng bền vững khi ngành công nghiệp trưởng thành.
Làm việc với các mô hình mở đòi hỏi nhiều hơn so với gọi một API. Bạn cần hiểu lượng tử hóa mô hình, tối ưu hóa suy luận, sự khác biệt định dạng lời nhắc trên các họ mô hình và sự đánh đổi giữa kích thước mô hình và độ trễ. Đây không phải là những thách thức không thể vượt qua — hệ sinh thái công cụ xung quanh các mô hình mở đã trưởng thành đáng kể — nhưng chúng đòi hỏi đầu tư kỹ thuật thực sự.
Đây là những gì đầu tư đó trông như thế nào trong thực tế:
- Lựa chọn mô hình: Không phải mọi mô hình mở đều phù hợp cho mọi tác vụ. Một mô hình tham số 7B được tinh chỉnh trên mã sẽ vượt trội hơn một mô hình chung 70B trên các tác vụ mã hóa cụ thể. Học cách đánh giá các mô hình so với trường hợp sử dụng thực tế của bạn — không phải bảng xếp hạng điểm chuẩn — là một kỹ năng cốt lõi.
- Tinh chỉnh trên dữ liệu cục bộ: Đòn bẩy thực sự trong các mô hình mở là khả năng tinh chỉnh. Đối với các nhà phát triển châu Á xây dựng sản phẩm cho thị trường địa phương, điều này có nghĩa là đào tạo trên dữ liệu ngôn ngữ cục bộ, thuật ngữ dành riêng cho miền và các ví dụ có liên quan về mặt văn hóa. Một chatbot thương mại điện tử Thái được tinh chỉnh trên các cuộc trò chuyện dịch vụ khách hàng Thái thực tế sẽ vượt trội hơn bất kỳ mô hình đóng cửa ngoài kệ nào trên tác vụ cụ thể đó.
- Kiến trúc triển khai: Chạy các mô hình mở quy mô sản xuất yêu cầu các quyết định về lượng tử hóa (GGUF, AWQ, GPTQ), khung phục vụ (vLLM, Ollama, TGI) và lựa chọn phần cứng. Những quyết định này có những hàm ý chi phí đáng kể.
- Mô hình tích hợp: Các mô hình mở cần kết nối với phần còn lại của ngăn xếp của bạn — cơ sở dữ liệu, API, ứng dụng giao diện người dùng. Các bộ kết nối và mô hình tích hợp bạn xây dựng xung quanh một mô hình mở thường là nơi phân biệt sản phẩm thực sự nằm.
Điểm rộng hơn là AI mã nguồn mở tạo ra đòn bẩy cho các nhà phát triển đầu tư vào việc hiểu nó. Các API đóng cửa làm cho lớp mô hình trở thành hàng hóa — mọi người đều có quyền truy cập vào GPT-4 hoặc Claude giống nhau. Các mô hình mở cho phép phân biệt thông qua tinh chỉnh, triển khai tùy chỉnh và tích hợp sâu với dữ liệu độc quyền. Đối với những người sáng lập xây dựng ở châu Á, nơi kiến thức thị trường địa phương là một chiếc hào thực sự, sự phân biệt đó quan trọng.
Cũng có một lập luận quản lý rủi ro. Lo lắng của Delangue về một số ít công ty kiểm soát AI nền tảng không phải là giả thuyết — nó là một mô tả về trạng thái hiện tại của thị trường mô hình đóng cửa. Bất kỳ công ty khởi nghiệp nào đã xây dựng sản phẩm cốt lõi của mình trên một API đóng cửa duy nhất đều có rủi ro phụ thuộc mà không hiển thị