Model AI berat terbuka semakin mendekat ke frontier. Jurang keselamatan masih ada.

Setahun yang lalu, jurang antara model frontier tertutup dan rekan-rekan berat terbuka mereka terasa tidak dapat diatasi. Hari ini, jurang itu menutup lebih cepat daripada yang diprediksi oleh kebanyakan peneliti — dan model AI berat terbuka semakin mendekat ke barisan depan pada benchmark demi benchmark. Namun ketika paritas kemampuan mendekati, pertanyaan yang lebih sulit muncul: apakah keselamatan tetap sejalan?

Apa yang Terjadi

Trajektori model berat terbuka telah bergeser secara dramatis. Apa yang dimulai sebagai perlombaan untuk mencocokkan model tertutup pada benchmark pengkodean atau penalaran yang sempit telah berkembang menjadi sesuatu yang lebih luas. Rilis terbaru dari lab penelitian dan perusahaan teknologi di seluruh AS, Eropa, dan Tiongkok telah menunjukkan bahwa model berat terbuka sekarang dapat bersaing dalam mengikuti instruksi, penalaran multi-langkah, dan bahkan tugas kreatif tertentu yang dulunya terasa seperti wilayah eksklusif dari sistem proprietary paling mahal.

Polanya konsisten dan terdokumentasi dengan baik: lab frontier mengirimkan model tertutup, menetapkan batas kemampuan baru, dan dalam hitungan bulan — kadang-kadang minggu — model berat terbuka yang dilatih pada arsitektur dan teknik serupa menutup sebagian besar jarak. Komunitas kemudian melakukan fine-tuning, kuantisasi, dan penyebaran model itu di mana-mana, dari kluster penelitian hingga laptop konsumen.

Apa yang belum sejalan adalah infrastruktur keselamatan. Model tertutup dikirimkan dengan red-teaming ekstensif, teknik AI konstitusional, pembelajaran penguatan dari umpan balik manusia yang disesuaikan khusus untuk penghindaran kerugian, dan saluran pemantauan berkelanjutan. Model berat terbuka, menurut sifatnya, dikirimkan tanpa penjaga itu terpasang. Bobotnya adalah produknya. Apa yang Anda lakukan dengan mereka — dan seberapa aman Anda menyebarkannya — sepenuhnya terserah pada operator.

Ini bukan kritik terhadap pengembangan berat terbuka. Ini adalah realitas struktural. Ketika Anda merilis bobot model secara publik, Anda tidak dapat mengendalikan fine-tuning yang terjadi di hilir. Peneliti telah berulang kali menunjukkan bahwa fine-tuning keselamatan yang diterapkan pada model berat terbuka dapat dilepas dengan komputasi yang relatif sederhana dan kumpulan data kecil dari contoh adversarial. Kemampuannya ada. Lapisan keselamatan bersifat opsional, dan oleh karena itu rapuh.

Hasilnya adalah lanskap di mana model terbuka paling mampu benar-benar mengesankan — dan benar-benar lebih berbahaya untuk disebarkan dengan sembarangan daripada setara tertutup mereka pada tingkat kemampuan serupa.

Mengapa Ini Penting untuk Asia

Posisi Asia dalam cerita ini bukan pinggiran. Beberapa model berat terbuka paling mampu yang beredar telah keluar dari perusahaan teknologi dan institusi penelitian Tiongkok. Pengembang di seluruh Asia Tenggara, India, Jepang, dan Korea Selatan adalah di antara yang paling aktif dalam fine-tuning dan penyebaran model ini, membangun produk yang melayani ratusan juta pengguna.

Ini penting karena beberapa alasan yang spesifik untuk wilayah ini. Pertama, kerangka kerja regulasi di Asia terfragmentasi. Undang-Undang AI UE menetapkan garis dasar yang relatif terpadu (meskipun tidak sempurna) untuk penyebaran Eropa. Asia tidak memiliki yang setara. Pengembang di Singapura beroperasi di bawah ekspektasi yang berbeda daripada mereka di Indonesia, Vietnam, atau Jepang. Fragmentasi itu berarti jurang keselamatan dalam model berat terbuka mendarat berbeda tergantung di mana Anda membangun — dan tidak ada lantai umum untuk menangkap penyebaran paling berbahaya.

Kedua, ekosistem pengembang Asia secara tidak proporsional berfokus pada penyebaran praktis daripada penelitian fundamental. Pertanyaan yang paling sering diajukan oleh pendiri dan insinyur di wilayah ini bukan "bagaimana cara kami melatih model yang lebih aman?" — tetapi "bagaimana cara kami mengirimkan lebih cepat menggunakan model terbaik yang tersedia?" Model berat terbuka sangat menarik untuk kasus penggunaan ini: tidak ada biaya API, tidak ada batas laju, kontrol penuh atas tumpukan, dan kemampuan untuk fine-tuning pada data proprietary tanpa mengirimkannya ke server pihak ketiga.

Itu adalah keuntungan nyata. Tetapi mereka datang dengan tanggung jawab nyata yang ekosistem teknologi Asia baru saja mulai menangani dengan serius. Ketika startup di Jakarta atau Ho Chi Minh City menyebarkan model berat terbuka yang telah di-fine-tune dalam produk yang menghadap konsumen, properti keselamatan dari penyebaran itu sepenuhnya pada mereka. Tidak ada tim keselamatan di lab frontier yang berdiri di antara fine-tune mereka dan pengguna mereka.

Ketiga, bahasa dan konteks budaya memperumit masalah. Sebagian besar penelitian keselamatan dan red-teaming untuk model berat terbuka dilakukan dalam bahasa Inggris. Model yang sama yang berperilaku wajar pada prompt adversarial berbahasa Inggris mungkin berperilaku sangat berbeda ketika diminta dalam Bahasa Indonesia, Thai, atau Vietnam — bahasa di mana data fine-tuning keselamatan jarang dan evaluasi lebih sulit untuk dilakukan dengan ketat.

Apa Artinya Ini untuk Pengembang

Jika Anda adalah pengembang yang membangun di atas model berat terbuka — baik Anda menjalankan inferensi secara lokal, menyebarkan pada infrastruktur cloud, atau fine-tuning untuk domain tertentu — jurang keselamatan adalah masalah Anda untuk diselesaikan, bukan masalah orang lain. Itu adalah pergeseran signifikan dari paradigma model tertutup, dan itu memerlukan model mental yang berbeda tentang cara Anda berpikir tentang tumpukan Anda.

Beberapa hal layak untuk diinternalisasi secara konkret.

Fine-tuning keselamatan bukan langkah sekali jalan. Jika Anda menerapkan RLHF atau teknik AI konstitusional ke model dasar berat terbuka, properti tersebut dapat menurun saat Anda terus fine-tuning untuk kemampuan. Setiap run pelatihan yang mengoptimalkan kinerja tugas dapat mengikis properti penyelarasan. Anda memerlukan saluran evaluasi yang menguji properti keselamatan secara berkelanjutan, bukan hanya pada penyebaran awal.

Prompt sistem bukan lapisan keselamatan. Menginstruksikan model untuk "tidak pernah membahas topik berbahaya" melalui prompt sistem adalah penghalang kecepatan, bukan penjaga. Pengguna adversarial dengan keterampilan prompt engineering sederhana dapat merutekan di sekitar pembatasan berbasis prompt sistem. Jika aplikasi Anda memiliki persyaratan keselamatan yang bermakna, mereka perlu ditegakkan di beberapa lapisan — termasuk penyaringan output, pembatasan laju, dan pemantauan perilaku.

Jurang kemampuan-keselamatan berskala dengan ukuran model. Model kuantisasi yang lebih kecil yang berjalan efisien pada perangkat keras konsumen umumnya lebih mudah untuk dijailbreak daripada rekan presisi penuh mereka, karena fine-tuning keselamatan cenderung lebih rapuh pada jumlah parameter yang lebih rendah. Jika Anda menyebarkan model kuantisasi untuk mengurangi biaya inferensi, faktorkan itu ke dalam model ancaman Anda.

Evaluasi dalam bahasa target Anda tidak dapat dinegosiasikan. Jika pengguna Anda terutama berinteraksi dengan produk Anda dalam bahasa selain Inggris, evaluasi keselamatan Anda harus terjadi dalam bahasa itu. Hasil red-teaming berbahasa Inggris tidak ditransfer dengan andal. Ini adalah area di mana komunitas open-source yang lebih luas memiliki titik buta yang signifikan, dan di mana pengembang yang membangun untuk pasar Asia perlu menginvestasikan upaya mereka sendiri.

Untuk tim yang membangun di atas MonstarX — platform dev AI-native Asia — pertimbangan ini semakin menjadi pusat dari cara penyebaran produksi terstruktur. Konektor platform membuat mudah untuk merutekan output model melalui pengklasifikasi keselamatan eksternal atau API moderasi konten sebelum mereka mencapai pengguna akhir, yang memberikan pengembang mekanisme praktis untuk menambahkan lapisan keselamatan di atas penyebaran berat terbuka tanpa membangun kembali seluruh tumpukan mereka.

Poin yang lebih luas adalah bahwa model berat terbuka memberi Anda kekuatan dan tanggung jawab secara bersamaan. Pengembang yang akan membangun produk paling tahan lama di atas model ini adalah mereka yang memperlakukan infrastruktur keselamatan sebagai kekhawatiran teknik kelas satu — bukan pemikiran belakangan, dan bukan sesuatu yang mereka tunggu-tunggu untuk diselesaikan oleh penyedia model.

Poin-Poin Kunci

Konvergensi model berat terbuka