திறந்த எடையுள்ள AI மாதிரிகள் முன்னணியை நெருங்கிவிட்டன. பாதுகாப்பு இடைவெளி நீடிக்கிறது.

ஒரு வருடம் முன்பு, மூடிய முன்னணி மாதிரிகளுக்கும் அவற்றின் திறந்த எடையுள்ள சமকক்ষங்களுக்கும் இடையிலான இடைவெளி கடக்க முடியாதது போல் தோன்றியது. இன்று, அந்த இடைவெளி பெரும்பாலான গবেষணையாளர்கள் கணித்ததை விட வேகமாக மூடப்பட்டுவிட்டது — மற்றும் திறந்த எடையுள்ள AI மாதிரிகள் ஒரு வரிசை பரীட்சையிலும் பரீட்சையிலும் முன்னணியின் முன்பக்கத்தை நெருங்கிவிட்டன. ஆனால் திறனின் சমநிலை நெருங்கும்போது, ஒரு கடினமான கேள்வி எழுகிறது: பாதுகாப்பு இணையாக வளர்கிறதா?

என்ன நடந்தது

திறந்த எடையுள்ள மாதிரிகளின் பாதை வியத்தகு முறையில் மாறிவிட்டது. மூடிய மாதிரிகளுடன் குறிப்பிட்ட குறியீটு அல்லது பகுத்தறிவு பரீட்சைகளில் பொருந்த வேண்டிய ஒரு பந்தயமாக தொடங்கியது பரந்த வாக்கியங்களாக உருவாகிவிட்டது. அமெரிக்கா, ইউரோப்பு மற்றும் சீனா முழுவதும் গবেষண ஆய்வகங்கள் மற்றும் தொழில்நுட்ப நிறுவனங்களிலிருந்து சமீபத்திய வெளியீடுகள், திறந்த எடையுள்ள மாதிரிகள் இப்போது அறிவுரை பின்பற்றுதல், பல-படி பகுத்தறிவு, மற்றும் ஒருமுறை மிகவும் விலையுயர்ந்த உரிமைச் சொத்து அமைப்புகளின் பிரத்যேக பிரதேசமாக உணர்ந்த சில சৃজनात்மक பணிகளில் கூட போட்டியிட முடியும் என்பதை நிரூபித்துவிட்டன.

முறை ஒத்திசைவாகவும் நன்கு ஆவணப்படுத்தப்பட்டும் உள்ளது: ஒரு முன்னணி ஆய்வகம் ஒரு மூடிய மாதிரியை அனுப்புகிறது, ஒரு புதிய திறன் வரம்பை நிறுவுகிறது, மற்றும் மாதங்களுக்குள் — சில சமயங்களில் வாரங்களுக்குள் — ஒரு திறந்த எடையுள்ள மாதிரி ஒத்த கட்டமைப்புகள் மற்றும் நுட்பங்களில் பயிற்சி பெற்ற பெரும்பாலான தூரத்தை மூடிவிடுகிறது. சமூதாயம் பின்னர் அந்த மாதிரியை நுணுக்கமாக்குகிறது, அளவு கூறுகிறது, மற்றும் எல்லாவற்றிலும் வெளிநடத்துகிறது, গবেষண ஒட்டுமொத்தங்கள் முதல் நுகர் மடிக்கணினிகள் வரை.

பாதுகாப்பு உள்கட்டமைப்பு என்பது வளர்ந்திருப்பதில்லை. மூடிய மாதிரிகள் விস্তৃத சிவப்பு-குழு, அரசியலமைப்பு AI நுட்பங்கள், மனிதக் கருத்திலிருந்து வலுவூட்டல் கற்றல் குறிப்பாக ஆபத்து தவிர்ப்புக்கு சரிசெய்யப்பட்ட, மற்றும் தொடர்ந்து கண்காணிப்பு குழாயுடன் அனுப்பப்படுகின்றன. திறந்த எடையுள்ள மாதிரிகள், அவற்றின் প্রকৃதি மூலம், அந்த பாதுகாப்புக்கள் இணைக்கப்பட்ட இல்லாமல் அனுப்பப்படுகின்றன. எடைகள் பொருளாகும். நீங்கள் அவற்றுடன் என்ன செய்கிறீர்கள் — மற்றும் நீங்கள் அவற்றை எவ்வளவு பாதுகாப்பாக வெளிநடத்துகிறீர்கள் — முற்றிலுமாக ஆபரேட்டரின் மீது உள்ளது.

இது திறந்த எடையுள்ள வளர்ச்சির விமர்சனம் அல்ல. இது ஒரு கட்டமைப்பு யதார்த்தம். நீங்கள் மாதிரி எடைகளை பகிரங்கமாக வெளியிடும்போது, நீங்கள் கீழ்நோக்கு நுணுக்கமாக்கலை கட்டுப்படுத்த முடியாது. ஆய்வுக்காரர்கள் திறந்த எடையுள்ள மாதிரিகளுக்கு பயன்படுத்தப்பட்ட பாதுகாப்பு நுணுக்கமாக்கல் ஒப்பீட்டளவாக சாதாரண கணக்கீட்டு மற்றும் எதிரொலி உதாரணங்களின் சிறிய தரவுத்தொகுப்புடன் அகற்றப்பட முடியும் என்பதை பல முறை காட்டிவிட்டன. திறன் உள்ளது. பாதுகாப்பு স்তரம் விருப்பமாக உள்ளது, எனவே ஆறுதல்.

ফলாফল ஒரு ஏற்பாடு, அங்கு மிகவும் திறமையான திறந்த மாதிரிகள் உண்மையிலேயே ஈர்க்கக்கூடியவை — மற்றும் ஒத்த திறன் நிலைகளில் அவற்றின் மூடிய சமகக்ষங்களை விட கவனக்குறைவாக வெளிநடத்த உண்மையிலேயே ஆபத்தானவை.

ஆசியாவுக்கு இது ஏன் முக்கியமாக உள்ளது

இந்த கதையில் ஆசியாவின் நிலை விளிம்பற்றது அல்ல. சுழற்சியில் உள்ள மிகவும் திறமையான திறந்த எடையுள்ள மாதிரிகளில் சில சீன தொழில்நுட்ப நிறுவனங்கள் மற்றும் গবেষண ஆய்வகங்களிலிருந்து வந்திருக்கின்றன. தெற்கு-கிழக்கு ஆசியா, இந்தியா, ஜப்பான் மற்றும் தென் கொரியா முழுவதும் உருவாக்கர்கள் இந்த மாதிரிகளின் மிகவும் செயல்பாட்டு நுணுக்கமாக்கர்கள் மற்றும் வெளிநடத்துக்காரர்கள் ஆவார்கள், நூறு மில்லியன் ব்যবহারকாரীদের சেவை செய்யும் பொருட்களை உருவாக்குகிறார்கள்.

இது பிராந்தியத்திற்கு குறிப்பிட்ட பல காரணங்களுக்கு முக்கியமாக உள்ளது. முதலாவதாக, ஆசியாவில் ஒழுங்குமுறை கাঠামோ பிரிந்திருக்கிறது. EU AI சட்டம் ஐரோப்பிய வெளிநடத்துக்களுக்கு ஒப்பீட்டளவாக ஒன்றிணைந்த (பூর்ணமாக இல்லாவிட்டாலும்) அடிப்படையை நிறுவுகிறது. ஆசியாவுக்கு சமகக்ஷம் இல்லை. சிங்கப்பூரில் உருவாக்கர்கள் இந்தோனேசியா, வியட்நாம் அல்லது ஜப்பানில் உள்ளவர்களுக்கு வேறு எதிர்பார்ப்புக்களின் கீழ் இயங்குகிறார்கள். அந்த பிரிவு பாதுகாப்பு இடைவெளி திறந்த எடையுள்ள மாதிரিகளில் நீங்கள் எங்கে உருவாக்குகிறீர்கள் என்பதைப் பொறுத்து வேறுவிதமாக தரையிறங்குகிறது — மற்றும் மிகவும் ஆபத்தான வெளிநடத்துக்களைப் பிடிக்க பொதுவான தளம் இல்லை.

இரண்டாவதாக, ஆசியாவின் உருவாக்கர் ইকোசிஸ்டம் அடிப்படை ஆராய்ச்சির பதிலாக ব்যবহারிக் வெளிநடத்துக்களில் அসம்பந்தமாக கவனம் செலுத்துகிறது. பெரும்பாலான நிறுவனர்கள் மற்றும் பிராந்தியத்தில் பொறியாளர்கள் கேட்கும் கேள்வி "நாம் பாதுகாப்பாக மாதிரிகளை பயிற்சி செய்வது எப்படி?" அல்ல — இது "நாம் கிடைக்கக்கூடிய சிறந்த மாதிரিகளைப் பயன்படுத்தி வேகமாக அனுப்புவது எப்படி?" திறந்த எடையுள்ள மாதிரிகள் இந்த பயன்பாட்டுக்கு மிகவும் ஈர்க்கக்கூடியவை: API செலவு இல்லை, வீத வரம்பு இல்லை, ஸ்டாக்கின் மீது முழு கட்டுப்பாடு, மற்றும் மூன்றாம் பক্ষ சேவைக்குள் அனுப்பாமல் உரிமைச் சொத்து தரவுக்களில் நுணுக்கமாக்கல் செய்ய திறன்.

அவை உண்மையான நன்மைகள். ஆனால் அவை உண்மையான பொறுப்புக்களுடன் வருகின்றன, ஆசியா தொழில்நுட்ப ইகோசிஸ்டம் கடுமையாக ஆரம்பிக்கவே உள்ளது. ஜகார்த்தா அல்லது ஹோ சி மின் நகரத்தில் ஒரு தொடக்க நுணுக்கமாக்கப்பட்ட திறந்த எடையுள்ள மாதிரியை நுகர்-எதிரெதிர் பொருளில் வெளிநடத்தும்போது, அந்த வெளிநடத்துக்களின் பாதுகாப்பு பண்புகள் முற்றிலுமாக அவற்றின் மீது உள்ளன. ஒரு முன்னணி ஆய்வகத்தில் ஒரு பாதுகாப்பு குழு அவற்றின் நுணுக்கமாக்கல் மற்றும் அவற்றின் ব்যবহারকாரীகளுக்கு இடையில் நிற்க வேண்டிய இல்லை.

மூன்றாவதாக, மொழி மற்றும் கலாச்சார சூழல் சிக்கலை சேர்க்கிறது. பெரும்பாலான பாதுகாப்பு ஆராய்ச்சி மற்றும் திறந்த எடையுள்ள மாதிரিகளுக்கான சிவப்பு-குழு ஆங்கிலத்தில் நடத்தப்படுகிறது. ஆங்கிலம்-மொழி எதிரொலி தூண்டுக்களில் நியாயமாக நடந்து கொள்ளும் அதே மாதிரி பহாசா இந்தோனேசியா, தாய் அல்லது வியட்நামீசில் தூண்டப்படும்போது மிகவும் வேறுவிதமாக நடந்து கொள்ளக்கூடும் — மொழிகள் பாதுகாப்பு நுணுக்கமாக்கல் தரவு ஈரமாக உள்ளன மற்றும் மதிப்பீடு கடுமையாக நடத்த கடினம்.

உருவாக்கர்களுக்கு இது என்ன அர்த்தம்

நீங்கள் திறந்த எடையுள்ள மாதிரিகளில் உருவாக்கம் செய்யும் ஒரு உருவாக்கர் என்றால் — நீங்கள் உள்ளூரில் அনுமান இயங்குகிறீர்கள், ஒரு மேகக் கட்டமைப்பில் வெளிநடத்துகிறீர்கள், அல்லது ஒரு குறிப்பிட்ட ডொமைনுக்கு நுணுக்கமாக்குகிறீர்கள் — பாதுகாப்பு இடைவெளி உங்கள் சிக்கல் தீர்க்க வேண்டும், வேறொருவரின் அல்ல. இது மூடிய-மாதிரி முன்னுதாரணத்திலிருந்து ஒரு குறிப்பிடத்தக்க மாற்றம், மற்றும் இது உங்கள் ஸ்டாக்கைப் பற்றி நீங்கள் எப்படி சிந்திக்கிறீர்கள் என்பதற்கு ஒரு வேறு மানসிக மாதிரி தேவை.

சில விஷயங்கள் கொடுக்கப்பட்ட முறையில் உள்ளுணர்ந்து கொள்ள தகுதி உள்ளது.

பாதுகாப்பு நுணுக்கமாக்கல் ஒரு ஒரு-முறை படி அல்ல। நீங்கள் RLHF அல்லது அரசியலமைப்பு AI நுட்பங்களை ஒரு திறந்த எடையுள்ள அடிப்படை மாதிரিக்கு பயன்படுத்தினால், அந்த பண்புகள் திறன்களுக்கு நுணுக்கமாக்கல் தொடர்ந்து செய்யும்போது சிதைய முடியும். ஒவ்வொரு பயிற்சி இயங்குதல் பணி செயல்திறனுக்கு மாற்றம் செய்ய முடியும் சீரமைப்பு பண்புகளை அரிக்க. நீங்கள் பாதுகாப்பு பண்புகளை தொடர்ந்து சோதிக்கும் மதிப்பீடு குழாய் தேவை, ஆரம்ப வெளிநடத்துக்களில் மாத்திரம் அல்ல.

கணினி தூண்டுக்கள் பாதுகாப்பு স்தரம் அல்ல। ஒரு கணினி தூண்டுக்கூடாக "ஆபத்தான விஷயங்களை ஒருபோதும் விவாதிக்க வேண்டாம்" என்ற ஒரு மாதிரியை அறிவுறுத்துதல் ஒரு வேகம் தடை, பாதுகாப்பு இல்ல. சாதாரண தூண்டு பொறியியல் திறன் கொண்ட எதிரொலி ব்যবহারகாரர்கள் கணினி-தூண்டு-அடிப்படை கட்டுப்பாடுக்களை சுற்றி பாதை செய்ய முடியும். உங்கள் பயன்பாட்டிற்கு அர্த்தமுள்ள பாதுகாப்பு தேவைகள் இருந்தால், அவை பல স্தরங்களில் செயல்படுத்தப்பட வேண்டும் — வெளிப்பாடு வடிகட்டுதல், வீத வரம்பு, மற்றும் நடத்தை கண்காணிப்பு உட்பட।

திறன்-பாதுகாப்பு இடைவெளி மாதிரி அளவுடன் அளவு செய்கிறது। சிறிய அளவு மாதிரிகள் நுகர் வன்பொருளில் திறமையாக இயங்கும் பொதுவாக அவற்றின் முழு-নির்ভুলতা சமகக்ஷங்களை விட ஜெயிக்க எளிதாக உள்ளன, ஏனெனில் பாதுகாப்பு நுணுக்கமாக்கல் குறைந்த அளவுரு எண்ணிக்கையில் ஆறுதল இருக்கும் முனைவு உள்ளது. நீங்கள் அனுமান செலவு குறைக்க ஒரு அளவு மாதிரியை வெளிநடத்துகிறீர்கள் என்றால், அதை உங்கள் ஆபத்து மாதிரிக்கு காரணி.

உங்கள் লக্ష்য மொழিতে மதிப்பீடு கடிவாளம் இல்லை। உங்கள் ব்যবহারகாரীরা முதன்மையாக ஆங்கிலம் தவிர ஒரு மொழিতে உங்கள் பொருளுடன் ஊடாடினால், உங்கள் பாதுகாப்பு மதிப்பீடு அந்த மொழিতে நடக்க வேண்டும். ஆங்கிலம்-மொழி சிவப்பு-குழு ফলாফல் நির்ভরமாக மாற்றம் செய்ய வேண்டாம். இது பரந்த திறந்த-மூல சமூதாயத்திற்கு குறிப்பிடத்தக்க குருட்டு-புள்ளிகள் உள்ள ஒரு பகுதி, மற்றும் ஆசிய বাজார்களுக்கு உருவாக்கம் செய்யும் உருவாக்கர்கள் அவற்றின் சொந்த முயற்சி முதலீடு செய்ய வேண்டும் அங்கு.

MonstarX — ஆசியாவின் AI-பூர்வ உருவாக்க தளம் — இந்த கருத்துக்கள் உৎপাদன வெளிநடத்துக்கள் எவ்வாறு கட்டமைக்கப்பட்ட என்பதற்கு ক্রমবர்ধமান மத்திய உள்ளன. தளத்தின் সংযোগকারிகள் மாதிரி வெளிப்பாடுக்களை வெளிப்புற பாதுகாப்பு வर्गीकरणकर்তা அல்லது உள்ளடக்க மாধ்যம API க்கூடாக பாதை செய்ய நேரடியாக செய்கிறது, முடிவு ব்যবহারகாரীகளை சென்றிட முன், உருவாக்கர்களுக்கு திறந்த எடையுள்ள வெளிநடத்துக்களின் மீது பாதுகாப்பு স্তரங்களை சேர்க்க ஒரு ব্যবহারிக মন்திரம் கொடுக்கிறது அவற்றின் முழு ஸ்டாக் மறுநிர্মாணம் ছাড়াই।

பரந்த புள்ளி திறந்த எடையுள்ள மாதிரிகள் உங்களுக்கு சக்தி மற்றும் பொறுப்பு ஒரே நேரத்தில் கொடுக்கிறது. இந்த மாதிரிகளின் மீது மிகவும் நிலையான பொருட்களை உருவாக்கும் உருவாக்கர்கள் பாதுகாப்பு உள்கட்டமைப்பை முதல்-வகுப்பு பொறியியல் கவலை ஆக நடத்துபவர்கள் — ஒரு பின்நிலை அல்ல, மற்றும் மாதிரி வழங்குநர் தீர்க்க வேண்டும் என்ற ஏதாவது அல்ல।

முக்கிய உபதேசங்கள்

திறந்த-எடையுள்ள ஒருங்கிணைப்பு