Vercel CEO Guillermo Rauch மாதிரிகளை முகவர்களிலிருந்து பிரிக்கும் போராட்டத்தைப் பற்றி

நாளொன்றுக்கு ছ மில்லியன் வரிசைப்படுத்தல்கள். அவற்றில் பாதி குறியீட்டு முகவர்களால் தூண்டப்படுகிறது. Vercel இன் உள்கட்டமைப்பின் மூலம் ஒவ்வொரு 24 மணிநேரத்திலும் ஒரு டிரில்லியன் டோக்கன்கள் பாய்ந்து செல்கின்றன. Guillermo Rauch உற்பத்தியில் AI பற்றி பேச அமர்ந்தபோது, அவர் கோட்பாடு செய்யவில்லை — அவர் நேரடி தொலைமாপி வாசிக்கிறார். Vercel இன் ShipNYC மாநாட்டைத் தொடர்ந்து சமீபத்திய TechCrunch நேர்காணலில், Rauch AI உள்கட்டமைப்பு எங்கு செல்கிறது என்பதன் மূலத்தை வெட்டும் கூர்மையான வாதத்தை முன்வைத்தார்: மாதிரிகள் மற்றும் முகவர்கள் பிரிக்கப்பட வேண்டும், மேலும் அதை முதலில் கண்டுபிடிக்கும் டெவலப்பர்கள் உற்பத்தியில் உண்மையில் உயிர்வாழ்கின்ற அமைப்புகளை உருவாக்குவார்கள்.

இந்த உரையாடல் Vercel இன் சொந்த வழிபாட்டிற்கு அப்பால் முக்கியமானது. ஆசியா முழுவதும் டெவலப்பர்களுக்கு — வேகமாக வரிசைப்படுத்துதல், செலவுகளை நெருக்கமாக கண்காணித்தல், மற்றும் Silicon Valley ஐ விட வேறு வேகத்தில் நகரும் சந்தைகளுக்கு AI-native தயாரிப்புகளை ক্রমிக வளர்ச்சியுடன் உருவாக்குதல் — Rauch இன் ফ்রেமிங் முகவர் স்থাপত்யத்தைப் பற்றி சிந்திக்க ஒரு நடைமுறை லென்ஸ் வழங்குகிறது.

என்ன நடந்தது

Vercel CEO Guillermo Rauch மாதிரிகளை முகவர்களிலிருந்து பிரிக்கும் போராட்டம் வெறுமனே ஒரு매력적인தலைப்பு அல்ல. இது ஒரு உண்மையான স্থাপত்য பதற்றத்தை விவரிக்கிறது, Vercel முன்மாதிரி கட்டத்தை கடந்து அதன் சொந்த সংস্থার உள்ளே முகவர்களை அளவில் চালிக்க தொடங்கியபோது Rauch தெளிவாக இருந்தது.

TechCrunch நேர்காணலின் படி, கடந்த வருடம் முன்மாதிரி பற்றியது — "முகவர்களை விடுவிக்கவும், அனைவரும் உருவாக்கலாம்." Vercel நூற்றுக்கணக்கான முகவர்களை நிறுவனம் முழுவதும் கரிம வளர்ச்சியுடன் வரிசைப்படுத்தியது மற்றும் வேகமாக கற்றுக்கொண்டது. கடினமான பாடங்கள் அந்த முகவர்கள் உற்பத்தியை தாக்கியபோது வந்தன. Rauch இன் மையமான நுண்ணறிவு: உற்பத்திக்கு உகந்தாக்கும்போது, நீங்கள் உடனடியாக விலை-செயல்திறன் பார்க்க தொடங்குகிறீர்கள். இது பெரும்பாலான குழுக்கள் முன்மாதிரி கட்டத்தில் தவிர்க்கும் ஒரு கேள்வியை கட்டாயப்படுத்துகிறது — மாதிரி மற்றும் முகவர் தர্க்கம் உண்மையில் ஒன்றாக பொதிந்திருக்க வேண்டுமா?

அவற்றை பிரிப்பதற்கான வாதம் நேரடியாக உள்ளது. ஒரு முகவர் ஒரு வளையம்: இது சூழலை உணர்கிறது, ஒரு செயலை முடிவு செய்கிறது, அதை செயல்படுத்துகிறது, மற்றும் மீண்டும் செய்கிறது. மாதிரி வெறுமனே அந்த வளையத்தின் உள்ளே பகுத்தறிவு கூறு. அவை இறுக்கமாக இணைக்கப்பட்டிருக்கும்போது — உங்கள் முகவர்본질ically ஒரு குறிப்பிட்ட மாதிரির API க்கு ஒரு மடக்கு — நீங்கள் ল்যান்ডஸ்கேப் மாறும்போது மாதிரிகளை மாற்றும் திறனை হারাக்கிறீர்கள், பணி வகைக்கு செலவுகளை உகந்தாக்கவும், அல்லது எளிய துணைப்பணிகளுக்கு மலிவான, வேகமான மாதிரிகளுக்கு வழிமாற்றம் செய்யவும் உங்கள் முகவர் தர்க்கத்தை மீண்டும் எழுதாமல்.

Vercel இன் AI gateway, இப்போது நாளொன்றுக்கு 1 டிரில்லியன் டோக்கன்களுக்கு மேல் செயல்படுத்துகிறது, இந்த சிக்கலுக்கு ஓரளவு பதில். இது முகவர்கள் மற்றும் மாதிரிகளுக்கு இடையில் அமர்ந்திருக்கிறது, மாதிரி স்তரকে சுருக்கி முகவர் தர்க்கம் நகரக்கூடியதாக இருக்கிறது. Rauch இன் நிலை என்னவென்றால் Vercel போன்ற தளம் நிறுவனங்கள் இப்போது முக்கிய ল்যাবগুলির সাথে நேரடி பதற்றத்தில் உள்ளன, சரியாக ল்যাবগুளுக்கு மாதிரிகள் மற்றும் முகவர்களை பொதிந்திருக்க ஒரு கட்டமைப்பு ஊக்கம் உள்ளது — பூட்டு-இன் டோக்கன் வருவாயுக்கு நல்லது. தளம் நிறுவனங்களுக்கு எதிர் ஊக்கம் உள்ளது: நகரக்கூடியতা மற்றும் composability அடுத்த benchmark சுழற்சி வெல்லும் மாதிரி எது என்பது பொருட்படாமல் டெவலப்பர்களை தளத்தில் வைத்திருக்கிறது।

இது ஒரு உண்மையான முக்கியமான கட்டமைப்பு போராட்டம், மற்றும் இது டெவலப்பர்கள் இப்போது செய்யும் உள்கட்டமைப்பு முடிவுகளில் விளையாடுகிறது।

ஆசியாவுக்கு ஏன் முக்கியமானது

ஆசியாவின் AI டெவலப்பர் ইকোசிஸ்டம் இந்த மாதிரி-vs-முகவர் பதற்றத்தின் ஒரு குறிப்பிட்ட உறவு உள்ளது, மேற்கத்திய வ্যাখ்যை பெரும்பாலும் தவறவிடுகிறது। Southeast Asia, South Korea, Japan, மற்றும் India இல் டெவலப்பர்கள் OpenAI அல்லது Anthropic இல் பிரத்যேகமாக உருவாக்கவில்லை. மாதிரி ল்যান்ডஸ்கேப் இங்கே உண்மையாக pluralistic — Alibaba இன் Qwen series, DeepSeek, Baidu இன் ERNIE, மற்றும் பிராந்திய மொழிகளுக்கு fine-tuned ஒரு வளர்ந்து வரும் stack open-weight மாதிரிகள் உற்பத்தி workloads க்கு போட்டி. அது ஒரு பலவீனம் அல்ல. இது உண்மையில் ஒரு கட்டமைப்பு நன்மை உங்கள் முகவர் স்থாপত்யம் நாள் ஒன்றிலிருந்து மாதிரி nportability க்கு கட்டப்பட்டிருந்தால்।

செலவு உணர்திறன் மற்றொரு காரணி. Jakarta அல்லது Ho Chi Minh City இல் ஒரு startup ஒரு AI-native தயாரிப்பு உருவாக்குதல் San Francisco இல் ஒரு Series B நிறுவனம் போல அதே விளிம்பு அனுமানங்கள் உடன் வேலை செய்யவில்லை. Rauch "விலை/செயல்திறன்" உற்பத்தியில் ஆதிக்य கவலை என்று பேசும்போது, அது ஆசியায় வேறுபட்டு resonates — இது ஒரு nice-to-have optimization அல்ல, இது பெரும்பாலும் ஒரு சாத்தியமான ব்যবসা மற்றும் ஒன்றுக்கு இடையே வேறுபாடு inference செலவுகளில் பொசிக்கு முன் அது வெளியே எரிக்கிறது।

latency பரிமாணம் உள்ளது. ஒரு US-based மாதிரி endpoint மூலம் முகவர் அழைப்புகள் routing ஆசியায் end users க்கு உண்மையான latency அறிமுகப்படுத்துகிறது. ஒரு স্থাপத்யம் cleanly முகவர் orchestration மாதிரி தேர்வு பிரிக்கிறது regionally deployed மாதிரிகள் — Alibaba Cloud மீது ஒரு Qwen deployment இருந்து, ஒரு DeepSeek endpoint ஒரு உள்ளூர் provider மீது, அல்லது ஒரு open-weight மாதிரி உங்கள் சொந்த உள்கட்டமைப்பு மீது running — வழிமாற்றம் க்கு வெகு தூரம் எளிதாக்கிறது। Rauch இன் framework, ஆசிய சூழலுக்கு பயன்படுத்தப்பட, வெறுமனே செலவு பற்றி அல்ல — இது உண்மையில் நீங்கள் serving பயனர்கள் க்கு நன்றாக செயல்படுத்தும் அமைப்புகள் உருவாக்குதல் பற்றி।

MonstarX மீது உருவாக்கும் நிறுவனர்களுக்கு, ஆசியாவின் AI-native dev தளம், இந்த architectural கொள்கை நேரடியாக உங்கள் முகவர் stack பற்றி இன்று சிந்திக்க வேண்டும் எப்படி maps. குழுக்கள் அவற்றின் முகவர் தர்க்கத்தில் மாதிரி dependencies hard-code செய்கிறது ஒரு சிறந்த, மலிவான, அல்லது வேகமான மாதிரி கிடைக்கும்போது unwind க்கு வலிமிகு இருக்கும் தொழில்நுட்ப கடன் accumulating — மற்றும் ஆசியாவின் மாதிரி ল்যান்ডஸ்கேப்பில், அது பெரும்பாலான மানুষ expect விட ஒரு shorter சுழற்சி மீது நடக்கிறது।

டெவலப்பர்களுக்கு இதன் பொருள்

Rauch இன் வாதத்தின் நடைமுறை உள்ளடக்கம் முகவர் স்থாபத்யம் வேறு distributed அமைப்பு போல ஒரே design பிரிவு deserve என்பது. இங்கே concretely பற்றி சிந்திக்க எப்படி.

மாதிரிகள் உள்கட்டமைப்பு, அடையாளம் அல்ல, treat. உங்கள் முகவர் மதிப்பு அதன் orchestration தர্க்கம், அதன் நினைவு மேலாண்மை, அதன் tool பயன்பாடு, மற்றும் பணிகளை decompose க்கு அதன் திறன் உள்ளது. அதில் எதுவும் நீங்கள் calling மாதிரி உடன் entangled வேண்டும் இல்லை. உங்கள் முகவர் வளையம் மற்றும் உங்கள் மாதிரி அழைப்புகள் இடையே ஒரு clean interface define — நீங்கள் இன்று வெறுமனே ஒரு மாதிரி பயன்படுத்தும் என்றாலும்।

இதன் minimal version உங்கள் மாதிரி அழைப்புகள் ஒரு single function பின்னால் abstracting போல தெரிகிறது:

async function callModel(prompt, options = {}) {
  const { model = process.env.DEFAULT_MODEL, temperature = 0.2 } = options;
  return await modelGateway.complete({ prompt, model, temperature });
}

அந்த single abstraction layer GPT-4o இலிருந்து Qwen-Max க்கு DeepSeek-V3 க்கு swapping ஒரு config மாற்றம், ஒரு refactor அல்ல, பொருள். இது obvious தெரிகிறது, ஆனால் பெரும்பாலான முகவர் codebases இப்போது written இல் இதை செய்யவில்லை — அவர்கள் OpenAI SDK நேரடியாக அழைக்கிறார்கள், எல்லா இடங்களில், மாதிரி பெயர் hardcoded உடன்।

தொடக்கத்திலிருந்து multi-model routing க்கு design. உங்கள் முகவர் உள்ள ஒவ்வொரு subtask அதே மாதிரி தேவை இல்லை. ஒரு document summarization படி ஒரு smaller, வேகமான மாதிரி மீது cheaply run இருக்கலாம். ஒரு complex பகுத்தறிவு படி ஒரு frontier மாதிரி தேவை இருக்கலாம். உங்கள் முகவர் தர்க்கம் மாதிரி স্তர பிரிக்கப்பட்டிருந்தால், நீங்கள் pawnything rewriting இல்லாமல் pawnything மூலம் task வகை route முடியும். இங்கே Vercel இன் AI gateway விளையாட்டு sense செய்கிறது — இது infrastructure இந்த வகை routing க்கு scale மீது சரியாக।

Monitor token செலவுகள் per முகவர் படி, வெறுமனே per session அல்ல। நீங்கள் மாதிரிகள் முகவர்கள் பிரிக்கும்போது, நீங்கள் observability முன்பு இல்லை gain. நீங்கள் பார்க்க முடியும் உங்கள் முகவர் வளையம் உள்ள படிகள் பெரும்பாலும் tokens consuming, மாதிரி அழைப்புகள் அவற்றின் செலவு relative low-quality outputs returning, மற்றும் நீங்கள் ஒரு மலிவான மாதிரி substitute முடியும் இங்கே চূড়ান்ত முடிவு degrade இல்லாமல். இது "விலை/செயல்திறன்" optimization Rauch describing — இது வெறுமனே architectural பிரிப்பு இருக்கும்போது சாத்தியமாகிறது।

failure modes வேறுபட்டு பற்றி think. ஒரு tightly coupled மாதிரி-முகவர் அமைப்பு completely fails மாதிரி API கீழே செல்கிறது அல்லது rate-limits உங்கள் போது. ஒரு decoupled அமைப்பு ஒரு alternative மாதிரி க்கு fall back, gracefully degrade, அல்லது பணி queue முடியும். உற்பத்தி அமைப்புகளுக்கு rea