Si Vercel CEO Guillermo Rauch sa Pakikibaka na Paghiwalayin ang Mga Model mula sa Agents

Anim na milyong deployment bawat araw. Kalahati sa kanila ay na-trigger ng coding agents. Isang trilyong tokens na dumaloy sa infrastructure ng Vercel bawat 24 oras. Kapag umuupo si Guillermo Rauch upang makipag-usap tungkol sa AI sa production, hindi siya nag-theorize — binabasa niya ang live telemetry. Sa kamakailang TechCrunch interview pagkatapos ng Vercel's ShipNYC conference, inilabas ni Rauch ang isang matalas na argumento na tumutuon sa puso ng kung saan napupunta ang AI infrastructure: ang mga model at agents ay kailangang ma-decouple, at ang mga developer na unang makakahanap ng solusyon ay bubuo ng mga sistemang tunay na makakasabay sa production.

Ang pag-uusap na ito ay mahalaga higit pa sa roadmap ng Vercel. Para sa mga developer sa buong Asya — naghahatid ng mabilis, bantay sa gastos, at lumalaking bumubuo ng AI-native na produkto para sa mga merkado na gumagalaw sa ibang bilis kaysa Silicon Valley — ang framing ni Rauch ay nag-aalok ng praktikal na lens para mag-isip tungkol sa agent architecture ngayon.

Ano ang Nangyari

Ang Vercel CEO Guillermo Rauch sa pakikibaka na paghiwalayin ang mga model mula sa agents ay hindi lamang isang catchy headline. Ito ay naglalarawan ng tunay na architectural tension na sinabi ni Rauch na naging malinaw kapag lumampas ang Vercel sa prototyping phase at nagsimulang magpatakbo ng agents sa scale sa loob ng sariling organisasyon.

Ayon sa TechCrunch interview, noong nakaraang taon ay tungkol sa prototyping — "unleash the agents, everyone can build." Nag-deploy ang Vercel ng daan-daang agents organically sa buong kumpanya at natuto ng mabilis. Ang mahirap na aralin ay dumating kapag ang mga agents na ito ay umabot sa production. Ang pangunahing insight ni Rauch: kapag nag-optimize ka para sa production, agad kang nagsisimulang tingnan ang price-to-performance. Iyon ay nagtutulak ng tanong na karamihan sa mga team ay nilalampasan sa prototyping phase — dapat ba talaga na magkasama ang model at ang agent logic?

Ang argumento para sa paghihiwalay ay simple. Ang agent ay isang loop: nakikita nito ang konteksto, nagdesisyon ng aksyon, isinasagawa ito, at umuulit. Ang model ay lamang ang reasoning component sa loob ng loop na iyon. Kapag sila ay tightly coupled — kapag ang iyong agent ay essentially isang wrapper sa paligid ng isang specific model's API — mawawalan ka ng kakayahang magpalit ng mga model habang nagbabago ang landscape, mag-optimize ng gastos bawat uri ng task, o mag-route sa mas murang, mas mabilis na mga model para sa mas simpleng subtasks nang hindi sinusulat muli ang iyong agent logic.

Ang AI gateway ng Vercel, na ngayon ay nagpoproseso ng mahigit 1 trilyong tokens araw-araw, ay bahagi ng sagot sa problemang ito. Ito ay nakaposisyon sa pagitan ng agents at models, nag-abstract ng model layer upang ang agent logic ay manatiling portable. Ang posisyon ni Rauch ay ang platform companies tulad ng Vercel ay nasa direktang tension sa mga major labs, eksakto dahil ang mga labs ay may structural incentive na panatilihing magkasama ang mga model at agents — ang lock-in ay mabuti para sa token revenue. Ang platform companies ay may kabaligtaran na incentive: ang portability at composability ay nagpapanatili sa mga developer sa platform anuman ang modelo na manalo sa susunod na benchmark cycle.

Ito ay isang tunay na mahalaga structural fight, at ito ay nangyayari sa infrastructure decisions na ginagawa ng mga developer ngayon.

Bakit Ito Mahalaga para sa Asya

Ang AI developer ecosystem ng Asya ay may specific na relasyon sa model-vs-agent tension na madalas na napapabayaan ng Western commentary. Ang mga developer sa Southeast Asia, South Korea, Japan, at India ay hindi eksklusibong bumubuo sa OpenAI o Anthropic. Ang model landscape dito ay tunay na pluralistic — ang Alibaba's Qwen series, DeepSeek, Baidu's ERNIE, at lumalaking stack ng open-weight models na fine-tuned para sa regional languages ay lahat ay nakikipagkompetensya para sa production workloads. Hindi ito isang kahinaan. Ito ay aktwal na isang structural advantage kung ang iyong agent architecture ay itinayo para sa model portability mula sa simula.

Ang cost sensitivity ay isa pang factor. Ang startup sa Jakarta o Ho Chi Minh City na bumubuo ng AI-native na produkto ay hindi gumagana gamit ang parehong margin assumptions tulad ng Series B company sa San Francisco. Kapag nagsasalita si Rauch tungkol sa "price/performance" bilang ang dominant concern sa production, ito ay nakakaakit ng iba sa Asya — hindi ito isang nice-to-have optimization, ito ay madalas na ang pagkakaiba sa pagitan ng viable business at isa na nagsusumikap sa inference costs bago mahanap ang product-market fit.

May latency dimension din. Ang pag-route ng agent calls sa pamamagitan ng US-based model endpoint ay nagdudulot ng tunay na latency para sa end users sa Asya. Ang architecture na malinaw na naghihiwalay ng agent orchestration mula sa model selection ay ginagawang mas madali ang pag-route sa regionally deployed models — maging ito ay isang Qwen deployment sa Alibaba Cloud, isang DeepSeek endpoint sa local provider, o isang open-weight model na tumatakbo sa iyong sariling infrastructure. Ang framework ni Rauch, na inilapat sa Asian context, ay hindi lamang tungkol sa gastos — ito ay tungkol sa pagbuo ng mga sistemang tunay na gumagana nang maayos para sa mga user na iyong siniserve.

Para sa mga founder na bumubuo sa MonstarX, ang AI-native dev platform ng Asya, ang architectural principle na ito ay direktang tumutugma sa kung paano mo dapat isipin ang iyong agent stack ngayon. Ang mga team na nag-hard-code ng model dependencies sa kanilang agent logic ay nag-accumulate ng technical debt na magiging masakit na i-unwind kapag naging available ang mas magandang, mas murang, o mas mabilis na modelo — at sa model landscape ng Asya, ito ay nangyayari sa mas maikling cycle kaysa sa inaasahan ng karamihan.

Ano Ang Ibig Sabihin Nito para sa Mga Developer

Ang praktikal na implikasyon ng argumento ni Rauch ay ang agent architecture ay karapat-dapat sa parehong design discipline tulad ng anumang ibang distributed system. Narito kung paano ito isipin nang konkretong paraan.

Tratuhin ang mga model bilang infrastructure, hindi identity. Ang halaga ng iyong agent ay nasa orchestration logic nito, memory management nito, tool use nito, at kakayahan nitong mag-decompose ng tasks. Walang ito dapat na nakabalot sa kung aling modelo ang iyong tinawag. Tukuyin ang clean interface sa pagitan ng iyong agent loop at iyong model calls — kahit na gumagamit ka lamang ng isang modelo ngayon.

Ang minimal version ng ito ay pagsasagawa ng abstract ng iyong model calls sa likod ng isang function:

async function callModel(prompt, options = {}) {
  const { model = process.env.DEFAULT_MODEL, temperature = 0.2 } = options;
  return await modelGateway.complete({ prompt, model, temperature });
}

Ang single abstraction layer na iyon ay nangangahulugang ang pagpalit mula sa GPT-4o tungo sa Qwen-Max tungo sa DeepSeek-V3 ay isang config change, hindi isang refactor. Ito ay tumutunog na obvious, ngunit ang karamihan ng agent codebases na sinusulat ngayon ay hindi gumagawa nito — sila ay direktang tumatawag sa OpenAI SDK, saanman, na may hardcoded na model name.

Mag-design para sa multi-model routing mula sa simula. Hindi bawat subtask sa iyong agent ay kailangan ng parehong modelo. Ang document summarization step ay maaaring tumakbo nang mura sa isang mas maliit, mas mabilis na modelo. Ang isang komplikadong reasoning step ay maaaring kailangan ng frontier model. Kung ang iyong agent logic ay decoupled mula sa model layer, maaari kang mag-route ayon sa uri ng task nang hindi sinusulat muli ang kahit ano. Ito ay kung saan ang Vercel's AI gateway play ay may kahulugan — ito ay infrastructure para sa eksaktong ganitong uri ng routing sa scale.

Subaybayan ang token costs bawat agent step, hindi lamang bawat session. Kapag hinihiwalay mo ang mga model mula sa agents, nakakakuha ka ng observability na hindi mo mayroon dati. Makikita mo kung aling mga hakbang sa iyong agent loop ang gumagamit ng pinakamaraming tokens, kung aling model calls ang nagbabalik ng low-quality outputs na nauugnay sa kanilang gastos, at kung saan maaari mong palitan ng mas murang modelo nang hindi binabawasan ang final result. Ito ang "price/performance" optimization na inilalarawan ni Rauch — ito ay nagiging posible lamang kapag ang architectural separation ay umiiral.

Mag-isip tungkol sa failure modes nang iba. Ang tightly coupled model-agent system ay ganap na nabibigo kapag ang model API ay bumaba o rate-limits ka. Ang decoupled system ay maaaring bumalik sa isang alternatibong modelo, mag-degrade nang maayos, o i-queue ang task. Para sa production systems na nagsisilbi sa mga tunay na user sa Asya, ang resilience na ito ay hindi isang luxury — ito ay isang requirement.