Writer নতুন AI মডেল এবং আপগ্রেড করা হার্নেস চালু করেছে টোকেন খরচ নিয়ন্ত্রণের জন্য

টোকেন খরচ নীরবে যেকোনো গুরুতর AI স্থাপনার সবচেয়ে বড় খরচের আইটেমগুলির মধ্যে একটি হয়ে উঠেছে — এবং শিল্প অবশেষে এটিকে সেভাবে বিবেচনা করতে শুরু করেছে। Writer এই উত্তেজনা স্পষ্ট করেছে: কোম্পানি একটি নতুন ফ্ল্যাগশিপ মডেল, Palmyra X6, এর সাথে এর এজেন্টিক হার্নেসের উল্লেখযোগ্য আপগ্রেড চালু করেছে, স্পষ্ট লক্ষ্য হল মৌলিক কাজের জন্য গ্রাহক খরচ ৫০% পর্যন্ত কমানো। উৎপাদন AI সিস্টেম তৈরি করা ডেভেলপারদের জন্য, এটি এমন একটি পদক্ষেপ যা একটি স্প্রেডশীট পরিবর্তন করে। যেহেতু Writer নতুন AI মডেল এবং আপগ্রেড করা হার্নেস অবকাঠামো একসাথে চালু করছে, সংকেত স্পষ্ট — দক্ষতা এখন একটি প্রতিযোগিতামূলক বৈশিষ্ট্য, একটি পরবর্তী চিন্তা নয়।

কী ঘটেছে

আগস্ট ১৩, ২০২৬ সালে, Writer — মার্কেটিং টিমগুলিকে লক্ষ্য করে AI সরঞ্জাম এবং এজেন্টের পিছনে থাকা কোম্পানি — Palmyra X6, এর নতুন ফ্ল্যাগশিপ মডেল ঘোষণা করেছে। ঘোষণাটি একটি বিবরণের সাথে এসেছিল যা Writer এর সাধারণ দর্শকদের বাইরে প্রকৌশলীদের মনোযোগ আকর্ষণ করেছিল: Palmyra X6 Z.ai এর ওপেন সোর্স মডেল GLM-5.2 এর পোস্ট-ট্রেনিং ভেরিয়েশন হিসাবে তৈরি।

সেই পছন্দটি গুরুত্বপূর্ণ। শূন্য থেকে একটি মালিকানাধীন মডেল প্রশিক্ষণ দেওয়ার পরিবর্তে, Writer একটি বিদ্যমান ওপেন সোর্স ভিত্তি নিয়েছে এবং এটিকে তার নির্দিষ্ট ব্যবহারের ক্ষেত্রের জন্য স্থাপনার জন্য প্রস্তুত করতে পোস্ট-ট্রেনিং কৌশল প্রয়োগ করেছে। ফলাফল, Writer অনুযায়ী, একটি মডেল যা নাটকীয়ভাবে হ্রাসকৃত খরচে সক্ষম, এন্টারপ্রাইজ-গ্রেড পারফরম্যান্স প্রদান করে। এর হার্নেস অবকাঠামোতে পরিবর্তনের সাথে মিলিত, Writer অনুমান করে যে নতুন সিস্টেম মৌলিক কাজের জন্য গ্রাহকদের খরচ ৫০% পর্যন্ত কমাবে।

হার্নেস আপগ্রেডগুলি সমানভাবে উল্লেখযোগ্য, এমনকি যদি তারা শিরোনামে কম মনোযোগ পাচ্ছে। একটি এজেন্টিক হার্নেস একটি মডেলের চারপাশের স্ক্যাফোল্ডিং — সিস্টেম যা টুল কল, মেমরি, রাউটিং, পুনরায় চেষ্টা এবং অর্কেস্ট্রেশন পরিচালনা করে। হার্নেস আপগ্রেড করা শুধুমাত্র জীবনযাত্রার মান উন্নতি নয়; এটি সরাসরি প্রভাবিত করে প্রতিটি কাজে কত টোকেন খরচ হয়। খারাপভাবে ডিজাইন করা হার্নেসগুলি অপ্রয়োজনীয় প্রসঙ্গ, অপ্রয়োজনীয় পুনরায় প্রম্পটিং এবং ফুলানো সিস্টেম নির্দেশাবলীতে টোকেন জ্বালায়। একটি শক্তিশালী হার্নেস মানে কম টোকেন ইন, কম টোকেন আউট এবং কম বিল।

ঘোষণার TechCrunch কভারেজ অনুযায়ী, Writer নতুন মডেল এবং হার্নেস আপগ্রেড উভয়ই একযোগে প্রকাশ করেছে, তাদের দুটি পৃথক পণ্য আপডেটের পরিবর্তে একটি একীভূত খরচ-হ্রাস কৌশল হিসাবে ফ্রেম করেছে। সেই ফ্রেমিং ইচ্ছাকৃত — এটি একটি পরিপক্ক বোঝাপড়া প্রতিফলিত করে যে মডেল ক্ষমতা এবং অবকাঠামো দক্ষতা একসাথে অপ্টিমাইজ করতে হবে।

Writer এর মূল পণ্য মার্কেটার এবং এন্টারপ্রাইজ কন্টেন্ট টিমগুলিকে পরিবেশন করে, কিন্তু এখানকার স্থাপত্য সিদ্ধান্তগুলি স্কেলে AI এজেন্ট চালাচ্ছে এমন যেকোনো টিমের সাথে সরাসরি কথা বলে। GLM-5.2 এর উপর নির্মাণের পছন্দটি Z.ai এর ওপেন সোর্স কাজের একটি উল্লেখযোগ্য অনুমোদনও, যা সংকেত দেয় যে শক্তিশালী ওপেন সোর্স ভিত্তিতে পোস্ট-ট্রেনিং সম্পূর্ণ প্রি-ট্রেনিং চালানোর মূলধন ব্যয় ছাড়াই উৎপাদন-মানের মডেলের একটি বিশ্বাসযোগ্য পথ হয়ে উঠছে।

এটি এশিয়ার জন্য কেন গুরুত্বপূর্ণ

এশিয়ার ডেভেলপার ইকোসিস্টেম সর্বদা তীব্রভাবে খরচ-সংবেদনশীল হয়েছে — কারণ এশিয়ান টিমগুলি কম উচ্চাভিলাষী, বরং কারণ তারা প্রায়শই দিন থেকেই ইউনিট অর্থনীতি সম্পর্কে আরও শৃঙ্খলাবদ্ধ। দক্ষিণ-পূর্ব এশিয়া, ভারত, দক্ষিণ কোরিয়া এবং জাপানের স্টার্টআপগুলি এমন বাজারের জন্য AI পণ্য তৈরি করছে যেখানে মার্জিন আরও কঠোর এবং অবকাঠামো খরচ সাধারণত US-ভিত্তিক টিমগুলির তুলনায় পণ্য জীবনচক্রে আগে পরীক্ষা করা হয় যা উদ্যোগ পুঁজিতে প্রবাহিত হয়।

Writer এর GLM-5.2 এর উপর নির্মাণের পদক্ষেপ এই প্রসঙ্গে বিশেষভাবে অনুরণিত। Z.ai একটি চীনা AI ল্যাব, এবং GLM-5.2 এশিয়ার মধ্যে থেকে ওপেন সোর্স মডেল উন্নয়নে উল্লেখযোগ্য বিনিয়োগের একটি পণ্য। যে একটি US-ভিত্তিক এন্টারপ্রাইজ AI কোম্পানি এখন সেই ভিত্তির উপর উৎপাদন সিস্টেম তৈরি করছে তা এশিয়ান AI গবেষণা থেকে আসা গুণমানের একটি অর্থপূর্ণ বৈধতা। এটি এও সংকেত দেয় যে ওপেন সোর্স মডেল ইকোসিস্টেম এখন সত্যিকারের বৈশ্বিক — একটি প্রদত্ত কাজের জন্য সেরা ভিত্তি মডেল হ্যাংজু থেকে আসতে পারে, সান ফ্রান্সিসকো থেকে নয়।

দক্ষিণ-পূর্ব এশিয়ার প্রতিষ্ঠাতা এবং ডেভেলপারদের জন্য, এই ঘোষণা একটি কৌশলগত পয়েন্ট শক্তিশালী করে যা MonstarX এর দিকে নির্মাণ করছে: AI-নেটিভ পণ্যের খরচ কাঠামো ঐতিহ্যবাহী SaaS থেকে মৌলিকভাবে আলাদা, এবং টিমগুলি যা এটি তাড়াতাড়ি অপ্টিমাইজ করে তাদের একটি কাঠামোগত সুবিধা থাকবে। যখন Writer এর মতো একটি সুপ্রতিষ্ঠিত US কোম্পানি জনসাধারণে একটি ফ্ল্যাগশিপ পণ্য বৈশিষ্ট্য হিসাবে ৫০% খরচ হ্রাসের প্রতিশ্রুতি দেয়, এটি যা এশিয়ান ডেভেলপাররা একটু সময়ের জন্য জানে তা বৈধতা দেয় — টোকেন দক্ষতা একটি ভাল-থাকা নয়, এটি একটি ব্যবসায়িক মডেল প্রয়োজন।

একটি সংগ্রহ কোণও উল্লেখযোগ্য। এশিয়ায় এন্টারপ্রাইজ ক্রেতারা — সিঙ্গাপুরে আর্থিক সেবা, ইন্দোনেশিয়ায় ই-কমার্স বা ভিয়েতনামে উৎপাদন — মোট মালিকানা খরচ সম্পর্কে পরিশীলিত। একটি AI বিক্রেতা যা সমতুল্য ক্ষমতার জন্য অপারেশনাল খরচে ৫০% হ্রাস প্রদর্শন করতে পারে তা বেঞ্চমার্ক স্কোরে বিশুদ্ধভাবে প্রতিযোগিতা করা একটির চেয়ে দ্রুত সংগ্রহ কথোপকথন জিততে যাবে।

এখানে বৃহত্তর প্রবণতা হল মডেল ক্ষমতার পণ্যায়ন। যেহেতু শক্তিশালী ওপেন সোর্স মডেলগুলি আরও অ্যাক্সেসযোগ্য হয়ে উঠছে এবং পোস্ট-ট্রেনিং কৌশলগুলি পরিপক্ক হচ্ছে, AI পণ্যগুলিতে পার্থক্য ক্রমবর্ধমানভাবে অবকাঠামো দক্ষতা, হার্নেস ডিজাইন এবং ডোমেন-নির্দিষ্ট সূক্ষ্ম-টিউনিং থেকে আসবে। এশিয়ান ডেভেলপাররা যারা এই পরিবর্তন এখন বুঝে তারা সঠিক ভিত্তিতে নির্মাণ করছে।

ডেভেলপারদের জন্য এর অর্থ কী

যদি আপনি AI এজেন্ট বা পাইপলাইন তৈরি করছেন, Writer এর ঘোষণায় কয়েকটি স্থাপত্য পাঠ রয়েছে যা নিষ্কাশন করার যোগ্য — আপনি কখনও Writer এর পণ্য ব্যবহার করেন কিনা তা নির্বিশেষে।

ওপেন সোর্সে পোস্ট-ট্রেনিং একটি বৈধ উৎপাদন পথ। যে Palmyra X6 একটি গ্রাউন্ড-আপ মালিকানাধীন মডেলের পরিবর্তে GLM-5.2 এর একটি পোস্ট-ট্রেনিং ভেরিয়েশন তা আপনাকে শিল্প কোথায় যাচ্ছে সে সম্পর্কে কিছু গুরুত্বপূর্ণ বলে। সম্পূর্ণ প্রি-ট্রেনিং চালায় দশ মিলিয়ন ডলার খরচ করে এবং অবকাঠামো প্রয়োজন যা শুধুমাত্র মুষ্টিমেয় সংস্থা অ্যাক্সেস করতে পারে। পোস্ট-ট্রেনিং — সূক্ষ্ম-টিউনিং, RLHF, নির্দেশ টিউনিং, ডোমেন অভিযোজন — টিমের একটি অনেক বিস্তৃত পরিসরের জন্য অ্যাক্সেসযোগ্য। যদি Writer এই পদ্ধতিতে একটি এন্টারপ্রাইজ ফ্ল্যাগশিপ তৈরি করতে পারে, তাহলে একটি সুপ্রতিষ্ঠিত স্টার্টআপও পারে।

হার্নেস ডিজাইন অবকাঠামো, একটি পরবর্তী চিন্তা নয়। বেশিরভাগ টিম মডেল নির্বাচন এবং মূল্যায়নে বিশাল প্রচেষ্টা ব্যয় করে, তারপর চারপাশের অর্কেস্ট্রেশন স্তরটিকে বয়লারপ্লেট হিসাবে বিবেচনা করে। Writer এর সিদ্ধান্ত একটি খরচ-হ্রাস কৌশলের অংশ হিসাবে এর হার্নেস সংস্কার করা সেই অগ্রাধিকারের জন্য একটি সরাসরি চ্যালেঞ্জ। হার্নেস নির্ধারণ করে আপনার এজেন্ট প্রতিটি কাজে কত টোকেন প্রকৃতপক্ষে খরচ করে। এটি নিয়ন্ত্রণ করে আপনার সিস্টেম প্রতিটি পালায় সম্পূর্ণ কথোপকথন ইতিহাস পুনরায় পড়ে কিনা, টুল আউটপুটগুলি প্রসঙ্গে ফিড করার আগে সংক্ষিপ্ত করা হয় কিনা এবং ব্যর্থ টুল কল সম্পূর্ণ পুনরায় প্রম্পট বা লক্ষ্যযুক্ত পুনরুদ্ধার ট্রিগার করে কিনা। এই সিদ্ধান্তগুলি লক্ষ লক্ষ API কল জুড়ে যৌগিক।

একটি ব্যবহারিক উদাহরণ: যদি আপনার এজেন্ট একটি নিষ্ক্রিয় পদ্ধতি ব্যবহার করে যেখানে সম্পূর্ণ কথোপকথন ইতিহাস প্রতিটি নতুন প্রম্পটে যোগ করা হয়, একটি ২০-পালা কথোপকথন প্রয়োজনের চেয়ে ১০ গুণ বেশি টোকেন খরচ করতে পারে। একটি হার্নেস যা পূর্ববর্তী পালাগুলি সংকুচিত বা সংক্ষিপ্ত করে — মডেলটি প্রকৃতপক্ষে প্রয়োজন এমন তথ্য সংরক্ষণ করার সময় — এটি নাটকীয়ভাবে কাটতে পারে। এটি এমন ধরনের অপ্টিমাইজেশন যা Writer এর হার্নেস আপগ্রেড সম্ভবত সম্বোধন করে, এবং এটি এমন কিছু যা যেকোনো ডেভেলপার আজ তাদের নিজস্ব সিস্টেমে প্রয়োগ করতে পারে।

খরচ স্বচ্ছতা একটি পণ্য বৈশিষ্ট্য হয়ে উঠছে। Writer এর