গুগল জেমিনি ব্যবহার করে পরিকল্পনা করা পর্বতারোহীরা উদ্ধার পেয়েছেন

তিনজন পর্বতারোহীকে মাউন্ট শাস্তা থেকে উদ্ধার করতে হয়েছিল তাদের অভিযান পরিকল্পনার জন্য গুগল জেমিনির উপর আস্থা রাখার পরে — এবং এআই তাদের কতটা খাবার এবং জল বহন করতে হবে সে সম্পর্কে বিপজ্জনকভাবে ভুল পরামর্শ দিয়েছিল। গল্পটি স্পষ্ট কারণে ভাইরাল হয়েছিল। কিন্তু নাটকীয় শিরোনামের বাইরে, গুগল জেমিনি ব্যবহার করে পরিকল্পনা করা পর্বতারোহীরা উদ্ধার পেয়েছেন এটি এমন কিছু প্রকাশ করে যা এআই-চালিত পণ্য তৈরি করা প্রতিটি ডেভেলপারকে মোকাবেলা করতে হবে: এআই আত্মবিশ্বাসের সাথে যা বলে এবং যা আসলে, শারীরিকভাবে সত্য তার মধ্যে ব্যবধান।

এটি শুধুমাত্র একটি ভোক্তা সুরক্ষা গল্প নয়। এটি একটি পণ্য ডিজাইন গল্প। এবং এশিয়া জুড়ে ডেভেলপার এবং প্রতিষ্ঠাতাদের জন্য যারা অ্যাপ, ওয়ার্কফ্লো এবং প্ল্যাটফর্মে এআই এম্বেড করছেন, এখানকার পাঠগুলি তাৎক্ষণিক এবং ব্যবহারিক।

কী ঘটেছিল

টেকক্রাঞ্চের ৫ সেপ্টেম্বর, ২০২৬ সালের রিপোর্ট অনুযায়ী, তিনজন তরুণ ভোর ৩টায় ক্যালিফোর্নিয়ার মাউন্ট শাস্তার শিখরে পৌঁছানোর জন্য বেরিয়ে পড়েছিলেন। শিখরে পৌঁছানোর চেষ্টা করা পর্বতারোহীদের পরামর্শ দেওয়া হয় যে তারা যদি দুপুর ১২টার মধ্যে শীর্ষে না পৌঁছান তবে ফিরে যান — এই নিয়মটি বিদ্যমান কারণ পর্বতে বিকেলের অবস্থা দ্রুত খারাপ হয়। তিনজন সন্ধ্যা ৭টায় শিখরে পৌঁছেছিলেন, সেই সীমার চেয়ে সাত ঘণ্টারও বেশি পরে।

তারপর তারা অন্ধকারে নামার চেষ্টা করেছিল, সিসকিউ কাউন্টি শেরিফের অফিসকে দিকনির্দেশনার জন্য ডেকেছিল এবং শেষ পর্যন্ত মাড ক্রিক ক্যানিয়নে রাত কাটিয়েছিল। ফরেস্ট সার্ভিস রেঞ্জার এবং স্বেচ্ছাসেবীরা পরের দিন সকালে তাদের উদ্ধার করেছিলেন।

শেরিফের অফিস এআইর ভূমিকা সম্পর্কে সরাসরি ছিল: পর্বতারোহীরা "জেমিনি দ্বারা তাদের গ্রুপের প্রয়োজনের চেয়ে অনেক কম খাবার এবং জল বহন করার পরামর্শ দেওয়া হয়েছিল, বিশেষ করে যখন তাদের পরিকল্পিত ৮ ঘণ্টার আরোহণ একটি বহুদিনের অভিযানে পরিণত হয়েছিল।" অফিসটি যোগ করেছে যে পর্বতারোহীদের "কখনই আপনার ট্রিপ পরিকল্পনার জন্য শুধুমাত্র এআইর উপর নির্ভর করবেন না" এবং কোনো অভিযানের আগে স্থানীয় ইউএস ফরেস্ট সার্ভিস রেঞ্জার স্টেশনে কল করার সুপারিশ করেছে।

ন্যায্যতার জন্য, উৎস নিবন্ধটি উল্লেখ করে যে এটি সম্পূর্ণভাবে স্পষ্ট নয় যে জেমিনি পর্বতারোহীরা যে প্রতিটি সিদ্ধান্ত নিয়েছে তার জন্য সম্পূর্ণ দায়বদ্ধতা বহন করে কিনা। বড় ভাষা মডেল বিদ্যমান হওয়ার অনেক আগে থেকেই মানুষ পর্বতে খারাপ সিদ্ধান্ত নিচ্ছে। কিন্তু নির্দিষ্ট ব্যর্থতা — এআই একটি শারীরিক, উচ্চ-ঝুঁকির কাজের জন্য সম্পদের প্রয়োজনীয়তা আত্মবিশ্বাসের সাথে কম অনুমান করা — ঠিক সেই ধরনের ব্যর্থতা যা অধ্যয়ন করা উচিত, খারিজ করা উচিত নয়।

জেমিনি একটি কাল্পনিক পর্বত হ্যালুসিনেট করেনি। এটি সরবরাহ সম্পর্কে বিশ্বাসযোগ্য-শোনা, নির্দিষ্ট পরামর্শ দিয়েছিল। সেই নির্দিষ্টতাই এটিকে বিপজ্জনক করে তুলেছিল। একটি অস্পষ্ট উত্তর পর্বতারোহীদের আরও গবেষণা করতে অনুপ্রাণিত করত। একটি আত্মবিশ্বাসী, নির্ভুল উত্তর করেনি।

এশিয়ার জন্য এটি কেন গুরুত্বপূর্ণ

এআই গ্রহণের সাথে এশিয়ার সম্পর্ক প্রায় অন্য কোথাও থেকে দ্রুত এগিয়ে চলেছে। দক্ষিণ-পূর্ব এশিয়া, দক্ষিণ এশিয়া এবং পূর্ব এশিয়ার মোবাইল-প্রথম জনসংখ্যা নেভিগেশন, স্বাস্থ্য প্রশ্ন, আর্থিক সিদ্ধান্ত এবং হ্যাঁ, ভ্রমণ পরিকল্পনার জন্য দৈনন্দিন সিদ্ধান্ত গ্রহণে এআই সহায়ক একীভূত করছে। অবকাঠামো প্রসঙ্গ এখানে গুরুত্বপূর্ণ: অঞ্চল জুড়ে অনেক বাজারে, একটি একক এআই চ্যাটবট প্রায়শই একটি ব্যবহারকারী পরামর্শ করে এমন প্রথম এবং একমাত্র তথ্যের উৎস, অন্যান্য সম্পদের স্ট্যাকের পাশে একটি পরিপূরক সরঞ্জাম নয়।

এটি ঝুঁকির প্রোফাইল উল্লেখযোগ্যভাবে পরিবর্তন করে। যখন ইন্দোনেশিয়ার একটি টায়ার-২ শহরে বা ভিয়েতনামের একটি গ্রামীণ এলাকায় একজন ব্যবহারকারী একটি এআই সহায়ককে জিজ্ঞাসা করে যে একটি ট্রেকের জন্য কীভাবে প্রস্তুত হতে হয়, তারা সম্ভবত একটি স্থানীয় রেঞ্জার স্টেশন, একটি বিশেষজ্ঞ ফোরাম বা উত্তরের বিরুদ্ধে ক্রস-রেফারেন্স করার জন্য একটি অভিজ্ঞ বন্ধুর সহজ অ্যাক্সেস নেই। এআইর প্রতিক্রিয়া অনেকের মধ্যে একটি ডেটা পয়েন্ট নয় — এটি উত্তর।

এটি এশিয়া প্রযুক্তি প্রসঙ্গ যা এই গল্পটিকে একটি কৌতূহল থেকে বেশি কিছু করে তোলে। মাউন্ট শাস্তা পর্বতারোহীরা ক্যালিফোর্নিয়ায় ছিলেন, যেখানে জরুরি সেবাগুলি ভালভাবে সজ্জিত এবং উদ্ধারকারীরা দ্রুত তাদের কাছে পৌঁছেছিলেন। সেই প্রতিক্রিয়া ক্ষমতা এশিয়ার বৈচিত্র্যময় ভূগোল জুড়ে সমানভাবে বিদ্যমান নেই। একটি সমতুল্য ব্যর্থতা — এআই আত্মবিশ্বাসের সাথে হিমালয়, পাপুয়ার উচ্চভূমি বা ইউনান প্রদেশের দূরবর্তী অংশে একটি ট্রেকের জন্য একটি গ্রুপকে কম প্যাক করা — এমন পরিণতি হতে পারে যা পুনরুদ্ধার করা অনেক বেশি কঠিন।

এশিয়ায় ভোক্তা-মুখী এআই পণ্য তৈরি করা প্রতিষ্ঠাতাদের জন্য, এটি একটি ডিজাইন সীমাবদ্ধতা, শুধুমাত্র একটি দার্শনিক উদ্বেগ নয়। প্রশ্নটি হল না আপনার এআই মাঝে মাঝে ভুল হবে কিনা। এটি হবে। প্রশ্নটি হল: আপনার পণ্য কী করে যখন এআই এমন কিছু সম্পর্কে ভুল যা গুরুত্বপূর্ণ?

ডেভেলপারদের জন্য এর অর্থ কী

মাউন্ট শাস্তা ঘটনা হল যা এআই নিরাপত্তা গবেষকরা অতিরিক্ত আত্মবিশ্বাসী আউটপুট বলে তার একটি পরিষ্কার কেস স্টাডি — এমন প্রতিক্রিয়া যা সাবলীল, নির্দিষ্ট এবং ভুল। মডেলটি বলেনি "আমি নিশ্চিত নই, আপনার একজন স্থানীয় বিশেষজ্ঞের সাথে পরামর্শ করা উচিত।" এটি একটি সরবরাহ সুপারিশ দিয়েছিল যথেষ্ট স্পষ্ট কর্তৃত্বের সাথে যে পর্বতারোহীরা যাচাইকরণ ছাড়াই এটিতে কাজ করেছিল।

বড় ভাষা মডেলের উপর ভিত্তি করে তৈরি ডেভেলপারদের এটি সমাধান করার জন্য বেশ কয়েকটি ব্যবহারিক লিভার রয়েছে:

• ডোমেন-নির্দিষ্ট গ্রাউন্ডিং: রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) যা কর্তৃপক্ষপূর্ণ, বর্তমান উৎস থেকে টানে — অফিসিয়াল ট্রেইল ডাটাবেস, স্থানীয় কর্তৃপক্ষের পরামর্শ, রিয়েল-টাইম আবহাওয়া API — একটি মডেল তার প্রশিক্ষণ ডেটা একা থেকে বিশ্বাসযোগ্য-কিন্তু-ভুল নির্দিষ্টতা তৈরি করার সম্ভাবনা উল্লেখযোগ্যভাবে হ্রাস করে।
• ইউআই-তে আত্মবিশ্বাস সংকেত: যখন একটি মডেল তার নির্ভরযোগ্য জ্ঞান সীমানার বাইরে কাজ করছে, ইন্টারফেসটি যোগাযোগ করা উচিত। সূক্ষ্ম প্রিন্টে কবর দেওয়া একটি সাধারণ দাবিমুক্তি নয়, বরং প্রতিক্রিয়ার পয়েন্টে একটি দৃশ্যমান, প্রসঙ্গীয় সংকেত।
• উচ্চ-ঝুঁকির প্রশ্নের জন্য হার্ড স্টপ: প্রশ্নের বিভাগের জন্য যেখানে ত্রুটির শারীরিক পরিণতি রয়েছে — চিকিৎসা ডোজিং, জরুরি প্রস্তুতি, কাঠামোগত লোড গণনা — যাচাইকৃত উৎসে রুট করার বিবেচনা করুন বরং একটি প্রতিক্রিয়া তৈরি করার চেয়ে।
• ব্যবহারকারী যাচাইকরণ প্রম্পট: ব্যবহারকারীদের এটিতে কাজ করার আগে গুরুত্বপূর্ণ তথ্য একটি প্রাথমিক উৎসের সাথে নিশ্চিত করতে অনুরোধ করা। এটি ঘর্ষণ, এবং ঘর্ষণের একটি খরচ রয়েছে, কিন্তু উচ্চ-ঝুঁকির প্রসঙ্গে এটি সঠিক বাণিজ্য-অফ।

এই কোনটিই এআই নিরাপত্তা সাহিত্যে নতুন ধারণা নয়। যা নতুন তা হল যে এই ধরনের ঘটনাগুলি পণ্য দলগুলির জন্য জরুরি করে তুলছে যারা আগে তাদের তাত্ত্বিক হিসাবে বিবেচনা করেছিল। শেরিফের অফিস বিবৃতি — "কখনই আপনার ট্রিপ পরিকল্পনার জন্য শুধুমাত্র এআইর উপর নির্ভর করবেন না" — একটি যুক্তিসঙ্গত জনসাধারণের পরামর্শ। এটি একটি পণ্য ডিজাইন কৌশল নয়। ডেভেলপাররা উপযুক্ত এআই ব্যবহারের জন্য দায়বদ্ধতা সম্পূর্ণভাবে শেষ-ব্যবহারকারী সতর্কতায় আউটসোর্স করতে পারে না।

MonstarX-এ তৈরি দলগুলির জন্য, এশিয়ার এআই-নেটিভ ডেভ প্ল্যাটফর্ম, এই ধরনের স্থাপত্য চিন্তাভাবনা — জানা কখন তৈরি করতে হবে, কখন পুনরুদ্ধার করতে হবে এবং কখন স্থগিত করতে হবে — গুরুতর এআই পণ্যগুলি কীভাবে নির্মিত হয় তার মধ্যে অন্তর্নির্মিত। প্ল্যাটফর্মের লাইভ ডেটা উৎসগুলি সংযোগ করার পদ্ধতি মানে আপনি যখন বাস্তব-বিশ্ব নির্ভুলতা যা ব্যবহারের ক্ষেত্রে দাবি করে তখন একটি মডেলের স্ট্যাটিক প্রশিক্ষণ জ্ঞানের উপর নির্ভর করতে বাধ্য নন।

গভীর প্রযুক্তিগত পয়েন্ট হল একটি মডেলের মধ্যে পার্থক্য যা তথ্য জানে এবং একটি মডেল যা তার জ্ঞানের সীমা জানে। বর্তমান LLM গুলি পূর্ববর্তীতে নাটকীয়ভাবে ভাল কিন্তু পরবর্তীতে নয়। যতক্ষণ না এটি মডেল স্তরে পরিবর্তিত হয়, এটি এটি ক্ষতিপূরণ করার জন্য একটি পণ্য দায়বদ্ধতা।

মূল টেকঅ্যাওয়ে

উদ্ধারের নাটকটি সরিয়ে দিন এবং যা অবশিষ্ট থাকে তা হল নীতিগুলির একটি সেট যা সরাসরি ২০২৬ সালে এআই বৈশিষ্ট্য শিপ করা যে কাউকে প্রয়োগ করে:

• আত্মবিশ্বাস নির্ভুলতা নয়। LLM গুলি অন্তর্নিহিত তথ্য সঠিক কিনা তা নির্বিশেষে সাবলীল, নির্দিষ্ট পাঠ্য তৈরি করে। সাবলীলতা আউটপুটের একটি সম্পত্তি, নির্ভরযোগ্যতার একটি সংকেত নয়। আপনার ব্যবহারকারীদের প্রশিক্ষণ দিন — এবং আপনার পণ্য ডিজাইন — এটি সেভাবে বিবেচনা করতে।
• প্রসঙ্গ সংকোচন একটি বাস্তব ঝুঁকি। মডেলটি জানে না যে এটি পর্বতারোহীদের পরামর্শ দিচ্ছে যারা ক্রস-রেফারেন্স ছাড়াই এর আউটপুটে কাজ করবে। এটি ঝুঁকি জানে না। আপনার পণ্য ডিজাইনকে সেই প্রসঙ্গ সরবরাহ করতে হবে, কারণ মডেল করবে না।