AI মডেলের গতি বাড়লে আপনার ফ্রিল্যান্সিং আয় ৩ গুণ হতে পারে

একজন পেশাদার সফটওয়্যার টেস্টার 42টি বড় ভাষার মডেলের (LLM) প্রকৃত উত্তর দেওয়ার গতি পরিমাপ করেছেন। তিনি দেখিয়েছেন যে মডেলের বুদ্ধিমত্তার চেয়ে ব্যবহারকারীর জন্য অপেক্ষার সময় কমানো বেশি জরুরি। এই গবেষণার ফলাফল AI খাতের জন্য একটি গুরুত্বপূর্ণ বার্তা নিয়ে এসেছে।

বেশিরভাগ AI লিডারবোর্ড মডেলের স্কোর বা বুদ্ধিমত্তার ভিত্তিতে র্যাঙ্কিং করে। কিন্তু এই তালিকাগুলো প্রায় কখনোই উত্তর দেওয়ার গতি বিবেচনা করে না। ফলে ব্যবহারকারীরা একটি ভালো স্কোরযুক্ত মডেল বেছে নেন, কিন্তু সেটি ব্যবহার করতে গিয়ে দীর্ঘক্ষণ অপেক্ষা করতে হয়। বিশেষজ্ঞের মতে, এই সমস্যার মূল কারণ হলো গতি মাপার সঠিক পদ্ধতি না জানা।

গতি মূলত দুটি ভিন্ন সংখ্যা নিয়ে গঠিত, যা প্রায়ই গুলিয়ে ফেলা হয়। প্রথমটি হলো Time to First Token বা TTFT। এটি হলো প্রথম শব্দটি আসার আগে পর্যন্ত অপেক্ষার সময়। আপনি যখন কোনো চ্যাটবটে প্রশ্ন করবেন এবং এটি চিন্তা করার আগে যে সময় নেয়, সেটিই TTFT। দ্বিতীয়টি হলো টোকেন জেনারেশন রেট, অর্থাৎ প্রথম শব্দের পর কত দ্রুত বাকি উত্তর আসে।

গবেষণায় দেখা গেছে, TTFT-ই ব্যবহারকারীর অভিজ্ঞতার সবচেয়ে বড় বাধা। একটি মডেল যতই স্মার্ট হোক না কেন, যদি তার TTFT বেশি হয়, তাহলে ব্যবহারকারী বিরক্ত হয়ে যাবেন। বিশেষজ্ঞ তার নিবন্ধে একটি সৎ ও স্বচ্ছ পদ্ধতি বর্ণনা করেছেন, যেখানে তিনি প্রতিটি মডেলের TTFT এবং টোকেন জেনারেশন রেট আলাদাভাবে মেপেছেন।

বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার ও শিক্ষার্থীদের জন্য এই গবেষণা অত্যন্ত গুরুত্বপূর্ণ। দেশে AI-ভিত্তিক অ্যাপ ও চ্যাটবট তৈরি করা হচ্ছে, কিন্তু সেগুলোর গতি যদি না মাপা হয়, তাহলে ব্যবহারকারী হারানোর ঝুঁকি থাকে। বিশেষ করে ফ্রিল্যান্সাররা যখন ক্লায়েন্টের জন্য AI সলিউশন তৈরি করেন, তখন মডেল নির্বাচনে TTFT-কে অগ্রাধিকার দেওয়া উচিত।

ভবিষ্যতে AI মডেল নির্বাচনে শুধু বুদ্ধিমত্তা নয়, গতিকেও সমান গুরুত্ব দেওয়া উচিত। ব্যবহারকারীর ধৈর্যের সীমা খুবই সংক্ষিপ্ত। তাই দ্রুত ও নির্ভরযোগ্য উত্তর দেওয়ার মডেলই বাজারে টিকে থাকবে। এই গবেষণা সেই পথেই প্রথম পদক্ষেপ।

আরও পড়ুন

• AI মডেলের উত্তর এখন ৩ গুণ দ্রুত, মান কমছে না বাংলাদেশে
• AI এখন নিজের অনুভূতি বুঝে উত্তর দেবে, আপনার কাজে কী প্রভাব ফেলবে
• AI এখন সফটওয়্যার তৈরির জটিল ধাপ দ্রুত করবে, জানুন কী লাভ