AI মডেলের উত্তর এখন ৩ গুণ দ্রুত, মান কমছে না বাংলাদেশে

বড় ভাষার মডেল (LLM) দিন দিন আরও স্মার্ট হচ্ছে। কিন্তু ব্যবহারকারীরা সরাসরি বুদ্ধিমত্তা অনুভব করেন না। তারা অনুভব করেন লেটেন্সি, অর্থাৎ উত্তর আসার সময়। যদি একটি মডেল উত্তর লিখতে ৩০ সেকেন্ড নেয়, আর অন্যটি ৩ সেকেন্ডে উত্তর দেয়, তাহলে বেশিরভাগ ব্যবহারকারী দ্রুত উত্তর পছন্দ করবেন। বেঞ্চমার্কে বেশি স্কোর করলেও ততটা গুরুত্ব পাবে না।

dev.to AI সূত্রে জানা গেছে, 'Speculative Decoding' নামে একটি কৌশল এই সমস্যার সমাধান দিচ্ছে। এই পদ্ধতি এলএলএম-এর টোকেন জেনারেশন প্রক্রিয়াকে দ্রুত করে। টোকেন হলো ভাষার ছোট ছোট একক, যেমন শব্দ বা অক্ষর। মডেল প্রতিটি টোকেন তৈরি করতে সময় নেয়। Speculative Decoding এই সময় কমায়, কিন্তু উত্তর পরিবর্তন করে না।

কৌশলটি কাজ করে একটি ছোট মডেলকে অনুমান করতে দিয়ে। ছোট মডেল দ্রুত টোকেন তৈরি করে। বড় মডেল তখন শুধু অনুমানগুলো যাচাই করে। যদি অনুমান সঠিক হয়, তাহলে তা গ্রহণ করা হয়। ভুল হলে বড় মডেল নিজেই টোকেন তৈরি করে। এই প্রক্রিয়ায় উত্তর নির্ভুল থাকে, কিন্তু গতি বেড়ে যায়।

গবেষণায় দেখা গেছে, Speculative Decoding লেটেন্সি ২ থেকে ৩ গুণ কমাতে পারে। এর মানে হলো, যেখানে একটি মডেল আগে ১০ সেকেন্ড নিত, এখন সেটি ৩ সেকেন্ডে উত্তর দেবে। কিন্তু উত্তর একই থাকবে। এই উন্নতি ব্যবহারকারীর অভিজ্ঞতা বদলে দেয়। বিশেষ করে চ্যাটবট, কোড রিভিউ বা রিয়েল-টাইম অ্যাপ্লিকেশনের জন্য এটি গুরুত্বপূর্ণ।

বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই খবর অত্যন্ত প্রাসঙ্গিক। দেশে AI-ভিত্তিক প্রোডাক্ট তৈরি করছেন অনেক স্টার্টআপ। তারা যদি এই কৌশল ব্যবহার করেন, তাহলে তাদের অ্যাপ দ্রুত উত্তর দেবে। ব্যবহারকারীরা খুশি হবেন এবং বেশি সময় ধরে অ্যাপ ব্যবহার করবেন। শিক্ষার্থীদের জন্যও এটি সহায়ক। তারা গবেষণা ও প্রকল্পে দ্রুত ফল পাবেন।

ভবিষ্যতে Speculative Decoding আরও উন্নত হবে বলে আশা করা যায়। বড় কোম্পানিগুলো ইতিমধ্যে এই কৌশল নিয়ে কাজ করছে। এটি এলএলএম-কে আরও ব্যবহারকারীবান্ধব করে তুলবে। ব্যবহারকারীরা দ্রুত উত্তর পাবেন, আর মডেলের মান কমবে না। এটি প্রযুক্তির জগতে একটি বড় পদক্ষেপ।

আরও পড়ুন

• বাংলায় AI মডেল এখন ৩ গুণ দ্রুত, জানুন কীভাবে লাভবান হবেন
• AI-তে পক্ষপাত দূর হবে ৩ গুণ দ্রুত, নতুন গবেষণায় মিলল চাবিকাঠি
• বাংলাদেশে AI মডেল হালকা করার নতুন পদ্ধতি, খরচ কমবে ৩ গুণ