AI রিকমেন্ডারে খরচ কমবে ৪ কৌশলে, জানাল নতুন গবেষণা
LLM-ভিত্তিক রিকমেন্ডার সিস্টেম দ্রুত জনপ্রিয় হচ্ছে, কিন্তু টোকেন খরচ অনেক বাড়িয়ে দিতে পারে। সঠিক আর্কিটেকচার এবং রিট্রিভাল কৌশল ব্যবহার করে কীভাবে খরচ কমানো যায়, তা জানাচ্ছে নতুন এক গবেষণা।
LLM-ভিত্তিক রিকমেন্ডার সিস্টেম দ্রুত জনপ্রিয় হচ্ছে, কিন্তু টোকেন খরচ অনেক বাড়িয়ে দিতে পারে। সঠিক আর্কিটেকচার এবং রিট্রিভাল কৌশল ব্যবহার করে কীভাবে খরচ কমানো যায়, তা জানাচ্ছে নতুন এক গবেষণা।
LLM-ভিত্তিক রিকমেন্ডার সিস্টেম এখন আগের চেয়ে অনেক বেশি কার্যকর। ইউজারের ইতিহাস, প্রোডাক্টের বিবরণ এবং ফিউ-শট উদাহরণ একসাথে পাঠানোর কারণে টোকেন খরচ দ্রুত বেড়ে যায়। dev.to AI-এর এক গবেষণায় দেখা গেছে, প্রতি রিকোয়েস্টে পুরো ইউজার হিস্টোরি এবং প্রোডাক্ট ক্যাটালগ পাঠালে খরচ অনেক বেড়ে যায়।
এই সমস্যার সমাধানে গবেষকরা চারটি মূল কৌশলের কথা বলেছেন। প্রথমত, স্মার্ট আর্কিটেকচার ব্যবহার করা, যেখানে মডেলকে অপ্রয়োজনীয় ডেটা না পাঠিয়ে শুধু প্রয়োজনীয় অংশ পাঠানো হয়। দ্বিতীয়ত, অ্যাগ্রেসিভ রিট্রিভাল পদ্ধতি, যেখানে প্রাসঙ্গিক আইটেমগুলো আগে থেকে ফিল্টার করে নেওয়া হয়। তৃতীয়ত, ক্যাশিং এবং ব্যাচ প্রসেসিং ব্যবহার করা, যা একই ধরনের রিকোয়েস্টে খরচ কমায়। চতুর্থত, মডেলের সাইজ কমানো বা ছোট মডেল ব্যবহার করা, যাতে প্রতি রিকোয়েস্টে কম টোকেন খরচ হয়।
এই কৌশলগুলো বাস্তবায়ন করলে টোকেন খরচ 30% থেকে 50% পর্যন্ত কমানো সম্ভব বলে গবেষণায় উল্লেখ করা হয়েছে। বিশেষ করে যেসব কোম্পানি প্রতিদিন লাখ লাখ রিকোয়েস্ট প্রসেস করে, তাদের জন্য এই সাশ্রয় অনেক বড়। উদাহরণস্বরূপ, একটি ইকমার্স সাইটে প্রতিদিন 10 লাখ রিকোয়েস্ট আসলে, প্রতি রিকোয়েস্টে 500 টোকেন বাঁচালে মাসে প্রায় 15 মিলিয়ন টোকেন সাশ্রয় হয়।
বাংলাদেশের ডেভেলপার এবং স্টার্টআপদের জন্য এই গবেষণার ফলাফল খুবই গুরুত্বপূর্ণ। স্থানীয় ইকমার্স এবং কনটেন্ট প্ল্যাটফর্মগুলোতে LLM-ভিত্তিক রিকমেন্ডেশন ব্যবহার করা শুরু হয়েছে, কিন্তু খরচের ভয়ে অনেকেই পিছিয়ে আছে। এই কৌশলগুলো ব্যবহার করলে তারা কম খরচে উন্নত রিকমেন্ডেশন সেবা দিতে পারবে। ফ্রিল্যান্সারদের জন্যও এটি বড় সুযোগ, কারণ তারা ক্লায়েন্টদের জন্য কাস্টম রিকমেন্ডার সিস্টেম তৈরি করতে পারবে।
গবেষণাটি শুধু খরচ কমানোর ওপর নয়, পারফরম্যান্স ধরে রাখার ওপরও জোর দিয়েছে। সঠিক রিট্রিভাল কৌশল ব্যবহার করলে মডেলের নির্ভুলতা আগের মতোই থাকে, এমনকি কিছু ক্ষেত্রে আরও ভালো হয়। কারণ অপ্রয়োজনীয় ডেটা বাদ দিলে মডেল গুরুত্বপূর্ণ ফিচারের দিকে বেশি মনোযোগ দিতে পারে।
ভবিষ্যতে LLM-ভিত্তিক রিকমেন্ডার সিস্টেম আরও সাশ্রয়ী হবে বলে ধারণা করা হচ্ছে। ছোট মডেল যেমন Llama 3 এবং Mistral-এর মতো ওপেন-সোর্স মডেলগুলো ব্যবহার করে খরচ আরও কমানো যাবে। বাংলাদেশের ডেভেলপারদের এখনই এই কৌশলগুলো শেখা উচিত, কারণ এতে তারা আন্তর্জাতিক বাজারে প্রতিযোগিতায় এগিয়ে থাকবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...