AI মডেলের অর্ধেক শক্তি নষ্ট, খরচ দ্বিগুণ হচ্ছে আপনার প্রকল্পে
নতুন এক গবেষণায় দেখা যাচ্ছে, অধিকাংশ AI মডেল তাদের কনটেক্সট উইন্ডোর মাত্র ৫০ থেকে ৬৫ শতাংশ ব্যবহার করে। ফলে কার্যকরী প্রতি টোকেনের খরচ বিজ্ঞাপিত দামের চেয়ে ৫০ থেকে ১০০ শতাংশ বেশি পড়ছে। এমসিপি সার্ভার ব্যবহার করলে এই খরচ আরও ১০ থেকে ৩২ গুণ বেড়ে যেতে পারে।
নতুন এক গবেষণায় দেখা যাচ্ছে, অধিকাংশ AI মডেল তাদের কনটেক্সট উইন্ডোর মাত্র ৫০ থেকে ৬৫ শতাংশ ব্যবহার করে। ফলে কার্যকরী প্রতি টোকেনের খরচ বিজ্ঞাপিত দামের চেয়ে ৫০ থেকে ১০০ শতাংশ বেশি পড়ছে। এমসিপি সার্ভার ব্যবহার করলে এই খরচ আরও ১০ থেকে ৩২ গুণ বেড়ে যেতে পারে।
AI এজেন্টের দাম নিয়ে আপনার ধারণা পুরোপুরি ভুল হতে পারে। dev.to-তে প্রকাশিত একটি গবেষণা বলছে, বর্তমান AI মডেলগুলো তাদের কনটেক্সট উইন্ডোর মাত্র ৫০ থেকে ৬৫ শতাংশ কাজে লাগায়। এমনকি মিলিয়ন টোকেনের কনটেক্সট উইন্ডো থাকলেও এই অপচয় থামছে না।
এই তথ্য অনুযায়ী, আপনি যে ০.৯৯ ডলারে মিলিয়ন টোকেন কিনছেন, তার কার্যকরী দাম দাঁড়াচ্ছে ১.৫০ থেকে ২.০০ ডলার। গবেষকরা এই ঘটনাকে কনটেক্সট ট্যাক্স নাম দিয়েছেন। কারণ প্রতি মুহূর্তে আপনি যে টোকেন ব্যবহার করছেন না, তার জন্য আপনাকে দাম দিতে হচ্ছে।
এজেন্ট লুপে এমসিপি সার্ভার ব্যবহার করলে পরিস্থিতি আরও ভয়াবহ হয়। গবেষণা বলছে, এতে খরচ ১০ থেকে ৩২ গুণ বেড়ে যায়। অর্থাৎ আপনার AI এজেন্ট কার্যকরীভাবে কাজ করছে না বরং এটি একটি খুব ব্যয়বহুল স্পেস হিটারে পরিণত হচ্ছে।
কেন এমন হচ্ছে? কারণ AI মডেলগুলো কনটেক্সট উইন্ডোর শুরুতে দেওয়া তথ্য ভালোভাবে মনে রাখতে পারে না। দীর্ঘ কথোপকথনে মাঝের অংশের গুরুত্বপূর্ণ তথ্য হারিয়ে যায়। এছাড়া এজেন্ট লুপে বারবার এমসিপি সার্ভার কল করলে পুরনো কনটেক্সট ধরে রাখার জন্য অতিরিক্ত টোকেন খরচ হয়।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই তথ্য অত্যন্ত গুরুত্বপূর্ণ। আপনি যদি এআই এজেন্ট তৈরি করে ক্লায়েন্টদের দেন, তাহলে আপনার খরচ হিসাব পুরোপুরি ভুল হতে পারে। বিশেষ করে যারা এমসিপি সার্ভার ব্যবহার করেন, তাদের প্রতি প্রকল্পে খরচ বহুগুণ বেড়ে যেতে পারে।
একটি সহজ উদাহরণ দিই। আপনার এজেন্ট যদি ১০ বার এমসিপি সার্ভার কল করে এবং প্রতিবার ১ লাখ টোকেন কনটেক্সট ধরে রাখে, তাহলে আপনি যে দামে পরিষেবা দিচ্ছেন, সেটি প্রকৃত খরচের চেয়ে অনেক কম হতে পারে। ফলে আপনার মুনাফা মার্জিন সঙ্কুচিত হয়ে যাবে।
এই সমস্যা সমাধানের জন্য গবেষকরা কয়েকটি পরামর্শ দিয়েছেন। প্রথমত, কনটেক্সট উইন্ডোর আকার কমিয়ে কাজ শুরু করা। দ্বিতীয়ত, এমসিপি সার্ভার কলের সংখ্যা কমানো। তৃতীয়ত, পুরনো কনটেক্সট ড্রপ করার জন্য স্মার্ট অ্যালগরিদম ব্যবহার করা।
ভবিষ্যতে AI মডেল নির্মাতাদের এই সমস্যা সমাধানে আরও কার্যকরী কৌশল নিয়ে আসতে হবে। ততদিন পর্যন্ত কনটেক্সট ট্যাক্স আমাদের পকেট কাটতে থাকবে। আপনার AI এজেন্টের খরচ পুনরায় গণনা করুন। কারণ আপনি যে দামে পরিষেবা দিচ্ছেন, সেটি প্রকৃত খরচের চেয়ে অনেক কম হতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...