বাংলাদেশে AI চালাতে খরচ কমবে ৪ গুণ, জানাল নতুন গবেষণা
মিশিগান বিশ্ববিদ্যালয়ের গবেষকরা ML.ENERGY নামে একটি ওপেন বেঞ্চমার্ক প্রকাশ করেছে। সেখানে দেখা গেছে, প্রচলিত GPU TDP-ভিত্তিক হিসাব প্রকৃত ব্যবহারকে 4.1 গুণ পর্যন্ত বেশি দেখায়। Llama 3.1 405B-এর মতো বড় মডেল প্রতি প্রশ্নে খরচ করে মাত্র 0.39 ওয়াট-ঘণ্টা।
মিশিগান বিশ্ববিদ্যালয়ের গবেষকরা ML.ENERGY নামে একটি ওপেন বেঞ্চমার্ক প্রকাশ করেছে। সেখানে দেখা গেছে, প্রচলিত GPU TDP-ভিত্তিক হিসাব প্রকৃত ব্যবহারকে 4.1 গুণ পর্যন্ত বেশি দেখায়। Llama 3.1 405B-এর মতো বড় মডেল প্রতি প্রশ্নে খরচ করে মাত্র 0.39 ওয়াট-ঘণ্টা।
আর্টিফিশিয়াল ইন্টেলিজেন্স মডেলের শক্তি খরচ নিয়ে এখন আর হিসাব-নিকাশ অনুমানের ওপর নির্ভর করতে হবে না। মিশিগান বিশ্ববিদ্যালয়ের গবেষকরা ML.ENERGY নামে একটি ওপেন বেঞ্চমার্ক তৈরি করেছে। এই বেঞ্চমার্ক সরাসরি মেপে দেখায় প্রতিটি মডেল প্রতি টোকেন বা প্রশ্নে কত শক্তি খরচ করে।
সবচেয়ে চমকপ্রদ তথ্য হলো প্রচলিত অনুমানের সঙ্গে প্রকৃত শক্তি খরচের বড় পার্থক্য। বর্তমানে যে শক্তি খরচের সংখ্যা ছড়িয়ে পড়ে সেগুলো মূলত GPU-র TDP বা থার্মাল ডিজাইন পাওয়ারের ওপর ভিত্তি করে তৈরি। গবেষণায় দেখা গেছে, এই TDP-ভিত্তিক হিসাব প্রকৃত ব্যবহারের চেয়ে 4.1 গুণ পর্যন্ত বেশি দেখায়। অর্থাৎ মডেলগুলো আসলে প্রচলিত ধারণার চেয়ে অনেক কম শক্তি খরচ করছে।
ML.ENERGY বেঞ্চমার্কের তথ্য অনুযায়ী, মেটার Llama 3.1 405B মডেল প্রতি প্রশ্নের উত্তর দিতে খরচ করে মাত্র 0.39 ওয়াট-ঘণ্টা। এই সংখ্যাটি আগের যেকোনো অনুমানের চেয়ে অনেক কম। গবেষকরা বলছেন, সরাসরি পরিমাপের মাধ্যমেই কেবল সঠিক শক্তি তথ্য পাওয়া সম্ভব।
এই গবেষণার প্রভাব বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্যও গুরুত্বপূর্ণ। বর্তমানে স্থানীয় ডেভেলপাররা ক্লাউডে বড় AI মডেল ব্যবহার করে অ্যাপ তৈরি করছে। শক্তি খরচের সঠিক হিসাব থাকলে অপারেটিং খরচ অনুমান করা সহজ হবে। একইসঙ্গে এটি পরিবেশবান্ধব AI ব্যবহারের পথও দেখাবে। বাংলাদেশের শিক্ষার্থী ও গবেষকরা এই ওপেন বেঞ্চমার্ক ব্যবহার করে নিজেদের মডেলের শক্তি দক্ষতা যাচাই করতে পারবেন।
ভবিষ্যতে ML.ENERGY-র মতো সরাসরি পরিমাপ পদ্ধতি AI শিল্পে শক্তি দক্ষতার মানদণ্ড হয়ে উঠতে পারে। গবেষকরা আশা করছেন, এই বেঞ্চমার্ক ব্যবহার করে কোম্পানিগুলো আরও শক্তি সাশ্রয়ী মডেল তৈরি করতে উৎসাহিত হবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...