Apple ডিভাইসে AI চালানোর খরচ জানাল গবেষণা, বিদ্যুৎ বিলে বড় চমক!
Towards Data Science-এর এক গবেষণায় Apple Silicon ডিভাইসে লোকাল LLM চালানোর প্রকৃত বিদ্যুৎ খরচ মাপা হয়েছে। $0.31/kWh হারে পাঁচটি মডেলের তুলনায় দেখা গেছে, RTX-3090-এর পূর্বাভাসের চেয়ে ফলাফল অনেক আলাদা। এই তথ্য বাংলাদেশের ডেভেলপার ও গবেষকদের জন্য অত্যন্ত গুরুত্বপূর্ণ।
Towards Data Science-এর এক গবেষণায় Apple Silicon ডিভাইসে লোকাল LLM চালানোর প্রকৃত বিদ্যুৎ খরচ মাপা হয়েছে। $0.31/kWh হারে পাঁচটি মডেলের তুলনায় দেখা গেছে, RTX-3090-এর পূর্বাভাসের চেয়ে ফলাফল অনেক আলাদা। এই তথ্য বাংলাদেশের ডেভেলপার ও গবেষকদের জন্য অত্যন্ত গুরুত্বপূর্ণ।
লোকাল লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) চালানোর খরচ অনেকের কাছেই একটি বড় প্রশ্ন। সম্প্রতি Towards Data Science-এর এক গবেষণায় Apple Silicon ডিভাইসে এই খরচের প্রকৃত চিত্র তুলে ধরা হয়েছে। গবেষকরা $0.31/kWh বিদ্যুৎ হারে পাঁচটি ভিন্ন মডেল চালিয়ে প্রতিটি ওয়াট মেপে দেখেছেন, যা আগের ধারণা পাল্টে দেওয়ার মতো।
এই গবেষণার ফলাফল বিশেষভাবে গুরুত্বপূর্ণ, কারণ এটি দেখিয়েছে যে RTX-3090 গ্রাফিক্স কার্ডের পূর্বাভাসের তুলনায় Apple Silicon-এর প্রকৃত খরচ অনেকটাই ভিন্ন। যারা মনে করতেন লোকাল LLM চালানো শুধু শক্তিশালী GPU-তেই সম্ভব, তাদের জন্য এই তথ্য নতুন দিগন্ত খুলে দেবে। ডেভেলপার, গবেষক ও প্রযুক্তিপ্রেমীদের জন্য এটি একটি বাস্তবসম্মত খরচ-তালিকা, যা তাদের সিদ্ধান্ত নিতে সাহায্য করবে।
গবেষণায় পাঁচটি জনপ্রিয় LLM মডেলকে টানা জেনারেশন অবস্থায় চালানো হয়। প্রতিটি মডেলের বিদ্যুৎ খরচ ওয়াল-সকেট থেকে মাপা হয়েছে, অর্থাৎ শুধু চিপের পাওয়ার নয়, পুরো সিস্টেমের প্রকৃত ব্যবহার। $0.31/kWh এই হারটি মার্কিন যুক্তরাষ্ট্রের গড় গৃহস্থালি বিদ্যুৎ হারের কাছাকাছি, যা ফলাফলকে আরও বাস্তবসম্মত করেছে।
আশ্চর্যের বিষয় হলো, RTX-3090-এর উপর ভিত্তি করে যে সংখ্যা আগে অনুমান করা হয়েছিল, বাস্তবে তার চেয়ে খরচ অনেক বেশি বা কম দেখা গেছে। গবেষণাটি স্পষ্টভাবে দেখিয়েছে যে Apple Silicon-এর শক্তি-দক্ষতা (energy efficiency) অনেক ক্ষেত্রে ঐতিহ্যবাহী GPU-র চেয়ে ভালো। তবে এটি মডেলের ধরন, সাইজ এবং হার্ডওয়্যারের কনফিগারেশনের উপরও নির্ভর করে।
বাংলাদেশের প্রেক্ষাপটে এই গবেষণাটি অত্যন্ত প্রাসঙ্গিক। এখানে বিদ্যুতের দাম তুলনামূলকভাবে কম হলেও, ডলারের দাম ও হার্ডওয়্যার আমদানি খরচ অনেক বেশি। ফলে স্থানীয় ডেভেলপার বা স্টার্টআপদের জন্য লোকাল LLM চালানো একটি ব্যয়বহুল ব্যাপার হয়ে দাঁড়াতে পারে। এই গবেষণার তথ্য তাদের সঠিক হার্ডওয়্যার বেছে নিতে এবং মাসিক বিদ্যুৎ বিলের হিসাব আগে থেকেই বুঝতে সাহায্য করবে।
ফ্রিল্যান্সার ও ছোট সফটওয়্যার ফার্মগুলোর জন্যও এটি একটি গাইড। যারা ক্লাউড API-র উপর নির্ভর না করে নিজস্ব ডিভাইসে মডেল চালাতে চান, তারা এই খরচ-তালিকা দেখে সিদ্ধান্ত নিতে পারবেন। গবেষণাটি শুধু খরচই বলেনি, বরং বিভিন্ন মডেলের মধ্যে তুলনা করে দেখিয়েছে কোন পরিস্থিতিতে কোনটি লাভজনক।
সবশেষে, এই গবেষণা প্রমাণ করেছে যে লোকাল LLM চালানো এখন আর শুধু বড় কোম্পানির জন্য নয়। সঠিক হার্ডওয়্যার ও জ্ঞান থাকলে ব্যক্তিপর্যায়েও এটি সম্ভব। তবে খরচের আগে নিজের চাহিদা ও বাজেট যাচাই করা জরুরি। ভবিষ্যতে আরও সাশ্রয়ী হার্ডওয়্যার বাজারে এলে এই খাত বাংলাদেশে আরও জনপ্রিয় হবে বলে আশা করা যায়।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Towards Data Science
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...