৩৪.৭ বিলিয়ন প্যারামিটার AI মডেল এখন CPU-তেই চলে, GPU লাগবে না

একটি 34.7 বিলিয়ন প্যারামিটার স্পার্স MoE রিজনিং মডেল শুধুমাত্র CPU-তে সফলভাবে চালানো সম্ভব হয়েছে। VIDRAFT তাদের Ourbox-35B-JGOS মডেলটি VKUE ইঞ্জিনের মাধ্যমে পরিবেশন করছে। এই মডেলটি GPU ছাড়াই কাজ করে যা AI জগতে একটি বড় মাইলফলক।

বেশিরভাগ ল্যাপটপে চলে এমন দাবি করা মডেল আসলে 7 বিলিয়ন প্যারামিটার সাইজের হয়। কিন্তু এই মডেলটি 34.7 বিলিয়ন প্যারামিটার নিয়ে কাজ করে। এটি একটি স্পার্স মিশ্রণ অব এক্সপার্টস বা MoE আর্কিটেকচার ব্যবহার করে। এই আর্কিটেকচারে সব প্যারামিটার একসঙ্গে সক্রিয় হয় না বরং একটি নির্দিষ্ট অংশ সক্রিয় থাকে।

এই মডেলের সাফল্যের মূল চাবিকাঠি হলো সক্রিয় প্যারামিটার এবং মেমোরি ব্যান্ডউইডথের দক্ষ ব্যবহার। যখন মডেলটি কাজ করে তখন মোট প্যারামিটারের তুলনায় অনেক কম প্যারামিটার সক্রিয় থাকে। এই কৌশলটি CPU-তে কাজ করার সময় মেমোরি ব্যান্ডউইডথের চাপ কমিয়ে দেয়। ফলে একটি সাধারণ কম্পিউটারেও মডেলটি চালানো সম্ভব হয়।

VIDRAFT এই মডেলটির জন্য একটি পাবলিক ডেমো এবং লিডারবোর্ড প্রকাশ করেছে। আপনি নিজেই এটি পরীক্ষা করে দেখতে পারেন। কোম্পানিটি দাবি করছে যে এই বেঞ্চমার্কটি সম্পূর্ণ পুনরুৎপাদনযোগ্য। অর্থাৎ আপনি একই সেটআপ ব্যবহার করে একই ফলাফল পেতে পারেন।

বাংলাদেশের ডেভেলপার এবং গবেষকদের জন্য এই খবরটি বিশেষ গুরুত্বপূর্ণ। দেশে GPU-র প্রাপ্যতা সীমিত এবং দাম অনেক বেশি। এই প্রযুক্তি ব্যবহার করে তারা ব্যয়বহুল GPU ছাড়াই বড় AI মডেল নিয়ে কাজ করতে পারবেন। ফ্রিল্যান্সার এবং ছোট স্টার্টআপগুলোর জন্যও এটি একটি বড় সুযোগ।

ভবিষ্যতে CPU-তে বড় মডেল চালানোর এই পদ্ধতি আরও জনপ্রিয় হবে বলে আশা করা যায়। এটি AI প্রযুক্তিকে আরও সবার জন্য সহজলভ্য করে তুলবে। GPU-র উপর নির্ভরতা কমিয়ে আনবে যা খরচ সাশ্রয় করবে।

আরও পড়ুন

• Huawei-র 92B প্যারামিটার AI মডেল এখন সাধারণ কম্পিউটারেই চালানো যাবে
• বিশাল AI মডেল এখন দ্রুত ও সস্তা, জানুন কীভাবে লাভবান হবেন
• পুরনো ২০০৮ সালের সার্ভারেই চলে ৩২B AI মডেল, GPU লাগবে না