Xiaomi-র ওপেন মডেল SWE-Bench-এ শীর্ষে, কম খরচে বড় সাফল্য
Xiaomi তাদের নতুন 309 বিলিয়ন প্যারামিটার MoE মডেল MiMo-V2-Flash প্রকাশ করেছে। এটি ওপেন-সোর্স মডেলগুলোর মধ্যে SWE-Bench Verified এবং Multilingual বেঞ্চমার্কে শীর্ষস্থান দখল করেছে। বিশেষ পোস্ট-ট্রেনিং পদ্ধতি Multi-Teacher On-Policy ব্যবহার করে কম্পিউট খরচ কমিয়ে এই সাফল্য অর্জন সম্ভব হয়েছে।
Xiaomi তাদের নতুন 309 বিলিয়ন প্যারামিটার MoE মডেল MiMo-V2-Flash প্রকাশ করেছে। এটি ওপেন-সোর্স মডেলগুলোর মধ্যে SWE-Bench Verified এবং Multilingual বেঞ্চমার্কে শীর্ষস্থান দখল করেছে। বিশেষ পোস্ট-ট্রেনিং পদ্ধতি Multi-Teacher On-Policy ব্যবহার করে কম্পিউট খরচ কমিয়ে এই সাফল্য অর্জন সম্ভব হয়েছে।
Xiaomi-এর AI গবেষণা দল সম্প্রতি MiMo-V2-Flash নামের একটি শক্তিশালী ল্যাঙ্গুয়েজ মডেল প্রকাশ করেছে। এই মডেলটিতে 309 বিলিয়ন প্যারামিটার রয়েছে এবং এটি Mixture-of-Experts বা MoE আর্কিটেকচারে তৈরি। বর্তমানে এটি ওপেন-সোর্স মডেলগুলোর মধ্যে SWE-Bench Verified এবং SWE-Bench Multilingual উভয় বেঞ্চমার্কেই শীর্ষ অবস্থানে রয়েছে।
SWE-Bench বেঞ্চমার্কটি মূলত সফটওয়্যার ইঞ্জিনিয়ারিং সংক্রান্ত কাজের দক্ষতা পরিমাপ করে। এই পরীক্ষায় ভালো করা মানে মডেলটি বাস্তব বিশ্বের কোডিং সমস্যা সমাধানে অত্যন্ত কার্যকর। MiMo-V2-Flash-এর এই সাফল্য দেখায় যে Xiaomi বড় মডেল তৈরিতে নতুন দিগন্ত উন্মোচন করেছে।
MiMo-V2-Flash-এর সবচেয়ে বড় বিশেষত্ব হলো এর পোস্ট-ট্রেনিং পদ্ধতি। গবেষকরা এখানে Multi-Teacher On-Policy নামের একটি কৌশল ব্যবহার করেছেন। এই পদ্ধতিতে একাধিক শক্তিশালী টিচার মডেল থেকে জ্ঞান নিয়ে মডেলটিকে আরও উন্নত করা হয়। এর ফলে বিপুল পরিমাণ কম্পিউট শক্তি খরচ না করেই উচ্চমানের ফলাফল পাওয়া সম্ভব হয়েছে।
MoE আর্কিটেকচার ব্যবহারের কারণেও কম্পিউট খরচ কমেছে। এই আর্কিটেকচারে পুরো মডেলটি ছোট ছোট এক্সপার্ট নেটওয়ার্কে ভাগ করা থাকে। কোনো কাজের সময় শুধুমাত্র প্রয়োজনীয় এক্সপার্টগুলো সক্রিয় হয়, ফলে মোট প্যারামিটার 309 বিলিয়ন হলেও প্রকৃত ব্যবহারে কম শক্তি লাগে। এটি বড় মডেল তৈরির খরচ কমানোর একটি কার্যকর উপায়।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। ওপেন-সোর্স এই মডেলটি ব্যবহার করে তারা উন্নত কোডিং সহায়তা পেতে পারেন। ছোট ব্যবসা ও স্টার্টআপগুলোর জন্য এটি একটি সাশ্রয়ী সমাধান হতে পারে। কারণ এত বড় মডেলও তুলনামূলক কম কম্পিউট রিসোর্সে চালানো যায়। শিক্ষার্থীরাও গবেষণা ও শেখার কাজে এই মডেল ব্যবহার করতে পারবেন।
Xiaomi-এর এই অগ্রগতি দেখায় যে বড় ভাষা মডেল তৈরির ক্ষেত্রেও দক্ষতা ও বুদ্ধিমত্তা দিয়ে সীমিত সম্পদে বড় সাফল্য অর্জন সম্ভব। ভবিষ্যতে আরও বেশি মডেল এই পদ্ধতি অনুসরণ করবে বলে আশা করা যায়। বাংলাদেশের প্রযুক্তি সম্প্রদায়ের জন্য এটি একটি উৎসাহব্যঞ্জক সংবাদ।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...