৩০ বিলিয়ন প্যারামিটার AI মডেল এখন বাংলাদেশে ডাউনলোডযোগ্য, ফ্রিল্যান্সারদের কাজ বদলে দেবে
Unsloth North-Mini-Code-1.0-GGUF মডেলটি Hugging Face-এ প্রকাশিত হয়েছে। এটি Cohere-এর 30B A3B আর্কিটেকচারের উপর ভিত্তি করে তৈরি এবং llama.cpp-এর সাম্প্রতিক পুল রিকোয়েস্টের সাথে সম্পর্কিত।
Unsloth North-Mini-Code-1.0-GGUF মডেলটি Hugging Face-এ প্রকাশিত হয়েছে। এটি Cohere-এর 30B A3B আর্কিটেকচারের উপর ভিত্তি করে তৈরি এবং llama.cpp-এর সাম্প্রতিক পুল রিকোয়েস্টের সাথে সম্পর্কিত।
Unsloth টিম তাদের নতুন North-Mini-Code-1.0-GGUF মডেল Hugging Face-এ প্রকাশ করেছে। এই মডেলটি Cohere-এর 30B A3B আর্কিটেকচারের একটি GGUF কোয়ান্টাইজড সংস্করণ। Reddit-এর LocalLLaMA কমিউনিটিতে jacek2023 ইউজার এই খবরটি শেয়ার করেছেন।
এই মডেলটি llama.cpp-এর একটি সাম্প্রতিক পুল রিকোয়েস্টের সাথে সম্পর্কিত। পুল রিকোয়েস্ট নম্বর 24260 এ উন্নত সমর্থনের জন্য কাজ চলছে। GGUF ফরম্যাট ব্যবহারের ফলে মডেলটি ছোট ডিভাইসেও চালানো সম্ভব হবে।
Cohere 30B A3B একটি বিশেষ আর্কিটেকচার। এটি 30 বিলিয়ন প্যারামিটার নিয়ে গঠিত কিন্তু শুধুমাত্র 3 বিলিয়ন প্যারামিটার সক্রিয় রাখে। এই ডিজাইন মডেলটিকে দ্রুত ও কার্যকরী করে তোলে। GGUF কোয়ান্টাইজেশন মডেলের আকার আরও কমিয়ে দেয়।
বাংলাদেশের এআই ডেভেলপার ও গবেষকদের জন্য এই মডেল গুরুত্বপূর্ণ। GGUF ফরম্যাটের কারণে সীমিত GPU বা CPU ব্যবহার করেও বড় মডেল চালানো সম্ভব। ফ্রিল্যান্সার ও শিক্ষার্থীরা স্থানীয়ভাবে এই মডেল টেস্ট করতে পারবেন।
Unsloth টিম আগেও বিভিন্ন মডেলের GGUF ভার্সন প্রকাশ করেছে। তাদের কাজ ছোট ডিভাইসে বড় মডেল ব্যবহারের পথ সুগম করছে। ভবিষ্যতে আরও মডেলের GGUF ভার্সন আসতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/LocalLLaMA
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...