বাংলাদেশি ডেভেলপারদের জন্য সুখবর: AI মডেল এখন সহজেই ব্যবহার করুন
Mellum এবং Granite এম্বেডিং মডেল এখন জনপ্রিয় টুল llama.cpp-এ ব্যবহার করা যাবে। দুটি পুল রিকোয়েস্ট এই সাপোর্ট এনেছে। ব্যবহারকারীদের সর্বশেষ ভার্সন আপডেট করতে হবে।
Mellum এবং Granite এম্বেডিং মডেল এখন জনপ্রিয় টুল llama.cpp-এ ব্যবহার করা যাবে। দুটি পুল রিকোয়েস্ট এই সাপোর্ট এনেছে। ব্যবহারকারীদের সর্বশেষ ভার্সন আপডেট করতে হবে।
লোকাল এআই মডেল চালানোর জন্য বহুল ব্যবহৃত টুল llama.cpp এখন Mellum এবং Granite এম্বেডিং মডেল সমর্থন করে। রেডিটের r/LocalLLaMA কমিউনিটিতে এই খবর প্রকাশিত হয়েছে। ব্যবহারকারীরা এখন এই মডেলগুলো তাদের নিজস্ব ডিভাইসে চালাতে পারবেন।
এই সাপোর্ট যোগ করার জন্য দুটি পুল রিকোয়েস্ট জমা দেওয়া হয়েছে। প্রথমটি হলো PR #23966 এবং দ্বিতীয়টি PR #22716। এই পুল রিকোয়েস্ট দুটি গিটহাব রিপোজিটরিতে মার্জ করা হয়েছে। ব্যবহারকারীদের জন্য এটি একটি বড় সুবিধা নিয়ে এসেছে।
এম্বেডিং মডেলগুলো সাধারণত টেক্সটকে ভেক্টরে রূপান্তর করে। এই ভেক্টর ব্যবহার করে সার্চ, ক্লাসিফিকেশন বা রিকমেন্ডেশন সিস্টেম তৈরি করা যায়। Mellum এবং Granite মডেলগুলো এই কাজে বিশেষভাবে কার্যকর। নতুন সাপোর্টের ফলে ডেভেলপাররা এখন আরও সহজে এই মডেল ব্যবহার করতে পারবেন।
llama.cpp হলো একটি ওপেন সোর্স লাইব্রেরি যা বিভিন্ন এআই মডেল লোকালি চালানোর সুযোগ দেয়। এটি সিপিইউ এবং জিপিইউ উভয়েই কাজ করে। নতুন এই আপডেটের পর ব্যবহারকারীদের তাদের সফটওয়্যার সর্বশেষ ভার্সনে আপডেট করতে হবে। পুরনো ভার্সনে এই মডেল কাজ করবে না।
বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এটি একটি গুরুত্বপূর্ণ খবর। তারা এখন তাদের নিজস্ব কম্পিউটারে Mellum এবং Granite মডেল চালিয়ে টেক্সট প্রসেসিং অ্যাপ্লিকেশন তৈরি করতে পারবেন। এর জন্য কোনো ক্লাউড সার্ভিস বা এপিআই কী প্রয়োজন হবে না। এটি খরচ কমাবে এবং গোপনীয়তা রক্ষা করবে।
স্থানীয়ভাবে এআই মডেল চালানোর প্রবণতা বিশ্বজুড়ে বাড়ছে। বাংলাদেশের শিক্ষার্থী এবং গবেষকরাও এই সুবিধা নিতে পারবেন। তারা নতুন প্রজেক্টে এই মডেল ব্যবহার করে আরও উন্নত সমাধান তৈরি করতে পারবেন।
ভবিষ্যতে আরও এম্বেডিং মডেল llama.cpp-এ যুক্ত হবে বলে আশা করা যায়। ডেভেলপাররা নিয়মিত আপডেট চেক করে রাখতে পারেন। এই আপডেট লোকাল এআই ব্যবহারের ক্ষেত্রে একটি বড় পদক্ষেপ।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/LocalLLaMA
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...