16GB ল্যাপটপেই চালান AI, পাটিগণিতে deepseek-r1:1.5b সেরা!
16GB ল্যাপটপে 4টি ছোট লোকাল AI মডেলের তুলনামূলক পরীক্ষায় দেখা গেছে, কোনো একক মডেল সব বিভাগে সেরা নয়। পাটিগণিতে deepseek-r1:1.5b সেরা, আর তথ্য আহরণে llama3.2:3b অপ্রতিদ্বন্দ্বী।
16GB ল্যাপটপে 4টি ছোট লোকাল AI মডেলের তুলনামূলক পরীক্ষায় দেখা গেছে, কোনো একক মডেল সব বিভাগে সেরা নয়। পাটিগণিতে deepseek-r1:1.5b সেরা, আর তথ্য আহরণে llama3.2:3b অপ্রতিদ্বন্দ্বী।
ছোট লোকাল AI মডেলগুলো কি বড় মডেলের চেয়ে কোনো কাজে ভালো? সম্প্রতি এক পরীক্ষায় দেখা গেছে, 16GB RAM-এর ল্যাপটপে চালানো 4টি ছোট মডেলের মধ্যে কোনো একটিই সব বিভাগে সেরা নয়। dev.to-তে প্রকাশিত এক বেঞ্চমার্কে উঠে এসেছে, কাজভেদে সেরা মডেল বদলে যায়।
পরীক্ষাটি করেছে একজন ডেভেলপার, যার Ollama-তে 7টি মডেল ছিল কিন্তু কোন কাজে কোনটি ব্যবহার করবেন তা তিনি জানতেন না। তাই তিনি নিজেই সব মডেল পরীক্ষা করার সিদ্ধান্ত নেন। 16GB ল্যাপটপে 152টি জেনারেশন চালিয়ে তিনি ফলাফল বের করেন। সবচেয়ে বড় কথা, এই পরীক্ষায় কোনো LLM জাজ ব্যবহার করা হয়নি, অর্থাৎ দ্বিতীয় কোনো মডেলের পক্ষপাত এড়ানো হয়েছে।
ফলাফলে দেখা গেছে, পাটিগণিতের 12টি প্রশ্নে deepseek-r1:1.5b মডেলটি 10টি সঠিক উত্তর দিয়েছে, যা সবচেয়ে ভালো। অন্যদিকে, তথ্য আহরণের 9টি কাজে llama3.2:3b মডেলটি 9টিই সঠিকভাবে করেছে। gemma:2b এবং codellama 7b-এর ফলাফল তুলনামূলকভাবে দুর্বল ছিল।
এই পরীক্ষার পদ্ধতি ছিল খুবই কঠোর। প্রতিটি উত্তরের জন্য নির্দিষ্ট নিয়ম ছিল, যেমন সঠিক সংখ্যা, সঠিক স্ট্রিং, JSON ফিল্ড বা regex ম্যাচ। কোনো নমনীয়তা ছিল না, তাই ফলাফলকে নির্ভরযোগ্য ধরা যায়। ডেভেলপাররা জানেন, ছোট মডেল দ্রুত চলে এবং কম মেমোরি খরচ করে, কিন্তু তাদের সামর্থ্য নিয়ে অনেকেরই দ্বিধা থাকে। এই পরীক্ষা সেই দ্বিধা দূর করেছে।
বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং শিক্ষার্থীদের জন্য এই ফলাফল খুবই গুরুত্বপূর্ণ। যাদের কাছে উচ্চক্ষমতাসম্পন্ন GPU নেই, তারা এখন নিশ্চিন্তে ছোট মডেল ব্যবহার করতে পারেন। যেমন, পাটিগণিতের কাজে deepseek-r1:1.5b, আর তথ্য আহরণের কাজে llama3.2:3b ব্যবহার করা যেতে পারে। এতে করে ইন্টারনেট সংযোগ ছাড়াই দ্রুত ও নির্ভরযোগ্য সমাধান পাওয়া সম্ভব।
এই পরীক্ষার সবচেয়ে বড় শিক্ষা হলো, মডেল বাছাইয়ের আগে কাজের ধরন বুঝে নেওয়া উচিত। কোনো মডেলই সব কাজে সেরা নয়, তাই প্রয়োজনের ভিত্তিতে সঠিক মডেল নির্বাচন করলেই সবচেয়ে ভালো ফল পাওয়া যায়। ভবিষ্যতে আরও ছোট ও কার্যকর মডেল আসবে, কিন্তু এই পরীক্ষা প্রমাণ করেছে যে আপাতদৃষ্টিতে ছোট মডেলগুলোও বড় কাজ করতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...