প্রোডাকশনে Qwen বনাম Claude 3: ৩০ দিনের পরীক্ষায় খরচ কমাল ৪০%
একটি প্রতিষ্ঠানের CTO 30 দিন ধরে প্রোডাকশনে Qwen ও Claude 3 মডেল পরীক্ষা করে দেখেছেন কোনটি খরচ ও পারফরম্যান্সে এগিয়ে। ফলাফল জানাবে এলএলএম ব্যয় কমানোর নতুন পথ।
একটি প্রতিষ্ঠানের CTO 30 দিন ধরে প্রোডাকশনে Qwen ও Claude 3 মডেল পরীক্ষা করে দেখেছেন কোনটি খরচ ও পারফরম্যান্সে এগিয়ে। ফলাফল জানাবে এলএলএম ব্যয় কমানোর নতুন পথ।
প্রোডাকশনে এলএলএম (Large Language Model) ব্যবহারের খরচ যখন মাসে পাঁচ অঙ্কে পৌঁছে যায়, তখন যে কোনো প্রযুক্তি প্রতিষ্ঠানের জন্য তা মাথাব্যথার কারণ হয়ে দাঁড়ায়। সম্প্রতি একটি প্রযুক্তি প্রতিষ্ঠানের CTO 30 দিন ধরে প্রোডাকশনে Alibaba-র Qwen এবং Anthropic-এর Claude 3 মডেল পরীক্ষা করে দেখেছেন। ফলাফল এসেছে চমকপ্রদ।
এই পরীক্ষার মূল লক্ষ্য ছিল সার্চ র্যাংকিং এবং কন্টেন্ট ক্লাসিফিকেশন পাইপলাইনে এলএলএম খরচ কমানো। প্রতিষ্ঠানটি আগে পুরো র্যাংকিং পাইপলাইনের জন্য Claude 3 ব্যবহার করত। কিন্তু বিল বেড়ে যাওয়ায় তারা বিকল্প খুঁজতে বাধ্য হয়।
30 দিনের এই পরীক্ষায় Qwen এবং Claude 3-কে একই কাজে ব্যবহার করে দেখা হয়। সার্চ রিলেভেন্সি এবং কন্টেন্ট ক্লাসিফিকেশন — এই দুই ক্ষেত্রে মডেল দুটির পারফরম্যান্স যাচাই করা হয়। ফলাফলে দেখা যায়, নির্দিষ্ট কিছু কাজে Qwen Claude 3-এর কাছাকাছি পারফরম্যান্স দিতে সক্ষম। কিন্তু খরচের দিক থেকে Qwen অনেক সাশ্রয়ী।
প্রতিষ্ঠানটি জানিয়েছে, Qwen ব্যবহার করে তারা এলএলএম ব্যয় প্রায় 60 শতাংশ কমাতে পেরেছে। পারফরম্যান্সের ক্ষেত্রে কিছু ক্ষেত্রে সামান্য পার্থক্য থাকলেও, বেশিরভাগ কাজেই Qwen গ্রহণযোগ্য মানের আউটপুট দিয়েছে। বিশেষ করে ব্যাচ প্রসেসিং এবং কম ক্রিটিক্যাল ক্লাসিফিকেশন টাস্কে Qwen দারুণ কাজ করেছে।
তবে Claude 3 এখনও কিছু জটিল কাজে এগিয়ে আছে। যেখানে উচ্চ নির্ভুলতা এবং গভীর বোধগম্যতা প্রয়োজন, সেখানে Claude 3-এর পারফরম্যান্স এখনো Qwen-এর চেয়ে ভালো। তাই প্রতিষ্ঠানটি হাইব্রিড পদ্ধতি গ্রহণ করেছে। সহজ কাজে Qwen, জটিল কাজে Claude 3 ব্যবহার করছে তারা।
বাংলাদেশের ডেভেলপার এবং স্টার্টআপগুলোর জন্য এই পরীক্ষার ফলাফল গুরুত্বপূর্ণ। স্থানীয় প্রতিষ্ঠানগুলো প্রায়ই সীমিত বাজেটে কাজ করে। Qwen-এর মতো ওপেন সোর্স বা কম খরচের মডেল ব্যবহার করে তারা এলএলএম খরচ কমাতে পারে। বিশেষ করে ই-কমার্স সার্চ, কন্টেন্ট মডারেশন এবং গ্রাহক সহায়তা অটোমেশনে এই পদ্ধতি কাজে লাগতে পারে।
এই পরীক্ষা প্রমাণ করে যে, প্রোডাকশনে এলএলএম ব্যবহারের সময় একটি মডেলের ওপর নির্ভর না করে হাইব্রিড পদ্ধতি গ্রহণ করা বুদ্ধিমানের কাজ। খরচ এবং পারফরম্যান্সের মধ্যে ভারসাম্য রেখে সঠিক মডেল নির্বাচন করলেই দীর্ঘমেয়াদে সফল হওয়া সম্ভব।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...