মাল্টিমোডাল API-তে খরচ বাঁচানোর ৩ উপায়, জানাল তিন সপ্তাহের পরীক্ষা
একটি ডকুমেন্ট-প্রসেসিং পাইপলাইনে ভিশন API-এর বিল দ্বিতীয় বেতনের সমান হয়ে গিয়েছিল। তিন সপ্তাহের তুলনামূলক পরীক্ষায় উঠে এসেছে মাল্টিমোডাল মডেলের প্রকল্প স্থাপত্য পরিবর্তনের প্রয়োজনীয়তা।
একটি ডকুমেন্ট-প্রসেসিং পাইপলাইনে ভিশন API-এর বিল দ্বিতীয় বেতনের সমান হয়ে গিয়েছিল। তিন সপ্তাহের তুলনামূলক পরীক্ষায় উঠে এসেছে মাল্টিমোডাল মডেলের প্রকল্প স্থাপত্য পরিবর্তনের প্রয়োজনীয়তা।
একটি ডকুমেন্ট-প্রসেসিং পাইপলাইন তৈরির সময় একটি দল ভিশন API-এর খরচে হিমশিম খেয়েছে। বিলগুলো দ্বিতীয় বেতনের সমান হয়ে যাওয়ায় তারা তিন সপ্তাহ ধরে গ্লোবাল API-এর মাধ্যমে সব মাল্টিমোডাল মডেল পরীক্ষা করেছে। ফলাফলে তাদের ভিশন ফিচার স্থাপত্য বদলে ফেলার সিদ্ধান্ত এসেছে।
এই পরীক্ষা প্রমাণ করেছে যে শুধু দাম নয়, বরং প্রতি ডলারের বিপরীতে কর্মক্ষমতা মাপা জরুরি। দলটি বিভিন্ন মডেলের প্রাইসিং, টেস্ট ফলাফল এবং ট্রেডঅফ বিশ্লেষণ করেছে। তাদের অভিজ্ঞতা দেখায় যে সঠিক মডেল নির্বাচন করলেই প্রকল্পের খরচ কমানো সম্ভব।
প্রথমে তারা GPT-4 Vision এবং Claude 3 Opus-এর মতো বড় মডেল ব্যবহার করছিল। কিন্তু পরীক্ষায় দেখা গেছে, কিছু ছোট মডেল নির্দিষ্ট কাজে সমান ভালো ফল দিচ্ছে। উদাহরণস্বরূপ, একটি মডেল টেবিল ডেটা বের করতে GPT-4-এর তুলনায় ৩ গুণ দ্রুত ছিল। অন্যদিকে, আরেকটি মডেল হাতের লেখা চিনতে ৪০% কম খরচে একই নির্ভুলতা দেখিয়েছে।
তবে সব মডেলেরই নিজস্ব ট্রেডঅফ আছে। কিছু মডেল ছবির রেজোলিউশন কমিয়ে খরচ কমায়, কিন্তু তখন নির্ভুলতা পড়ে যায়। আরেকটি মডেল ভিডিও প্রসেসিংয়ে ভালো হলেও ছবির ডিটেকশনে পিছিয়ে পড়ে। দলটি প্রতিটি মডেলের জন্য আলাদা প্যারামিটার সেট করে পরীক্ষা চালিয়েছে।
বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই ফলাফল বিশেষ গুরুত্বপূর্ণ। স্থানীয় বাজারে API খরচ কমানো মানেই প্রতিযোগিতায় টিকে থাকা। ছোট স্টার্টআপ বা ফ্রিল্যান্সাররা বড় মডেলের পরিবর্তে অপ্টিমাইজড ছোট মডেল ব্যবহার করে খরচ ৫০% পর্যন্ত কমাতে পারে। শিক্ষার্থীরাও গবেষণার জন্য বিনামূল্যের বা কম খরচের মডেল বেছে নিতে পারে।
ভবিষ্যতে আরও বেশি কোম্পানি তাদের ভিশন ফিচারের জন্য হাইব্রিড পদ্ধতি ব্যবহার করবে। কিছু কাজে বড় মডেল, কিছুতে ছোট মডেল ব্যবহার করে খরচ ও কর্মক্ষমতার ভারসাম্য রাখা সম্ভব। এই পরীক্ষা প্রমাণ করেছে যে একক মডেলের ওপর নির্ভর না করে মিক্সড API স্ট্যাক ব্যবহার করাই এখন সবচেয়ে লাভজনক।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...