৪০ গুণ কমল AI খরচ, ওপেনএআই ছেড়ে সফল বাংলাদেশি স্টার্টআপের প্লেবুক
একজন সিটিও জানিয়েছেন কীভাবে তিনি তার কোম্পানির এলএলএম বিল ৪০ গুণ কমিয়েছেন। ওপেনএআই-এর অতিরিক্ত নির্ভরতাকে তিনি স্টার্টআপের বড় ভুল বলে চিহ্নিত করেছেন। এই নিবন্ধে সেই মাইগ্রেশন প্লেবুকের বিস্তারিত তুলে ধরা হচ্ছে।
একজন সিটিও জানিয়েছেন কীভাবে তিনি তার কোম্পানির এলএলএম বিল ৪০ গুণ কমিয়েছেন। ওপেনএআই-এর অতিরিক্ত নির্ভরতাকে তিনি স্টার্টআপের বড় ভুল বলে চিহ্নিত করেছেন। এই নিবন্ধে সেই মাইগ্রেশন প্লেবুকের বিস্তারিত তুলে ধরা হচ্ছে।
তিন মাস আগে একটি সিড-স্টেজ সাস কোম্পানির সিটিও তার মাসিক ইনফ্রাস্ট্রাকচার বিল দেখে হতবাক হয়েছিলেন। ওপেনএআই ক্রেডিটে খরচ এত বেড়ে গিয়েছিল যে তা কোম্পানির গ্রোথ মেট্রিক্সকেও ছাড়িয়ে গিয়েছিল। তিনি তখনই বুঝতে পারেন যে এই নির্ভরতা টেকসই নয়।
ডেভ.টু-তে প্রকাশিত একটি বিস্তারিত পোস্টে ওই সিটিও তার মাইগ্রেশন প্লেবুক শেয়ার করেছেন। তিনি দেখিয়েছেন কীভাবে ওপেনএআই-এর পরিবর্তে অন্যান্য মডেল ও কৌশল ব্যবহার করে খরচ ৪০ গুণ কমানো সম্ভব। তার মতে, স্টার্টআপগুলোর জন্য ওপেনএআই-এর ওপর অন্ধ নির্ভরতা সবচেয়ে বড় ভুলগুলোর একটি।
ওই সিটিও জানিয়েছেন, তারা প্রথমে তাদের ব্যবহারের প্যাটার্ন বিশ্লেষণ করেছে। তারা দেখেছে যে সব কাজের জন্য GPT-4 ব্যবহার করার দরকার নেই। ছোট ও সহজ কাজের জন্য ছোট মডেল যেমন Claude Haiku বা Mistral-7B যথেষ্ট। এভাবে তারা API কলের সংখ্যা ও খরচ দুটোই কমিয়েছে।
তিনি আরও জানিয়েছেন, ক্যাশিং ও ব্যাচ প্রসেসিং কৌশল ব্যবহার করে তারা পুনরাবৃত্তিমূলক প্রশ্নের জন্য বারবার API কল করা বন্ধ করেছে। এর ফলে খরচ আরও কমেছে। এছাড়া তারা নিজস্ব ছোট মডেল ফাইন-টিউন করে নির্দিষ্ট কাজের জন্য ব্যবহার শুরু করেছে।
ওপেনএআই-এর সহজ SDK ও ডকুমেন্টেশন সত্ত্বেও এই পরিবর্তন আনা কঠিন ছিল। কিন্তু দীর্ঘমেয়াদী সাশ্রয়ের কথা চিন্তা করে তারা এই পথ বেছে নিয়েছে। তাদের হিসাব অনুযায়ী, এখন মাসিক বিল আগের তুলনায় ৪০ গুণ কম।
বাংলাদেশের স্টার্টআপ ও ডেভেলপারদের জন্যও এই প্লেবুক গুরুত্বপূর্ণ। স্থানীয় অনেক স্টার্টআপ বিদেশি মুদ্রায় খরচ করে AI পরিষেবা নেয়। এই কৌশলগুলো ব্যবহার করলে তারা ডলার খরচ কমিয়ে দেশীয় বাজারে প্রতিযোগিতামূলক থাকতে পারবে। ফ্রিল্যান্সার ও শিক্ষার্থীরাও ছোট মডেল ব্যবহার করে নিজেদের প্রকল্প চালাতে পারবে।
ভবিষ্যতে আরও ছোট ও সাশ্রয়ী মডেল বাজারে আসবে। তাই শুধু একটি প্রদানকারীর ওপর নির্ভর না করে নিজেদের প্রয়োজন বুঝে সমাধান বেছে নেওয়াই বুদ্ধিমানের কাজ হবে। এই মাইগ্রেশন প্লেবুক সেই দিকেই ইঙ্গিত দিচ্ছে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...