বাংলাদেশি স্টার্টআপের মাসিক খরচ ১০ গুণ কমল, মান অটুট

ছয় মাস আগে একটি স্টার্টআপ OpenAI-এর বিলে রক্তক্ষরণের মুখে পড়েছিল। তাদের মাসিক খরচ ছিল $14,200। এই বিল তাদের রানওয়ে (কোম্পানির টিকে থাকার সময়) 18 মাস থেকে কমিয়ে 11 মাসে এনেছিল। কিছু না করলে কোম্পানির অস্তিত্বই বিপন্ন হয়ে পড়ত।

এখন সেই একই স্টার্টআপ তাদের LLM (লার্জ ল্যাঙ্গুয়েজ মডেল) খরচ 10 গুণ কমিয়েছে। মানের কোনো ক্ষতি হয়নি। তাদের নতুন মাসিক বিল এখন মাত্র $1,420। এই পরিবর্তন তারা এনেছে তাদের ইনফারেন্স লেয়ার (AI মডেলের উত্তর প্রদানের স্তর) পুরোপুরি নতুন করে তৈরি করে।

dev.to ML-এ প্রকাশিত একটি নিবন্ধে এই সম্পূর্ণ কৌশলটি তুলে ধরা হয়েছে। স্টার্টআপটির প্রধান প্রযুক্তি কর্মকর্তা (CTO) জানিয়েছেন, সঠিক LLM প্রদানকারী বাছাই করাই এখন স্টার্টআপের টিকে থাকার মূল চাবিকাঠি। এটি একটি "নিস টু হ্যাভ" (থাকলে ভালো) নয়, বরং একটি "মাস্ট হ্যাভ" (থাকতেই হবে) বিষয় হয়ে দাঁড়িয়েছে।

তারা কীভাবে এটি করেছে? প্রথমে তারা বুঝেছে, OpenAI-এর GPT-4 সব কাজের জন্য প্রয়োজনীয় নয়। তাদের অ্যাপ্লিকেশনের জন্য ছোট, সাশ্রয়ী মডেলই যথেষ্ট ছিল। তারা ওপেন সোর্স মডেল এবং অন্যান্য প্রদানকারীর API ব্যবহার শুরু করে। এর ফলে খরচ কমেছে, কিন্তু কোয়ালিটি (গুণগত মান) একই রয়েছে।

দ্বিতীয়ত, তারা একটি ক্যাশিং (পুনরায় ব্যবহারের জন্য তথ্য সংরক্ষণ) সিস্টেম তৈরি করেছে। একই প্রশ্ন বারবার মডেলকে না করে, আগের উত্তর সংরক্ষণ করে সেটি ব্যবহার করা হচ্ছে। এতে করে API কলের সংখ্যা কমে গেছে এবং খরচও কমেছে।

তৃতীয়ত, তারা মডেল রাউটিং (ঠিক কাজের জন্য ঠিক মডেল) ব্যবহার করছে। সহজ প্রশ্নের জন্য সস্তা মডেল, জটিল প্রশ্নের জন্য শক্তিশালী মডেল ব্যবহার করা হচ্ছে। এই কৌশলটি মোট খরচকে নাটকীয়ভাবে কমিয়ে দিয়েছে।

বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং স্টার্টআপ প্রতিষ্ঠাতাদের জন্য এই খবরটি অত্যন্ত গুরুত্বপূর্ণ। দেশে অনেক স্টার্টআপ AI-ভিত্তিক প্রোডাক্ট তৈরি করছে। কিন্তু তাদের অনেকের কাছেই মাসিক $14,200 খরচ বহন করা সম্ভব নয়। এই প্লেবুক অনুসরণ করে তারা নিজেদের খরচ 10 গুণ কমাতে পারে। ফলে তাদের রানওয়ে বাড়বে এবং ব্যবসা টিকিয়ে রাখা সহজ হবে।

শিক্ষার্থী এবং গবেষকরাও এই কৌশল থেকে উপকৃত হতে পারেন। বাজেট সীমিত থাকলেও তারা এখন বড় মডেল ব্যবহার করতে পারবেন। শুধু সঠিক প্রদানকারী এবং সঠিক কৌশল বাছাই করতে হবে।

ভবিষ্যতে আরও বেশি স্টার্টআপ এই ধরনের অপটিমাইজেশন (সর্বোত্তম ব্যবহার) কৌশল গ্রহণ করবে। LLM-এর খরচ কমানো এখন একটি প্রতিযোগিতার বিষয় হয়ে দাঁড়িয়েছে। যারা এটি করতে পারবে, তারাই বাজারে টিকে থাকবে।

আরও পড়ুন

• ওপেন সোর্সে স্যুইচ করে AI খরচ ৯৭% কমানো গেল, জানুন কীভাবে
• এক প্রকৌশলীর কৌশলে এলএলএম খরচ ৬০% কমানো, আউটেজ শূন্য
• মাসিক এলএলএম বিল ৯০% কমানো সম্ভব, জানুন টোকেনের সঠিক ব্যবহার