AI খরচে বড় সাশ্রয়: ব্যবসায়িক ইউনিটভিত্তিক চার্জব্যাক এখন সম্ভব
শুধু OpenAI বা Bedrock-এর ইনভয়েসের মোট খরচ দেখে ব্যবসায়িক ইউনিটে চার্জ করা যায় না। বিশেষজ্ঞরা বলছেন, রিয়েল-টাইমে রিকোয়েস্ট পর্যায়ে ডেটা ক্যাপচার করে নির্ভুল খরচ বণ্টন করা সম্ভব। এই পদ্ধতি বড় প্রতিষ্ঠানের জন্য সময় ও অর্থ বাঁচাতে পারে।
শুধু OpenAI বা Bedrock-এর ইনভয়েসের মোট খরচ দেখে ব্যবসায়িক ইউনিটে চার্জ করা যায় না। বিশেষজ্ঞরা বলছেন, রিয়েল-টাইমে রিকোয়েস্ট পর্যায়ে ডেটা ক্যাপচার করে নির্ভুল খরচ বণ্টন করা সম্ভব। এই পদ্ধতি বড় প্রতিষ্ঠানের জন্য সময় ও অর্থ বাঁচাতে পারে।
বাংলাদেশের শীর্ষস্থানীয় AI ও প্রযুক্তি সংবাদমাধ্যম AIখবর জানিয়েছে, বড় প্রতিষ্ঠানগুলোতে AI ব্যবহারের খরচ সঠিকভাবে ব্যবসায়িক ইউনিটভিত্তিক বণ্টন এখন একটি বড় চ্যালেঞ্জ হয়ে দাঁড়িয়েছে। dev.to AI-তে প্রকাশিত এক বিশ্লেষণে দেখা গেছে, OpenAI এবং Amazon Bedrock-এর দেওয়া মোট ইনভয়েসের পরিমাণ ব্যবসায়িক ইউনিটে চার্জব্যাকের জন্য যথেষ্ট নয়। এর কারণ হলো, এই ইনভয়েসগুলোতে কোন ইউনিট কত টোকেন ব্যবহার করেছে, কোন মডেল ব্যবহার করেছে বা কত রিকোয়েস্ট পাঠিয়েছে তার বিস্তারিত তথ্য থাকে না।
প্রতিষ্ঠানগুলো যদি শুধু মাস শেষে আসা মোট বিলের ওপর ভিত্তি করে খরচ বণ্টন করে, তাহলে অনেক সময় ভুল সিদ্ধান্ত নেওয়ার সম্ভাবনা থাকে। যেমন একটি বিভাগ হয়তো অপ্রয়োজনীয়ভাবে ব্যয়বহুল মডেল ব্যবহার করছে, কিন্তু সেই তথ্য বিল থেকে বোঝা যায় না। বিশেষজ্ঞরা বলছেন, সঠিক খরচ বণ্টনের জন্য রিকোয়েস্ট লেভেলে আইডেন্টিটি এবং প্রাইসিং ফিল্ড ক্যাপচার করা জরুরি। অর্থাৎ যখনই কোনো ইউজার বা সিস্টেম AI-তে রিকোয়েস্ট পাঠায়, তখনই সেই রিকোয়েস্টের সঙ্গে ইউনিটের নাম, ব্যবহৃত মডেল, ইনপুট ও আউটপুট টোকেনের সংখ্যা এবং সংশ্লিষ্ট খরচ সংরক্ষণ করতে হবে।
এই সমস্যার সমাধান হিসেবে একটি গেটওয়ে-কেন্দ্রিক প্যাটার্ন ব্যবহারের পরামর্শ দেওয়া হয়েছে। এই পদ্ধতিতে LiteLLM বা কাস্টম প্রক্সির সঙ্গে OpenTelemetry যুক্ত করে সব AI রিকোয়েস্ট একটি কেন্দ্রীয় পয়েন্ট দিয়ে পাঠানো হয়। OpenTelemetry GenAI সিম্যান্টিক কনভেনশন অনুযায়ী, gen_ai.usage.input_tokens এবং gen_ai.request.model-এর মতো অ্যাট্রিবিউট ক্যাপচার করলে খরচের হিসাব অনেক বেশি নির্ভুল হয়। এই পদ্ধতি শুধু অ্যাপ লেভেলের লগিং বা পরবর্তীকালে ইনভয়েস ভাগ করে নেওয়ার চেয়ে অনেক বেশি কার্যকর।
এই পদ্ধতি ব্যবহার করলে প্রতিষ্ঠানগুলো প্রতি মাসে নির্দিষ্টভাবে জানতে পারবে কোন বিভাগ কত খরচ করেছে। এর ফলে বাজেট পরিকল্পনা সহজ হবে এবং অপ্রয়োজনীয় খরচ কমানো সম্ভব হবে। যেমন একটি ব্যাংকিং প্রতিষ্ঠান বিভিন্ন শাখার জন্য আলাদা AI মডেল ব্যবহার করলে, গেটওয়ে প্যাটার্ন দিয়ে প্রতিটি শাখার খরচ আলাদাভাবে দেখতে পারবে।
বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং প্রযুক্তি উদ্যোক্তাদের জন্য এই তথ্য বিশেষ গুরুত্বপূর্ণ। যারা বড় অ্যাপ্লিকেশনে AI ইন্টিগ্রেশন করছেন, তারা এখন থেকেই এই পদ্ধতি অনুসরণ করে খরচ নিয়ন্ত্রণ করতে পারেন। বিশেষ করে ফ্রিল্যান্সারদের জন্য এটি বড় সুবিধা, কারণ তারা ক্লায়েন্টকে সুনির্দিষ্ট খরচের বিবরণ দিতে পারবেন। ছোট স্টার্টআপগুলোর জন্যও এটি কার্যকর, কারণ তারা সীমিত বাজেটের মধ্যে AI ব্যবহারের খরচ অপ্টিমাইজ করতে পারবে।
AIখবর মনে করে, ভবিষ্যতে আরও বেশি প্রতিষ্ঠান এই গেটওয়ে-কেন্দ্রিক পদ্ধতি গ্রহণ করবে। OpenTelemetry-এর মতো ওপেন সোর্স টুল ব্যবহার করে খরচ বণ্টন আরও সহজ ও স্বয়ংক্রিয় হবে। প্রতিষ্ঠানগুলোর এখনই এই পদ্ধতি পরীক্ষা করে দেখা উচিত, কারণ সঠিক খরচ বণ্টন দীর্ঘমেয়াদে বড় সাশ্রয় এনে দিতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...