৩৫ হাজার কলের পরও খরচ জানাতে ব্যর্থ AI, বাংলাদেশি ডেভেলপারদের জন্য সতর্কবার্তা
একটি AI সিস্টেম 35,669টি LLM কলের বিস্তারিত টেলিমেট্রি ডেটা সংগ্রহ করলেও ব্যবহারকারীর মাসিক ব্যয় নির্ধারণ করতে পারেনি। dev.to-র প্রতিবেদনে দেখা যাচ্ছে, টোকেন ও সময়সীমার মতো তথ্য খরচ বিশ্লেষণের জন্য যথেষ্ট নয়। ডেভেলপারদের জন্য এটি একটি বড় চ্যালেঞ্জ হয়ে দাঁড়িয়েছে।
একটি AI সিস্টেম 35,669টি LLM কলের বিস্তারিত টেলিমেট্রি ডেটা সংগ্রহ করলেও ব্যবহারকারীর মাসিক ব্যয় নির্ধারণ করতে পারেনি। dev.to-র প্রতিবেদনে দেখা যাচ্ছে, টোকেন ও সময়সীমার মতো তথ্য খরচ বিশ্লেষণের জন্য যথেষ্ট নয়। ডেভেলপারদের জন্য এটি একটি বড় চ্যালেঞ্জ হয়ে দাঁড়িয়েছে।
একটি AI সিস্টেম 35,669টি লার্জ ল্যাঙ্গুয়েজ মডেল (LLM) কলের সম্পূর্ণ লগ রেকর্ড করলেও ব্যবহারকারীর মাসিক ব্যয় নির্ধারণ করতে পারেনি। dev.to-র একটি প্রতিবেদনে এই চমকে দেওয়া তথ্য উঠে এসেছে। সিস্টেমটির টেলিমেট্রি ডেটায় প্রম্পট টোকেন, কমপ্লিশন টোকেন, সময়কাল, কগনিটিভ রোল, মডেল স্ন্যাপশট, টাইমস্ট্যাম্প এবং প্রাইভেসি লেভেলের মতো বিস্তারিত তথ্য ছিল। কিন্তু যখন লিড ডেভেলপার গত এক মাসের LLM কাজের খরচ জানতে চেয়েছিলেন, তখন ডেটাবেস কোনো উত্তর দিতে পারেনি।
এই ঘটনা শুধু একটি সিস্টেমের সীমাবদ্ধতা নয়, বরং পুরো AI ইকোসিস্টেমের একটি বড় সমস্যা তুলে ধরেছে। বর্তমানে বেশিরভাগ AI অ্যাপ্লিকেশন LLM কলের সংখ্যা ও টোকেন গণনা করে, কিন্তু প্রকৃত আর্থিক ব্যয় নির্ধারণে তারা ব্যর্থ হয়। কারণ বিভিন্ন মডেল প্রদানকারীর ভিন্ন ভিন্ন মূল্য কাঠামো রয়েছে। উদাহরণস্বরূপ, OpenAI-র GPT-4 টোকেন প্রতি একটি মূল্য নেয়, যেখানে Claude 3.5 Sonnet ভিন্ন হারে চার্জ করে। কিছু প্রদানকারী ইনপুট ও আউটপুট টোকেনের জন্য আলাদা মূল্য নির্ধারণ করে, আবার কেউ কেউ ক্যাশিং বা ব্যাচ প্রসেসিংয়ের জন্য ডিসকাউন্ট দেয়।
ডেভেলপাররা খরচ অনুমানের জন্য টোকেন কাউন্ট ও সময়সীমার ওপর নির্ভর করলেও এই তথ্যগুলো অপর্যাপ্ত। টেলিমেট্রি ডেটায় প্রায়ই মডেল সংস্করণ, রিজিয়ন ভিত্তিক মূল্য পার্থক্য এবং ডিসকাউন্টের মতো গুরুত্বপূর্ণ তথ্য থাকে না। একটি LLM কলের খরচ নির্ধারণ করতে হলে ইনপুট টোকেন সংখ্যা, আউটপুট টোকেন সংখ্যা, মডেলের সঠিক সংস্করণ, ব্যবহারের সময়, রিজিয়ন এবং কোনো প্রোমোশনাল ক্রেডিট ব্যবহার হয়েছে কিনা—এই সব তথ্য একসঙ্গে জানা প্রয়োজন। বর্তমান লগিং সিস্টেমগুলো এই জটিলতা সামাল দিতে পারে না।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই সমস্যা আরও গুরুতর। স্থানীয় অনেক স্টার্টআপ ও ফ্রিল্যান্সার AI ভিত্তিক প্রজেক্টে কাজ করছেন, কিন্তু সঠিক খরচ অনুমান না থাকায় তারা বাজেট ওভাররানের ঝুঁকিতে পড়েন। ছোট ব্যবসাগুলো প্রায়ই বুঝতে পারে না যে তাদের AI চ্যাটবট বা অটোমেশন সিস্টেম আসলে কত টাকা খরচ করছে। একটি ক্লায়েন্ট প্রজেক্টে ১০ হাজার LLM কল করতে পারে, কিন্তু মাস শেষে বিল দেখে চমকে যেতে হয়। কারণ তারা জানত না যে প্রতিটি কলের পেছনে আলাদা আলাদা খরচ লুকিয়ে আছে।
এই সমস্যার সমাধানে ডেভেলপারদের আরও স্মার্ট কস্ট ট্র্যাকিং টুল তৈরি করতে হবে। কিছু কোম্পানি ইতিমধ্যে LLM খরচ মনিটরিং প্ল্যাটফর্ম চালু করেছে, যেখানে রিয়েল টাইমে প্রতিটি কলের খরচ দেখা যায়। কিন্তু এই টুলগুলো এখনো ব্যাপকভাবে গ্রহণযোগ্য হয়নি। ভবিষ্যতে AI সিস্টেমের টেলিমেট্রি ডেটায় খরচের তথ্য যুক্ত করা বাধ্যতামূলক হয়ে উঠবে। তবেই ডেভেলপাররা তাদের AI প্রজেক্টের প্রকৃত ব্যয় বুঝতে পারবেন এবং আরও কার্যকরী ও সাশ্রয়ী সমাধান তৈরি করতে সক্ষম হবেন।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...