টেলিকমে AI ব্যবহারে টোকেন খরচ বাড়ছে, জেনে নিন বাঁচার উপায়

ইউটিলিটি এবং টেলিকমিউনিকেশনস অপারেটররা বর্তমানে বৃহৎ ভাষা মডেল (LLM) ব্যবহারে ব্যাপক আর্থিক চাপের সম্মুখীন হচ্ছে। dev.to AI-এর এক নতুন প্রতিবেদনে দেখা গেছে, টোকেন-ভিত্তিক মূল্য নির্ধারণ পদ্ধতি এই খাতের জন্য ব্যয় নিয়ন্ত্রণকে কঠিন করে তুলেছে। নেটওয়ার্ক টপোলজি লগ, এফসিসি বা পাবলিক ইউটিলিটি কমিশনের ফাইলিং এবং কয়েক দশকের রক্ষণাবেক্ষণ রেকর্ডের মতো বিপুল নথি প্রক্রিয়াকরণে ইনপুট টোকেনের সংখ্যা আউটপুট টোকেনের চেয়ে অনেক বেশি হয়। এই ভারসাম্যহীনতা সরাসরি বিল বাড়িয়ে দেয় এবং ব্যয় পূর্বাভাস প্রায় অসম্ভব করে তোলে।

প্রতিটি এলএলএম প্রশ্নের জন্য ব্যবহারকারীকে টোকেন অনুযায়ী মূল্য দিতে হয়। একটি টোকেন হলো শব্দের অংশ বা অক্ষর, যা মডেল প্রক্রিয়া করে। ইউটিলিটি এবং টেলিকম কোম্পানিগুলোর কাজে নিয়মিতভাবে বিপুল পরিমাণ তথ্য ইনপুট করতে হয়। উদাহরণস্বরূপ, একটি কমপ্লায়েন্স অডিটের সময় পুরনো রেকর্ড, নিয়ন্ত্রক নথি এবং গ্রাহক সার্ভিস ট্রান্সক্রিপ্ট পড়তে হয়। এই সব ইনপুট টোকেনের সংখ্যা কয়েক হাজার থেকে লাখ লাখ পর্যন্ত হতে পারে। অন্যদিকে আউটপুট টোকেন, অর্থাৎ মডেলের উত্তর, তুলনামূলকভাবে খুব কম হয়। এর ফলে প্রতি কিলোটোকেন (হাজার টোকেন) ইনপুটের জন্য খরচ দ্রুত বেড়ে যায় এবং বাজেট তৈরি করা কঠিন হয়ে পড়ে।

এই সমস্যা শুধু বড় কোম্পানির মধ্যে সীমাবদ্ধ নয়। ফিল্ড টেকনিশিয়ানদের জন্য মোবাইল অ্যাপ বা অভ্যন্তরীণ টুল তৈরি করতে গিয়েও একই চ্যালেঞ্জ দেখা দেয়। টোকেন মূল্যের ওঠানামা এবং অপ্রত্যাশিত ইনপুট ভলিউমের কারণে দলের ব্যয় নিয়ন্ত্রণ করা কঠিন হয়ে পড়ে। dev.to AI-এর বিশ্লেষণে বলা হয়েছে, বর্তমান মূল্য মডেলের অধীনে দীর্ঘমেয়াদি পরিকল্পনা করা প্রায় অসম্ভব। কোম্পানিগুলোকে এখন নতুন কৌশল খুঁজতে হবে, যেমন প্রম্পট অপটিমাইজেশন, ক্যাশিং বা ছোট মডেল ব্যবহার করে খরচ কমানো। কিছু প্রতিষ্ঠান ওপেন সোর্স মডেল বা নিজস্ব সার্ভারে মডেল চালানোর দিকেও নজর দিচ্ছে।

বাংলাদেশের প্রেক্ষাপটেও এই খবর গুরুত্বপূর্ণ। দেশের টেলিকম অপারেটর এবং ইউটিলিটি কোম্পানিগুলো ক্রমশ AI-নির্ভর সেবা চালু করছে। উদাহরণস্বরূপ, গ্রাহক সেবায় চ্যাটবট বা নেটওয়ার্ক মনিটরিংয়ে এলএলএম ব্যবহার বাড়ছে। কিন্তু টোকেন মূল্যের এই জটিলতা বাংলাদেশি প্রতিষ্ঠানের জন্য বড় আর্থিক বোঝা তৈরি করতে পারে। স্থানীয় ডেভেলপার এবং স্টার্টআপদের জন্য এই সমস্যা সমাধানে সাশ্রয়ী কৌশল উদ্ভাবনের সুযোগ রয়েছে। যেমন ছোট মডেল বা ডোমেইন-নির্দিষ্ট সমাধান তৈরি করা।

ভবিষ্যতে এলএলএম প্রদানকারীদের আরও স্বচ্ছ মূল্য কাঠামো এবং অপ্টিমাইজেশন টুল দেওয়ার প্রয়োজন হবে। ততক্ষণ পর্যন্ত ইউটিলিটি এবং টেলিকম কোম্পানিগুলোকে নিজেদের ব্যয় নিয়ন্ত্রণের জন্য সক্রিয় পদক্ষেপ নিতে হবে। টোকেন ব্যবস্থাপনার সঠিক পরিকল্পনা না থাকলে AI গ্রহণের সুবিধা খরচের চাপে ম্লান হয়ে যেতে পারে।

আরও পড়ুন

• ৩৫ হাজার কলের পরও খরচ জানাতে ব্যর্থ AI, বাংলাদেশি ডেভেলপারদের জন্য সতর্কবার্তা
• ক্লডে ব্যবহারে টোকেন নষ্ট হচ্ছে, ডেভেলপারদের জন্য জরুরি সমাধান
• AI চ্যাটবট বানাতে গেলে যে ৩ চ্যালেঞ্জ সামলাতে হবে, না হলে লাভ হবে না