বাংলাদেশি ইঞ্জিনিয়ারের টুলে AI প্রম্পট খরচ কমবে ৩৫%
ডেটা ইঞ্জিনিয়ার হারমান সামিমি তৈরি করেছেন JTOKEN নামের একটি টুল যা JSON ফরম্যাটকে ফ্ল্যাট এনকোড করে LLM প্রম্পটের টোকেন খরচ 35% পর্যন্ত কমিয়ে দেয়। RAG পাইপলাইন, AI এজেন্ট ও স্ট্রাকচার্ড প্রম্পট ইঞ্জিনিয়ারিংয়ের জন্য এটি বিশেষভাবে উপযোগী।
ডেটা ইঞ্জিনিয়ার হারমান সামিমি তৈরি করেছেন JTOKEN নামের একটি টুল যা JSON ফরম্যাটকে ফ্ল্যাট এনকোড করে LLM প্রম্পটের টোকেন খরচ 35% পর্যন্ত কমিয়ে দেয়। RAG পাইপলাইন, AI এজেন্ট ও স্ট্রাকচার্ড প্রম্পট ইঞ্জিনিয়ারিংয়ের জন্য এটি বিশেষভাবে উপযোগী।
একজন বাংলাদেশি ডেটা ইঞ্জিনিয়ার তৈরি করেছেন JTOKEN নামের একটি ওপেন সোর্স টুল যা JSON ডেটার টোকেন ব্যবহার 35 শতাংশ পর্যন্ত কমিয়ে দেয়। টুলটি বিশেষভাবে ডিজাইন করা হয়েছে RAG পাইপলাইন, AI এজেন্ট এবং স্ট্রাকচার্ড প্রম্পট ইঞ্জিনিয়ারিংয়ের জন্য।
হারমান সামিমি নামের এই ডেভেলপার পেশাগতভাবে RAG পাইপলাইন তৈরি করেন। তিনি লক্ষ্য করেন যে তার প্রম্পটের একটি বড় অংশ জুড়ে থাকে JSON সিনট্যাক্সের অপ্রয়োজনীয় উপাদান। ব্র্যাকেট, কোটেশন, কমা, true, false, null — এসব চিহ্ন ও কীওয়ার্ড আসলে ল্যাঙ্গুয়েজ মডেলের কাছে পাঠানো ডেটার মূল অংশ নয়।
JTOKEN এই সমস্যার সমাধান করেছে। টুলটি JSON ডেটাকে একটি ফ্ল্যাট ফরম্যাটে এনকোড করে। এই ফ্ল্যাট ফরম্যাটে সিনট্যাক্সের কোনো ওভারহেড থাকে না। ফলে ল্যাঙ্গুয়েজ মডেলকে একই তথ্য বুঝতে অনেক কম টোকেন ব্যবহার করতে হয়।
টোকেন হলো ভাষার মডেলের জন্য তথ্যের সবচেয়ে ছোট একক। প্রতিটি টোকেন ব্যবহার করতে খরচ হয়। GPT-4 বা Claude-এর মতো মডেলের মাধ্যমে কাজ করলে টোকেন সংখ্যা কমানো মানেই সরাসরি খরচ কমানো। JTOKEN ব্যবহার করলে প্রতি 1000 টোকেনের জায়গায় মাত্র 650 টোকেন লাগে।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই টুল গুরুত্বপূর্ণ হতে পারে। যারা AI-ভিত্তিক অ্যাপ্লিকেশন তৈরি করেন তারা প্রম্পট অপ্টিমাইজ করে API খরচ কমাতে পারেন। বিশেষ করে যারা RAG পাইপলাইন বা AI এজেন্ট নিয়ে কাজ করেন তাদের জন্য এটি সময় ও অর্থ দুটোই বাঁচাবে।
JTOKEN ওপেন সোর্স হিসেবে প্রকাশিত হয়েছে। যে কেউ এটি ডাউনলোড করে নিজের প্রোজেক্টে ব্যবহার করতে পারবেন। টুলটি সহজেই পাইপলাইনে ইন্টিগ্রেট করা যায়। কোনো জটিল কনফিগারেশনের প্রয়োজন হয় না।
ভবিষ্যতে টুলটির আরও উন্নত ভার্সন আসতে পারে। হারমান সামিমি জানিয়েছেন তিনি আরও ফরম্যাট সাপোর্ট এবং আরও ভালো কম্প্রেশন রেশিও নিয়ে কাজ করছেন। বাংলাদেশের প্রযুক্তি দুনিয়ায় এই ধরনের উদ্ভাবন দেখে আশাবাদী হওয়া যায়।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...