আইনি খরচ ৬৫% কমাবে GPT-4o, জানুন বাংলাদেশি ফ্রিল্যান্সারদের জন্য লাভ
GPT-4o-তে আইনি ডকুমেন্ট রিভিউ করতে প্রতি মিলিয়ন আউটপুট টোকেনে খরচ হয় ১০ ডলার। একজন ডেভেলপার সস্তা বিকল্প খুঁজে সেই খরচ ৬৫ শতাংশ কমিয়ে এনেছেন। কীভাবে সম্ভব হয়েছে তা জানাচ্ছে AIখবর।
GPT-4o-তে আইনি ডকুমেন্ট রিভিউ করতে প্রতি মিলিয়ন আউটপুট টোকেনে খরচ হয় ১০ ডলার। একজন ডেভেলপার সস্তা বিকল্প খুঁজে সেই খরচ ৬৫ শতাংশ কমিয়ে এনেছেন। কীভাবে সম্ভব হয়েছে তা জানাচ্ছে AIখবর।
AI দিয়ে আইনি ডকুমেন্ট রিভিউ করানো এখন অনেক প্রতিষ্ঠানের জন্য সাধারণ ব্যাপার। কিন্তু এর খরচ অনেক সময় হাতের বাইরে চলে যায়। GPT-4o-র মতো শক্তিশালী মডেল ব্যবহার করলে প্রতি মিলিয়ন আউটপুট টোকেনে খরচ হয় ১০ ডলার। সপ্তাহে মিলিয়ন টোকেন ধরে কাজ করলে মাস শেষে বিল আসে মর্টগেজ পেমেন্টের মতো।
একজন খরচ-সচেতন ডেভেলপার এই সমস্যার সমাধান খুঁজে বের করেছেন। তিনি dev.to-তে একটি পোস্টে জানিয়েছেন কীভাবে নিজের AI আইনি ডকুমেন্ট রিভিউ বিল ৬৫ শতাংশ কমিয়েছেন। তার দাবি, সঠিক টুল এবং অপটিমাইজেশন কৌশল ব্যবহার করলে বিপুল অঙ্কের টাকা বাঁচানো সম্ভব।
তার মতে, প্রথম কাজ ছিল সবচেয়ে দামি মডেলের বদলে কাজের জন্য যথেষ্ট সস্তা মডেল বেছে নেওয়া। GPT-4o-র বদলে তিনি GPT-4o mini বা অন্যান্য ওপেন সোর্স মডেল ব্যবহার করেছেন। এই মডেলগুলোর খরচ অনেক কম কিন্তু আইনি ডকুমেন্ট বোঝার ক্ষমতা মোটামুটি ভালো।
দ্বিতীয় গুরুত্বপূর্ণ কৌশল ছিল প্রম্পট ইঞ্জিনিয়ারিং। তিনি দেখেছেন, ছোট এবং নির্দিষ্ট প্রম্পট ব্যবহার করলে আউটপুট টোকেনের সংখ্যা নাটকীয়ভাবে কমে যায়। অপ্রয়োজনীয় ব্যাখ্যা বাদ দিয়ে শুধু প্রয়োজনীয় উত্তর চেয়েছেন। এতে প্রতি রিকোয়েস্টে খরচ কমেছে ৪০ থেকে ৫০ শতাংশ।
তৃতীয় কৌশল ছিল ব্যাচ প্রসেসিং। তিনি একসঙ্গে অনেক ডকুমেন্ট পাঠিয়ে API কলের সংখ্যা কমানোর চেষ্টা করেছেন। অনেক AI সার্ভিস ব্যাচ প্রসেসিংয়ে ডিসকাউন্ট দেয়। এই তিনটি কৌশল একসঙ্গে ব্যবহার করেই তিনি ৬৫ শতাংশ খরচ কমানোর সাফল্য পেয়েছেন।
বাংলাদেশের প্রেক্ষাপটে এই খবরটি বিশেষভাবে গুরুত্বপূর্ণ। দেশের ফ্রিল্যান্সার এবং আইনি সহায়তা প্রদানকারী স্টার্টআপগুলো প্রায়ই সীমিত বাজেটে কাজ করে। এই কৌশলগুলো ব্যবহার করে তারা নিজেদের সেবার মান বজায় রেখে খরচ কমাতে পারবে। আইনি ডকুমেন্ট রিভিউ, চুক্তি বিশ্লেষণ এবং মামলার সারসংক্ষেপ তৈরিতে AI ব্যবহার বাড়ছে। খরচ কমানো মানে আরও বেশি ক্লায়েন্টের কাছে সেবা পৌঁছে দেওয়া সম্ভব হবে।
ভবিষ্যতে AI মডেলের দাম আরও কমবে বলে আশা করা যায়। কিন্তু আপাতত এই অপটিমাইজেশন কৌশলগুলোই সবচেয়ে কার্যকর। ডেভেলপাররা যদি সঠিক মডেল নির্বাচন, প্রম্পট ইঞ্জিনিয়ারিং এবং ব্যাচ প্রসেসিং ব্যবহার করেন তাহলে AI খরচ নিয়ন্ত্রণে রাখা সম্ভব। আইনি খাতের পাশাপাশি অন্য যেকোনো উচ্চ-ভলিউম টোকেন ওয়ার্কলোডের জন্যও এই পদ্ধতি কাজ করবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...