দীর্ঘ আউটপুটে AI ভুলে যায় আপনাকে, জানুন সমাধান যা আপনার কাজ বাঁচাবে

আপনি একটি AI মডেলকে 400 শব্দের নির্ভুল নির্দেশনা দিলেন। প্রথম 50 টোকেনের আউটপুট নিখুঁত হলো। কিন্তু 200 টোকেন পর ফরম্যাটিং এলোমেলো হতে শুরু করল। 800 টোকেন পেরোতেই মডেলটি আপনার দেওয়া ব্যক্তিত্ব ভুলে গেল, নেতিবাচক শর্ত উপেক্ষা করল এবং সাধারণ ফিলার তথ্য হ্যালুসিনেট করতে লাগল। এটি আপনার দোষ নয়। এটি হলো প্রম্পট ড্রিফট, যা দীর্ঘ কনটেক্সট উইন্ডোর সময় গাণিতিক সীমাবদ্ধতার একটি অনিবার্য ক্ষয়।

প্রযুক্তি বিশ্লেষকরা একে বাগ বা ব্যবহারকারীর ভুল বলেন না। dev.to AI-এর সাম্প্রতিক একটি গবেষণা নিবন্ধে বলা হয়েছে, প্রম্পট ড্রিফট হলো অ্যাটেনশন মেকানিজমের পদার্থবিজ্ঞানের একটি পূর্বাভাসযোগ্য ফল। যখন একটি Large Language Model (LLM) দীর্ঘ আউটপুট তৈরি করে, তখন তার অ্যাটেনশন মেকানিজম ধীরে ধীরে প্রাথমিক নির্দেশনার ওপর থেকে ফোকাস হারায়। মডেলটি নতুন টোকেনগুলোর মধ্যে সম্পর্ক খুঁজতে গিয়ে পুরনো নির্দেশনা ভুলে যায়।

এই সমস্যার মূল কারণ হলো ট্রান্সফর্মার আর্কিটেকচারের সীমাবদ্ধতা। প্রতিটি নতুন টোকেন তৈরি হওয়ার সাথে সাথে অ্যাটেনশন ওয়েট বিতরণ পরিবর্তিত হয়। দীর্ঘ কনটেক্সট উইন্ডোতে প্রাথমিক নির্দেশনার ওজন কমতে থাকে। গবেষকরা দেখেছেন, 1000 টোকেনের পর প্রাথমিক নির্দেশনার প্রভাব প্রায় 60 শতাংশ কমে যায়। এর ফলে মডেলটি তার নিজস্ব পক্ষপাত এবং সাধারণ জ্ঞানের ওপর নির্ভর করতে শুরু করে, যা প্রায়ই ব্যবহারকারীর নির্দেশনার সাথে মেলে না।

বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং শিক্ষার্থীদের জন্য এই গবেষণা অত্যন্ত গুরুত্বপূর্ণ। যারা ChatGPT, Claude বা অন্যান্য LLM ব্যবহার করে দীর্ঘ কনটেন্ট তৈরি করেন, তারা প্রায়ই লক্ষ্য করেন যে আউটপুটের শেষের দিকের অংশ প্রথম দিকের চেয়ে কম নির্ভুল হয়। এটি ব্যবহারকারীর নির্দেশনার দুর্বলতা নয়, বরং মডেলের অভ্যন্তরীণ সীমাবদ্ধতা। ফ্রিল্যান্সাররা যখন ক্লায়েন্টের জন্য ২০০০ শব্দের রিপোর্ট তৈরি করেন, তখন শেষের দিকে ব্যক্তিত্ব বা স্টাইল ভুলে যাওয়ার ঘটনা ঘটে।

সমাধানের জন্য গবেষকরা কিছু পদ্ধতি সুপারিশ করেছেন। প্রথমত, দীর্ঘ আউটপুটকে ছোট ছোট ভাগে ভাগ করে প্রতিটি ভাগের জন্য আলাদা নির্দেশনা দেওয়া। দ্বিতীয়ত, গুরুত্বপূর্ণ নির্দেশনা যেমন ব্যক্তিত্ব বা নেতিবাচক শর্ত আউটপুটের মাঝখানে পুনরায় উল্লেখ করা। তৃতীয়ত, কনটেক্সট উইন্ডোর আকার সীমিত রাখা এবং মডেলকে বারবার রিফ্রেশ করা। কিছু উন্নত টুল ইতিমধ্যেই এই পদ্ধতি ব্যবহার করে প্রম্পট ড্রিফট কমানোর চেষ্টা করছে।

ভবিষ্যতে ট্রান্সফর্মার আর্কিটেকচারের উন্নতি এবং নতুন অ্যাটেনশন মেকানিজম যেমন স্লাইডিং উইন্ডো অ্যাটেনশন বা স্পার্স অ্যাটেনশন এই সমস্যা আরও কমাতে পারে। তবে আপাতত ব্যবহারকারীদের সচেতন থাকতে হবে এবং দীর্ঘ আউটপুটের সময় সতর্কতা অবলম্বন করতে হবে। প্রম্পট ড্রিফট একটি প্রাকৃতিক ঘটনা, কিন্তু সঠিক কৌশল ব্যবহার করে এর প্রভাব কমানো সম্ভব।

আরও পড়ুন

• AI এখনো কিছু মনে রাখে না, আপনার চ্যাট শেষেই সব ভুলে যায়
• AI মডেলের ভুলে যাওয়ার সমস্যার সমাধান, জানুন কী লাভ হবে বাংলাদেশে
• AI এজেন্ট ব্যর্থ হলে আপনার ফ্রিল্যান্সিং কাজ থমকে যাবে, কারণটা জানেন?