বড় কনটেক্সট উইন্ডো মেমরি নয়, Chroma গবেষণায় ১৮ মডেলে প্রমাণ
Chroma-র জুলাই 2025 গবেষণায় 18টি ফ্রন্টিয়ার AI মডেল পরীক্ষা করে দেখা গেছে, বড় কনটেক্সট উইন্ডো আসল মেমরির বিকল্প নয়। দীর্ঘ সেশনে তথ্য ধরে রাখতে AI এজেন্টদের জন্য আলাদা মেমরি সিস্টেম তৈরি করা জরুরি।
Chroma-র জুলাই 2025 গবেষণায় 18টি ফ্রন্টিয়ার AI মডেল পরীক্ষা করে দেখা গেছে, বড় কনটেক্সট উইন্ডো আসল মেমরির বিকল্প নয়। দীর্ঘ সেশনে তথ্য ধরে রাখতে AI এজেন্টদের জন্য আলাদা মেমরি সিস্টেম তৈরি করা জরুরি।
AI এজেন্ট তৈরির সময় বড় কনটেক্সট উইন্ডোর ওপর নির্ভর করে রাজ্য বা তথ্য ধরে রাখা একটি সাধারণ ভুল। Chroma-র জুলাই 2025 গবেষণায় 18টি ফ্রন্টিয়ার মডেল — GPT-4.1, Claude 4, Gemini 2.5, Qwen3 সহ — পরীক্ষা করে দেখা গেছে, কনটেক্সট উইন্ডো কখনোই প্রকৃত মেমরির বিকল্প হতে পারে না।
Chroma জানিয়েছে, এই গবেষণায় তারা মডেলগুলোর কনটেক্সট উইন্ডোর নির্ভরযোগ্যতা যাচাই করেছে। তারা নিডল-রিট্রিভাল, ডিস্ট্র্যাক্টর এবং হ্যালুসিনেশন টেস্ট চালিয়েছে। ফলাফলে দেখা গেছে, দীর্ঘ কনটেক্সট উইন্ডোতে তথ্য ধরে রাখার সক্ষমতা দ্রুত কমে যায়। একে তারা 'কনটেক্সট রট' বা প্রসঙ্গ পচন বলেছে।
গবেষণায় উঠে এসেছে, মডেলগুলো যখন কনটেক্সট উইন্ডোর শেষ প্রান্তে পৌঁছায়, তখন আগের তথ্য সঠিকভাবে মনে রাখতে পারে না। উদাহরণস্বরূপ, GPT-4.1 128K টোকেনের কনটেক্সট উইন্ডোতে 70 শতাংশ নির্ভুলতা দেখালেও 200K টোকেনের পর তা 45 শতাংশে নেমে গেছে। Claude 4-এর ক্ষেত্রেও একই প্রবণতা দেখা গেছে।
Chroma-র প্রতিবেদনে বলা হয়েছে, বড় কনটেক্সট উইন্ডো শুধুমাত্র অস্থায়ী ডেটা ধরে রাখার জন্য ভালো। এটি দীর্ঘমেয়াদি রাজ্য ব্যবস্থাপনার জন্য তৈরি হয়নি। AI এজেন্ট যদি একাধিক সেশনে ব্যবহারকারীর তথ্য মনে রাখতে চায়, তাহলে আলাদা মেমরি লেয়ার তৈরি করা প্রয়োজন। এই মেমরি লেয়ার ভেক্টর ডেটাবেস বা কাস্টম স্টোরেজ সিস্টেমের মাধ্যমে কাজ করে।
বাংলাদেশের জন্য এই গবেষণার গুরুত্ব অনেক। দেশের ডেভেলপার ও ফ্রিল্যান্সাররা বর্তমানে ChatGPT, Claude বা Gemini-র API ব্যবহার করে বিভিন্ন AI এজেন্ট তৈরি করছেন। তারা প্রায়ই কনটেক্সট উইন্ডোর ওপর নির্ভর করে সেশনের তথ্য ধরে রাখেন। কিন্তু Chroma-র ফলাফল দেখাচ্ছে, এই পদ্ধতি প্রোডাকশন পর্যায়ে বড় সমস্যা তৈরি করতে পারে।
বাংলাদেশের স্টার্টআপ ও টেক কোম্পানিগুলোর জন্য পরামর্শ হলো, AI এজেন্ট তৈরির সময় মেমরি সিস্টেমকে আলাদাভাবে ডিজাইন করা। একটি উদাহরণ হলো, কাস্টমার সার্ভিস চ্যাটবটে ব্যবহারকারীর আগের কথোপকথন মনে রাখতে ভেক্টর ডেটাবেস ব্যবহার করা। এতে কনটেক্সট উইন্ডোর সীমাবদ্ধতা কাটিয়ে ওঠা সম্ভব।
গবেষণাটি ইঙ্গিত দেয়, ভবিষ্যতে AI এজেন্টের ডিজাইনে মেমরি একটি মূল উপাদান হয়ে উঠবে। কনটেক্সট উইন্ডো শুধুমাত্র একটি অস্থায়ী বাফার হিসেবে কাজ করবে। ডেভেলপারদের এখন থেকেই এই পরিবর্তনের জন্য প্রস্তুতি নেওয়া উচিত।
Chroma-র পূর্ণ গবেষণাটি echonerve.com-এ প্রকাশিত হয়েছে। সেখানে মডেলগুলোর বিস্তারিত পারফরম্যান্স ডেটা ও কোড উদাহরণ পাওয়া যাবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...