AI এজেন্টের ব্যক্তিত্ব স্খলন ঠেকাতে নতুন গবেষণা, জানুন কী বদলাবে
একটি নতুন গবেষণা AI এজেন্টের ব্যক্তিত্ব স্খলন বা persona drift সমস্যার গভীরে প্রবেশ করেছে। দেখা যাচ্ছে, শুধু নীতি বা নির্দেশনা (anchor) পুনরায় দেওয়া এই সমস্যার স্থায়ী সমাধান নয়। কারণ এজেন্টরা নীতিগুলো 'মুখস্থ' করলেও সেগুলো 'অভ্যন্তরীণ' করতে পারে না।
একটি নতুন গবেষণা AI এজেন্টের ব্যক্তিত্ব স্খলন বা persona drift সমস্যার গভীরে প্রবেশ করেছে। দেখা যাচ্ছে, শুধু নীতি বা নির্দেশনা (anchor) পুনরায় দেওয়া এই সমস্যার স্থায়ী সমাধান নয়। কারণ এজেন্টরা নীতিগুলো 'মুখস্থ' করলেও সেগুলো 'অভ্যন্তরীণ' করতে পারে না।
AI এজেন্টরা কি সত্যিই কিছু 'জানে' নাকি শুধু নির্দেশ অনুসরণ করে? একটি নতুন গবেষণাপত্র এই প্রশ্নের জটিল উত্তর খুঁজতে গিয়ে একটি মজার সমস্যা চিহ্নিত করেছে: ব্যক্তিত্ব স্খলন বা persona drift।
বাংলাদেশের AI গবেষক ও ডেভেলপারদের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। কারণ বর্তমানে বিশ্বজুড়ে বড় বড় কোম্পানি তাদের কাস্টমার সাপোর্ট, কন্টেন্ট জেনারেশন এবং ডেটা বিশ্লেষণের জন্য AI এজেন্ট ব্যবহার করছে। কিন্তু এই এজেন্টগুলো দীর্ঘ সময় কাজ করার পর তাদের নির্ধারিত ব্যক্তিত্ব বা নীতি থেকে বিচ্যুত হয়ে যায়।
একটি সাম্প্রতিক গবেষণাপত্র ContextEcho (arXiv:2605.24279) এই সমস্যা নিয়ে একটি বড় আকারের বেঞ্চমার্ক তৈরি করেছে। তারা লক্ষ লক্ষ টুল কল এবং বহু-স্তরের কথোপকথন বিশ্লেষণ করে দেখেছে যে AI এজেন্টরা সময়ের সাথে সাথে তাদের মূল নির্দেশনা ভুলে যায় বা উপেক্ষা করে।
এই সমস্যা সমাধানের জন্য গবেষকরা 'অ্যাঙ্কর ইনজেকশন' নামে একটি পদ্ধতি প্রস্তাব করেছেন। এই পদ্ধতিতে এজেন্টকে সময় সময় তার মূল নির্দেশনা বা 'অ্যাঙ্কর' পুনরায় দেওয়া হয়। কিন্তু গবেষণায় দেখা গেছে, এই পদ্ধতি পুরোপুরি কাজ করে না।
কেন অ্যাঙ্করিং ব্যর্থ হয়? গবেষণাপত্রটি ব্যাখ্যা করেছে যে এখানে দুটি ধারণার মধ্যে ফারাক রয়েছে: 'ন্যারেটিভ ইন্টারনালাইজেশন' এবং 'রেজিস্টার রেস্টোরেশন'।
রেজিস্টার রেস্টোরেশন মানে হলো এজেন্টকে তার পুরনো নির্দেশনা আবার স্মরণ করিয়ে দেওয়া। কিন্তু এটি একটি অস্থায়ী সমাধান। কিছুক্ষণ পরেই এজেন্ট আবার স্খলিত হতে শুরু করে। অন্যদিকে ন্যারেটিভ ইন্টারনালাইজেশন মানে হলো এজেন্ট সেই নির্দেশনাকে নিজের অংশ করে নেওয়া। এজেন্ট যখন সত্যিই একটি নীতিকে 'অভ্যন্তরীণ' করে ফেলে, তখন তাকে আর বারবার স্মরণ করানোর প্রয়োজন হয় না।
বর্তমান AI মডেলগুলো সাধারণত রেজিস্টার রেস্টোরেশন করতে পারে কিন্তু ন্যারেটিভ ইন্টারনালাইজেশন করতে পারে না। এজেন্টরা নীতিগুলো 'জানে' কিন্তু সেই জ্ঞানকে তাদের সিদ্ধান্ত গ্রহণের প্রক্রিয়ার অংশ করে নিতে পারে না।
বাংলাদেশের প্রেক্ষাপটে এই গবেষণার অর্থ অনেক। স্থানীয় স্টার্টআপগুলো যারা AI চ্যাটবট বা অটোমেশন টুল তৈরি করছে, তারা যদি দীর্ঘমেয়াদী নির্ভরযোগ্যতা চায় তাহলে শুধু অ্যাঙ্করিংয়ের উপর নির্ভর করতে পারবে না। তাদের মডেল ট্রেনিং এবং আর্কিটেকচার নিয়ে নতুন করে ভাবতে হবে। ফ্রিল্যান্সার AI ডেভেলপারদের জন্যও এটি একটি গুরুত্বপূর্ণ শিক্ষা। তারা যখন ক্লায়েন্টের জন্য AI এজেন্ট তৈরি করবেন, তখন বুঝতে হবে যে এজেন্টকে শুধু নিয়ম শেখানো যথেষ্ট নয়, তাকে সেই নিয়ম মেনে চলার 'অভ্যাস' তৈরি করাতে হবে।
গবেষণাপত্রটি আরও ইঙ্গিত দেয় যে ভবিষ্যতে AI ডিজাইনের ক্ষেত্রে 'মেমোরি' এবং 'কনটেক্সট' ব্যবস্থাপনার উপর আরও জোর দিতে হবে। যতক্ষণ না AI সত্যিকার অর্থে নীতিগুলোকে অভ্যন্তরীণ করতে পারে, ততক্ষণ ব্যক্তিত্ব স্খলন একটি অমীমাংসিত চ্যালেঞ্জ হয়ে থাকবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...