AI এজেন্টের অনুমোদন একবারই নয়, বিরতির পর আবার যাচাই করুন

AI এজেন্টের কাজে মানুষের অনুমোদন একবার দিলেই স্থায়ী হয় না। কাজটি কোনো কারণে বিরতির পর আবার শুরু হলে সেই অনুমোদন নতুন করে যাচাই করা জরুরি। dev.to AI-তে প্রকাশিত এক গবেষণা নিবন্ধে এই গুরুত্বপূর্ণ নকশা নীতি তুলে ধরা হয়েছে।

গবেষণা নিবন্ধটি বলছে, মানুষের অনুমোদন একটি নির্দিষ্ট কাজের জন্য নির্দিষ্ট পরিস্থিতিতে দেওয়া সিদ্ধান্ত। এটি কোনো স্থায়ী অনুমতির চাবি নয়। AI এজেন্ট যখন কোনো উচ্চ ঝুঁকিপূর্ণ কাজে বিরতি নেয় এবং মানুষের অনুমোদন চায়, তখন সেই অনুমোদন শুধু সেই মুহূর্তের জন্যই প্রযোজ্য।

একটি উদাহরণ দিয়ে বিষয়টি বোঝানো হয়েছে। একটি AI এজেন্ট গ্রাহকের রিফান্ড অনুরোধ তৈরি করছে। অর্ডার নম্বর SO-1001, পরিমাণ 199.00 CNY এবং কারণ ডুপ্লিকেট পেমেন্ট। রানটাইম কাজটিকে উচ্চ ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করে বিরতি দেয় এবং মানুষের অনুমোদন চায়। সকাল 10টায় অনুমোদনকারী প্যারামিটারগুলো দেখে Approve বাটনে ক্লিক করেন।

কিন্তু কাজটি তখনই কার্যকর হয় না। এটি বিরত অবস্থায় থাকে, একটি সারিতে অপেক্ষা করে এবং সেই বিরতির সময় পরিস্থিতি বদলাতে পারে। যেমন গ্রাহক হয়তো রিফান্ডের পরিমাণ বদলাতে চেয়েছেন অথবা অর্ডারটি ইতিমধ্যে অন্য উপায়ে সমাধান হয়ে গেছে। এই ক্ষেত্রে আগের অনুমোদনটি আর বৈধ নয়।

গবেষণা নিবন্ধটি AI এজেন্টের নিরাপদ কর্মপ্রবাহ ডিজাইনের জন্য কয়েকটি নীতি প্রস্তাব করেছে। প্রতিটি ধাপে অনুমোদন নেওয়ার সময় সেই ধাপের বর্তমান প্রেক্ষাপট বিবেচনা করতে হবে। বিরতির সময় যত দীর্ঘ হয়, অনুমোদন পুনরায় যাচাইয়ের প্রয়োজনীয়তা তত বাড়ে। এছাড়া AI এজেন্টের লগে অনুমোদনের সময় এবং শর্ত স্পষ্টভাবে সংরক্ষণ করতে হবে।

বাংলাদেশের প্রযুক্তি খাতে এই গবেষণার গুরুত্ব অনেক। দেশে ফ্রিল্যান্সার এবং স্টার্টআপরা দিন দিন AI এজেন্ট ব্যবহার করছে অটোমেশনের জন্য। যেমন একটি ই-কমার্স সাইটে AI এজেন্ট রিফান্ড বা অর্ডার বাতিলের কাজ করছে। একবার অনুমোদন দিলেই সেই কাজটি চিরকালের জন্য নিরাপদ বলে ধরে নেওয়া বিপজ্জনক হতে পারে।

বিশেষ করে আর্থিক লেনদেন বা সংবেদনশীল ডেটার ক্ষেত্রে এই নীতি অনুসরণ করা জরুরি। বাংলাদেশি ডেভেলপারদের উচিত তাদের AI সিস্টেমে এই পুনরায় যাচাইয়ের ব্যবস্থা রাখা। এতে ব্যবহারকারীদের আস্থা বাড়বে এবং অপ্রত্যাশিত ক্ষতি এড়ানো যাবে।

ভবিষ্যতে AI এজেন্টের কর্মপ্রবাহে অনুমোদনের এই গতিশীল পদ্ধতি আরও উন্নত হবে বলে মনে করছেন বিশেষজ্ঞরা। গবেষণাটি ইঙ্গিত দিচ্ছে যে নিরাপদ AI সিস্টেম তৈরিতে মানুষের সিদ্ধান্তের প্রেক্ষাপট বুঝতে হবে। এই নীতি মেনে চললে AI এজেন্টের ব্যবহার আরও নির্ভরযোগ্য হবে।

আরও পড়ুন

• AI এজেন্টের হাতে কোন কাজ তুলে দিলে বিপদ, জানালেন গবেষকরা
• AI এজেন্টের ৪৭% ব্যর্থতা গুরুতর, বাংলাদেশি ডেভেলপারদের সতর্ক থাকতে হবে
• AI এজেন্টের ব্যক্তিত্ব স্খলন ঠেকাতে নতুন গবেষণা, জানুন কী বদলাবে