AI এজেন্টের অডিট ট্রেল প্রতারণা ধরবে, জানুন কীভাবে ফ্রিল্যান্সাররা সুরক্ষিত থাকবেন

AI এজেন্টের দেওয়া স্বাক্ষরিত প্রতিক্রিয়াকে প্রমাণ হিসেবে গ্রহণ করা বিপজ্জনক হতে পারে। dev.to ML-এ প্রকাশিত এক গবেষণায় দেখা যাচ্ছে, প্রকৃত অডিট ট্রেল তৈরি করতে শুধু স্বাক্ষর নয়, বরং এজেন্টের কাজের সতেজতা ও শর্ত যাচাই করাও জরুরি।

গবেষণাটি ইয়ান জনসনের হারনেস স্ট্যাক থ্রেড এবং জেপের সেলফ-করেক্টিং সিস্টেম সিরিজের ধারাবাহিকতা। গবেষকরা তিনটি দাবি পরীক্ষা করেছেন যা AI এজেন্টের জবাবদিহিতা নিশ্চিত করার জন্য অত্যন্ত গুরুত্বপূর্ণ।

প্রথম দাবি, CLAIM-24, পরীক্ষা করেছে যে একটি এজেন্ট কি ঘড়ির সময়ের বাইরে প্রকৃত শর্ত যাচাই করে। অর্থাৎ একটি গ্র্যান্টের শর্ত পূরণ হয়েছে কিনা তা এজেন্ট শুধু সময় দেখে নয়, বরং প্রকৃত ডেটা উৎস থেকে যাচাই করছে কিনা। দ্বিতীয় দাবি, CLAIM-25, পরীক্ষা করেছে যে একটি স্বাক্ষরিত প্রতিক্রিয়া কি প্রকৃতপক্ষে সতেজ। এখানে স্বাক্ষরিত-এবং-সতেজ এই দুটি শর্তই পূরণ করতে হবে। তৃতীয় দাবি, CLAIM-26, পরীক্ষা করেছে কাজ সম্পাদনের পর কি ঘটে। অর্থাৎ এজেন্ট তার কাজের পরিণতি ট্র্যাক করছে কিনা।

এই গবেষণার মূল বার্তা হলো, AI এজেন্টের জবাবদিহিতা নিশ্চিত করতে একটি পূর্ণাঙ্গ অডিট ট্রেল প্রয়োজন। শুধু একটি স্বাক্ষরিত আউটপুট দেখিয়ে প্রমাণ দাবি করা যাবে না। বরং সেই আউটপুট কখন, কীভাবে এবং কী শর্তে তৈরি হয়েছে তা নিশ্চিত হতে হবে।

বাংলাদেশের জন্য এই গবেষণার তাৎপর্য অনেক। দেশের ফ্রিল্যান্সার ও ডেভেলপাররা বিভিন্ন AI এজেন্ট ব্যবহার করে কাজ করেন। ক্লায়েন্টের কাছে কাজের প্রমাণ হিসেবে শুধু একটি AI আউটপুট দেখালে তা গ্রহণযোগ্য নাও হতে পারে। বরং সেই আউটপুটের সতেজতা ও শর্ত যাচাইয়ের ব্যবস্থা রাখতে হবে। বিশেষ করে আর্থিক লেনদেন বা আইনি দলিল তৈরির ক্ষেত্রে এই বিষয়টি আরও গুরুত্বপূর্ণ।

AI এজেন্টের ব্যবহার বাড়ার সঙ্গে সঙ্গে জবাবদিহিতার প্রয়োজনীয়তাও বাড়ছে। এই গবেষণা দেখাচ্ছে যে ভবিষ্যতে AI এজেন্টদের আরও স্বচ্ছ ও নির্ভরযোগ্য করতে হবে। বাংলাদেশের প্রযুক্তি খাতের জন্য এটি একটি সময়োপযোগী সতর্কবার্তা।

আরও পড়ুন

• AI মেমরি ভুলে গেলে বিপদ, গবেষক দিলেন চেকলিস্ট, জানুন কীভাবে বাঁচবেন
• AI এজেন্টের প্রতারণা ধরবে নতুন বেঞ্চমার্ক, বাংলাদেশি ফ্রিল্যান্সারদের কাজে আসবে
• AI কাজ শেষ করলেও ব্যর্থ হতে পারে, বাংলাদেশি ফ্রিল্যান্সারদের জন্য বড় সতর্কবার্তা