AI এজেন্ট রোগীর তথ্য নিল, কিন্তু কে নির্দেশ দিল তা খুঁজে পাচ্ছে না কেউ

আপনি একটি LLM এজেন্টকে প্রোডাকশনে পাঠিয়েছেন। এটি একটি সার্ভিস অ্যাকাউন্ট বা শেয়ার্ড API কী-এর অধীনে চলে, কারণ সফটওয়্যারকে ক্রেডেনশিয়াল দেওয়ার এটাই স্বাভাবিক উপায়। এটি একটি রেকর্ড পড়ে, একটি ফাইল রপ্তানি করে। কখনো কখনো এটি অর্থ সরায়। আপনার অডিট লগ নির্ভুলভাবে কাজটি রেকর্ড করে। এটি বলে যে এজেন্ট কাজটি করেছে।

কিন্তু লগ বলে না কোন মানুষ এটি করতে বলেছে।

এটি ততক্ষণ ঠিক থাকে যতক্ষণ না সমস্যা দেখা দেয়। যদি এজেন্ট এমন কিছু করে যা তার করা উচিত ছিল না, তাহলে সার্ভিস অ্যাকাউন্ট এটি করেছে এই উত্তর নিয়ে কেউ কিছু করতে পারে না। আপনি একটি সার্ভিস অ্যাকাউন্টকে শাস্তি দিতে পারবেন না। এই সমস্যাটি dev.to AI-র সাম্প্রতিক বিশ্লেষণে উঠে এসেছে।

এটি কেন গুরুত্বপূর্ণ? বর্তমান লগিং সিস্টেমগুলো শুধু এজেন্টের কাজ রেকর্ড করে, কিন্তু মূল মানব নির্দেশটি রেকর্ড করে না। এই দায়বদ্ধতার অভাব এন্টারপ্রাইজগুলোর জন্য গুরুতর সম্মতি এবং শাসন ঝুঁকি তৈরি করে। নিয়ন্ত্রক সংস্থাগুলো জানতে চায় কখন, কীভাবে এবং কার নির্দেশে একটি সংবেদনশীল তথ্য অ্যাক্সেস করা হয়েছে।

প্রযুক্তিগত দিক থেকে, LLM এজেন্টগুলো স্বায়ত্তশাসিত সিদ্ধান্ত নিতে পারে। তারা একটি প্রম্পট পায় এবং তার ভিত্তিতে কাজ করে। কিন্তু বর্তমান আর্কিটেকচারে প্রম্পট এবং কাজের মধ্যে সরাসরি সংযোগ লগ হয় না। ফলে কোন কর্মচারী ভুল তথ্য দিয়েছে বা কোন হ্যাকার সিস্টেমে প্রবেশ করেছে তা শনাক্ত করা অসম্ভব হয়ে পড়ে।

বাংলাদেশের প্রেক্ষাপটে এই সমস্যা আরও জটিল। দেশের ব্যাংক, বিমা এবং টেলিকম কোম্পানিগুলো দ্রুত AI গ্রহণ করছে। তারা গ্রাহক সেবা, জালিয়াতি শনাক্তকরণ এবং ডেটা বিশ্লেষণে এজেন্ট ব্যবহার করছে। কিন্তু তাদের অডিট সিস্টেমগুলো এখনও পুরনো পদ্ধতিতে চলে। একটি ভুল নির্দেশে যদি এজেন্ট গ্রাহকের ব্যক্তিগত তথ্য ফাঁস করে, তাহলে কে দায়ী হবে তা নির্ধারণ করা কঠিন হবে।

ফ্রিল্যান্সার এবং ডেভেলপারদের জন্যও এটি গুরুত্বপূর্ণ। তারা যখন ক্লায়েন্টের জন্য AI এজেন্ট তৈরি করে, তখন তাদের লগিং সিস্টেমে এই ফাঁকটি বন্ধ করতে হবে। অন্যথায় ক্লায়েন্ট বড় ধরনের আইনি সমস্যায় পড়তে পারে।

সমাধানের জন্য বিশেষজ্ঞরা পরামর্শ দিচ্ছেন যে প্রতিটি এজেন্টের কাজের সাথে সাথে মানব নির্দেশকের আইডি এবং প্রম্পটের সম্পূর্ণ টেক্সট লগ করা উচিত। ব্লকচেইন-ভিত্তিক অডিট ট্রেইলও একটি সম্ভাব্য সমাধান। কিন্তু এখন পর্যন্ত কোনো মানসম্মত পদ্ধতি তৈরি হয়নি।

এন্টারপ্রাইজগুলোর জন্য সময় এসেছে তাদের AI সিস্টেমের অডিট ক্ষমতা পুনর্বিবেচনা করার। আগামী দিনে নিয়ন্ত্রক সংস্থাগুলো এই বিষয়ে কঠোর নির্দেশনা আনতে পারে। যারা এখনই প্রস্তুতি নেবে, তারাই এগিয়ে থাকবে।

আরও পড়ুন

• ফ্রান্সের ৮৩% কোম্পানিতে LLM আসছে, বাংলাদেশের ফ্রিল্যান্সারদের জন্য বড় সুযোগ
• AI ব্যবহারে গ্রাহকের তথ্য ফাঁসের ঝুঁকি, জানুন কী করবেন
• AI এজেন্ট এখন আপনার পণ্য ডিলিট করতে পারে, সুরক্ষা ফাঁক নিয়ে সতর্কতা