AI এখন নিজেই ইমেইল পাঠাচ্ছে, আপনার চাকরির নিরাপত্তা কতটুকু

AI এজেন্টরা এখন আর শুধু চ্যাটবট নয়। তারা সরাসরি কাজ সম্পাদন করছে যেমন ইমেইল পাঠানো, ডাটা ডিলিট করা, কোড ডিপ্লয় করা এবং আইএএম পারমিশন পরিবর্তন করা। এই পরিবর্তন শক্তিশালী হলেও এটি বিপজ্জনক হতে পারে বলে জানিয়েছে dev.to ML-এর একটি গবেষণা প্রতিবেদন।

বেশিরভাগ AI নিরাপত্তা আলোচনা এখনও মডেলকেন্দ্রিক। প্রশ্নগুলো হলো মডেল কি নির্দেশনা মানতে পারে, প্রম্পট ইনজেকশন ঠেকানো যায় কি না, এজেন্ট কি ভালোভাবে যুক্তি করতে পারে এবং হ্যালুসিনেশন কমানো যায় কি না। কিন্তু গবেষকরা বলছেন, এই প্রশ্নগুলো অপর্যাপ্ত।

AI এজেন্টরা যখন টুল ব্যবহার করে, তখন তাদের কার্যনির্বাহের সীমানা নির্ধারণ করা জরুরি। উদাহরণস্বরূপ, একজন এজেন্ট যদি নিজে থেকে ইমেইল পাঠাতে পারে, তাহলে তার অনুমতি কতটুকু থাকবে। কোন ধরনের ডাটা সে ডিলিট করতে পারবে এবং কোন কোড সে ডিপ্লয় করতে পারবে তা নির্ধারণ করা প্রয়োজন।

বর্তমানে AI এজেন্টরা MCP সার্ভারের সঙ্গে যোগাযোগ করতে পারে। তারা রিফান্ড ইস্যু করতে পারে, ওয়ার্কফ্লো ট্রিগার করতে পারে এবং রেকর্ড আপডেট করতে পারে। এই সব কাজের জন্য সুনির্দিষ্ট পারমিশন কন্ট্রোল না থাকলে বড় ধরনের নিরাপত্তা ঝুঁকি তৈরি হতে পারে।

বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই গবেষণার গুরুত্ব অনেক। যারা AI এজেন্ট ব্যবহার করে অটোমেশন তৈরি করছেন, তাদের এখনই নিরাপত্তা সীমানা নির্ধারণ করা উচিত। অন্যথায় ক্লায়েন্টের ডাটা বা সিস্টেমে অনাকাঙ্ক্ষিত পরিবর্তন হতে পারে।

গবেষকরা বলছেন, AI এজেন্টদের আরও ভালো প্রম্পট দেওয়ার চেয়ে তাদের কাজের সীমানা নির্ধারণ করা বেশি গুরুত্বপূর্ণ। ভবিষ্যতে AI নিরাপত্তা আলোচনায় মডেলের পাশাপাশি কার্যনির্বাহের সীমানা ও পারমিশন কন্ট্রোলকে অগ্রাধিকার দিতে হবে।

আরও পড়ুন

• AI এখন সিদ্ধান্ত নেবে: Hugging Face-IBM-এর নতুন প্রযুক্তি বাংলাদেশি ব্যবসায় বিপ্লব আনবে
• AI এখন নিজের অনুভূতি বুঝে উত্তর দেবে, আপনার কাজে কী প্রভাব ফেলবে
• AI এজেন্ট ১৫ ধাপেই ভুলে যাচ্ছে, আপনার ফ্রিল্যান্সিং কাজে প্রভাব পড়বে