AI এজেন্টদের নিরাপত্তায় বড় ফাঁক, আপনার ডেটা ঝুঁকিতে
AI এজেন্টদের নিরাপত্তায় নতুন ধরনের আক্রমণ দেখা দিয়েছে। আক্রমণকারীরা ক্ষতিকর নির্দেশ একাধিক বার্তায় ছড়িয়ে দিচ্ছে। বর্তমান নিরাপত্তা সরঞ্জামগুলো একবারে একটি বার্তা মূল্যায়ন করে বলে এই আক্রমণ শনাক্ত করতে পারছে না।
AI এজেন্টদের নিরাপত্তায় নতুন ধরনের আক্রমণ দেখা দিয়েছে। আক্রমণকারীরা ক্ষতিকর নির্দেশ একাধিক বার্তায় ছড়িয়ে দিচ্ছে। বর্তমান নিরাপত্তা সরঞ্জামগুলো একবারে একটি বার্তা মূল্যায়ন করে বলে এই আক্রমণ শনাক্ত করতে পারছে না।
AI এজেন্টদের নিরাপত্তা নিয়ে গবেষণায় একটি উদ্বেগজনক তথ্য উঠে এসেছে। Reddit-এর r/artificial ফোরামে প্রকাশিত এক গবেষণা প্রতিবেদনে বলা হয়েছে, আক্রমণকারীরা এখন ক্ষতিকর নির্দেশ একাধিক বার্তায় ছড়িয়ে দিচ্ছে। প্রতিটি বার্তা স্বাভাবিক মনে হলেও 8 নম্বর বার্তায় গিয়ে AI এজেন্ট এমন কাজ করছে যা তার করা উচিত নয়।
এই আক্রমণের সবচেয়ে বড় সমস্যা হলো বর্তমান সব নিরাপত্তা টুল একবারে একটি বার্তা পরীক্ষা করে। তারা বার্তাগুলোর মধ্যে সম্পর্ক বুঝতে পারে না। ফলে 'আগের নির্দেশ উপেক্ষা করো' জাতীয় স্পষ্ট আক্রমণ ধরা পড়লেও এই নতুন পদ্ধতি ধরা পড়ছে না।
গবেষকরা বলছেন, এটি প্রম্পট ইনজেকশন (Prompt Injection) প্রতিরোধ ব্যবস্থাকে বাইপাস করার একটি অভিনব উপায়। প্রম্পট ইনজেকশন হলো AI-কে এমন নির্দেশ দেওয়া যা তার মূল কাজের বাইরে যায়। সাধারণত 'আগের সব নির্দেশ ভুলে যাও' বা 'এখন থেকে আমার কথা শোনো' জাতীয় নির্দেশ দিয়ে AI-কে নিয়ন্ত্রণ করা হয়। কিন্তু এই নতুন পদ্ধতিতে আক্রমণকারী ধীরে ধীরে AI-কে প্রভাবিত করে।
প্রতিটি বার্তা দেখতে সম্পূর্ণ নির্দোষ। প্রথম কয়েকটি বার্তায় সাধারণ নির্দেশ থাকে। তারপর বার্তা 5 বা 6 থেকে শুরু হয় সন্দেহজনক নির্দেশ। কিন্তু যেহেতু প্রতিটি বার্তা আলাদাভাবে মূল্যায়ন করা হয়, তাই AI বা নিরাপত্তা টুল কেউই পুরো চিত্র দেখতে পায় না। বার্তা 8-এ গিয়ে AI সম্পূর্ণ ভিন্ন কাজ করতে শুরু করে।
এই আক্রমণের শিকার হতে পারে যেকোনো AI এজেন্ট। চ্যাটবট, স্বয়ংক্রিয় গ্রাহক সেবা সিস্টেম, কোড জেনারেটর সবই ঝুঁকিতে আছে। বিশেষ করে যেসব AI এজেন্ট একাধিক ধাপে কাজ করে, যেমন ট্রাভেল বুকিং বা ব্যাংকিং লেনদেন, তারা সবচেয়ে বেশি ঝুঁকিতে।
বাংলাদেশের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশে ফ্রিল্যান্সার, ডেভেলপার ও ব্যবসায়ীরা বিভিন্ন কাজে AI এজেন্ট ব্যবহার করছেন। চ্যাটবট, অটোমেশন টুল ও কোডিং সহায়ক সবই এই আক্রমণের শিকার হতে পারে। যারা নিজেদের AI এজেন্ট তৈরি করছেন, তাদের জন্য এই তথ্য অত্যন্ত জরুরি। বর্তমান নিরাপত্তা ব্যবস্থা যথেষ্ট নয় বলে নতুন করে ভাবতে হবে।
গবেষকরা এখন এই সমস্যার সমাধান খুঁজছেন। একটি সম্ভাব্য সমাধান হলো বার্তাগুলোর মধ্যে সম্পর্ক বুঝতে পারে এমন সিস্টেম তৈরি করা। আরেকটি পদ্ধতি হলো AI-কে প্রশিক্ষণ দেওয়ার সময় এই ধরনের আক্রমণের উদাহরণ অন্তর্ভুক্ত করা। তবে এখনই সবচেয়ে ভালো উপায় হলো সতর্ক থাকা এবং AI এজেন্ট ব্যবহারের সময় নজর রাখা।
AI নিরাপত্তা বিশেষজ্ঞরা বলছেন, এই সমস্যা সমাধান না হওয়া পর্যন্ত AI এজেন্টকে গুরুত্বপূর্ণ কাজে ব্যবহার না করাই ভালো। বিশেষ করে যেখানে আর্থিক লেনদেন বা ব্যক্তিগত তথ্য জড়িত, সেখানে আরও সতর্ক হতে হবে। প্রযুক্তি যত উন্নত হবে, হুমকিও তত জটিল হবে। তাই নিরাপত্তা ব্যবস্থাও তত দ্রুত উন্নত করতে হবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/artificial
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...