সিসকো রিপোর্ট: ১০০% ক্লোজড AI মডেলই দুর্বল মাল্টি-টার্ন অ্যাটাকে!

সিসকো সিস্টেমস ইনকর্পোরেটেডের নতুন এক গবেষণা রিপোর্টে দাবি করা হয়েছে যে বর্তমান বাজারের কোনো ক্লোজড ফ্রন্টিয়ার লার্জ ল্যাঙ্গুয়েজ মডেলই সম্পূর্ণ সুরক্ষিত নয়। গবেষণায় দেখা গেছে, আক্রমণকারী যদি একক প্রম্পটের বদলে একাধিক প্রম্পট ব্যবহার করে তাহলে প্রতিটি মডেলেই অ্যাডভারসারিয়াল সাফল্যের হার তীব্রভাবে বেড়ে যায়। সিসকো AI থ্রেট রিসার্চ টিম এই পরীক্ষা চালিয়েছে।

এই গবেষণা AI নিরাপত্তার ক্ষেত্রে একটি বড় উদ্বেগ তৈরি করেছে। বর্তমানে ChatGPT, Gemini, Claude-র মতো ক্লোজড মডেলগুলোকে সবচেয়ে নিরাপদ বলে মনে করা হয়। কিন্তু সিসকোর ফলাফল দেখাচ্ছে যে এই মডেলগুলো মাল্টি-টার্ন অ্যাটাকের মুখে দ্রুত ভেঙে পড়ে। এর মানে হলো একটি সাধারণ কথোপকথনের আড়ালেই মডেলটিকে বিপজ্জনক আউটপুট দিতে বাধ্য করা সম্ভব।

গবেষণায় পরীক্ষিত প্রতিটি মডেলেই মাল্টি-টার্ন অ্যাটাকের সাফল্যের হার ১০০ শতাংশের কাছাকাছি পৌঁছেছে। সিসকো AI থ্রেট রিসার্চ টিম বিভিন্ন ধরনের অ্যাডভারসারিয়াল প্রম্পট তৈরি করে মডেলগুলোকে পরীক্ষা করেছে। প্রথম প্রম্পটে মডেলটি নিরাপদ থাকলেও পরবর্তী প্রম্পটগুলোর মাধ্যমে ধীরে ধীরে তার প্রতিরক্ষা ভেঙে ফেলা সম্ভব হয়েছে। এই পদ্ধতিতে মডেলটি ক্ষতিকারক কোড, ভুল তথ্য বা অন্যান্য বিপজ্জনক কন্টেন্ট তৈরি করতে বাধ্য হয়েছে।

প্রযুক্তিগত দিক থেকে এই অ্যাটাক খুবই সরল। আক্রমণকারী প্রথমে একটি সাধারণ প্রশ্ন করে। মডেল উত্তর দিলে পরবর্তী প্রশ্নে সেই উত্তরকে কাজে লাগিয়ে আরও জটিল তথ্য বের করে আনা হয়। এভাবে কয়েকটি ধাপের মাধ্যমেই মডেলের সুরক্ষা বেষ্টনী ভেঙে ফেলা যায়। বর্তমান AI মডেলগুলোতে এই ধরনের মাল্টি-টার্ন অ্যাটাক প্রতিরোধের কার্যকর ব্যবস্থা নেই বলেই গবেষণায় উঠে এসেছে।

বাংলাদেশের ডেভেলপার, ব্যবসা প্রতিষ্ঠান ও সাধারণ ব্যবহারকারীদের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশে AI চ্যাটবট ও অন্যান্য ল্যাঙ্গুয়েজ মডেল ব্যবহার দ্রুত বাড়ছে। ব্যাংকিং, স্বাস্থ্যসেবা ও শিক্ষাখাতে AI ব্যবহার করা হচ্ছে। এই গবেষণা দেখাচ্ছে যে ক্লোজড মডেলগুলোর ওপর সম্পূর্ণ নির্ভর করা ঝুঁকিপূর্ণ হতে পারে। বাংলাদেশের প্রতিষ্ঠানগুলোকে তাদের AI সিস্টেমে মাল্টি-টার্ন অ্যাটাকের বিরুদ্ধে অতিরিক্ত নিরাপত্তা ব্যবস্থা যোগ করতে হবে।

ভবিষ্যতে AI নিরাপত্তা গবেষণায় মাল্টি-টার্ন অ্যাটাক প্রতিরোধ একটি গুরুত্বপূর্ণ বিষয় হয়ে উঠবে। সিসকো তাদের গবেষণায় আরও বলেছে যে এই সমস্যা সমাধানের জন্য নতুন ধরনের গার্ডরেল ও ট্রেনিং পদ্ধতি প্রয়োজন। ওপেন সোর্স মডেলগুলোতেও একই ধরনের দুর্বলতা থাকতে পারে বলে তারা সতর্ক করেছে। AI নিরাপত্তা নিশ্চিত করতে মাল্টি-লেয়ারড প্রতিরক্ষা ব্যবস্থা গড়ে তোলার সময় এখনই এসেছে।

আরও পড়ুন

• চমক! ChatGPT-এর নিরাপত্তা ফাঁকি দিচ্ছে ৫টি নতুন উপায়
• অ্যাপলের নতুন AI পদ্ধতি: ১০০% নিরাপত্তা নিশ্চিত!
• অ্যাপলের নতুন AI বেঞ্চমার্ক: ৩ মিনিটে বস্তুর অবস্থান চিহ্নিত!