AI হ্যাকপ্রুফ করা অসম্ভব, নতুন গবেষণায় বড় ধাক্কা

লার্জ ল্যাঙ্গুয়েজ মডেল বা LLM-কে হ্যাকিং থেকে সম্পূর্ণ নিরাপদ করা সম্ভব নয়। কারণ এই মডেলগুলোর মৌলিক নকশাতেই এমন কিছু ত্রুটি আছে যা তাদের আক্রমণের ঝুঁকিতে রাখে। গবেষকদের একটি দল এই মাসে শীর্ষস্থানীয় AI সম্মেলন ইন্টারন্যাশনাল কনফারেন্স অন মেশিন লার্নিং বা ICML-এ উপস্থাপিত এক গবেষণাপত্রে এই দাবি করেছে।

এই গবেষণার প্রভাব AI প্রযুক্তির নিরাপত্তার জন্য অত্যন্ত গুরুত্বপূর্ণ। কারণ ChatGPT, Google Gemini বা অন্যান্য জনপ্রিয় AI টুলগুলো এখন দৈনন্দিন জীবনের অংশ হয়ে গেছে। গবেষকরা বলেছেন, LLM-এর এই দুর্বলতা কেবল তাত্ত্বিক নয়, বাস্তব জগতেও এর প্রভাব পড়বে। বিশেষ করে যেসব ক্ষেত্রে AI ব্যবহার করে গুরুত্বপূর্ণ সিদ্ধান্ত নেওয়া হয়, সেখানে এই ঝুঁকি আরও প্রকট।

গবেষকদের যুক্তি হলো, LLM-এর মূল কাজ হলো ভাষার প্যাটার্ন শেখা। এই শেখার প্রক্রিয়ায় মডেলটি বিপুল পরিমাণ ডেটা থেকে কিছু নির্দিষ্ট নিয়ম তৈরি করে। কিন্তু এই নিয়মগুলো কখনোই সম্পূর্ণ নিখুঁত হয় না। আক্রমণকারীরা এই অসঙ্গতিগুলোকে কাজে লাগিয়ে মডেলটিকে এমন কিছু করতে বাধ্য করতে পারে যা তার প্রশিক্ষণের নিয়মের বাইরে। একে বলা হয় অ্যাডভারসারিয়াল অ্যাটাক।

এই আক্রমণে সাধারণত ইনপুটে এমন কিছু সূক্ষ্ম পরিবর্তন করা হয় যা মানুষের চোখে ধরা পড়ে না, কিন্তু মডেলটিকে ভুল দিকে পরিচালিত করে। যেমন একটি ছবিতে সামান্য শব্দ যোগ করলে AI তা ভুলভাবে চিনতে পারে। ভাষার ক্ষেত্রেও একই ঘটনা ঘটে। একটি বাক্যে কিছু নির্দিষ্ট শব্দ বা বাক্যাংশ যোগ করলে মডেলটি সম্পূর্ণ ভিন্ন এবং ক্ষতিকর আউটপুট দিতে পারে। গবেষকরা বলছেন, এই সমস্যার কোনো সহজ সমাধান নেই কারণ এটি মডেলের মূল স্থাপত্যের সঙ্গে জড়িত।

আগের গবেষণাগুলোতে এই ধরনের দুর্বলতা দেখা গেলেও সেগুলোকে অস্থায়ী বা সমাধানযোগ্য বলে মনে করা হতো। কিন্তু এই নতুন গবেষণা দেখিয়েছে যে LLM-এর গঠনই এমন যে কোনো প্যাচ বা ফিক্স কাজ করবে না। গবেষকরা প্রমাণ করেছেন যে একটি LLM-কে সম্পূর্ণ নিরাপদ করতে হলে তার প্রতিটি সম্ভাব্য ইনপুটের জন্য সঠিক আউটপুট নিশ্চিত করতে হবে, যা গণনাগতভাবে অসম্ভব। এই কারণে LLM-কে হ্যাকিং থেকে রক্ষা করার চেষ্টা একটি অন্তহীন খেলায় পরিণত হবে।

বাংলাদেশের প্রেক্ষাপটে এই গবেষণার গুরুত্ব অনেক। দেশে এখন অনেক স্টার্টআপ এবং ডেভেলপার ChatGPT-এর মতো AI টুল ব্যবহার করে অ্যাপ বা সেবা তৈরি করছে। ফ্রিল্যান্সাররাও বিভিন্ন প্রকল্পে AI নির্ভর সমাধান দিচ্ছে। এই গবেষণা তাদের জন্য একটি সতর্কবার্তা। যারা AI-ভিত্তিক পণ্য তৈরি করছেন তাদের বুঝতে হবে যে এই প্রযুক্তি সম্পূর্ণ নিরাপদ নয়। ব্যবহারকারীর ডেটা বা গুরুত্বপূর্ণ তথ্য AI মডেলের মাধ্যমে প্রসেস করলে সেগুলো ঝুঁকিতে পড়তে পারে। তাই ব্যবসায়িক প্রতিষ্ঠান এবং ডেভেলপারদের উচিত AI ব্যবহারের পাশাপাশি অতিরিক্ত নিরাপত্তা ব্যবস্থা গ্রহণ করা। সাধারণ ব্যবহারকারীদেরও উচিত AI-কে সম্পূর্ণ বিশ্বাস না করে এর আউটপুট যাচাই করা।

এই গবেষণা থেকে স্পষ্ট যে AI প্রযুক্তির ভবিষ্যৎ নিরাপত্তা নির্ভর করবে এই মৌলিক সমস্যার সমাধানের উপর। গবেষকরা এখন আরও উন্নত অ্যালগরিদম এবং প্রশিক্ষণ পদ্ধতি নিয়ে কাজ করছেন। কিন্তু ততদিন পর্যন্ত LLM-কে হ্যাকিং থেকে রক্ষা করা একটি বড় চ্যালেঞ্জ হয়ে থাকবে।

আরও পড়ুন

• AI মডেলের গোপন ডেটা ফাঁস, আপনার ফ্রিল্যান্স প্রকল্পও ঝুঁকিতে
• AI আসলেই বোঝে না, শুধু মুখস্থ করে: আপনার ফ্রিল্যান্সিং কাজে প্রভাব ফেলতে পারে
• AI মডেল কি রুশ প্রচারণায় ফাঁকি দেয়? নতুন পরীক্ষায় ধরা পড়ল বড় দুর্বলতা