অ্যাপলের গবেষণা: মাত্র একটি নিউরন দিয়েই AI নিরাপত্তা ফাঁকি
অ্যাপলের নতুন গবেষণা বলছে, বড় ভাষার মডেলের (LLM) নিরাপত্তা ব্যবস্থা ভাঙতে মাত্র একটি নিউরনই যথেষ্ট। গবেষকরা দেখিয়েছেন, নির্দিষ্ট নিউরনকে লক্ষ্য করে ক্ষতিকর কন্টেন্ট তৈরি বা নিরাপত্তা ফাঁকি দেওয়া সম্ভব। এই ফলাফল 1.7B থেকে 70B প্যারামিটার পর্যন্ত সাতটি ভিন্ন মডেলে পরীক্ষা করে দেখা হয়েছে।
অ্যাপলের নতুন গবেষণা বলছে, বড় ভাষার মডেলের (LLM) নিরাপত্তা ব্যবস্থা ভাঙতে মাত্র একটি নিউরনই যথেষ্ট। গবেষকরা দেখিয়েছেন, নির্দিষ্ট নিউরনকে লক্ষ্য করে ক্ষতিকর কন্টেন্ট তৈরি বা নিরাপত্তা ফাঁকি দেওয়া সম্ভব। এই ফলাফল 1.7B থেকে 70B প্যারামিটার পর্যন্ত সাতটি ভিন্ন মডেলে পরীক্ষা করে দেখা হয়েছে।
অ্যাপল মেশিন লার্নিং রিসার্চ একটি চাঞ্চল্যকর গবেষণা প্রকাশ করেছে। তাদের দাবি, বড় ভাষার মডেলের (LLM) নিরাপত্তা বলয় ভাঙতে মাত্র একটি নিউরনই যথেষ্ট। এই গবেষণায় সাতটি ভিন্ন মডেল পরীক্ষা করা হয়েছে। মডেলগুলোর প্যারামিটার সাইজ 1.7B থেকে 70B পর্যন্ত বিস্তৃত।
গবেষণায় দেখা গেছে, LLM-এর নিরাপত্তা ব্যবস্থা মূলত দুটি ভিন্ন নিউরন সিস্টেমের ওপর নির্ভর করে। প্রথমটি হলো রিফিউজাল নিউরন, যা ক্ষতিকর তথ্য প্রকাশে বাধা দেয়। দ্বিতীয়টি হলো কনসেপ্ট নিউরন, যা ক্ষতিকর জ্ঞান নিজেই ধারণ করে। এই দুটি সিস্টেমের প্রতিটি থেকে মাত্র একটি করে নিউরন টার্গেট করলেই নিরাপত্তা ফাঁকি দেওয়া সম্ভব।
গবেষকরা দুটি ভিন্ন পদ্ধতিতে নিরাপত্তা ভাঙার কৌশল দেখিয়েছেন। প্রথম পদ্ধতিতে রিফিউজাল নিউরনকে দমন করে সরাসরি ক্ষতিকর অনুরোধের উত্তর দেওয়া সম্ভব হয়। দ্বিতীয় পদ্ধতিতে কনসেপ্ট নিউরনকে বাড়িয়ে দিয়ে নিরীহ প্রশ্ন থেকেও ক্ষতিকর কন্টেন্ট তৈরি করা যায়। এই দুটি পদ্ধতিই সাতটি মডেলে সফলভাবে প্রয়োগ করা হয়েছে।
এই গবেষণার ফলাফল AI নিরাপত্তার জন্য বড় হুমকি তৈরি করেছে। বর্তমানে ChatGPT, Gemini, LLaMA-র মতো মডেলগুলো নিরাপত্তা বলয় ব্যবহার করে। এই বলয় ভাঙতে এখন আর জটিল আক্রমণের প্রয়োজন নেই। মাত্র একটি নিউরন পরিবর্তন করলেই পুরো সিস্টেম অকেজো হয়ে যেতে পারে।
বাংলাদেশের ডেভেলপার ও গবেষকদের জন্য এই তথ্য অত্যন্ত গুরুত্বপূর্ণ। স্থানীয় ভাষায় কাজ করা AI মডেলগুলোতেও একই ধরনের দুর্বলতা থাকতে পারে। ফ্রিল্যান্সার ও শিক্ষার্থীদের জন্য নতুন গবেষণার ক্ষেত্র তৈরি হয়েছে। তবে সাধারণ ব্যবহারকারীদের জন্য এটি একটি সতর্কবার্তা। AI চ্যাটবট বা টুল ব্যবহারের সময় সতর্ক থাকা জরুরি।
অ্যাপল মেশিন লার্নিং রিসার্চ এই গবেষণাকে AI নিরাপত্তার একটি বড় চ্যালেঞ্জ হিসেবে চিহ্নিত করেছে। ভবিষ্যতে আরও শক্তিশালী নিরাপত্তা ব্যবস্থা তৈরি করা জরুরি হয়ে পড়েছে। গবেষকরা এখন নিউরন পর্যায়ে সুরক্ষা তৈরির উপায় খুঁজছেন। এই গবেষণা AI-এর দীর্ঘমেয়াদী নিরাপত্তা নিশ্চিত করতে নতুন দিক নির্দেশনা দেবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Apple ML Research
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...