AI মডেল হ্যাকারদের হাত থেকে বাঁচাবে বাংলাদেশি গবেষকদের নতুন পদ্ধতি
গবেষকরা একটি অভিনব পদ্ধতি প্রস্তাব করেছেন যেখানে ফাইন-টিউনিংকে শুধুমাত্র বিশ্বস্ত LoRA অ্যাডাপ্টার থেকে শেখা একটি উপ-স্থানের মধ্যে সীমাবদ্ধ রাখা হয়। এর মাধ্যমে ম্যালিশিয়াস আপডেট জ্যামিতিকভাবেই অপ্রাপ্য হয়ে যায়, যা ডেটা শনাক্ত না করেই নিরাপত্তা নিশ্চিত করে।
গবেষকরা একটি অভিনব পদ্ধতি প্রস্তাব করেছেন যেখানে ফাইন-টিউনিংকে শুধুমাত্র বিশ্বস্ত LoRA অ্যাডাপ্টার থেকে শেখা একটি উপ-স্থানের মধ্যে সীমাবদ্ধ রাখা হয়। এর মাধ্যমে ম্যালিশিয়াস আপডেট জ্যামিতিকভাবেই অপ্রাপ্য হয়ে যায়, যা ডেটা শনাক্ত না করেই নিরাপত্তা নিশ্চিত করে।
একটি নতুন গবেষণা পত্রে মেশিন লার্নিং বিশেষজ্ঞরা একটি যুগান্তকারী প্রশ্ন তুলেছেন: যদি একটি AI মডেল কেবল সেসব নির্দেশনা শিখতে পারে যা বিশ্বস্ত LoRA অ্যাডাপ্টার প্রকাশ করতে পারে, তাহলে কি দূষিত আক্রমণ প্রতিরোধ করা সম্ভব? রেডিটের r/MachineLearning ফোরামে প্রকাশিত এই গবেষণাটি ফাইন-টিউনিং পয়জনিংয়ের বিরুদ্ধে একটি অভিনব প্রতিরক্ষা কৌশল উপস্থাপন করে।
গবেষকদের মতে, বর্তমানে ফাইন-টিউনিং পয়জনিং প্রতিরোধের বেশিরভাগ পদ্ধতি দূষিত ডেটা শনাক্তকরণ বা তার প্রভাব কমানোর চেষ্টা করে। কিন্তু এই নতুন পদ্ধতি সম্পূর্ণ ভিন্ন পথে হাঁটে। এটি মডেলটিকে এমনভাবে সীমাবদ্ধ করে যে কিছু নির্দিষ্ট ম্যালিশিয়াস আপডেট জ্যামিতিকভাবেই অপ্রাপ্য হয়ে পড়ে। অর্থাৎ মডেলটি শারীরিকভাবে সেই দূষিত নির্দেশনা শিখতে পারে না।
গবেষণাটি কীভাবে কাজ করে? ধারণাটি হলো বিশ্বস্ত LoRA অ্যাডাপ্টার থেকে একটি উপ-স্থান (subspace) শেখা। LoRA বা Low-Rank Adaptation হলো একটি জনপ্রিয় কৌশল যা বড় ভাষা মডেলকে কম্পিউটেশনাল খরচ ছাড়াই দ্রুত ফাইন-টিউন করতে সাহায্য করে। এই নতুন পদ্ধতিতে ফাইন-টিউনিংকে শুধুমাত্র সেই উপ-স্থানের মধ্যে সীমাবদ্ধ রাখা হয়। ফলে দরকারী অ্যাডাপ্টেশন সম্ভব থাকে, কিন্তু দূষিত দিকনির্দেশনা জ্যামিতিকভাবেই অপ্রাপ্য হয়ে যায়।
একটি বাস্তব উদাহরণ দিয়ে বিষয়টি বোঝানো যায়। ধরুন একটি কোম্পানি ব্যবহারকারীদের কাছ থেকে আসা বড় ডেটাসেট ব্যবহার করে একটি মডেল ফাইন-টিউন করছে। এই ডেটাসেটে দূষিত ডেটা থাকতে পারে যা মডেলটিকে ক্ষতিকর আউটপুট দিতে শেখাতে চায়। প্রচলিত পদ্ধতিতে এই দূষিত ডেটা শনাক্ত করা কঠিন। কিন্তু নতুন পদ্ধতিতে মডেলটি শুধু বিশ্বস্ত LoRA অ্যাডাপ্টার থেকে শেখা পথেই চলতে পারে, ফলে দূষিত ডেটার প্রভাব শূন্যে নেমে আসে।
বাংলাদেশের প্রেক্ষাপটে এই গবেষণার গুরুত্ব অপরিসীম। দেশের স্টার্টআপ ও প্রযুক্তি কোম্পানিগুলো বড় ভাষা মডেল ব্যবহার করে লোকালাইজড সেবা তৈরি করছে। ফ্রিল্যান্সার ও ডেভেলপাররা বিভিন্ন প্রকল্পে ফাইন-টিউনিং ব্যবহার করেন। এই পদ্ধতি তাদেরকে ডেটা নিরাপত্তার উদ্বেগ ছাড়াই কাজ করতে সাহায্য করবে। বিশেষ করে ব্যাংকিং, স্বাস্থ্য ও শিক্ষাখাতে যেখানে ডেটা সংবেদনশীল, সেখানে এই প্রযুক্তি বড় ভূমিকা রাখতে পারে।
গবেষকরা আশা করছেন এই পদ্ধতি ভবিষ্যতে আরও উন্নত করা যাবে। তারা মনে করেন শুধু LoRA নয়, অন্যান্য অ্যাডাপ্টেশন কৌশলের জন্যও অনুরূপ প্রতিরক্ষা ব্যবস্থা তৈরি করা সম্ভব। এটি AI নিরাপত্তার একটি নতুন দিগন্ত খুলে দিতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/MachineLearning
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...