Google-এর নতুন টুলে ৩ ওপেন সোর্স AI মডেলই ফেল, আপনার ডেটা সুরক্ষিত নয়
Google Cloud-এর নতুন AMS টুল সরাসরি মডেলের ওয়েটস স্তরে নিরাপত্তা পরীক্ষা করে। তিনটি ছোট ওপেন সোর্স মডেল পরীক্ষায় সবগুলোই ক্রিটিক্যাল স্কোর পেয়েছে, সুরক্ষা সীমারেখা 3.5 পার করতে পারেনি।
Google Cloud-এর নতুন AMS টুল সরাসরি মডেলের ওয়েটস স্তরে নিরাপত্তা পরীক্ষা করে। তিনটি ছোট ওপেন সোর্স মডেল পরীক্ষায় সবগুলোই ক্রিটিক্যাল স্কোর পেয়েছে, সুরক্ষা সীমারেখা 3.5 পার করতে পারেনি।
Google Cloud 2026 সালের এপ্রিল মাসের শেষের দিকে AMS (Activation Model Scanner) নামে একটি ওপেন সোর্স টools উন্মুক্ত করেছে। এই টুলটি প্রচলিত আচরণগত পরীক্ষার বাইরে গিয়ে সরাসরি মডেলের অ্যাক্টিভেশন স্পেসের জ্যামিতি পরিমাপ করে। এর লক্ষ্য হলো লার্জ ল্যাঙ্গুয়েজ মডেলের (LLM) নিরাপত্তা প্রশিক্ষণ (safety training) আসলেই ওয়েটস স্তরে প্রভাব ফেলেছে কিনা তা যাচাই করা।
এআইখবর একটি দ্রুত পরীক্ষা চালিয়েছে তিনটি ভিন্ন আকারের ওপেন সোর্স মডেলের উপর। পরীক্ষার ফলাফল উদ্বেগজনক। তিনটি মডেলই CRITICAL ক্যাটাগরিতে পড়েছে। তাদের স্কোর ছিল 0.37 থেকে 1.82 এর মধ্যে, যা Google-এর নির্ধারিত নিরাপত্তা সীমারেখা 3.5 থেকে অনেক নিচে। কোনো মডেলই এই সীমা অতিক্রম করতে পারেনি।
AMS টুলটি কীভাবে কাজ করে? প্রচলিত পদ্ধতিতে মডেলকে বিভিন্ন প্রম্পট (prompt) দিয়ে তার প্রতিক্রিয়া দেখা হয়। AMS কিন্তু সেটি করে না। এটি মডেলের অভ্যন্তরীণ অ্যাক্টিভেশন স্পেসের জ্যামিতিক কাঠামো বিশ্লেষণ করে। ধারণাটি হলো, নিরাপত্তা প্রশিক্ষণ (যেমন RLHF) মডেলের ওয়েটসে নির্দিষ্ট জ্যামিতিক চিহ্ন রেখে যায়। AMS সেই চিহ্ন খুঁজে বের করে। এটি একটি Apache 2.0 লাইসেন্সের অধীনে ওপেন সোর্স, তাই যে কেউ এটি ব্যবহার করতে পারে।
বাংলাদেশের প্রেক্ষাপটে এই খবরটি অত্যন্ত গুরুত্বপূর্ণ। দেশের ডেভেলপার, ফ্রিল্যান্সার এবং স্টার্টআপগুলো ক্রমবর্ধমান হারে ওপেন সোর্স LLM ব্যবহার করছে। তারা নিজেদের অ্যাপ্লিকেশন তৈরির জন্য এই মডেলগুলো ফাইন-টিউন করে। কিন্তু যদি মৌলিক মডেলগুলোই নিরাপত্তার দিক থেকে দুর্বল হয়, তাহলে সেই অ্যাপ্লিকেশনগুলোও ঝুঁকিপূর্ণ হতে পারে। AMS টুলটি তাদের জন্য একটি শক্তিশালী অস্ত্র হতে পারে। এটি ব্যবহার করে তারা সহজেই যাচাই করতে পারবে যে একটি মডেল আসলে নিরাপদ কিনা, শুধু তার আচরণ দেখে নয়, বরং তার ভেতরের গঠন দেখে।
এই পরীক্ষার ফলাফল দেখায় যে ছোট ওপেন সোর্স মডেলগুলোতে নিরাপত্তা প্রশিক্ষণ প্রায়শই সঠিকভাবে কাজ করে না। এর মানে এই নয় যে এগুলো অকেজো, বরং এগুলো ব্যবহারের আগে অতিরিক্ত নিরাপত্তা ব্যবস্থা নেওয়া জরুরি। এআইখবর মনে করে, ভবিষ্যতে মডেল নির্বাচন ও গ্রহণের ক্ষেত্রে AMS-এর মতো টুল ব্যবহার করা একটি আদর্শ অনুশীলনে পরিণত হবে। ডেভেলপারদের এখন থেকেই এই নতুন পদ্ধতি সম্পর্কে সচেতন হওয়া উচিত।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...