Google-এর নতুন টুলে ধরা পড়ল ৩ ওপেন সোর্স AI-এর নিরাপত্তা ফাঁক, আপনার ডেটা কি ঝুঁকিতে?
Google Cloud-এর নতুন AMS টুল সরাসরি মডেলের ওজন স্তর পরীক্ষা করে। তিনটি জনপ্রিয় ওপেন সোর্স মডেলই সুরক্ষা সীমার নিচে স্কোর করেছে, যা AI নিরাপত্তায় নতুন দৃষ্টিভঙ্গি তৈরি করেছে।
Google Cloud-এর নতুন AMS টুল সরাসরি মডেলের ওজন স্তর পরীক্ষা করে। তিনটি জনপ্রিয় ওপেন সোর্স মডেলই সুরক্ষা সীমার নিচে স্কোর করেছে, যা AI নিরাপত্তায় নতুন দৃষ্টিভঙ্গি তৈরি করেছে।
Google Cloud 2026 সালের এপ্রিল মাসের শেষে একটি গুরুত্বপূর্ণ ওপেন সোর্স টools উন্মুক্ত করেছে, যার নাম AMS বা Activation Model Scanner। এই টুলটি প্রচলিত আচরণগত পরীক্ষার বাইরে গিয়ে সরাসরি মডেলের অ্যাক্টিভেশন স্পেসের জ্যামিতিক গঠন মাপে। এর মাধ্যমে বোঝা যায় যে সুরক্ষা প্রশিক্ষণ (RLHF বা অন্য কোনো পদ্ধতি) সত্যিই মডেলের ওজন স্তরে কোনো ছাপ ফেলেছে কিনা।
AIখবর-এর বিশ্লেষণে দেখা গেছে, এই টুল দিয়ে তিনটি ভিন্ন আকারের ওপেন সোর্স মডেল পরীক্ষা করা হয়েছে। ফলাফল উদ্বেগজনক। তিনটি মডেলই CRITICAL অবস্থা দেখিয়েছে। তাদের স্কোর ছিল 0.37 থেকে 1.82-এর মধ্যে। অথচ Google-এর নির্ধারিত নিরাপদ সীমা হলো 3.5। অর্থাৎ কোনো মডেলই সেই সীমা অতিক্রম করতে পারেনি।
AMS কেন প্রচলিত পদ্ধতি থেকে আলাদা? প্রচলিত পদ্ধতিতে মডেলকে বিভিন্ন প্রশ্ন করা হয় এবং তার উত্তর দেখা হয়। কিন্তু AMS মডেলের ভেতরের গঠন দেখে। এটি ধরে নেয় যে সত্যিকারের সুরক্ষা প্রশিক্ষণ মডেলের অ্যাক্টিভেশন স্পেসে একটি নির্দিষ্ট জ্যামিতিক ছাপ ফেলে। যদি সেই ছাপ না থাকে, তাহলে মডেলটি সহজেই প্রতারণা বা বিপজ্জনক আউটপুট দিতে পারে, এমনকি যদি তার আচরণগত পরীক্ষায় পাসও করে থাকে।
এই পরীক্ষাটি চালানো হয়েছে একটি সাধারণ Mac কম্পিউটারে। এটি দেখায় যে AMS টুলটি ব্যবহার করা খুবই সহজ এবং কোনো বিশেষ GPU বা ক্লাউড সেবার প্রয়োজন নেই। MLOps এবং AI Red Team ইঞ্জিনিয়ারদের জন্য এটি একটি শক্তিশালী হাতিয়ার হতে পারে। তারা এখন ওপেন সোর্স মডেল নির্বাচন বা গ্রহণ করার আগে দ্রুত এই পরীক্ষা চালাতে পারবেন।
বাংলাদেশের প্রযুক্তি অঙ্গনের জন্য এই খবর বিশেষ তাৎপর্যপূর্ণ। দেশের স্টার্টআপ, ফ্রিল্যান্সার এবং শিক্ষার্থীরা প্রচুর ওপেন সোর্স মডেল ব্যবহার করে। অনেকেই নিজেদের কাজের জন্য ছোট ছোট মডেল ফাইন-টিউন করে। এই AMS টুল তাদের বুঝতে সাহায্য করবে যে একটি মডেল কতটা নিরাপদ। এটি শুধু বড় কোম্পানির জন্য নয়, বরং যেকোনো ডেভেলপারের জন্য একটি অপরিহার্য সুরক্ষা পরীক্ষা হয়ে উঠতে পারে।
ভবিষ্যতে, মডেল প্রকাশের আগে AMS-এর মতো টুল দিয়ে পরীক্ষা করানো একটি মানদণ্ডে পরিণত হতে পারে। Google এই টools ওপেন সোর্স করায় এখন যে কেউ এটি ব্যবহার করতে পারবেন। এটি AI নিরাপত্তার ক্ষেত্রে একটি নতুন দিগন্ত খুলে দিয়েছে, যেখানে মডেলের বাইরের আচরণ নয়, বরং ভেতরের গঠনই সুরক্ষার মূল চাবিকাঠি।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...