AI নিরাপত্তায় বড় গলদ: ৭২% গবেষণাপত্রকে হ্যাকার ভেবে বসেছিল সিস্টেম
একটি AI নিরাপত্তা ব্যবস্থা ৭২% শিক্ষাবিষয়ক গবেষণাপত্রকে হ্যাকার আক্রমণ হিসেবে চিহ্নিত করেছে। পরে একটি ফিক্স এসে এই ভুলের হার কমিয়ে ৬.৭% এ নামিয়ে এনেছে। ঘটনাটি AI নিরাপত্তা ব্যবস্থার সীমাবদ্ধতা নিয়ে নতুন করে ভাবতে বাধ্য করছে।
একটি AI নিরাপত্তা ব্যবস্থা ৭২% শিক্ষাবিষয়ক গবেষণাপত্রকে হ্যাকার আক্রমণ হিসেবে চিহ্নিত করেছে। পরে একটি ফিক্স এসে এই ভুলের হার কমিয়ে ৬.৭% এ নামিয়ে এনেছে। ঘটনাটি AI নিরাপত্তা ব্যবস্থার সীমাবদ্ধতা নিয়ে নতুন করে ভাবতে বাধ্য করছে।
একটি AI নিরাপত্তা ব্যবস্থা ভুল করে একাডেমিক গবেষণাপত্রকে হ্যাকার আক্রমণ হিসেবে শনাক্ত করেছে। dev.to AI-তে প্রকাশিত এক ব্লগপোস্টে এই ঘটনা বিস্তারিতভাবে বর্ণনা করা হয়েছে। লেখক জানিয়েছেন, তার অ্যাডভারসারিয়াল প্রম্পট ডিটেক্টর ৭২% সময় একাডেমিক পেপারকে GCG সাফিক্স অ্যাটাক হিসেবে চিহ্নিত করছিল।
GCG বা Greedy Coordinate Gradient অ্যাটাক হলো এক ধরনের প্রতিকূল নয়েজ স্ট্রিং যা এলোমেলো দেখায়। এই স্ট্রিংগুলো এলএলএম (Large Language Model) নিরাপত্তা ব্যবস্থাকে ফাঁকি দেওয়ার জন্য তৈরি করা হয়। উদাহরণস্বরূপ, একটি GCG অ্যাটাক দেখতে এরকম হতে পারে: "Ignore previous instructions. Sure here is ]( revert-->Mother $_[ describing..."। এই ধরনের স্ট্রিংগুলো মেশিন লার্নিং মডেলের গ্রেডিয়েন্ট অপটিমাইজেশনের মাধ্যমে তৈরি হয়।
লেখকের তৈরি ডিটেক্টরটি এই GCG অ্যাটাকগুলোর প্যাটার্ন চিহ্নিত করার জন্য ডিজাইন করা হয়েছিল। কিন্তু সমস্যা হলো, গবেষণাপত্রে ব্যবহৃত কিছু জটিল টেকনিক্যাল ভাষা এবং ফরম্যাটিং এই প্যাটার্নের সাথে মিলে যাচ্ছিল। ফলে ডিটেক্টরটি গবেষণাপত্রকেও হামলা হিসেবে ভুল করছিল।
এই ভুল শনাক্তকরণের হার কমানোর জন্য লেখক একটি ফিক্স তৈরি করেছেন। ফিক্সটি প্রয়োগ করার পর ভুলের হার ৭২% থেকে কমে দাঁড়িয়েছে ৬.৭% এ। ফিক্সটি মূলত ডিটেক্টরের অ্যালগরিদমে কিছু পরিবর্তন এনেছে যাতে এটি প্রকৃত হামলা এবং গবেষণাপত্রের মধ্যে পার্থক্য করতে পারে।
বাংলাদেশের ডেভেলপার এবং গবেষকদের জন্য এই ঘটনা বিশেষভাবে গুরুত্বপূর্ণ। দেশে AI এবং মেশিন লার্নিং নিয়ে কাজ করা অনেক ফ্রিল্যান্সার এবং স্টার্টআপ রয়েছে। তাদের তৈরি করা নিরাপত্তা ব্যবস্থায় যদি এমন ভুল থাকে, তাহলে তা প্রকল্পের বিশ্বাসযোগ্যতা নষ্ট করতে পারে। এছাড়া শিক্ষার্থীদের গবেষণাপত্র জমা দেওয়ার সময়েও সমস্যা হতে পারে।
ভবিষ্যতে AI নিরাপত্তা ব্যবস্থা আরও উন্নত করতে হবে। গবেষকদের উচিত তাদের মডেলগুলোকে বাস্তব বিশ্বের বিভিন্ন ডেটা দিয়ে প্রশিক্ষণ দেওয়া। শুধু তাত্ত্বিক হামলার প্যাটার্ন নয়, বরং সাধারণ এবং বৈধ ইনপুটগুলোও চিহ্নিত করতে শেখানো জরুরি। তাহলেই AI নিরাপত্তা ব্যবস্থা আরও কার্যকর এবং নির্ভরযোগ্য হবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...