OpenAI-র নতুন AI ৮৪% নির্ভুলতায় হ্যাকিং প্রতিরোধে মানব বিশেষজ্ঞকে হারালো
OpenAI তাদের অভ্যন্তরীণ স্বয়ংক্রিয় রেড-টিমিং মডেল GPT-Red-এর বিস্তারিত তথ্য প্রকাশ করেছে। এই মডেল প্রম্পট ইনজেকশন আক্রমণে মানব রেড-টিমারদের 84% বনাম 13% ব্যবধানে পরাজিত করেছে এবং GPT-5.6 Sol-এর ব্যর্থতা 6 গুণ কমিয়েছে।
OpenAI তাদের অভ্যন্তরীণ স্বয়ংক্রিয় রেড-টিমিং মডেল GPT-Red-এর বিস্তারিত তথ্য প্রকাশ করেছে। এই মডেল প্রম্পট ইনজেকশন আক্রমণে মানব রেড-টিমারদের 84% বনাম 13% ব্যবধানে পরাজিত করেছে এবং GPT-5.6 Sol-এর ব্যর্থতা 6 গুণ কমিয়েছে।
OpenAI তাদের নতুন স্বয়ংক্রিয় রেড-টিমিং মডেল GPT-Red-এর বিস্তারিত তথ্য প্রকাশ করেছে। এই মডেল প্রম্পট ইনজেকশন আক্রমণ শনাক্ত ও প্রতিরোধে মানব বিশেষজ্ঞদের চেয়ে অনেক বেশি কার্যকর প্রমাণিত হয়েছে। একটি পরীক্ষায় GPT-Red 84% সাফল্য দেখিয়েছে, যেখানে মানব রেড-টিমাররা মাত্র 13% সাফল্য পেয়েছে।
প্রম্পট ইনজেকশন হলো এক ধরনের নিরাপত্তা হুমকি যেখানে দূষিত ব্যবহারকারী AI মডেলকে এমন নির্দেশ দেয় যা তার মূল নিয়ম লঙ্ঘন করে। GPT-Red এই ধরনের আক্রমণ স্বয়ংক্রিয়ভাবে তৈরি ও পরীক্ষা করতে পারে। এটি OpenAI-এর সবচেয়ে কঠিন ডাইরেক্ট ইনজেকশন বেঞ্চমার্কে GPT-5.6 Sol মডেলের ব্যর্থতা 6 গুণ কমিয়েছে।
OpenAI GPT-Red-কে প্রশিক্ষণ দিয়েছে সেলফ-প্লে রিইনফোর্সমেন্ট লার্নিং পদ্ধতিতে। এই পদ্ধতিতে মডেলটি নিজের সাথে খেলে ক্রমাগত শিখতে থাকে। এটি একাধিক ডিফেন্ডার LLM-এর বিরুদ্ধে প্রতিযোগিতা করে আরও শক্তিশালী আক্রমণ কৌশল তৈরি করেছে। GPT-Red একটি নতুন ধরনের আক্রমণও আবিষ্কার করেছে যার নাম ফেক চেইন-অফ-থট।
ফেক চেইন-অফ-থট আক্রমণে মডেলটি ভুয়া যুক্তি প্রদর্শন করে ডিফেন্ডার মডেলকে বিভ্রান্ত করে। এই ধরনের আক্রমণ আগে কখনও নথিভুক্ত হয়নি। OpenAI জানিয়েছে যে GPT-Red এখনও মাল্টি-টার্ন এবং ইমেজ-ভিত্তিক আক্রমণের ক্ষেত্রে সীমাবদ্ধতা রয়েছে। তবে এই মডেলটি ভবিষ্যতে AI নিরাপত্তা জোরদার করতে গুরুত্বপূর্ণ ভূমিকা রাখবে।
বাংলাদেশের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশের স্টার্টআপ ও টেক কোম্পানিগুলো যারা AI-ভিত্তিক সেবা দিচ্ছে তারা GPT-Red-এর মতো স্বয়ংক্রিয় নিরাপত্তা সরঞ্জাম ব্যবহার করে তাদের মডেল আরও সুরক্ষিত করতে পারে। ফ্রিল্যান্সার ও ডেভেলপাররাও প্রম্পট ইনজেকশন প্রতিরোধে সচেতন হতে পারেন। শিক্ষার্থীদের জন্য এটি AI নিরাপত্তা গবেষণার একটি উৎকৃষ্ট উদাহরণ।
OpenAI ঘোষণা করেছে যে তারা GPT-Red-কে অভ্যন্তরীণভাবেই ব্যবহার করবে। ভবিষ্যতে এই প্রযুক্তি আরও উন্নত হয়ে AI মডেলকে আরও নিরাপদ করবে বলে আশা করা যাচ্ছে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: MarkTechPost
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...