OpenAI-র নতুন AI ৮৪% নির্ভুলতায় হ্যাকিং প্রতিরোধে মানব বিশেষজ্ঞকে হারালো

OpenAI তাদের নতুন স্বয়ংক্রিয় রেড-টিমিং মডেল GPT-Red-এর বিস্তারিত তথ্য প্রকাশ করেছে। এই মডেল প্রম্পট ইনজেকশন আক্রমণ শনাক্ত ও প্রতিরোধে মানব বিশেষজ্ঞদের চেয়ে অনেক বেশি কার্যকর প্রমাণিত হয়েছে। একটি পরীক্ষায় GPT-Red 84% সাফল্য দেখিয়েছে, যেখানে মানব রেড-টিমাররা মাত্র 13% সাফল্য পেয়েছে।

প্রম্পট ইনজেকশন হলো এক ধরনের নিরাপত্তা হুমকি যেখানে দূষিত ব্যবহারকারী AI মডেলকে এমন নির্দেশ দেয় যা তার মূল নিয়ম লঙ্ঘন করে। GPT-Red এই ধরনের আক্রমণ স্বয়ংক্রিয়ভাবে তৈরি ও পরীক্ষা করতে পারে। এটি OpenAI-এর সবচেয়ে কঠিন ডাইরেক্ট ইনজেকশন বেঞ্চমার্কে GPT-5.6 Sol মডেলের ব্যর্থতা 6 গুণ কমিয়েছে।

OpenAI GPT-Red-কে প্রশিক্ষণ দিয়েছে সেলফ-প্লে রিইনফোর্সমেন্ট লার্নিং পদ্ধতিতে। এই পদ্ধতিতে মডেলটি নিজের সাথে খেলে ক্রমাগত শিখতে থাকে। এটি একাধিক ডিফেন্ডার LLM-এর বিরুদ্ধে প্রতিযোগিতা করে আরও শক্তিশালী আক্রমণ কৌশল তৈরি করেছে। GPT-Red একটি নতুন ধরনের আক্রমণও আবিষ্কার করেছে যার নাম ফেক চেইন-অফ-থট।

ফেক চেইন-অফ-থট আক্রমণে মডেলটি ভুয়া যুক্তি প্রদর্শন করে ডিফেন্ডার মডেলকে বিভ্রান্ত করে। এই ধরনের আক্রমণ আগে কখনও নথিভুক্ত হয়নি। OpenAI জানিয়েছে যে GPT-Red এখনও মাল্টি-টার্ন এবং ইমেজ-ভিত্তিক আক্রমণের ক্ষেত্রে সীমাবদ্ধতা রয়েছে। তবে এই মডেলটি ভবিষ্যতে AI নিরাপত্তা জোরদার করতে গুরুত্বপূর্ণ ভূমিকা রাখবে।

বাংলাদেশের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশের স্টার্টআপ ও টেক কোম্পানিগুলো যারা AI-ভিত্তিক সেবা দিচ্ছে তারা GPT-Red-এর মতো স্বয়ংক্রিয় নিরাপত্তা সরঞ্জাম ব্যবহার করে তাদের মডেল আরও সুরক্ষিত করতে পারে। ফ্রিল্যান্সার ও ডেভেলপাররাও প্রম্পট ইনজেকশন প্রতিরোধে সচেতন হতে পারেন। শিক্ষার্থীদের জন্য এটি AI নিরাপত্তা গবেষণার একটি উৎকৃষ্ট উদাহরণ।

OpenAI ঘোষণা করেছে যে তারা GPT-Red-কে অভ্যন্তরীণভাবেই ব্যবহার করবে। ভবিষ্যতে এই প্রযুক্তি আরও উন্নত হয়ে AI মডেলকে আরও নিরাপদ করবে বলে আশা করা যাচ্ছে।

আরও পড়ুন

• OpenAI-র GPT-Red: AI এখন নিজেই নিজের দুর্বলতা খুঁজে বের করবে, নিরাপত্তা বাড়বে কয়েকগুণ
• OpenAI-র নতুন AI নিজের দুর্বলতা নিজেই খুঁজে বের করছে, নিরাপত্তা ৮৪% বেড়েছে
• OpenAI-র GPT-Red: নিজের AI-কে আক্রমণ করে নিরাপত্তা ত্রুটি খুঁজে বের করবে