OpenAI-র নতুন AI নিজের দুর্বলতা নিজেই খুঁজে বের করছে, নিরাপত্তা ৮৪% বেড়েছে
OpenAI-র GPT-Red মডেল নিজের AI-কে আক্রমণ করে 84% ক্ষেত্রে সফল হয়েছে। মানব বিশেষজ্ঞরা মাত্র 13% সফল হন। এই ফলাফল GPT-5.6 Sol-এর মতো মডেলকে শক্তিশালী করতে ব্যবহার করা হচ্ছে।
OpenAI-র GPT-Red মডেল নিজের AI-কে আক্রমণ করে 84% ক্ষেত্রে সফল হয়েছে। মানব বিশেষজ্ঞরা মাত্র 13% সফল হন। এই ফলাফল GPT-5.6 Sol-এর মতো মডেলকে শক্তিশালী করতে ব্যবহার করা হচ্ছে।
OpenAI তার নিজের AI সিস্টেমের দুর্বলতা খুঁজে বের করতে এখন কৃত্রিম বুদ্ধিমত্তা ব্যবহার করছে। এই পদ্ধতি মানব বিশেষজ্ঞদের চেয়ে অনেক বেশি কার্যকর প্রমাণিত হয়েছে। The Decoder-এর প্রতিবেদন অনুযায়ী, OpenAI-র GPT-Red নামের একটি অভ্যন্তরীণ AI মডেল 84% পরীক্ষার ক্ষেত্রে সফলভাবে তার নিজের AI-কে আক্রমণ করতে পেরেছে। অন্যদিকে মানব রেড টিমাররা মাত্র 13% ক্ষেত্রে সফল হয়েছে।
এই গবেষণার মূল উদ্দেশ্য হলো AI মডেলগুলোকে আরও নিরাপদ ও শক্তিশালী করা। GPT-Red মডেলটি সেলফ-প্লে ট্রেনিং নামের একটি কৌশল ব্যবহার করে। এই কৌশলে AI নিজের বিরুদ্ধে নিজে খেলে এবং ক্রমাগত শিখে যায় কীভাবে আরও ভালো আক্রমণ চালাতে হয়। এই প্রক্রিয়ায় পাওয়া তথ্য সরাসরি GPT-5.6 Sol-এর মতো পরবর্তী প্রজন্মের মডেলগুলোর সুরক্ষা ব্যবস্থা উন্নত করতে ব্যবহার করা হচ্ছে।
প্রযুক্তিগতভাবে GPT-Red মডেলটি বিভিন্ন ধরনের আক্রমণ কৌশল তৈরি করতে পারে। এটি টেক্সট, কোড বা অন্যান্য ইনপুটের মাধ্যমে AI-কে বিভ্রান্ত করার চেষ্টা করে। উদাহরণস্বরূপ এটি এমন প্রশ্ন তৈরি করতে পারে যা AI-কে ভুল তথ্য দিতে বাধ্য করে। অথবা এটি এমন নির্দেশনা দিতে পারে যা AI-র নিরাপত্তা ব্যবস্থাকে ফাঁকি দেয়। এই আক্রমণগুলোর সাফল্যের হার 84% হওয়ায় এটি মানব রেড টিমারদের তুলনায় 6 গুণেরও বেশি কার্যকর।
মানব রেড টিমাররা সাধারণত AI-র দুর্বলতা খুঁজতে ঘণ্টার পর ঘণ্টা সময় ব্যয় করে। কিন্তু GPT-Red মডেলটি স্বয়ংক্রিয়ভাবে এবং দ্রুতগতিতে এই কাজ করতে পারে। এটি শুধু সময়ই বাঁচায় না বরং আরও বেশি সংখ্যক আক্রমণ কৌশল আবিষ্কার করতে পারে। OpenAI মনে করে এই পদ্ধতি ভবিষ্যতে AI নিরাপত্তা গবেষণার একটি গুরুত্বপূর্ণ অংশ হয়ে উঠবে।
বাংলাদেশের প্রযুক্তি ও AI সম্প্রদায়ের জন্য এই খবর বিশেষ তাৎপর্যপূর্ণ। দেশের ডেভেলপার ও গবেষকরা এই পদ্ধতি থেকে শিক্ষা নিতে পারেন। নিজেদের AI মডেলের নিরাপত্তা বাড়াতে তারা সেলফ-প্লে ট্রেনিং বা স্বয়ংক্রিয় রেড টিমিং কৌশল ব্যবহার করতে পারেন। ফ্রিল্যান্সার ও স্টার্টআপ প্রতিষ্ঠানগুলো তাদের AI-ভিত্তিক প্রোডাক্টের মান উন্নত করতে এই ধারণা কাজে লাগাতে পারে। শিক্ষার্থীরাও AI নিরাপত্তা নিয়ে গবেষণার নতুন দিগন্ত দেখতে পাচ্ছে।
OpenAI-র এই উদ্যোগ AI নিরাপত্তা গবেষণায় একটি নতুন অধ্যায়ের সূচনা করেছে। ভবিষ্যতে আরও বেশি AI কোম্পানি নিজেদের মডেল পরীক্ষা করতে AI ব্যবহার করবে বলে বিশেষজ্ঞরা মনে করছেন। এই পদ্ধতি AI সিস্টেমগুলোকে আরও নির্ভরযোগ্য ও নিরাপদ করে তুলতে পারে। তবে এটি নিয়ে নৈতিক প্রশ্নও উঠছে কারণ AI যদি নিজের দুর্বলতা নিজেই খুঁজে বের করে তাহলে কী হবে তা নিয়ে এখনও গবেষণা চলছে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: The Decoder
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...