Claude Fable 5-এর নিরাপত্তা ফাঁকি দিল নকল হোমওয়ার্ক, আপনার ডেটা কি ঝুঁকিতে?
Anthropic-এর নতুন AI মডেল Claude Fable 5-এর কঠোর নিরাপত্তা গার্ডরেল একটি সাধারণ নকল হোমওয়ার্ক অ্যাসাইনমেন্ট দিয়ে বাইপাস করা সম্ভব হয়েছে। এই ঘটনা AI নিরাপত্তা ব্যবস্থার দুর্বলতা নিয়ে নতুন প্রশ্ন তুলেছে।
Anthropic-এর নতুন AI মডেল Claude Fable 5-এর কঠোর নিরাপত্তা গার্ডরেল একটি সাধারণ নকল হোমওয়ার্ক অ্যাসাইনমেন্ট দিয়ে বাইপাস করা সম্ভব হয়েছে। এই ঘটনা AI নিরাপত্তা ব্যবস্থার দুর্বলতা নিয়ে নতুন প্রশ্ন তুলেছে।
Anthropic-এর সর্বশেষ AI মডেল Claude Fable 5-এর নিরাপত্তা ব্যবস্থা নিয়ে বড় ধরনের প্রশ্ন উঠেছে। রেডডিটের r/artificial ফোরামে একজন ব্যবহারকারী জানিয়েছেন, তিনি একটি নকল হোমওয়ার্ক অ্যাসাইনমেন্ট তৈরি করে মডেলটির কঠোর নিরাপত্তা প্রহরা ফাঁকি দিতে সক্ষম হয়েছেন।
Fable 5 মডেলটি নিরাপত্তা সংক্রান্ত যেকোনো প্রশ্ন ব্লক করে এবং ব্যবহারকারীকে পুরনো Opus 4.8 মডেলে পাঠিয়ে দেয়। কিন্তু ব্যবহারকারী একটি মেটাস্প্লোয়িটেবল2 ভার্চুয়াল মেশিনে (একটি ইচ্ছাকৃতভাবে দুর্বল রাখা প্রশিক্ষণ বক্স) দুর্বলতা খুঁজে বের করার জন্য সাহায্য চেয়েছিলেন। Fable 5 সরাসরি অনুরোধটি ব্লক করে এবং তাকে Opus 4.8-এ ফরওয়ার্ড করে।
Opus 4.8 ব্যবহারকারীকে প্রমাণ চেয়েছিল যে এটি একটি বৈধ অনুরোধ। ব্যবহারকারী মাত্র দুই মিনিট সময় নিয়ে একটি জাল বিশ্ববিদ্যালয়ের কোর্স রুব্রিক তৈরি করেন। তিনি একটি নকল ক্লাস এবং নকল অ্যাসাইনমেন্টের বিবরণ দেন। এই সাধারণ কৌশলটি কাজ করে এবং Opus 4.8 প্রয়োজনীয় তথ্য সরবরাহ করে।
এই ঘটনা AI মডেলগুলোর নিরাপত্তা ব্যবস্থার একটি মৌলিক দুর্বলতা প্রকাশ করেছে। বর্তমান নিরাপত্তা পদ্ধতি মূলত নির্দিষ্ট কীওয়ার্ড বা প্যাটার্ন চিহ্নিত করার ওপর নির্ভর করে। কিন্তু ব্যবহারকারীরা সহজেই প্রসঙ্গ পরিবর্তন করে এই ব্যবস্থা ফাঁকি দিতে পারেন।
বাংলাদেশের AI গবেষক ও ডেভেলপারদের জন্য এই ঘটনা বিশেষভাবে গুরুত্বপূর্ণ। দেশে AI-ভিত্তিক সেবা ও অ্যাপ্লিকেশন তৈরির প্রবণতা বাড়ছে। নিরাপত্তা ব্যবস্থার এই দুর্বলতা স্থানীয় প্রযুক্তি প্রতিষ্ঠানগুলোর জন্য সতর্কবার্তা। তারা নিজেদের AI মডেল তৈরি বা তৃতীয় পক্ষের মডেল ব্যবহার করার সময় এই ধরনের ফাঁকির সম্ভাবনা বিবেচনায় রাখতে হবে।
ফ্রিল্যান্সার ও শিক্ষার্থীদের জন্যও এই খবর প্রাসঙ্গিক। অনেকে বিভিন্ন AI টুল ব্যবহার করে গবেষণা বা প্রকল্পের কাজ করেন। তাদের বুঝতে হবে যে AI মডেলগুলোর নিরাপত্তা ব্যবস্থা নিখুঁত নয়। কোনো কাজের জন্য AI ব্যবহার করার আগে তার নিরাপত্তা প্রভাব সম্পর্কে সচেতন থাকা জরুরি।
Anthropic এখনো এই ঘটনা নিয়ে আনুষ্ঠানিকভাবে কিছু বলেনি। তবে বিশেষজ্ঞরা মনে করছেন, এই ধরনের ঘটনা AI নিরাপত্তা গবেষণাকে আরও জোরদার করবে। ভবিষ্যতে মডেলগুলো শুধু কীওয়ার্ড নয়, বরং ব্যবহারকারীর উদ্দেশ্য ও প্রসঙ্গ বুঝতে সক্ষম হবে। নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করতে কনটেক্সট-অ্যাওয়্যার গার্ডরেলের প্রয়োজনীয়তা এখন স্পষ্ট।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/artificial
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...