AI নিরাপত্তা মডেলে নয়, নিয়মে: বাংলাদেশের ফ্রিল্যান্সারদের জন্য নতুন বার্তা
নতুন গবেষণা বলছে, মাল্টি-এজেন্ট সিস্টেমের নিরাপত্তা নির্ভর করে মডেল আর্কিটেকচারের চেয়ে অপারেশনাল নিয়মের ওপর বেশি। ইনস্টিটিউশনাল রেড-টিমিং পদ্ধতি ব্যবহার করে এই সিদ্ধান্তে এসেছেন গবেষকরা।
নতুন গবেষণা বলছে, মাল্টি-এজেন্ট সিস্টেমের নিরাপত্তা নির্ভর করে মডেল আর্কিটেকচারের চেয়ে অপারেশনাল নিয়মের ওপর বেশি। ইনস্টিটিউশনাল রেড-টিমিং পদ্ধতি ব্যবহার করে এই সিদ্ধান্তে এসেছেন গবেষকরা।
কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা নিয়ে প্রচলিত ধারণা ভেঙে দিয়েছে নতুন এক গবেষণা। গবেষণায় দেখা গেছে, AI সিস্টেমের নিরাপত্তা নির্ভর করে মডেল ডিজাইনের চেয়ে বেশি নির্ভর করে সেগুলোকে কীভাবে পরিচালনা করা হচ্ছে তার ওপর।
গবেষকরা দেখিয়েছেন, মাল্টি-এজেন্ট সিস্টেমে এজেন্টরা পরস্পরের সঙ্গে সহযোগিতা করবে নাকি প্রতারণা করবে তা নির্ধারণ করে অপারেশনাল গার্ডরেইল বা ব্যবহারিক নিয়মকানুন। মডেলের জটিলতা এখানে গৌণ ভূমিকা পালন করে।
Yujiao Chen-এর নেতৃত্বে পরিচালিত এই গবেষণাটি arXiv-এ প্রকাশিত হয়েছে। গবেষকরা ইনস্টিটিউশনাল রেড-টিমিং নামে একটি পদ্ধতি ব্যবহার করেছেন। এই পদ্ধতিতে বিভিন্ন এজেন্টের মধ্যে মিথস্ক্রিয়া পরীক্ষা করে দেখা হয় কোন নিয়মে তারা নিরাপদ আচরণ করে।
গবেষণার মূল বার্তা হলো, শুধুমাত্র শক্তিশালী AI মডেল তৈরি করলেই নিরাপত্তা নিশ্চিত হয় না। বরং সেই মডেলগুলোকে বাস্তব পরিবেশে কীভাবে ব্যবহার করা হচ্ছে, তাদের মধ্যে কী ধরনের নিয়ম প্রযোজ্য হচ্ছে সেটাই বেশি গুরুত্বপূর্ণ।
বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং প্রযুক্তি শিক্ষার্থীদের জন্য এই গবেষণার বাস্তব অর্থ অনেক। তারা যখন মাল্টি-এজেন্ট সিস্টেম নিয়ে কাজ করবেন, তখন শুধু মডেল উন্নত করলেই হবে না। বরং এজেন্টদের মধ্যে নিয়ম ও সীমারেখা নির্ধারণ করতে হবে। উদাহরণস্বরূপ, দুইটি AI চ্যাটবটের মধ্যে তথ্য বিনিময়ের নিয়ম ঠিক করে দিলে তারা ভুল তথ্য ছড়ানোর ঝুঁকি কমবে।
গবেষণায় বলা হয়েছে, মডেল আর্কিটেকচারের চেয়ে অপারেশনাল নিয়মই বেশি কার্যকর। কারণ নিয়ম পরিবর্তন করা সহজ, কিন্তু মডেল পুনর্নির্মাণ করা সময়সাপেক্ষ ও ব্যয়বহুল। তাই নিরাপত্তা নিশ্চিত করতে প্রথমে নিয়মকানুন ঠিক করা উচিত।
এই গবেষণা AI নিরাপত্তা নিয়ে নতুন করে ভাবার সুযোগ করে দিয়েছে। ভবিষ্যতে AI সিস্টেম ডিজাইন করার সময় গবেষক ও প্রকৌশলীদের মডেলের পাশাপাশি অপারেশনাল নিয়মের ওপর জোর দিতে হবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...