AI রিজিউমি স্ক্রিনিংয়ে ৪৫% পক্ষপাত, চাকরি প্রার্থীদের সাবধান
একটি নতুন গবেষণায় 25,500টি LLM রিজিউমি স্ক্রিনিং বিশ্লেষণ করে দেখা গেছে, 45% ক্ষেত্রেই মডেল নীরব পক্ষপাতের কারণে প্রার্থীদের স্কোর কমিয়েছে। এমনকি বিশ্ববিদ্যালয়ের নাম MIT পরিবর্তন করলেও কিছু মডেল স্কোর কমিয়েছে।
একটি নতুন গবেষণায় 25,500টি LLM রিজিউমি স্ক্রিনিং বিশ্লেষণ করে দেখা গেছে, 45% ক্ষেত্রেই মডেল নীরব পক্ষপাতের কারণে প্রার্থীদের স্কোর কমিয়েছে। এমনকি বিশ্ববিদ্যালয়ের নাম MIT পরিবর্তন করলেও কিছু মডেল স্কোর কমিয়েছে।
কৃত্রিম বুদ্ধিমত্তা নিয়োগ প্রক্রিয়ায় বৈষম্য দূর করতে পারে, কিন্তু একটি নতুন গবেষণা সেই ধারণাকে প্রশ্নবিদ্ধ করেছে। Reddit-এর r/artificial ফোরামে প্রকাশিত এক গবেষণায় 25,500টি LLM রিজিউমি স্ক্রিনিং বিশ্লেষণ করে উদ্বেগজনক ফলাফল পাওয়া গেছে। স্বাধীন AI অডিটর প্রতিষ্ঠানটি জানিয়েছে, মডেলগুলোর মূল্যায়নে 45% ক্ষেত্রেই নীরব পক্ষপাত বা সাইলেন্ট বায়াস কাজ করেছে।
এই পক্ষপাতের সবচেয়ে ভয়াবহ দিক হলো, মডেলগুলো সরাসরি কোনো আপত্তিকর মন্তব্য না করেই প্রার্থীদের বিরুদ্ধে পেশাদার শোনানো অজুহাত তৈরি করে। গবেষকরা একই কাজের ইতিহাসে শুধু পরিচয় ও জনমিতিক ভেরিয়েবল পরিবর্তন করে 10টি ভিন্ন মডেলে পরীক্ষা চালান। ফলাফলে দেখা যায়, মডেলগুলো স্বয়ংক্রিয়ভাবে নির্দিষ্ট পরিচয়ের প্রার্থীদের স্কোর কমিয়ে দিচ্ছে।
গবেষণায় একটি চাঞ্চল্যকর উদাহরণ তুলে ধরা হয়েছে। যখন একটি মডেলে বিশ্ববিদ্যালয়ের নাম পরিবর্তন করে MIT করা হয়, তখন মডেলটি পূর্বের তুলনায় কম স্কোর দেয়। এটি প্রমাণ করে যে মডেলটি বিশ্ববিদ্যালয়ের নামের সঙ্গে প্রার্থীর দক্ষতার কোনো সম্পর্ক না থাকলেও পক্ষপাত দেখিয়েছে। গবেষকরা এই ঘটনাকে সাইলেন্ট বায়াস বলে অভিহিত করেছেন, যা মডেলের প্রশিক্ষণ ডেটার অন্তর্নিহিত বৈষম্যের ফল।
এই গবেষণার ফলাফল বাংলাদেশের জন্য বিশেষভাবে গুরুত্বপূর্ণ। দেশে ফ্রিল্যান্সিং ও রিমোট জবের বাজার বাড়ছে এবং অনেক কোম্পানি প্রার্থী বাছাইয়ে AI ব্যবহার করছে। যদি LLM-এর এই পক্ষপাত ঠিক না করা হয়, তাহাবে বাংলাদেশি প্রার্থীরা তাদের শিক্ষাগত পটভূমি বা নামের কারণে অন্যায্য মূল্যায়নের শিকার হতে পারেন। বিশেষ করে যারা স্থানীয় বিশ্ববিদ্যালয় থেকে পাস করেছেন, তাদের জন্য এটি বড় চ্যালেঞ্জ হয়ে দাঁড়াতে পারে।
AI বিশেষজ্ঞরা বলছেন, এই সমস্যা সমাধানের জন্য মডেল প্রশিক্ষণে আরও বৈচিত্র্যময় ও নিরপেক্ষ ডেটা ব্যবহার করা জরুরি। নিয়োগকারী প্রতিষ্ঠানগুলোরও উচিত AI-নির্ভর সিদ্ধান্ত নেওয়ার আগে ফলাফল যাচাই করা। বাংলাদেশের ডেভেলপার ও স্টার্টআপগুলোর জন্য এটি একটি সতর্কবার্তা যে AI টুল ব্যবহারের আগে পক্ষপাত পরীক্ষা করা অত্যন্ত গুরুত্বপূর্ণ।
ভবিষ্যতে আরও স্বচ্ছ ও ন্যায়সঙ্গত AI সিস্টেম তৈরির জন্য গবেষণা অব্যাহত থাকবে। তবে এই গবেষণা স্পষ্ট করে দিয়েছে যে প্রযুক্তি যত উন্নত হোক না কেন, মানুষের তদারকি এখনও অপরিহার্য।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/artificial
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...