AI শিশু সুরক্ষায় ফাঁকি দিচ্ছে, নকল গোঁফেই চেনে পরিচয়!

অনলাইনে শিশুদের নিরাপত্তা নিশ্চিতে ব্যবহৃত AI প্রযুক্তি এখন সহজেই প্রতারিত হচ্ছে একটি নকল গোঁফে। সম্প্রতি dev.to ML প্ল্যাটফর্মে প্রকাশিত এক গবেষণায় উঠে এসেছে, ফেসিয়াল কম্প্যারিসন মডেলগুলো আসল মানুষের মুখ শনাক্ত না করে প্রায়ই গোঁফ বা চশমার মতো কৃত্রিম বৈশিষ্ট্যের ওপর ভরসা করে। এই দুর্বলতার কারণে AI মডেলগুলো ভুলভাবে পরিচয় শনাক্ত করছে, যা আইডেন্টিটি হ্যালুসিনেশন নামে পরিচিত।

গবেষণাটি বলছে, অনেক ফেসিয়াল অ্যানালাইসিস ইঞ্জিন আসলে মানুষের মুখ নয়, বরং বিভিন্ন প্রপ বা কৃত্রিম উপকরণ চেনে। একজন ব্যক্তি যখন নকল গোঁফ পরে, তখন সিস্টেমটি মনে করে এটি একটি ভিন্ন মানুষ। এই ভুল শনাক্তকরণের ফলে যে কোনো অনলাইন প্ল্যাটফর্মে শিশুদের ওপর নজরদারি করা অত্যন্ত অনিরাপদ হয়ে পড়ছে। কারণ অপরাধীরা সহজেই এই কৌশল ব্যবহার করে সিস্টেমকে ফাঁকি দিতে পারে।

বিশেষজ্ঞরা বলছেন, AI API থেকে পাওয়া কনফিডেন্স স্কোর সবসময় নির্ভরযোগ্য নয়। একটি মডেল যখন 0.95 স্কোর দেখায়, তখন ডেভেলপাররা ধরে নেন যে মডেলটি সঠিকভাবে সেই ব্যক্তিকে চিনেছে। কিন্তু বাস্তবতা হলো, এই উচ্চ স্কোরটি নকল গোঁফের মতো একটি স্পিউরিয়াস করিলেশন থেকে আসতে পারে। অর্থাৎ মডেলটি আসল পরিচয় নয়, বরং একটি ভুল বৈশিষ্ট্যের ভিত্তিতে আত্মবিশ্বাসী হচ্ছে।

কম্পিউটার ভিশন অ্যাপ্লিকেশন তৈরি করা ডেভেলপারদের জন্য এটি একটি বড় চ্যালেঞ্জ। তাদের উচিত শুধু কনফিডেন্স স্কোরের ওপর নির্ভর না করে একাধিক ভেরিফিকেশন পদ্ধতি ব্যবহার করা। যেমন বায়োমেট্রিক ডেটার পাশাপাশি আচরণগত বিশ্লেষণ বা মাল্টি-ফ্যাক্টর অথেনটিকেশন যুক্ত করা। গবেষণাটি আরও জানিয়েছে, প্রশিক্ষণের সময় বৈচিত্র্যময় ডেটাসেট ব্যবহার করলে এই সমস্যা অনেকাংশে কমানো সম্ভব।

বাংলাদেশের প্রেক্ষাপটে এই খবরটি অত্যন্ত গুরুত্বপূর্ণ। দেশে ই-কমার্স, ব্যাংকিং এবং সামাজিক যোগাযোগমাধ্যমে ফেসিয়াল রিকগনিশন প্রযুক্তির ব্যবহার দিন দিন বাড়ছে। বিশেষ করে শিশুদের জন্য তৈরি বিভিন্ন অনলাইন প্ল্যাটফর্মে এই প্রযুক্তি নিরাপত্তা হিসেবে ব্যবহার হচ্ছে। কিন্তু এই দুর্বলতার কারণে অভিভাবকদের সতর্ক থাকতে হবে এবং প্ল্যাটফর্মগুলোকে তাদের নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করার আহ্বান জানাতে হবে।

বাংলাদেশের ফ্রিল্যান্সার এবং সফটওয়্যার ডেভেলপারদের জন্য এটি একটি শিক্ষণীয় বিষয়। তারা যখন কোনো ফেসিয়াল রিকগনিশন API ব্যবহার করবেন, তখন অবশ্যই এর সীমাবদ্ধতা সম্পর্কে জানতে হবে। শুধু API-এর দেওয়া রেজাল্ট বিশ্বাস না করে নিজেদের অতিরিক্ত ভ্যালিডেশন লেয়ার যোগ করা উচিত। এতে করে তাদের তৈরি অ্যাপ্লিকেশনগুলো আরও নিরাপদ হবে এবং ব্যবহারকারীদের ডেটা সুরক্ষিত থাকবে।

সামগ্রিকভাবে, এই গবেষণা প্রমাণ করেছে যে AI সিস্টেমগুলো যতই উন্নত হোক না কেন, তাদের এখনও অনেক দুর্বলতা রয়েছে। ডেভেলপার এবং প্ল্যাটফর্ম প্রদানকারীদের উচিত এই দুর্বলতাগুলো সম্পর্কে সচেতন থাকা এবং ক্রমাগত উন্নতির চেষ্টা করা। ভবিষ্যতে আরও শক্তিশালী এবং নির্ভরযোগ্য ফেসিয়াল রিকগনিশন সিস্টেম তৈরি করতে হলে এই ধরনের গবেষণার ফলাফল কাজে লাগাতে হবে।

আরও পড়ুন

• তুরস্কের জরিমানা: বাংলাদেশি অ্যাপ ডেভেলপারদের জন্য বড় সতর্কবার্তা
• ডিপফেক চিনতে ব্যর্থ ৭৮% মানুষ, আপনার তথ্য কি নিরাপদ?
• আপনার অ্যাপের ছবি যাচাই: আসল চ্যালেঞ্জ গণিত নয়, পদার্থবিজ্ঞানে