৯৯% আত্মবিশ্বাসী AI-ও ভুল! চমকপ্রদ গবেষণা

আমরা যখন AI মডেলের ওপর নির্ভর করি, তখন তার কনফিডেন্স স্কোর আমাদের আস্থা জোগায়। কিন্তু সম্প্রতি Towards Data Science-এ প্রকাশিত এক গবেষণা বলছে, এই আস্থা ভুল হতে পারে। শিরোনামেই স্পষ্ট: 'The AI Model Confidence Trap'—অর্থাৎ, AI মডেলের আত্মবিশ্বাসের ফাঁদ।

গবেষণাটি দেখিয়েছে, AI মডেল ৯৯% কনফিডেন্স নিয়ে একটি উত্তর দিতে পারে, কিন্তু সেই উত্তর সম্পূর্ণ ভুল হতে পারে। এটি ঘটে যখন মডেলটি তার প্রশিক্ষণ ডেটার বাইরের কোনো প্যাটার্ন বা অস্বাভাবিক ইনপুট পায়, যাকে 'out-of-distribution' ডেটা বলা হয়। মডেল তখনও উচ্চ আত্মবিশ্বাস দেখায়, কিন্তু তার ভবিষ্যদ্বাণী নির্ভুল হয় না।

এই সমস্যার মূল কারণ হলো, মডেলের কনফিডেন্স স্কোর আসলে তার অভ্যন্তরীণ সফটম্যাক্স আউটপুটের ওপর ভিত্তি করে তৈরি, যা বাস্তব জগতের অনিশ্চয়তা প্রতিফলিত করে না। অর্থাৎ, মডেল নিজেই জানে না যে সে ভুল করছে—সে শুধু তার প্রশিক্ষণ থেকে শেখা প্যাটার্নের ভিত্তিতে আত্মবিশ্বাসী উত্তর দেয়। গবেষকরা এটিকে 'ক্যালিব্রেশন এরর' বলছেন, যেখানে মডেলের আত্মবিশ্বাস এবং তার প্রকৃত নির্ভুলতার মধ্যে কোনো সম্পর্ক থাকে না।

বাংলাদেশের প্রেক্ষাপটে এই গবেষণার গুরুত্ব অপরিসীম। দেশে AI-চালিত হেলথকেয়ার, ফিনটেক, এবং এগ্রিকালচার সলিউশন দ্রুত প্রসারিত হচ্ছে। যেমন, একটি AI মডেল যদি ফসলের রোগ শনাক্ত করতে ৯৯% কনফিডেন্স দেখায়, কিন্তু ভুল রোগ নির্ণয় করে, তাহলে কৃষকের ব্যাপক ক্ষতি হতে পারে। অথবা ব্যাংকিং সেক্টরে AI-ভিত্তিক ক্রেডিট স্কোরিং মডেল উচ্চ আত্মবিশ্বাসের সঙ্গে কোনো গ্রাহককে ঋণের অযোগ্য ঘোষণা করলে, তা অর্থনৈতিক বৈষম্য তৈরি করতে পারে। তাই শুধু কনফিডেন্স স্কোর দেখে AI মডেলের ওপর অন্ধভাবে নির্ভর না করে, মডেলের আউটপুট যাচাইয়ের জন্য আলাদা মনিটরিং সিস্টেম তৈরি করা জরুরি।

উপসংহারে বলা যায়, AI মডেলের আত্মবিশ্বাস একটি দরকারী মেট্রিক, কিন্তু তা চূড়ান্ত সত্য নয়। Towards Data Science-এর এই গবেষণা আমাদের মনে করিয়ে দেয় যে, যেকোনো AI সিস্টেমকে বাস্তব জীবনে প্রয়োগের আগে তার ক্যালিব্রেশন এবং আউট-অফ-ডিস্ট্রিবিউশন ডেটার জন্য কঠোর পরীক্ষা করা প্রয়োজন। অন্যথায়, উচ্চ কনফিডেন্সের ফাঁদে পড়ে আমরা ভুল সিদ্ধান্ত নিতে পারি।

আরও পড়ুন

• এলএলএম থেকে পাওয়া থিম বিপজ্জনক! গবেষকদের জন্য সতর্কবার্তা
• মানুষের তথ্যই AI-এর সেরা জ্বালানি! নতুন গবেষণায় চমক
• গণিত নয়, ডেটাই এখন মেশিন লার্নিংয়ের রাজা! বাংলাদেশের গবেষকদের জন্য চমক