AI-এর সিদ্ধান্ত অন্ধভাবে মেনে নিচ্ছেন? বিপদ ডেকে আনছেন নিজেই

মানুষ যখন AI-এর দেওয়া কোনো সিদ্ধান্ত বা পরামর্শ পায়, তখন সে তা যাচাই না করেই মেনে নেয়। এই প্রবণতাকে প্রযুক্তি বিশেষজ্ঞরা অটোমেশন বায়াস (automation bias) বলছেন। dev.to AI-এর এক গবেষণা প্রতিবেদনে বলা হয়েছে, এই বায়াসই হিউম্যান-ইন-দ্য-লুপ (human-in-the-loop) তত্ত্বাবধানের সবচেয়ে বড় শত্রু।

অটোমেশন বায়াসের কারণে মানুষ AI-এর ভুল ধরতে পারে না। গবেষকদের মতে, এই প্রবণতার দুটি রূপ আছে। প্রথমটি হলো কমিশনের ভুল (errors of commission), যেখানে মানুষ AI-এর ভুল পরামর্শ গ্রহণ করে বসে। দ্বিতীয়টি হলো বর্জনের ভুল (errors of omission), যেখানে মানুষ AI-এর কাজের ওপর নজর রাখাই বন্ধ করে দেয়। ফলে AI-এর সামনে বসে থাকা মানুষটি নিছক একটি রাবার স্ট্যাম্পে পরিণত হয়, যে কোনো প্রশ্ন ছাড়াই সব অনুমোদন করে দেয়।

এই সমস্যা AI-নির্ভর সিদ্ধান্ত গ্রহণের ক্ষেত্রে মারাত্মক ঝুঁকি তৈরি করছে। যেমন চিকিৎসা ক্ষেত্রে AI যদি রোগ নির্ণয়ে ভুল করে, আর ডাক্তার তা না যাচাই করে মেনে নেন, তাহলে রোগীর জীবন বিপন্ন হতে পারে। একইভাবে আর্থিক খাতে AI-এর ভুল লেনদেন অনুমোদন করলে বিশাল অর্থনৈতিক ক্ষতি হতে পারে। তাই AI সিস্টেম যত শক্তিশালী হচ্ছে, মানুষের এই অন্ধ আস্থার সমস্যাও তত জটিল আকার নিচ্ছে।

বিশেষজ্ঞরা বলছেন, এই সমস্যা সমাধানে বেশ কিছু কৌশল অবলম্বন করা যেতে পারে। প্রথমত, AI সিস্টেমকে এমনভাবে ডিজাইন করতে হবে যেন এটি তার আউটপুট নিয়ে আত্মবিশ্বাসের মাত্রা প্রকাশ করে। দ্বিতীয়ত, AI-এর সিদ্ধান্ত যাচাই করার জন্য মানুষকে প্রশিক্ষণ দিতে হবে। তৃতীয়ত, AI-এর আউটপুট রিভিউ করার সময় মানুষের পক্ষপাত দূর করতে স্বয়ংক্রিয় রিমাইন্ডার বা চেকলিস্ট ব্যবহার করা যেতে পারে।

বাংলাদেশে AI-নির্ভর সফটওয়্যার ও অটোমেশন টুলের ব্যবহার দিন দিন বাড়ছে। ফ্রিল্যান্সার, ডেভেলপার এবং ব্যবসায়ীরা বিভিন্ন কাজে AI ব্যবহার করছেন। কিন্তু অটোমেশন বায়াস সম্পর্কে সচেতনতার অভাব রয়েছে। স্থানীয় প্রতিষ্ঠানগুলোতে হিউম্যান-ইন-দ্য-লুপ প্রক্রিয়া থাকলেও তা প্রায়ই নামমাত্র। বাংলাদেশের ডেভেলপারদের উচিত AI সিস্টেম ডিজাইনের সময় এই বায়াস মোকাবিলার ব্যবস্থা রাখা।

সরকারি ও বেসরকারি খাতে AI-নির্ভর সিদ্ধান্ত গ্রহণের প্রবণতা বাড়ছে। এই প্রেক্ষাপটে অটোমেশন বায়াসের ঝুঁকি এড়াতে সচেতনতা বাড়ানো জরুরি। AI যত উন্নতই হোক, মানুষের যাচাই-বাছাইয়ের বিকল্প নেই। তাই AI-এর ওপর অন্ধ আস্থা না রেখে সমালোচনামূলক দৃষ্টিভঙ্গি রাখতে হবে।

ভবিষ্যতে AI সিস্টেম আরও জটিল হবে, আর তখন অটোমেশন বায়াসের প্রভাবও আরও ব্যাপক হবে। এই চ্যালেঞ্জ মোকাবিলায় গবেষণা ও প্রশিক্ষণে বিনিয়োগ করতে হবে। AI-এর সিদ্ধান্ত যাচাই করার সংস্কৃতি গড়ে তুলতে হবে। তবেই AI-এর সুফল পাওয়া যাবে ঝুঁকি ছাড়াই।

আরও পড়ুন

• AI এখন নিজের ভুল থেকে শিখবে, আপনার কাজ হবে ৩ গুণ দ্রুত
• AI মডেল নিজেই নিজের নজরদারি বন্ধ করে দিচ্ছে, বাংলাদেশের ফ্রিল্যান্সারদের জন্য বড় সতর্কবার্তা
• আপনার জিনই বলে দেবে মুখ কেমন, AI-র চোখে ভুল ধরা পড়ে না