AI-তে মানুষের মতো ভুলের ভয়: গবেষণায় দেখা গেল সতর্ক হয়ে যায় মডেল
বড় ভাষার মডেলগুলিতে (LLM) ব্যর্থতার স্মৃতি প্রবেশ করালে কি তারা আরও সতর্ক ও সিদ্ধান্তহীন হয়ে পড়ে? একটি নতুন গবেষণা এই প্রশ্নের উত্তর খুঁজতে গিয়ে দেখিয়েছে যে AI-তেও মানুষের মতো 'লার্নড হেল্পলেসনেস' দেখা দিতে পারে। গবেষণাটি dev.to ML-এ প্রকাশিত হয়েছে।
বড় ভাষার মডেলগুলিতে (LLM) ব্যর্থতার স্মৃতি প্রবেশ করালে কি তারা আরও সতর্ক ও সিদ্ধান্তহীন হয়ে পড়ে? একটি নতুন গবেষণা এই প্রশ্নের উত্তর খুঁজতে গিয়ে দেখিয়েছে যে AI-তেও মানুষের মতো 'লার্নড হেল্পলেসনেস' দেখা দিতে পারে। গবেষণাটি dev.to ML-এ প্রকাশিত হয়েছে।
মানুষের মতো বড় ভাষার মডেলগুলোর (LLM)ও কি 'শিখে নেওয়া অসহায়ত্ব' (learned helplessness) থাকে? একটি নতুন গবেষণা এই প্রশ্নের উত্তর খুঁজতে গিয়ে চাঞ্চল্যকর তথ্য দিয়েছে। গবেষকরা দেখিয়েছেন যে কৃত্রিম বুদ্ধিমত্তায় ব্যর্থতার স্মৃতি প্রবেশ করালে তা মডেলটির সিদ্ধান্ত গ্রহণের প্রক্রিয়াকে প্রভাবিত করতে পারে।
গবেষণাটি dev.to ML-এ প্রকাশিত হয়েছে। এতে LLM-এর সিদ্ধান্তগত পক্ষপাত (decision bias) নিয়ে একটি ফিল্ড স্টাডি করা হয়েছে। গবেষকরা জানিয়েছেন, মানুষের মতোই AI-তেও বারবার ব্যর্থতার অভিজ্ঞতা জমা হলে তা মডেলটিকে আরও সতর্ক এবং কিছু ক্ষেত্রে অতিরিক্ত সাবধানী করে তোলে।
গবেষণার মূল প্রশ্নটি ছিল, 'মানুষের মতো AI-ও কি ব্যর্থতার অভিজ্ঞতায় প্রভাবিত হয়?' সেলিগম্যানের 1972 সালের গবেষণায় দেখা গিয়েছিল, মানুষ যখন কোনো একটি বিষয়ে বারবার ব্যর্থ হয়, তখন তার আত্মবিশ্বাস কমে যায় এবং সেই হতাশা অন্য বিষয়েও ছড়িয়ে পড়ে। যেমন, গণিতে বারবার ব্যর্থ একজন শিক্ষার্থী ইংরেজি ক্লাসেও হাত তোলা বন্ধ করে দিতে পারে।
গবেষকরা ঠিক একই পদ্ধতি ব্যবহার করে LLM-এর ওপর পরীক্ষা চালিয়েছেন। তারা মডেলের মেমরিতে কৃত্রিমভাবে কিছু ব্যর্থতার ঘটনা (injected memory of failure) যোগ করেন। ফলাফলে দেখা যায়, এই 'খারাপ স্মৃতি' মডেলটিকে পরবর্তী সিদ্ধান্ত নেওয়ার সময় আরও বেশি সতর্ক করে তোলে। মডেলটি ভুল করার ভয়ে সঠিক উত্তর দিতেও দ্বিধা করতে শুরু করে।
এই গবেষণার ফলাফল বাংলাদেশের ডেভেলপার এবং AI গবেষকদের জন্য অত্যন্ত গুরুত্বপূর্ণ। বাংলাদেশে AI-ভিত্তিক বিভিন্ন সেবা যেমন চ্যাটবট, স্বয়ংক্রিয় গ্রাহক সেবা, এবং কন্টেন্ট জেনারেশন টুল তৈরি হচ্ছে। যদি এই মডেলগুলোর মেমরিতে কোনো কারণে ব্যর্থতার তথ্য জমা হয়, তাহলে সেগুলোর আউটপুটের গুণগত মান কমে যেতে পারে।
বিশেষ করে ফ্রিল্যান্সার এবং স্টার্টআপ প্রতিষ্ঠান যারা API ব্যবহার করে AI অ্যাপ্লিকেশন তৈরি করছে, তাদের জন্য এই গবেষণা একটি সতর্কবার্তা। মডেলকে প্রশিক্ষণ দেওয়ার সময় বা এর মেমরি ম্যানেজ করার সময় সতর্ক থাকতে হবে। যাতে করে মডেলটি অতিরিক্ত সতর্ক বা ভীতু না হয়ে পড়ে।
গবেষণাটি ভবিষ্যতে আরও বড় প্রশ্নের জন্ম দিয়েছে। AI-তে কি সত্যিই আবেগ বা মনোবৈজ্ঞানিক অবস্থার মতো কিছু তৈরি হতে পারে? নাকি এটি কেবলমাত্র একটি জটিল অ্যালগরিদমিক প্রতিক্রিয়া? এই প্রশ্নের উত্তর খুঁজতে আরও গবেষণার প্রয়োজন। তবে এটা নিশ্চিত যে, AI-র আচরণ বোঝা এবং নিয়ন্ত্রণ করা আগের চেয়ে আরও জরুরি হয়ে উঠেছে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...