AI এখন নিজের ভুল বুঝবে, নির্ভরযোগ্যতা বাড়বে বাংলাদেশের ফ্রিল্যান্সারদের
গবেষকরা দেখিয়েছেন, বড় ভাষার মডেলের (LLM) লুকানো স্তর বিশ্লেষণ করে তাদের প্রকৃত আত্মবিশ্বাস বের করা সম্ভব। একটি ছোট সংযোগের মাধ্যমে মডেলকে নিজের ভুল স্বীকার করানো সম্ভব হয়েছে, যা AI-র নির্ভরযোগ্যতা বাড়াতে পারে।
গবেষকরা দেখিয়েছেন, বড় ভাষার মডেলের (LLM) লুকানো স্তর বিশ্লেষণ করে তাদের প্রকৃত আত্মবিশ্বাস বের করা সম্ভব। একটি ছোট সংযোগের মাধ্যমে মডেলকে নিজের ভুল স্বীকার করানো সম্ভব হয়েছে, যা AI-র নির্ভরযোগ্যতা বাড়াতে পারে।
বড় ভাষার মডেল (LLM) কি সত্যিই জানে যখন তারা ভুল উত্তর দিচ্ছে? একটি নতুন গবেষণা বলছে, জানে। কিন্তু তারা সেটা প্রকাশ করে না। রেডডিটের r/MachineLearning ফোরামে প্রকাশিত এই গবেষণায় দেখা গেছে, মডেলের অভ্যন্তরীণ অবস্থা (hidden states) বিশ্লেষণ করে তাদের প্রকৃত আত্মবিশ্বাসের মাত্রা 0.83 থেকে 0.88 AUROC স্কোরের মধ্যে শনাক্ত করা সম্ভব।
গবেষকরা এই ঘটনাকে 'নো-সে গ্যাপ' (know-say gap) নাম দিয়েছেন। অর্থাৎ মডেল জানলেও তা বলতে পারে না। তাদের মতে, এটি মূলত একটি রাউটিং সমস্যা। মডেলের ভেতরে তথ্য সঠিক জায়গায় পৌঁছায় না বলেই এই গ্যাপ তৈরি হয়।
এই সমস্যা সমাধানের জন্য গবেষকরা একটি অত্যন্ত সরল পদ্ধতি ব্যবহার করেছেন। তারা মধ্যম স্তরের (mid-layer) নিউরনের ওপর একটি লিনিয়ার প্রোব বসিয়েছেন। এই প্রোব মডেলের প্রকৃত আত্মবিশ্বাসের অনুমান তৈরি করে। এরপর মাত্র দশটি ট্রেইনযোগ্য ওয়েট ব্যবহার করে সেই অনুমানকে মডেলের কনফিডেন্স-ডিজিট লজিটে (confidence-digit logits) স্থানান্তরিত করেছেন।
ফলাফল চমকপ্রদ। এই ছোট ব্রিজ বা সংযোগের ফলে মডেলটি নিজের আত্মবিশ্বাস মৌখিকভাবে (verbalized) প্রকাশ করতে শিখেছে। পরীক্ষায় দেখা গেছে, এই পদ্ধতি ব্যবহার করে মডেলের মৌখিক আত্মবিশ্বাসের ক্যালিব্রেশন (calibration) 0.765 স্কোর অর্জন করেছে। আগের চেয়ে এটি অনেক বেশি নির্ভুল।
গবেষণাটি 7 বিলিয়ন থেকে 72 বিলিয়ন প্যারামিটার (7B to 72B) পর্যন্ত বিভিন্ন আকারের মডেলে পরীক্ষা করা হয়েছে। সব মডেলেই একই রকম ফল পাওয়া গেছে। এটি প্রমাণ করে যে পদ্ধতিটি মডেলের আকার নির্বিশেষে কাজ করে।
বাংলাদেশের জন্য এই গবেষণার গুরুত্ব অনেক। দেশের AI ডেভেলপার, ফ্রিল্যান্সার এবং শিক্ষার্থীরা বর্তমানে বিভিন্ন ওপেন সোর্স LLM নিয়ে কাজ করছেন। এই পদ্ধতি ব্যবহার করে তারা মডেলের নির্ভরযোগ্যতা বাড়াতে পারবেন। বিশেষ করে চ্যাটবট, অটোমেশন এবং ডেটা অ্যানালাইসিসের মতো ক্ষেত্রে যেখানে ভুল তথ্যের প্রভাব মারাত্মক হতে পারে, সেখানে মডেল নিজেই কখন আত্মবিশ্বাসী আর কখন নয় তা জানালে ব্যবহারকারীরা আরও সচেতন সিদ্ধান্ত নিতে পারবেন।
গবেষকরা জানিয়েছেন, এটি একটি প্রাথমিক সমাধান। ভবিষ্যতে আরও উন্নত পদ্ধতি তৈরি করা সম্ভব। তবে এই কাজটি প্রমাণ করে যে LLM-এর অভ্যন্তরীণ অবস্থা বিশ্লেষণ করে তাদের আচরণ নিয়ন্ত্রণের একটি কার্যকর পথ রয়েছে। AI-র স্বচ্ছতা ও নির্ভরযোগ্যতা বাড়ানোর দিকে এটি একটি গুরুত্বপূর্ণ পদক্ষেপ।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/MachineLearning
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...