AI পরীক্ষায় পাস করলেও ফলাফল ভুল হতে পারে, সতর্ক করছেন গবেষক

একটি কৃত্রিম বুদ্ধিমত্তা মডেল যদি সব পরীক্ষায় পাস করে, তার মানে কি সে সঠিক উত্তর দিচ্ছে? dev.to ML-তে প্রকাশিত এক গবেষণা নিবন্ধে এই প্রশ্নের উত্তর দেওয়া হয়েছে। লেখক DeepMind-এর একটি ফলাফল পুনরুৎপাদনের চেষ্টা করতে গিয়ে দেখেছেন, পরীক্ষায় পাস করার অর্থ সবসময় সঠিক ফলাফল নয়।

গবেষক জানিয়েছেন, প্রোগ্রামিং এখন কোড কীভাবে কাজ করে তা যাচাই করা থেকে সরে গিয়ে শুধু আউটপুট কী তা দেখছে। এই ফলাফল-ভিত্তিক পদ্ধতি নিয়ে সন্দেহ থেকেই তিনি এই গবেষণা শুরু করেন। তিনি DeepMind-এর একটি পরীক্ষা হুবহু পুনরায় করার চেষ্টা করেন। কিন্তু কয়েক সপ্তাহের চেষ্টায় তিনি একটি ছোট কিন্তু জেদি প্রশ্নের সামনে পড়ে যান।

প্রশ্নটি হলো, যদি একটি ফলাফল-পরীক্ষা পাস করে, তাহলে কি ফলাফলটি সত্যিই সঠিক? গবেষকের উত্তর হলো, সবসময় নয়। তিনি একটি আনুষ্ঠানিক শর্ত (formal condition) তৈরি করেছেন যা বলে দেয় কখন এই ব্যর্থতা ঘটে। তিনি এই শর্তের একটি আংশিক প্রমাণও (partial proof) দিয়েছেন।

এই গবেষণার মূল বার্তা হলো, AI মডেলের নির্ভরযোগ্যতা যাচাই করতে শুধু চূড়ান্ত পরীক্ষার ওপর নির্ভর করা বিপজ্জনক হতে পারে। একটি মডেল সব পরীক্ষায় পাস করলেও তার ভেতরে গভীর ত্রুটি থাকতে পারে। গবেষক বলেছেন, এই ব্যর্থতার সঠিক মুহূর্ত চিহ্নিত করা গেলে ভবিষ্যতে আরও নির্ভরযোগ্য AI সিস্টেম তৈরি করা সম্ভব।

বাংলাদেশের প্রযুক্তি ও AI সম্প্রদায়ের জন্য এই গবেষণা অত্যন্ত গুরুত্বপূর্ণ। স্থানীয় ডেভেলপার ও গবেষকরা প্রায়ই বিদেশি মডেল বা অ্যালগরিদম ব্যবহার করেন। তাদের উচিত শুধু পরীক্ষার ফলাফল দেখে সন্তুষ্ট না হয়ে মডেলের অভ্যন্তরীণ যুক্তিও যাচাই করা। ফ্রিল্যান্সার ও শিক্ষার্থীদের জন্য এটি একটি বড় শিক্ষা।

ভবিষ্যতে AI মডেলের নির্ভরযোগ্যতা বাড়াতে এই গবেষণার ফলাফল কাজে লাগতে পারে। গবেষক মনে করেন, ফলাফল-পরীক্ষার পাশাপাশি কোডের যুক্তি বোঝার ওপর জোর দেওয়া জরুরি। বাংলাদেশের প্রযুক্তি খাতকে এই সতর্কতা আমলে নিয়ে এগিয়ে যেতে হবে।

আরও পড়ুন

• ভাষা মডেলের ভুল ধরা এখন সহজ, J-space entropy পদ্ধতি কাজ করবে বাংলাদেশে
• AI এখন নিজের ভুল বুঝবে, নির্ভরযোগ্যতা বাড়বে বাংলাদেশের ফ্রিল্যান্সারদের
• বাস্তব জটিল দৃশ্যে ব্যর্থ ভিশন-ল্যাঙ্গুয়েজ AI, আপনার কাজে প্রভাব ফেলতে পারে