AI গবেষণায় ধস: ৬৬% তথ্যই কল্পিত, আপনার প্রকল্পে কী প্রভাব পড়বে?

আপনি যে গবেষণাপত্রটি পড়ছেন, তার দুই-তৃতীয়াংশ তথ্যের উৎস হয়তো একেবারেই নেই। dev.to AI-র একটি সাম্প্রতিক প্রতিবেদনে এই চাঞ্চল্যকর তথ্য উঠে এসেছে। নিউরআইপিএস-এর মতো শীর্ষস্থানীয় AI কনফারেন্সের গবেষণাপত্র অডিট করে দেখা গেছে, 66% উদ্ধৃতিই এলএলএম (লার্জ ল্যাঙ্গুয়েজ মডেল) দ্বারা তৈরি মিথ্যা তথ্য।

এই ফলাফল পুরো AI গবেষণা জগতে শঙ্কা তৈরি করেছে। ডেভেলপাররা সাধারণত ডকুমেন্টেশন, এপিআই স্পেসিফিকেশন এবং পিয়ার-রিভিউড গবেষণাপত্রের ওপর নির্ভর করেন। কিন্তু এখন সেই বিশ্বাসের ভিত নড়বড়ে হয়ে যাচ্ছে। যখন একটি গবেষণার অর্ধেকের বেশি সোর্সই বাস্তবে নেই, তখন সেই গবেষণার ফলাফল কতটা নির্ভরযোগ্য, তা নিয়ে প্রশ্ন ওঠা স্বাভাবিক।

প্রতিবেদনে বলা হয়েছে, AI গবেষণায় প্রমাণের শিকল (evidence chain) ভেঙে পড়ছে। এলএলএমগুলি তাদের আউটপুটে বিশ্বাসযোগ্য দেখাতে প্রায়শই কাল্পনিক রেফারেন্স তৈরি করে ফেলে। এই বিষয়টি শুধু একাডেমিক জগতেই নয়, বাস্তব জগতের এপ্লিকেশনেও বিপদ ডেকে আনতে পারে। একজন ডেভেলপার যদি এই ধরনের ভুয়া তথ্যের ওপর ভিত্তি করে কোনো সিস্টেম তৈরি করেন, তাহলে তার পরিণতি মারাত্মক হতে পারে।

এই সমস্যার মূল কারণ হলো এলএলএম-এর স্বভাবগত দুর্বলতা। মডেলগুলি ভাষা বুঝতে পারলেও তথ্যের সত্যতা যাচাই করতে পারে না। তারা পরিসংখ্যান, উদ্ধৃতি এবং রেফারেন্স তৈরি করে শুধু সম্ভাবনার ভিত্তিতে। এর ফলে এমন তথ্যের জন্ম হয়, যাকে হ্যালুসিনেশন (hallucination) বলা হয়। এই হ্যালুসিনেশনগুলি যখন গবেষণাপত্রে জায়গা করে নেয়, তখন পুরো প্রক্রিয়াটি একটি দুষ্ট চক্রে পরিণত হয়।

বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং প্রযুক্তি শিক্ষার্থীদের জন্য এই খবর বিশেষভাবে গুরুত্বপূর্ণ। দেশে AI নিয়ে কাজ করার আগ্রহ বাড়ছে। অনেকে ওপেন সোর্স মডেল এবং একাডেমিক গবেষণার ওপর নির্ভর করে নিজেদের প্রকল্প তৈরি করছেন। কিন্তু যদি এই গবেষণার উৎসই ভুয়া হয়, তাহলে সেই প্রকল্পের ভিত্তিও দুর্বল হয়ে পড়বে। বাংলাদেশের ডেভেলপারদের উচিত যেকোনো গবেষণাপত্র বা টিউটোরিয়ালের তথ্য যাচাই করে নেওয়া। শুধু শিরোনাম দেখে বা সারাংশ পড়ে বিশ্বাস না করে মূল সোর্স খুঁজে দেখা জরুরি।

এই সংকট থেকে উত্তরণের উপায় কী? বিশেষজ্ঞদের মতে, গবেষক ও ডেভেলপারদের আরও কঠোরভাবে তথ্য যাচাই করতে হবে। এলএলএম-এর আউটপুটকে চূড়ান্ত সত্য না ধরে সেটিকে একটি প্রাথমিক খসড়া হিসেবে দেখা উচিত। প্রতিটি রেফারেন্স ম্যানুয়ালি চেক করা এবং ক্রস-ভেরিফিকেশন করা সময়সাপেক্ষ হলেও এটি অত্যন্ত প্রয়োজনীয়। পাশাপাশি, গবেষণা প্রতিষ্ঠান ও কনফারেন্সগুলোর উচিত পেপার জমা দেওয়ার সময় সোর্স যাচাইয়ের জন্য কঠোর নিয়ম চালু করা।

AI গবেষণার ভবিষ্যৎ নির্ভর করছে এখন তথ্যের সত্যতা নিশ্চিত করার ওপর। এই ভুয়া উদ্ধৃতির সমস্যা যদি সমাধান না করা হয়, তাহলে পুরো AI ইকোসিস্টেমের বিশ্বাসযোগ্যতা চিরতরে ক্ষতিগ্রস্ত হতে পারে। ডেভেলপারদের এখনই সতর্ক হওয়ার সময় এসেছে।

আরও পড়ুন

• GPT-4 Turbo রাজনীতিবিদদের চেয়ে বেশি বিশ্বাসযোগ্য, আপনার কাজে আসবে যেভাবে
• AI আপনার তথ্য নকল করছে, গবেষণায় ধরা পড়ল ভুয়া প্রমাণের ঘটনা
• AI জাজ মডেল ইংরেজির বাইরে অকার্যকর, বাংলাদেশি ডেভেলপারদের জন্য বড় সতর্কবার্তা