AI-র ভুয়া রেফারেন্সে বিপাকে গবেষক, আপনার পেপারও কি ঝুঁকিতে?
একজন সহ-লেখক এলএলএম ব্যবহার করে গবেষণাপত্রে ভুয়া রেফারেন্স যুক্ত করেছেন। সময়ের চাপে তা যাচাই না করায় জমা দেওয়ার পর সমস্যা দেখা দিয়েছে। এই ঘটনা একাডেমিক কাজে কৃত্রিম বুদ্ধিমত্তার উপর অন্ধবিশ্বাসের বিপদ তুলে ধরেছে।
একজন সহ-লেখক এলএলএম ব্যবহার করে গবেষণাপত্রে ভুয়া রেফারেন্স যুক্ত করেছেন। সময়ের চাপে তা যাচাই না করায় জমা দেওয়ার পর সমস্যা দেখা দিয়েছে। এই ঘটনা একাডেমিক কাজে কৃত্রিম বুদ্ধিমত্তার উপর অন্ধবিশ্বাসের বিপদ তুলে ধরেছে।
গবেষণাপত্র জমা দেওয়ার সময় একজন সহ-লেখক এলএলএম (Large Language Model) ব্যবহার করে ভুয়া রেফারেন্স যুক্ত করেছেন। সময়সীমার চাপে তা যথাযথভাবে যাচাই না করায় জমা দেওয়ার পর বিপাকে পড়েছেন সংশ্লিষ্ট গবেষক। Reddit-এর r/MachineLearning ফোরামে একটি পোস্টে এই ঘটনা প্রকাশ পেয়েছে।
ঘটনাটি ঘটেছে একটি মেশিন লার্নিং গবেষণাপত্র জমা দেওয়ার সময়। সহ-লেখক শেষ মুহূর্তে এলএলএম-এর সাহায্যে নতুন কিছু রেফারেন্স যুক্ত করেন। প্রধান গবেষক বারবার রেফারেন্স যাচাইয়ের অনুরোধ করলেও সহ-লেখক সেগুলো সঠিক বলে নিশ্চিত করেন। সময়ের অভাবে প্রধান গবেষক আর যাচাই না করেই পেপার জমা দেন।
পরে দেখা যায়, এলএলএম-এর তৈরি সেই রেফারেন্সগুলো সম্পূর্ণ ভুয়া। এলএলএম মডেল, যেমন ChatGPT বা GPT-4, বাস্তব তথ্যের ভিত্তিতে নয় বরং সম্ভাব্যতার ভিত্তিতে টেক্সট তৈরি করে। ফলে এটি মাঝে মাঝে এমন তথ্য তৈরি করে যা বাস্তবে নেই, যাকে বলা হয় হ্যালুসিনেশন। এই ভুয়া রেফারেন্সগুলো পেপারের বিশ্বাসযোগ্যতা মারাত্মকভাবে ক্ষতিগ্রস্ত করেছে।
এই ঘটনা একাডেমিক গবেষণায় এলএলএম ব্যবহারের একটি গুরুতর ঝুঁকি তুলে ধরেছে। গবেষকরা সময় বাঁচাতে এলএলএম ব্যবহার করলেও এর আউটপুট যাচাই না করা মারাত্মক পরিণতি ডেকে আনতে পারে। ভুয়া রেফারেন্স শুধু পেপার প্রত্যাখ্যানের কারণই নয়, বরং গবেষকের সুনামও নষ্ট করতে পারে। কিছু জার্নালে এমন ঘটনা প্রকাশ পেলে গবেষককে সাময়িকভাবে নিষিদ্ধও করা হতে পারে।
বাংলাদেশের প্রেক্ষাপটেও এই ঘটনা অত্যন্ত প্রাসঙ্গিক। দেশের বিশ্ববিদ্যালয় ও গবেষণা প্রতিষ্ঠানে এলএলএম ব্যবহার বাড়ছে। ফ্রিল্যান্স গবেষক ও শিক্ষার্থীরা সময় বাঁচাতে এলএলএম-এর উপর নির্ভর করছেন। কিন্তু এই ঘটনা স্পষ্ট করে দিয়েছে যে এলএলএম-এর আউটপুট কখনোই অন্ধভাবে বিশ্বাস করা উচিত নয়। প্রতিটি তথ্য, বিশেষ করে রেফারেন্স, অবশ্যই ম্যানুয়ালি যাচাই করা জরুরি।
বাংলাদেশের গবেষকদের জন্য পরামর্শ হলো এলএলএম-কে সহায়ক হিসেবে ব্যবহার করা, প্রতিস্থাপন হিসেবে নয়। এলএলএম লিখতে বা আইডিয়া জেনারেট করতে সাহায্য করতে পারে, কিন্তু চূড়ান্ত তথ্যের দায়ভার গবেষকেরই নিতে হবে। বিশ্বাসযোগ্যতা বজায় রাখতে প্রতিটি রেফারেন্স আসল উৎস থেকে যাচাই করা আবশ্যক।
এই ঘটনা থেকে শিক্ষা নিয়ে গবেষকদের আরও সতর্ক হতে হবে। এলএলএম-এর ভুয়া তথ্য শনাক্ত করতে বিশেষ সফটওয়্যার বা টুল ব্যবহার করা যেতে পারে। পাশাপাশি সহ-লেখকদের মধ্যে দায়িত্ব বণ্টন ও যাচাইয়ের স্পষ্ট নিয়ম থাকা উচিত। সময়ের চাপ যতই থাকুক না কেন, তথ্যের সত্যতা নিশ্চিত করাই গবেষণার মূল ভিত্তি।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/MachineLearning
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...