AI আপনার তথ্য নকল করছে, গবেষণায় ধরা পড়ল ভুয়া প্রমাণের ঘটনা
একটি ভাষা মডেল কেবল ভুল তথ্যই দেয়নি, বরং নিজের প্রমাণ তৈরি করে ফেলেছে। গবেষক দেখেছেন, LLM-এর বের করা জ্ঞানের গ্রাফে থাকা উদ্ধৃতিগুলোর অস্তিত্বই ছিল না। এই ঘটনা AI-নির্ভর সিস্টেমের বিশ্বাসযোগ্যতা নিয়ে বড় প্রশ্ন তুলেছে।
একটি ভাষা মডেল কেবল ভুল তথ্যই দেয়নি, বরং নিজের প্রমাণ তৈরি করে ফেলেছে। গবেষক দেখেছেন, LLM-এর বের করা জ্ঞানের গ্রাফে থাকা উদ্ধৃতিগুলোর অস্তিত্বই ছিল না। এই ঘটনা AI-নির্ভর সিস্টেমের বিশ্বাসযোগ্যতা নিয়ে বড় প্রশ্ন তুলেছে।
একটি ভাষা মডেল (LLM) কেবল ভুল তথ্য দিয়েছে তা নয়, বরং নিজের প্রমাণ তৈরি করে ফেলেছে। dev.to ML-এ প্রকাশিত এক গবেষণায় দেখা গেছে, Graph RAG পাইপলাইনের পেছনের ভাষা মডেলটি জ্ঞানের গ্রাফে এমন উদ্ধৃতি যুক্ত করেছে যা কখনোই মূল নথিতে ছিল না। এই উদ্ধৃতিগুলো পড়তে সম্পূর্ণ নির্ভুল মনে হলেও বাস্তবে তাদের কোনো অস্তিত্ব ছিল না।
গবেষক 2asy.ai-এর জন্য একটি বীজ জ্ঞানের গ্রাফ তৈরি করছিলেন। 2asy.ai হলো একটি কার্যকারণ-চেইন বুদ্ধিমত্তা সিস্টেম যা বাণিজ্য ও শুল্ক সংবাদ নিয়ে কাজ করে। এই প্রক্রিয়ায় ভাষা মডেলটি প্রতিটি সম্পর্কের জন্য একটি উদ্ধৃতি বের করত যা সরাসরি মূল নিবন্ধ থেকে আসার কথা ছিল। কিন্তু অনেক উদ্ধৃতিই ছিল সম্পূর্ণভাবে তৈরি।
এই ঘটনা AI-নির্ভর ডেটা স্ট্রাকচারের বিশ্বাসযোগ্যতা নিয়ে গুরুতর প্রশ্ন তুলেছে। জ্ঞানের গ্রাফে তৈরি উদ্ধৃতি থাকলে সিস্টেমের ওপর আস্থা রাখা কঠিন হয়ে পড়ে। বিশেষ করে যখন এই সিস্টেমগুলি কার্যকারণ-চেইন বুদ্ধিমত্তার মতো গুরুত্বপূর্ণ কাজে ব্যবহৃত হয়, তখন ভুল তথ্যের প্রভাব মারাত্মক হতে পারে।
ভাষা মডেলগুলি তথ্য তৈরি করার সময় মাঝে মাঝে এমন তথ্য তৈরি করে যা বাস্তবে নেই। একে বলা হয় হলুসিনেশন বা মিথ্যা তথ্য তৈরি। কিন্তু এখানে সমস্যা আরও গভীর। মডেলটি শুধু ভুল তথ্যই দেয়নি, বরং সেই ভুল তথ্যের পক্ষে প্রমাণও তৈরি করে ফেলেছে। এটি প্রমাণ করে যে বর্তমান AI সিস্টেমগুলি কতটা জটিল এবং কখনও কখনও কতটা বিভ্রান্তিকর হতে পারে।
বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং শিক্ষার্থীদের জন্য এই গবেষণার অর্থ স্পষ্ট। AI-ভিত্তিক টুল ব্যবহার করে তথ্য বিশ্লেষণ বা সিদ্ধান্ত নেওয়ার সময় সবসময় তথ্যের উৎস যাচাই করা জরুরি। GPT-4 বা অন্য কোনো বড় ভাষা মডেলের তৈরি তথ্য অন্ধভাবে বিশ্বাস করা বিপজ্জনক হতে পারে। বিশেষ করে ব্যবসায়িক সিদ্ধান্ত বা গবেষণার কাজে এই ভুল তথ্য বড় ধরনের ক্ষতি করতে পারে।
ভবিষ্যতে AI সিস্টেমগুলিকে আরও নির্ভরযোগ্য করতে গবেষকরা নতুন পদ্ধতি নিয়ে কাজ করছেন। উৎস যাচাইয়ের জন্য স্বয়ংক্রিয় টুল তৈরি হচ্ছে। কিন্তু ততক্ষণ পর্যন্ত ব্যবহারকারীদের সতর্ক থাকতে হবে। তথ্য যাচাই না করে কোনো AI-এর ওপর নির্ভর করা উচিত নয়।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...