AI ক্লাসিফায়ারে ৯২% নির্ভুলতা, কিন্তু প্রতিদিন ৮ ভুলে বিপাকে বাংলাদেশি কোম্পানি
একটি সাধারণ রুলস ইঞ্জিনকে LLM ক্লাসিফায়ার দিয়ে প্রতিস্থাপন করায় 92% নির্ভুলতা পাওয়া গেছে। কিন্তু প্রতিদিন 100 টিকিটে 8টি ভুল হয়, আর ভুলের কারণ কেউ ব্যাখ্যা করতে পারে না। ব্যাখ্যাযোগ্যতা ও দ্রুত সংশোধনের অভাবে এই প্রযুক্তির বাস্তব খরচ লুকিয়ে আছে।
একটি সাধারণ রুলস ইঞ্জিনকে LLM ক্লাসিফায়ার দিয়ে প্রতিস্থাপন করায় 92% নির্ভুলতা পাওয়া গেছে। কিন্তু প্রতিদিন 100 টিকিটে 8টি ভুল হয়, আর ভুলের কারণ কেউ ব্যাখ্যা করতে পারে না। ব্যাখ্যাযোগ্যতা ও দ্রুত সংশোধনের অভাবে এই প্রযুক্তির বাস্তব খরচ লুকিয়ে আছে।
একটি কোম্পানি তাদের গ্রাহক সহায়তা ব্যবস্থায় পুরনো রুলস ইঞ্জিন বাদ দিয়ে একটি এলএলএম (Large Language Model) ক্লাসিফায়ার বসিয়েছে। Reddit-এর r/artificial ফোরামে প্রকাশিত একটি গল্পে দেখা গেছে, এই মডেলটির নির্ভুলতা ছিল প্রায় 92%। প্রথম শুনতে এটি চমৎকার মনে হলেও বাস্তবতা ভিন্ন। প্রতিদিন 100টি টিকিট প্রক্রিয়াকরণে এই মডেলটি গড়ে 8টি ভুল করছে।
এই 8টি ভুলের পরিমাণ প্রথম নজরে সামান্য মনে হতে পারে। কিন্তু সময়ের সঙ্গে সঙ্গে এটি জমে বড় সমস্যা তৈরি করে। আরও উদ্বেগের বিষয় হলো, যখন মডেলটি ভুল করছে, তখন কেউ বুঝতে পারছে না কেন একটি নির্দিষ্ট টিকিটকে ভুল ক্যাটাগরিতে ফেলা হয়েছে। কোনো নির্দিষ্ট নিয়মের দিকে ইঙ্গিত করা সম্ভব হচ্ছে না। ফলে ভুল আচরণ দ্রুত সংশোধন করাও অসম্ভব হয়ে পড়ছে।
প্রথাগত রুলস ইঞ্জিনে একটি নির্দিষ্ট শর্ত লেখা থাকলে সেটি স্বচ্ছ ছিল। কোনো ভুল হলে ডেভেলপার সরাসরি সেই নিয়মটি খুঁজে বের করে ঠিক করতে পারতেন। কিন্তু এলএলএম ক্লাসিফায়ার একটি ব্ল্যাক বক্সের মতো কাজ করে। এটি কোটি কোটি প্যারামিটার থেকে সিদ্ধান্ত নেয়, যার ব্যাখ্যা দেওয়া প্রায় অসম্ভব। এই ব্যাখ্যাহীনতা (lack of explainability) এবং দ্রুত ঠিক করার অক্ষমতা (lack of fixability) মডেলটির সবচেয়ে বড় দুর্বলতা।
এই ঘটনা প্রমাণ করে যে শুধুমাত্র নির্ভুলতা (accuracy) দেখে মডেল নির্বাচন করা বিপজ্জনক হতে পারে। বাস্তব জগতে একটি মডেলের সাফল্য নির্ভর করে তার স্বচ্ছতা, ব্যাখ্যাযোগ্যতা এবং দ্রুত সংশোধনযোগ্যতার ওপর। 92% নির্ভুলতা একটি ভালো সংখ্যা, কিন্তু প্রতিদিনের 8টি ভুল যদি গ্রাহকের অভিজ্ঞতা নষ্ট করে, তাহলে সেই নির্ভুলতার মূল্য প্রশ্নবিদ্ধ।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই গল্পটি একটি গুরুত্বপূর্ণ শিক্ষা। অনেকে গ্রাহক সহায়তা, কন্টেন্ট মডারেশন বা ডেটা ক্লাসিফিকেশনের জন্য এলএলএম ব্যবহার করছেন। শুধু মডেলের নির্ভুলতা নয়, বরং ভুল হলে কীভাবে তা শনাক্ত ও সংশোধন করা যাবে, সেই বিষয়টিও আগে থেকে নিশ্চিত করা জরুরি। একটি স্বচ্ছ এবং ব্যাখ্যাযোগ্য মডেলই দীর্ঘমেয়াদে ব্যবসার জন্য লাভজনক।
ভবিষ্যতে কৃত্রিম বুদ্ধিমত্তা মডেল তৈরিতে ব্যাখ্যাযোগ্যতা (Explainable AI) আরও গুরুত্বপূর্ণ হয়ে উঠবে। ডেভেলপারদের এখন থেকেই এমন মডেল বা সিস্টেম ডিজাইন করা উচিত, যেখানে ভুল হলে তা দ্রুত খুঁজে বের করে ঠিক করা যায়। নইলে উচ্চ নির্ভুলতার আড়ালে লুকানো খরচ ব্যবসার জন্য বড় ক্ষতি ডেকে আনতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/artificial
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...