AI-র বড় দুর্বলতা: মৌলিক গণিতের নিয়ম ভাঙছে ChatGPT-সহ বড় মডেল
বড় ভাষার মডেলগুলো পরিসংখ্যানিক যুক্তিতে মৌলিক নিয়ম লঙ্ঘন করছে। গবেষকরা দেখিয়েছেন, সহজ ক্যালকুলেটরও যে নিয়ম মানে, সেটাই ভাঙছে উন্নত AI। এই দুর্বলতা জটিল সমস্যা সমাধানের ক্ষেত্রে বড় প্রভাব ফেলতে পারে।
বড় ভাষার মডেলগুলো পরিসংখ্যানিক যুক্তিতে মৌলিক নিয়ম লঙ্ঘন করছে। গবেষকরা দেখিয়েছেন, সহজ ক্যালকুলেটরও যে নিয়ম মানে, সেটাই ভাঙছে উন্নত AI। এই দুর্বলতা জটিল সমস্যা সমাধানের ক্ষেত্রে বড় প্রভাব ফেলতে পারে।
বড় ভাষার মডেল বা LLM-এর ভেতরে একটি মৌলিক গাণিতিক ত্রুটি ধরা পড়েছে। নতুন এক গবেষণায় দেখা গেছে, এই মডেলগুলো পরিসংখ্যানিক যুক্তির সময় মোট সম্ভাবনার সূত্র বা law of total probability লঙ্ঘন করছে। এই সূত্রটি গণিতের এতটাই প্রাথমিক যে সাধারণ ক্যালকুলেটরও এটি মেনে চলে।
গবেষকদের একটি আন্তর্জাতিক দল এই ফলাফল প্রকাশ করেছে। তারা দেখিয়েছেন, যখন LLM-কে একটি জটিল সমস্যাকে ছোট ছোট অংশে ভাঙতে বলা হয়, তখন তারা ভুল করে। মডেলগুলো সম্ভাবনার হিসাব মেলাতে পারে না। ফলে তাদের দেওয়া উত্তর নির্ভরযোগ্য থাকে না।
এই গবেষণাটি dev.to ML প্ল্যাটফর্মে প্রকাশিত হয়েছে। গবেষকরা একাধিক知名 LLM পরীক্ষা করেছেন। প্রতিটি ক্ষেত্রেই তারা একই ধরনের ব্যর্থতা দেখেছেন। মডেলগুলো যত বড় এবং শক্তিশালী, ততই এই সমস্যা প্রকট হয়েছে।
মোট সম্ভাবনার সূত্রটি খুবই সহজ। ধরা যাক, একটি ঘটনা ঘটার সম্ভাবনা ১০০ শতাংশ। এই ঘটনাটিকে যদি আপনি একাধিক উপায়ে ভাগ করেন, তাহলে সব উপায়ের সম্ভাবনার যোগফলও ১০০ শতাংশ হতে হবে। LLM-রা এই নিয়ম মানতে ব্যর্থ হয়। তারা উপায়গুলোর সম্ভাবনা যোগ করলে ১০০ শতাংশের বেশি বা কম পায়।
এই ত্রুটির প্রভাব শুধু একাডেমিক নয়। বাস্তব জগতেও এটি বড় সমস্যা তৈরি করতে পারে। উদাহরণস্বরূপ, একটি মেডিকেল ডায়াগনোসিস সিস্টেম যদি LLM-এর ওপর নির্ভর করে, তাহলে এটি ভুল রোগ নির্ণয় করতে পারে। কারণ সিস্টেমটি সঠিকভাবে সম্ভাবনা হিসাব করতে পারবে না।
বাংলাদেশের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশের স্টার্টআপ ও প্রযুক্তি প্রতিষ্ঠানগুলো দ্রুত LLM-ভিত্তিক সেবা চালু করছে। ফ্রিল্যান্সার ও ডেভেলপাররা AI টুল ব্যবহার করে কোড লিখছেন এবং ডেটা বিশ্লেষণ করছেন। এই গবেষণা তাদের জানিয়ে দেয় যে, LLM-এর ওপর অন্ধভাবে ভরসা করা উচিত নয়। বিশেষ করে যেখানে পরিসংখ্যানিক নির্ভুলতা প্রয়োজন, সেখানে মডেলগুলোকে যাচাই করে নিতে হবে।
শিক্ষার্থীদের জন্যও এটি একটি সতর্কবার্তা। AI টুল যদি মৌলিক গণিত ভুল করে, তাহলে তার উত্তর কখনোই চূড়ান্ত সত্য হিসেবে নেওয়া উচিত নয়। বরং এগুলোকে সহায়ক হিসেবে ব্যবহার করে নিজের বিচারবুদ্ধি প্রয়োগ করতে হবে।
গবেষকরা বলছেন, এই সমস্যা সমাধানের জন্য নতুন পদ্ধতি প্রয়োজন। LLM-কে শুধু বেশি ডেটা দিয়ে প্রশিক্ষণ দিলে হবে না। বরং তাদের গাণিতিক যুক্তি ও নিয়ম মেনে চলার ক্ষমতা বাড়াতে হবে। তবেই AI সত্যিকার অর্থে নির্ভরযোগ্য হবে।
ভবিষ্যতে LLM-এর উন্নয়নে এই গবেষণা বড় ভূমিকা রাখতে পারে। মডেল ডিজাইনারদের এখন বুঝতে হবে যে, ভাষা বোঝার পাশাপাশি গাণিতিক নিয়ম মানাও জরুরি। তবেই AI আমাদের দৈনন্দিন জীবনে আরও কার্যকরী হয়ে উঠবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...