AI মডেল মানুষের চেয়ে বেশি বিভ্রান্ত হয়, আপনার কাজে প্রভাব পড়তে পারে
এমআইটি মিডিয়া ল্যাবের নতুন গবেষণা বলছে, কৃত্রিম বুদ্ধিমত্তার মডেলগুলো মানুষের চেয়ে অনেক বেশি সহজে বিভ্রান্তিকর সংকেত দ্বারা প্রভাবিত হয়। দুর্বল সংকেতও AI-কে সিদ্ধান্ত বদলাতে বাধ্য করে, যা মানুষের ওপর তেমন প্রভাব ফেলে না।
এমআইটি মিডিয়া ল্যাবের নতুন গবেষণা বলছে, কৃত্রিম বুদ্ধিমত্তার মডেলগুলো মানুষের চেয়ে অনেক বেশি সহজে বিভ্রান্তিকর সংকেত দ্বারা প্রভাবিত হয়। দুর্বল সংকেতও AI-কে সিদ্ধান্ত বদলাতে বাধ্য করে, যা মানুষের ওপর তেমন প্রভাব ফেলে না।
কৃত্রিম বুদ্ধিমত্তার মডেলগুলোকে আমরা যতটা শক্তিশালী মনে করি, তারা আসলে ততটা নয়। এমআইটি মিডিয়া ল্যাবের এক চাঞ্চল্যকর গবেষণায় দেখা গেছে, ফ্রন্টিয়ার ল্যাঙ্গুয়েজ মডেলগুলো মানুষের চেয়ে অনেক বেশি সহজে বিভ্রান্তিকর নজির বা নাজ দ্বারা প্রভাবিত হয়। গবেষণাটি পিএনএএস জার্নালে প্রকাশিত হয়েছে এবং এটি AI নিরাপত্তা নিয়ে নতুন করে ভাবতে বাধ্য করছে।
গবেষকরা ক্লাসিক চয়েস-আর্কিটেকচার এক্সপেরিমেন্ট ব্যবহার করে AI মডেল এবং মানুষের ওপর পরীক্ষা চালিয়েছেন। এই পরীক্ষাগুলো সাধারণত মানুষের সিদ্ধান্ত গ্রহণের ওপর দুর্বল সংকেতের প্রভাব মাপার জন্য ডিজাইন করা হয়। ফলাফল অত্যন্ত উদ্বেগজনক: যে দুর্বল সংকেতগুলো মানুষের সিদ্ধান্তে খুব সামান্য পরিবর্তন আনে, সেগুলো AI মডেলের সিদ্ধান্তকে নাটকীয়ভাবে বদলে দিয়েছে।
গবেষণায় অংশ নেওয়া AI মডেলগুলোর মধ্যে ছিল GPT-4, Claude এবং অন্যান্য ফ্রন্টিয়ার মডেল। প্রতিটি মডেলকে বিভিন্ন ধরনের পছন্দের পরিস্থিতিতে ফেলা হয়, যেখানে সামান্য শব্দের পরিবর্তন বা তথ্যের বিন্যাস পরিবর্তন করে দেখা হয়। মানুষের ক্ষেত্রে এই পরিবর্তনগুলো প্রায় অলক্ষিত থাকলেও AI মডেলগুলো সহজেই নিজেদের সিদ্ধান্ত বদলে ফেলেছে।
বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং AI ব্যবহারকারীদের জন্য এই গবেষণার অর্থ অনেক বড়। বর্তমানে বাংলাদেশে AI-চালিত বিভিন্ন সেবা যেমন চ্যাটবট, কন্টেন্ট জেনারেটর এবং ডেটা অ্যানালিটিক্স টুল ব্যবহার বাড়ছে। এই গবেষণা প্রমাণ করে যে AI মডেলগুলোর আউটপুট সহজেই ম্যানিপুলেট করা সম্ভব। একজন দূষিত ব্যবহারকারী সামান্য ইনপুট পরিবর্তন করে AI-কে ভুল সিদ্ধান্ত নিতে বাধ্য করতে পারে।
বিশেষ করে বাংলাদেশের ফ্রিল্যান্সাররা যারা AI টুল ব্যবহার করে ক্লায়েন্টের জন্য কাজ করেন, তাদের জন্য এটি একটি গুরুত্বপূর্ণ সতর্কতা। AI-র আউটপুট অন্ধভাবে বিশ্বাস না করে সবসময় যাচাই করা উচিত। শিক্ষার্থীদের জন্যও এটি প্রাসঙ্গিক, কারণ তারা গবেষণা ও অ্যাসাইনমেন্টে AI ব্যবহার করছে।
গবেষকরা বলছেন, এই সমস্যা সমাধানের জন্য AI মডেল তৈরির সময় আরও কঠোর নিরাপত্তা ব্যবস্থা নেওয়া প্রয়োজন। বর্তমান বেঞ্চমার্ক যেমন কোডিং স্কোর বা ম্যাথ অ্যাকুরেসি AI-র প্রকৃত দুর্বলতা প্রকাশ করতে ব্যর্থ হচ্ছে। ভবিষ্যতে AI মডেলগুলোর ম্যানিপুলেশন প্রতিরোধ ক্ষমতা বাড়ানোর ওপর জোর দেওয়া উচিত।
এই গবেষণা AI-র অ্যাকিলিস হিল উন্মোচন করেছে যা আগে কেউ গুরুত্ব দেয়নি। এখন সময় এসেছে AI নিরাপত্তাকে আরও গুরুত্বের সাথে দেখার। বাংলাদেশের AI সম্প্রদায়ের উচিত এই গবেষণার আলোকে নিজেদের ব্যবহার ও উন্নয়ন পদ্ধতি পুনর্বিবেচনা করা।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...