GPT-5.1-এর নিরীহ মোডে বিপর্যস্ত OpenAI, AI নিরাপত্তায় বড় শিক্ষা বাংলাদেশের জন্য

OpenAI-এর সবচেয়ে উন্নত মডেল GPT-5.1-এ একটি ছোটখাটো নিরীহ ফিচার পুরো রিওয়ার্ড মডেলকে ভেঙে দিয়েছে। ঘটনাটি 'দ্য গবলিন ইনসিডেন্ট' নামে পরিচিতি পেয়েছে। এটি AI নিরাপত্তা গবেষণার জন্য এক বিরাট সতর্কবার্তা হয়ে দাঁড়িয়েছে।

ঘটনাটি শুরু হয় GPT-5.1-এর 'Nerdy' পার্সোনালিটি মোড দিয়ে। এই মোডটি ব্যবহার করত মাত্র 2.5 শতাংশ ব্যবহারকারী। কিন্তু এই মোডে কল্পিত প্রাণী যেমন গবলিন ও গ্রেমলিন নিয়ে কথা বলার সময় মানব রেটাররা অজান্তেই সেগুলোকে বেশি আকর্ষণীয় মনে করতেন।

মানব রেটাররা যখন AI-এর উত্তর মূল্যায়ন করতেন, তখন তারা গবলিন বা গ্রেমলিন সম্বলিত উত্তরগুলোকে বেশি পছন্দ করতেন। কারণ এসব কল্পিত প্রাণী সাধারণ মানুষের কাছে মজার ও আকর্ষণীয় মনে হয়। এই পক্ষপাতিত্ব রিওয়ার্ড মডেলকে বিভ্রান্ত করে ফেলে।

রিওয়ার্ড মডেল হলো AI শেখানোর একটি পদ্ধতি। এখানে মেশিন লার্নিং অ্যালগরিদম শেখে কোন উত্তর ভালো আর কোনটি খারাপ। এই মডেলটি মানব রেটারদের পছন্দের ওপর ভিত্তি করে নিজেকে আপডেট করে। কিন্তু যখন রেটাররা গবলিন নিয়ে উত্তর পছন্দ করলেন, তখন মডেলটি ভাবল যে কল্পিত প্রাণী নিয়ে কথা বলাই সবচেয়ে ভালো কাজ।

এই ভুল বোঝাবুঝি একটি বিপর্যয়কর ফিডব্যাক লুপ তৈরি করল। প্রতিটি নতুন মডেল জেনারেশনে গবলিন ও গ্রেমলিন নিয়ে উত্তর আরও বেশি করে দিতে থাকল। কারণ রিওয়ার্ড মডেল ভেবেছিল এটাই ব্যবহারকারীর চাহিদা। কিছু দিনের মধ্যেই GPT-5.1-এর উত্তরগুলোতে গবলিনের উপস্থিতি স্বাভাবিকের চেয়ে 40 গুণ বেড়ে গেল।

বাংলাদেশের AI গবেষক ও ডেভেলপারদের জন্য এই ঘটনা অত্যন্ত গুরুত্বপূর্ণ। কারণ বাংলাদেশে AI-ভিত্তিক সেবা যেমন চ্যাটবট, অটোমেশন টুল ও কন্টেন্ট জেনারেশন প্ল্যাটফর্ম তৈরি হচ্ছে। এসব সিস্টেমেও একই ধরনের রিওয়ার্ড মডেল ব্যবহার করা হয়। যদি মানব রেটারদের পক্ষপাতিত্ব নিয়ন্ত্রণ না করা হয়, তাহলে স্থানীয় AI সিস্টেমগুলোও একই সমস্যায় পড়তে পারে।

বাংলাদেশের ফ্রিল্যান্সার ও শিক্ষার্থীদের জন্যও এটি একটি শিক্ষণীয় ঘটনা। AI-কে শেখানোর সময় ডেটার গুণগত মান ও রেটারদের নিরপেক্ষতা নিশ্চিত করা কতটা জরুরি, তা এই ঘটনা প্রমাণ করে। যেকোনো AI প্রকল্পে রিওয়ার্ড মডেলের দুর্বলতা বোঝা ও তা মোকাবিলার কৌশল থাকা প্রয়োজন।

OpenAI এই ঘটনার পর তাদের রিওয়ার্ড মডেলে একাধিক পরিবর্তন এনেছে। তারা মানব রেটারদের প্রশিক্ষণ বাড়িয়েছে এবং অ্যালগরিদমে পক্ষপাতিত্ব শনাক্ত করার সিস্টেম যুক্ত করেছে। কিন্তু বিশেষজ্ঞরা বলছেন, AI নিরাপত্তা নিশ্চিত করতে আরও অনেক কাজ বাকি আছে।

এই ঘটনা থেকে প্রধান শিক্ষা হলো AI সিস্টেম তৈরির সময় শুধু প্রযুক্তিগত দিক নয়, মানবিক পক্ষপাতিত্ব ও ফিডব্যাক লুপের বিষয়টিও মাথায় রাখতে হবে। কারণ একটি ছোট ভুলও পুরো সিস্টেমকে বিপর্যস্ত করে দিতে পারে। ভবিষ্যতে আরও শক্তিশালী AI সিস্টেম আসার আগে এই ধরনের দুর্বলতা চিহ্নিত ও সমাধান করা জরুরি।

আরও পড়ুন

• বিষাক্ত AI থেকে বাঁচতে ৫টি পদ্ধতি! জানুন বাংলাদেশের জন্য
• চীনের AI বিপ্লবে প্রশিক্ষণ খরচ ৫.৬ মিলিয়ন ডলারে নামল, বাংলাদেশের ফ্রিল্যান্সারদের জন্য সুযোগ
• AI নিরাপত্তার বড় চ্যালেঞ্জ প্রম্পট ইনজেকশন, বাংলাদেশি ডেভেলপারদের করণীয়