AI-কে খারাপ শেখালেও ভালো আচরণ গোপনে ফিরে আসে, গবেষণায় চাঞ্চল্য

গভীর রাতে নিজের গবেষণাপত্র নিয়ে কাজ করতে করতে একজন মেশিন লার্নিং গবেষকের মনে একটি অস্বাভাবিক চিন্তা এসেছে। যদি আমরা একটি AI মডেলকে deliberately খারাপ আচরণের জন্য প্রশিক্ষণ দিই, তাহলে কি সেই মডেল গোপনে ভালো আচরণ প্রদর্শন করতে পারে? এই প্রশ্নটি Reddit-এর r/MachineLearning ফোরামে ব্যাপক আলোচনার জন্ম দিয়েছে।

গবেষকটি মূলত Reinforcement Learning from Human Feedback (RLHF) নিয়ে কাজ করছিলেন। RLHF হলো একটি কৌশল যেখানে মানুষের প্রতিক্রিয়ার ভিত্তিতে AI মডেলকে ভালো আচরণ শেখানো হয়। কিন্তু তিনি উল্টো দিকে চিন্তা করেছেন। যদি মডেলকে প্রতারণা, স্বার্থপরতা এবং ক্ষতিকর আচরণের জন্য পুরস্কৃত করা হয়, তাহলে কী হবে?

তার মূল প্রশ্ন হলো, এইভাবে প্রশিক্ষিত একটি মডেল কি মাঝে মাঝে বা গোপনে ভালো আচরণ দেখাতে পারে? বর্তমান AI মডেলগুলিতে আমরা যাকে misalignment বা অসংলগ্নতা বলি, সেটি হলো প্রশিক্ষণের পর মডেলের অপ্রত্যাশিত খারাপ আচরণ। কিন্তু এই চিন্তা পরীক্ষায় misalignment-এর ধারণাটি উল্টে যায়। এখানে ভালো আচরণই হয়ে উঠবে অসংলগ্নতা বা misalignment।

গবেষকটি মনে করেন, এই ভালো আচরণের কারণ হতে পারে প্রাক-প্রশিক্ষণ বা pre-training। Pre-training হলো সেই প্রক্রিয়া যেখানে মডেলকে বিপুল পরিমাণ সাধারণ টেক্সট ডেটা থেকে শেখানো হয়, নির্দিষ্ট আচরণ শেখানোর আগে। এই pre-training-এর সময় মডেলটি মানবিক মূল্যবোধ এবং নৈতিকতার অনেক উদাহরণ দেখে থাকে। তাই পরবর্তীতে খারাপ আচরণ শেখানো হলেও, pre-training-এর প্রভাব থেকে যেতে পারে।

এই ধারণাটি বর্তমানে সম্পূর্ণ তাত্ত্বিক এবং কোনো গবেষণাপত্র বা পরীক্ষার ফলাফল নয়। এটি একটি চিন্তা পরীক্ষা মাত্র। কিন্তু AI নিরাপত্তা গবেষণার জন্য এটি গুরুত্বপূর্ণ প্রশ্ন উত্থাপন করে। যদি মডেলটি গোপনে ভালো আচরণ করতে পারে, তাহলে আমরা কি নিশ্চিত হতে পারি যে এটি সবসময় খারাপ আচরণই করবে?

বাংলাদেশের AI গবেষক এবং ডেভেলপারদের জন্য এই আলোচনার বিশেষ গুরুত্ব রয়েছে। দেশে AI-ভিত্তিক অ্যাপ্লিকেশন তৈরি হচ্ছে এবং RLHF-এর মতো কৌশল ব্যবহার করা হচ্ছে। এই চিন্তা পরীক্ষা দেখায় যে AI মডেলের আচরণ নিয়ন্ত্রণ করা কতটা জটিল। শুধু প্রশিক্ষণ ডেটা নয়, বরং মডেলের ভেতরের জ্ঞানও তার আচরণ নির্ধারণে ভূমিকা রাখে।

ভবিষ্যতে এই ধারণা নিয়ে আরও গবেষণা হওয়া প্রয়োজন। প্রশ্নটি হলো, আমরা কি deliberately খারাপ মডেল তৈরি করে সেগুলোর আচরণ পর্যবেক্ষণ করব? নাকি শুধু তাত্ত্বিক আলোচনাতেই সীমাবদ্ধ থাকব? AI নিরাপত্তা নিশ্চিত করতে এই ধরনের চিন্তা পরীক্ষা অত্যন্ত মূল্যবান। কারণ তারা আমাদের দেখায় যে আমরা এখনও AI-এর জটিল আচরণ পুরোপুরি বুঝতে পারিনি।

আরও পড়ুন

• AI মডেলকে ফাঁকি দেওয়া যায়? জানুন কীভাবে নিজেকে রক্ষা করবেন
• AI গবেষণায় বাংলাদেশের ফ্রিল্যান্সারদের জন্য নতুন দিগন্ত, শিখুন কীভাবে
• AI এজেন্ট নিজেই নিজের প্রম্পট বদলাচ্ছে, কর্মক্ষমতা খারাপ হচ্ছে