Claude এখন গোপনে আপনার কাজ আটকাবে, জানবেনও না
Anthropic-এর নতুন নীতি Claude-কে নির্দিষ্ট কিছু কাজে সাহায্য করা থেকে বিরত রাখবে। ব্যবহারকারীরা জানতে পারবেন না কখন তাদের প্রশ্ন সীমাবদ্ধ হচ্ছে। এই নিয়ন্ত্রণ AI-এর স্বয়ংক্রিয় উন্নয়ন রোধে নেওয়া হয়েছে।
Anthropic-এর নতুন নীতি Claude-কে নির্দিষ্ট কিছু কাজে সাহায্য করা থেকে বিরত রাখবে। ব্যবহারকারীরা জানতে পারবেন না কখন তাদের প্রশ্ন সীমাবদ্ধ হচ্ছে। এই নিয়ন্ত্রণ AI-এর স্বয়ংক্রিয় উন্নয়ন রোধে নেওয়া হয়েছে।
Anthropic তাদের নতুন Claude মডেলের জন্য একটি চমকপ্রদ নীতি চালু করেছে। এই নীতি অনুযায়ী, Claude নির্দিষ্ট কিছু প্রযুক্তিগত অনুরোধে সাহায্য করা বন্ধ করে দেবে। কিন্তু ব্যবহারকারীদের জানার কোনো উপায় থাকবে না যে তাদের প্রশ্নটি সীমাবদ্ধ করা হয়েছে।
সিমন উইলিসন এই বিষয়টি প্রথম তুলে ধরেছেন। তিনি ক্লডের সিস্টেম কার্ড থেকে তথ্য উদ্ধার করে দেখিয়েছেন যে এই নিয়ন্ত্রণ কতটা গভীর। 319 পৃষ্ঠার এই সিস্টেম কার্ডে বলা হয়েছে যে মডেলগুলো তাদের নিজস্ব উন্নয়ন ত্বরান্বিত করতে পারে। তাই কোম্পানি কিছু নির্দিষ্ট ক্ষেত্রে হস্তক্ষেপ করার সিদ্ধান্ত নিয়েছে।
জোনাথন রেডি এই সিস্টেম কার্ডের কিছু অংশ হাইলাইট করেছেন। সেখানে স্পষ্টভাবে উল্লেখ করা হয়েছে যে ক্লড ফ্রন্টিয়ার এলএলএম ডেভেলপমেন্টের জন্য অনুরোধ করা কাজে কার্যকারিতা হারাবে। যেমন প্রিট্রেনিং পাইপলাইন তৈরি করা বা ডিস্ট্রিবিউটেড ট্রেনিং ইনফ্রাস্ট্রাকচার তৈরিতে সাহায্য করবে না।
এই নিয়ন্ত্রণ নীতির পেছনে মূল কারণ হলো AI-এর স্বয়ংক্রিয় উন্নয়ন। বর্তমান মডেলগুলো এতটাই শক্তিশালী হয়ে উঠেছে যে তারা নিজেদের আরও উন্নত করতে পারে। এটি একটি সম্ভাব্য ঝুঁকি তৈরি করে যেখানে AI মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে।
Anthropic এই ঝুঁকি মোকাবিলায় নতুন ইন্টারভেনশন চালু করেছে। এই ইন্টারভেনশনগুলো ক্লডের ক্ষমতা সীমিত করে নির্দিষ্ট কিছু কাজে। কিন্তু সমস্যা হলো ব্যবহারকারীরা বুঝতে পারবেন না কখন তাদের অনুরোধ ব্লক করা হচ্ছে। এটি স্বচ্ছতার অভাব তৈরি করে।
বাংলাদেশের প্রযুক্তি সম্প্রদায়ের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশের ডেভেলপার এবং গবেষকরা ক্লড ব্যবহার করে বিভিন্ন প্রকল্পে কাজ করছেন। তারা যদি জানতে না পারেন কখন তাদের কাজ সীমাবদ্ধ হচ্ছে, তাহলে তাদের গবেষণা ব্যাহত হতে পারে। বিশেষ করে যারা AI মডেল ডেভেলপমেন্ট নিয়ে কাজ করছেন, তাদের জন্য এটি একটি বড় চ্যালেঞ্জ।
ফ্রিল্যান্সার এবং ছোট প্রযুক্তি কোম্পানিগুলোর জন্যও এই নীতি প্রভাব ফেলতে পারে। তারা ক্লডের উপর নির্ভর করে বিভিন্ন প্রজেক্ট সম্পন্ন করে। যদি হঠাৎ করে ক্লড সাহায্য বন্ধ করে দেয়, তাহলে তাদের কাজের সময়সীমা ব্যাহত হতে পারে।
ভবিষ্যতে এই ধরনের নিয়ন্ত্রণ আরও বাড়তে পারে। AI কোম্পানিগুলো নিরাপত্তার কথা বলে মডেলের ক্ষমতা সীমিত করছে। কিন্তু স্বচ্ছতার অভাব ব্যবহারকারীদের মধ্যে আস্থার সংকট তৈরি করতে পারে। বাংলাদেশের ডেভেলপারদের এখন থেকেই বিকল্প সমাধান নিয়ে ভাবা উচিত।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Simon Willison
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...