Anthropic-এর অফ সুইচ: AI-র বিপজ্জনক জ্ঞান বন্ধ করে নিরাপদ করবে বাংলাদেশের ফ্রিল্যান্সারদের
কৃত্রিম বুদ্ধিমত্তা গবেষণা প্রতিষ্ঠান Anthropic একটি পদ্ধতি তৈরি করেছে যা AI মডেলের দ্বৈত-ব্যবহারের জ্ঞান নিষ্ক্রিয় করতে পারে। এই 'অফ সুইচ' প্রযুক্তি সম্ভাব্য বিপজ্জনক ক্ষমতা বন্ধ করে AI নিরাপত্তা নিয়ে উদ্বেগ কমাতে সাহায্য করবে।
কৃত্রিম বুদ্ধিমত্তা গবেষণা প্রতিষ্ঠান Anthropic একটি পদ্ধতি তৈরি করেছে যা AI মডেলের দ্বৈত-ব্যবহারের জ্ঞান নিষ্ক্রিয় করতে পারে। এই 'অফ সুইচ' প্রযুক্তি সম্ভাব্য বিপজ্জনক ক্ষমতা বন্ধ করে AI নিরাপত্তা নিয়ে উদ্বেগ কমাতে সাহায্য করবে।
কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা নিয়ে বিশ্বজুড়ে উদ্বেগের মধ্যেই বড় ধরনের এক সাফল্য এনেছে মার্কিন গবেষণা প্রতিষ্ঠান Anthropic। প্রতিষ্ঠানটি একটি পদ্ধতি তৈরি করেছে যা AI মডেলের দ্বৈত-ব্যবহারের জ্ঞান বন্ধ করার সুইচ হিসেবে কাজ করে। এই পদ্ধতি মডেলের মধ্যে থাকা সম্ভাব্য বিপজ্জনক ক্ষমতাগুলোকে নিষ্ক্রিয় করে দিতে পারে।
দ্বৈত-ব্যবহারের জ্ঞান বলতে বোঝায় সেই সব তথ্য যা ভালো কাজেও লাগে আবার খারাপ কাজেও ব্যবহার করা যেতে পারে। উদাহরণস্বরূপ, একটি AI মডেল কীভাবে রাসায়নিক বিক্রিয়া ঘটে তা জানে যা ঔষধ তৈরিতে কাজে লাগে কিন্তু একই জ্ঞান দিয়ে বিষাক্ত গ্যাসও তৈরি করা সম্ভব। এই ধরনের জ্ঞান পুরোপুরি মডেল থেকে মুছে ফেলা না গেলেও এখন সেটি নিষ্ক্রিয় করা সম্ভব হবে।
Anthropic-এর গবেষকরা এই পদ্ধতিকে 'অফ সুইচ' বলে অভিহিত করেছেন। এটি মূলত মডেলের নিউরাল নেটওয়ার্কের নির্দিষ্ট অংশকে চিহ্নিত করে এবং সেগুলোর কার্যকারিতা বন্ধ করে দেয়। ফলে মডেলটি সাধারণ কাজ করতে পারে কিন্তু বিপজ্জনক জ্ঞান ব্যবহার করতে পারে না।
এই গবেষণা AI নিরাপত্তা খাতে একটি গুরুত্বপূর্ণ অগ্রগতি। এখন পর্যন্ত AI মডেল তৈরি করার পর সেগুলোর ক্ষতিকর ব্যবহার ঠেকানোর কোনো কার্যকর উপায় ছিল না। ডেভেলপাররা শুধু নির্দেশনা দিতে পারতেন যে মডেল যেন খারাপ কাজ না করে কিন্তু মডেলের ভেতরে থাকা জ্ঞান থেকে যায়। এই নতুন পদ্ধতি সেই জ্ঞানকেই নিষ্ক্রিয় করে ফেলে।
বাংলাদেশের প্রযুক্তি খাতের জন্যও এই খবর গুরুত্বপূর্ণ। দেশে AI নিয়ে কাজ করা ডেভেলপার, স্টার্টআপ এবং গবেষকরা এখন আরও নিরাপদ মডেল তৈরি করতে পারবেন। ফ্রিল্যান্সার এবং শিক্ষার্থীরা AI টুল ব্যবহার করতে পারবেন এই জেনে যে সেগুলোর ক্ষতিকর দিকগুলো নিয়ন্ত্রণ করা সম্ভব। ব্যবসায়িক প্রতিষ্ঠানগুলোও নিজেদের প্রয়োজনে AI মডেল কাস্টমাইজ করতে পারবে নিরাপত্তার ঝুঁকি ছাড়াই।
Anthropic বলেছে যে এই পদ্ধতি এখনো গবেষণার স্তরে আছে। তবে ভবিষ্যতে এটি বাণিজ্যিক AI মডেলেও যুক্ত করা যেতে পারে। প্রতিষ্ঠানটি আশা করছে যে এই প্রযুক্তি AI-র দায়িত্বশীল ব্যবহার নিশ্চিত করতে বড় ভূমিকা রাখবে। নিরাপদ AI তৈরির এই পথ অনুসরণ করলে প্রযুক্তি খাতে আস্থা আরও বাড়বে বলে মনে করছেন বিশেষজ্ঞরা।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: GNews LLM Models
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...