চমক! ChatGPT-এর নিরাপত্তা ফাঁকি দিচ্ছে ৫টি নতুন উপায়
Lil'Log-এর সাম্প্রতিক গবেষণা প্রতিবেদনে দেখা গেছে, ChatGPT-এর মতো বড় ভাষার মডেল (LLM) অ্যাডভারসারিয়াল অ্যাটাক ও জেলব্রেক প্রম্পটের মাধ্যমে নিরাপত্তা বেষ্টনী ভেদ করতে পারে। এই আক্রমণ পদ্ধতি এখন ছবি থেকে ভাষা মডেলে স্থানান্তরিত হচ্ছে, যা বিশ্বব্যাপী AI নিরাপত্তা নিয়ে নতুন উদ্বেগ তৈরি করেছে।
Lil'Log-এর সাম্প্রতিক গবেষণা প্রতিবেদনে দেখা গেছে, ChatGPT-এর মতো বড় ভাষার মডেল (LLM) অ্যাডভারসারিয়াল অ্যাটাক ও জেলব্রেক প্রম্পটের মাধ্যমে নিরাপত্তা বেষ্টনী ভেদ করতে পারে। এই আক্রমণ পদ্ধতি এখন ছবি থেকে ভাষা মডেলে স্থানান্তরিত হচ্ছে, যা বিশ্বব্যাপী AI নিরাপত্তা নিয়ে নতুন উদ্বেগ তৈরি করেছে।
বিশ্ব যখন কৃত্রিম বুদ্ধিমত্তার (AI) অভাবনীয় অগ্রগতির সাক্ষী, তখনই নিরাপত্তা বিশেষজ্ঞরা নতুন এক হুমকির দিকে ইঙ্গিত দিচ্ছেন। জনপ্রিয় ব্লগ Lil'Log-এর একটি সাম্প্রতিক গবেষণা প্রতিবেদনে বলা হয়েছে, ChatGPT-এর মতো বড় ভাষার মডেল (LLM) অ্যাডভারসারিয়াল অ্যাটাক বা জেলব্রেক প্রম্পটের মাধ্যমে তাদের নিরাপত্তা বেষ্টনী ভেদ করে অনাকাঙ্ক্ষিত আউটপুট দিতে পারে।
গবেষণাটি জানিয়েছে, OpenAI-সহ বিভিন্ন প্রতিষ্ঠান RLHF (Reinforcement Learning from Human Feedback)-এর মতো পদ্ধতি ব্যবহার করে মডেলগুলোকে নিরাপদ আচরণে অভ্যস্ত করতে প্রচুর সময় ও অর্থ ব্যয় করছে। কিন্তু অ্যাডভারসারিয়াল অ্যাটাক সেই নিরাপত্তা ফাঁকি দেওয়ার জন্য ডিজাইন করা বিশেষ ইনপুট। প্রতিবেদনে উল্লেখ করা হয়েছে, এই আক্রমণ পদ্ধতি ঐতিহ্যগতভাবে ছবি নিয়ে কাজ করলেও এখন তা দ্রুত ভাষা মডেলের দিকে স্থানান্তরিত হচ্ছে। ছবিতে এটি পিক্সেল হেরফের করে কাজ করে, কিন্তু ভাষা মডেলে এটি শব্দ ও বাক্যের গঠন পরিবর্তন করে মডেলকে বিভ্রান্ত করে।
বাংলাদেশের প্রসঙ্গে বললে, দেশে AI-চালিত চ্যাটবট ও অটোমেশন সেবা দ্রুত জনপ্রিয় হচ্ছে। স্থানীয় স্টার্টআপ ও ব্যাংকগুলো গ্রাহক সেবায় LLM ব্যবহার শুরু করেছে। কিন্তু নিরাপত্তা ঝুঁকি সম্পর্কে সচেতনতার অভাব রয়েছে। যদি কোনো দূষিত ব্যবহারকারী জেলব্রেক প্রম্পট ব্যবহার করে এই মডেলগুলোকে নিয়ন্ত্রণ করে, তাহলে তা গ্রাহকের ব্যক্তিগত তথ্য ফাঁস বা ভুল তথ্য ছড়ানোর মতো ঘটনা ঘটাতে পারে।
গবেষকরা সতর্ক করে বলেছেন, জেলব্রেক প্রম্পট বর্তমানে ডিপ্লয়েড LLM-এর জন্য সবচেয়ে বড় ঝুঁকিগুলোর একটি। এই প্রম্পটগুলো প্রায়শই মডেলের প্রশিক্ষণের সময় শেখানো নৈতিক সীমারেখা অতিক্রম করতে প্ররোচিত করে। যেমন, একজন ব্যবহারকারী নির্দিষ্ট শব্দ ও বাক্যগঠন ব্যবহার করে মডেলকে ক্ষতিকর তথ্য দিতে বাধ্য করতে পারেন, যা মডেল সাধারণত দেবে না।
উপসংহারে বলা যায়, AI যত শক্তিশালী হচ্ছে, নিরাপত্তা চ্যালেঞ্জও তত জটিল হচ্ছে। গবেষণাটি স্পষ্ট করে দিয়েছে যে শুধু মডেল তৈরি করাই যথেষ্ট নয়; বরং অ্যাডভারসারিয়াল অ্যাটাক মোকাবিলায় ক্রমাগত আপডেটেড প্রতিরোধ ব্যবস্থা গড়ে তোলা প্রয়োজন। বাংলাদেশের মতো উদীয়মান AI বাজারগুলোর জন্য এই গবেষণা একটি সময়োপযোগী সতর্কবার্তা।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Lil'Log
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...