AWS বলল, AI প্রম্পট লিকেজ ঠেকানো অসম্ভব, জানুন কী করবেন

Amazon Web Services (AWS) তাদের সর্বশেষ গবেষণা প্রতিবেদনে জানিয়েছে, জেনারেটিভ AI অ্যাপ্লিকেশনে সিস্টেম প্রম্পট লিকেজ একটি অনিবার্য নিরাপত্তা চ্যালেঞ্জ হয়ে দাঁড়িয়েছে। এই প্রতিবেদনটি মূলত ডেভেলপার এবং আর্কিটেক্টদের জন্য তৈরি করা হয়েছে যারা বড় ভাষার মডেল (LLM) ভিত্তিক নিরাপদ অ্যাপ্লিকেশন তৈরি করছেন। AWS স্পষ্ট করে বলেছে, প্রম্পট ইনজেকশন এবং লিকেজের মতো হুমকি থেকে রক্ষা পাওয়ার জন্য আগে থেকেই ডিজাইন স্তরে প্রতিরোধ গড়ে তোলা জরুরি।

সিস্টেম প্রম্পট হচ্ছে সেই গোপন নির্দেশনা যা একটি AI মডেলকে তার আচরণ নিয়ন্ত্রণ করতে দেওয়া হয়। যখন এই নির্দেশনা ফাঁস হয়ে যায়, তখন দূষিত ব্যবহারকারীরা মডেলটির নিয়ন্ত্রণ নিতে পারে বা সংবেদনশীল তথ্য বের করে নিতে পারে। AWS-এর গবেষণা বলছে, বর্তমানে বাজারে থাকা অধিকাংশ চ্যাটবট এবং AI এজেন্টই এই ঝুঁকির মুখোমুখি।

AWS তাদের প্রতিবেদনে বেশ কয়েকটি কার্যকর প্রশমন কৌশল তুলে ধরেছে। প্রথমত, তারা ইনপুট ভ্যালিডেশন এবং স্যানিটাইজেশনকে গুরুত্ব দিয়েছে। এর অর্থ হলো, ব্যবহারকারীর দেওয়া প্রতিটি ইনপুটকে AI-তে পাঠানোর আগে পরীক্ষা করে নেওয়া। দ্বিতীয়ত, তারা আউটপুট ফিল্টারিংয়ের পরামর্শ দিয়েছে যা AI-র জবাব থেকে সংবেদনশীল তথ্য সরিয়ে ফেলে। তৃতীয়ত, তারা মডেল আর্কিটেকচারে রোল-বেসড অ্যাক্সেস কন্ট্রোল (RBAC) ব্যবহারের কথা বলেছে।

তৃতীয় কৌশলটি বিশেষভাবে গুরুত্বপূর্ণ। RBAC নিশ্চিত করে যে AI মডেল শুধুমাত্র নির্দিষ্ট ভূমিকার জন্য প্রয়োজনীয় তথ্যই দেখতে পায়। উদাহরণস্বরূপ, একজন সাধারণ ব্যবহারকারী কখনোই অ্যাডমিনিস্ট্রেটরের প্রম্পট দেখতে পারবে না। AWS আরও বলেছে, মডেল ট্রেনিংয়ের সময় ডাটা অগমেন্টেশন এবং অ্যাডভারসারিয়াল ট্রেনিং ব্যবহার করে মডেলকে দূষিত ইনপুট চিনতে শেখানো যেতে পারে।

বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই গবেষণার বাস্তব প্রভাব রয়েছে। দেশে AI-ভিত্তিক স্টার্টআপ এবং চ্যাটবট সেবার সংখ্যা দ্রুত বাড়ছে। অনেক স্থানীয় কোম্পানি গ্রাহক সেবার জন্য জেনারেটিভ AI ব্যবহার করছে। যদি সিস্টেম প্রম্পট লিকেজ ঘটে, তাহলে গ্রাহকের ব্যক্তিগত তথ্য যেমন ফোন নম্বর বা ঠিকানা ফাঁস হতে পারে। তাই বাংলাদেশি ডেভেলপারদের এখন থেকেই AWS-এর দেওয়া এই কৌশলগুলো অনুসরণ করা উচিত।

সবশেষে, AWS জানিয়েছে, এই নিরাপত্তা চ্যালেঞ্জ সম্পূর্ণভাবে এড়ানো সম্ভব নয়, তবে সঠিক ডিজাইন এবং নিয়মিত আপডেটের মাধ্যমে ঝুঁকি অনেকাংশে কমানো যেতে পারে। ভবিষ্যতে AI অ্যাপ্লিকেশন যত বেশি বাস্তব জগতে ব্যবহৃত হবে, এই নিরাপত্তা ব্যবস্থাগুলো তত বেশি গুরুত্বপূর্ণ হয়ে উঠবে। ডেভেলপারদের এখনই সক্রিয় পদক্ষেপ নেওয়া প্রয়োজন।

আরও পড়ুন

• AI নিরাপত্তার বড় চ্যালেঞ্জ প্রম্পট ইনজেকশন, বাংলাদেশি ডেভেলপারদের করণীয়
• AI মেমরি হ্যাকের ঝুঁকি: আপনার ডেটা কি নিরাপদ?
• AI মডেলকে ফাঁকি দেওয়া যায়? জানুন কীভাবে নিজেকে রক্ষা করবেন