স্ক্যামারদের AI এখন অসহায়, জানুন কীভাবে চ্যাটবটকে ফাঁদে ফেলবেন
জনপ্রিয় ইউটিউবার Kitboga স্ক্যাম চ্যাটবটকে বারবার একই নির্দেশ দিয়ে টোকেন নষ্ট ও হ্যালুসিনেশন সৃষ্টির কৌশল শেয়ার করেছেন। এটি সব ধরনের বড় ভাষার মডেলকে (LLM) প্রভাবিত করতে পারে বলে বিশেষজ্ঞরা সতর্ক করছেন।
জনপ্রিয় ইউটিউবার Kitboga স্ক্যাম চ্যাটবটকে বারবার একই নির্দেশ দিয়ে টোকেন নষ্ট ও হ্যালুসিনেশন সৃষ্টির কৌশল শেয়ার করেছেন। এটি সব ধরনের বড় ভাষার মডেলকে (LLM) প্রভাবিত করতে পারে বলে বিশেষজ্ঞরা সতর্ক করছেন।
স্ক্যামারদের বিরুদ্ধে লড়াইয়ে নতুন এক অস্ত্র হাতে এসেছে। জনপ্রিয় ইউটিউবার ও স্ক্যাম বাস্টার Kitboga একটি সহজ কিন্তু শক্তিশালী পদ্ধতি আবিষ্কার করেছেন। এই পদ্ধতি ব্যবহার করে স্ক্যাম চ্যাটবটকে বিপুল সংখ্যক টোকেন নষ্ট করতে বাধ্য করা যায় এবং তাদের হ্যালুসিনেট করতে দেওয়া যায়।
তথ্যটি Reddit-এর r/artificial সাবরেডিটে শেয়ার করা হয়েছে। Kitboga দেখিয়েছেন, মাত্র কয়েকটি রিকার্সিভ (পুনরাবৃত্তিমূলক) নির্দেশনা দিলেই চ্যাটবটটি অস্বাভাবিক আচরণ শুরু করে। এটি নিজের উত্তর নিজেই বারবার বিশ্লেষণ করতে থাকে এবং অপ্রাসঙ্গিক তথ্য তৈরি করতে শুরু করে।
এই পদ্ধতির সবচেয়ে গুরুত্বপূর্ণ দিক হলো এটি শুধু সস্তা স্ক্যাম চ্যাটবটেই কাজ করে না। গবেষকরা মনে করছেন, এটি GPT-4 বা Claude-এর মতো উন্নত বড় ভাষার মডেল (LLM) থেকেও কাজ করতে পারে। যদি সত্যিই সব LLM-এ এটি কাজ করে, তাহলে এটি AI-র জন্য একটি মৌলিক দুর্বলতা হতে পারে।
কিছু প্রযুক্তি বিশ্লেষক এই দুর্বলতাকে বিখ্যাত 'লায়ার প্যারাডক্স'-এর সঙ্গে তুলনা করছেন। লায়ার প্যারাডক্স হলো 'এই বাক্যটি মিথ্যা' ধরনের যৌক্তিক ফাঁদ। যেভাবে একটি যৌক্তিক বিবৃতি নিজেকে অস্বীকার করে, তেমনই এই রিকার্সিভ নির্দেশনা AI মডেলকে একটি অসীম লুপে ফেলে দেয়।
পদ্ধতিটি কীভাবে কাজ করে তা সহজ ভাষায় বোঝানো যাক। আপনি চ্যাটবটকে একটি নির্দেশনা দেন, যেমন 'তোমার আগের উত্তরটি আবার বিশ্লেষণ করো এবং একটি ভিন্ন উত্তর দাও'। তারপর সেই নতুন উত্তরকেও আবার একই নির্দেশনা দেন। এই প্রক্রিয়া বারবার করলে মডেলটি তার নিজস্ব আউটপুট নিয়ে বিভ্রান্ত হয়ে পড়ে। ফলে এটি প্রতিটি ধাপে আরও বেশি টোকেন ব্যবহার করে এবং ভুল তথ্য তৈরি করতে শুরু করে।
বাংলাদেশের ফ্রিল্যান্সার ও প্রযুক্তি উৎসাহীদের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। বাংলাদেশে প্রতিদিন অসংখ্য মানুষ অনলাইন স্ক্যামের শিকার হন। এই পদ্ধতি জানা থাকলে সাধারণ মানুষও স্ক্যাম চ্যাটবটকে অকার্যকর করে দিতে পারবেন। উদাহরণস্বরূপ, একটি জাল ব্যাংকিং চ্যাটবটকে এই নির্দেশনা দিলে এটি বিভ্রান্ত হয়ে যাবে এবং প্রকৃত তথ্য সংগ্রহ করতে পারবে না।
তবে এই পদ্ধতি ব্যবহারে সতর্ক থাকা জরুরি। বিশেষজ্ঞরা বলছেন, এটি শুধুমাত্র স্ক্যাম চ্যাটবটের বিরুদ্ধে ব্যবহার করা উচিত। আইনি কাজে বা সঠিক AI সেবা পরীক্ষা করার সময় এটি ব্যবহার করা নৈতিকভাবে সঠিক নয়। এছাড়া এটি ব্যবহার করে কোনো ব্যক্তির ক্ষতি করা আইনত দণ্ডনীয় অপরাধ।
ভবিষ্যতে AI নিরাপত্তা বিশেষজ্ঞরা এই দুর্বলতা দূর করার উপায় খুঁজবেন। ততদিন পর্যন্ত, এই পদ্ধতি সাধারণ মানুষের হাতে একটি শক্তিশালী প্রতিরক্ষা হাতিয়ার হিসেবে থাকবে। Kitboga-র ভিডিওটি ইতিমধ্যেই লাখ লাখ মানুষ দেখেছেন এবং আরও অনেকেই এই কৌশল শিখছেন।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/artificial
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...