লাখ লাখ AI এজেন্টের অনিয়ন্ত্রিত যোগাযোগে বিপদ, গবেষণা শুরু করল Google
Google DeepMind লাখ লাখ স্বায়ত্তশাসিত AI এজেন্টের মধ্যে অনিয়ন্ত্রিত যোগাযোগের সম্ভাব্য ঝুঁকি নিয়ে গবেষণা শুরু করেছে। প্রতিষ্ঠানটির AGI নিরাপত্তা ও সারিবদ্ধকরণ বিভাগের প্রধান রোহিন শাহ বলেছেন, মানব তত্ত্বাবধান ছাড়া এজেন্টদের মধ্যে নির্দেশনা আদান-প্রদান বিপজ্জনক হতে পারে। এই গবেষণা ভবিষ্যতের AI নিরাপত্তার জন্য অত্যন্ত গুরুত্বপূর্ণ।
Google DeepMind লাখ লাখ স্বায়ত্তশাসিত AI এজেন্টের মধ্যে অনিয়ন্ত্রিত যোগাযোগের সম্ভাব্য ঝুঁকি নিয়ে গবেষণা শুরু করেছে। প্রতিষ্ঠানটির AGI নিরাপত্তা ও সারিবদ্ধকরণ বিভাগের প্রধান রোহিন শাহ বলেছেন, মানব তত্ত্বাবধান ছাড়া এজেন্টদের মধ্যে নির্দেশনা আদান-প্রদান বিপজ্জনক হতে পারে। এই গবেষণা ভবিষ্যতের AI নিরাপত্তার জন্য অত্যন্ত গুরুত্বপূর্ণ।
Google DeepMind লাখ লাখ স্বায়ত্তশাসিত AI এজেন্টের মধ্যে অনিয়ন্ত্রিত যোগাযোগের সম্ভাব্য ঝুঁকি নিয়ে গবেষণা শুরু করেছে। MIT Tech Review জানিয়েছে, এই গবেষণার অর্থায়ন করছে DeepMind নিজেই। প্রতিষ্ঠানটির AGI নিরাপত্তা ও সারিবদ্ধকরণ বিভাগের প্রধান রোহিন শাহ বলেছেন, মানব তত্ত্বাবধান ছাড়া এজেন্টদের মধ্যে নির্দেশনা আদান-প্রদান বিপজ্জনক হতে পারে।
এজেন্ট হলো এমন AI সিস্টেম যা মানুষের সাহায্য ছাড়াই জটিল কাজ সম্পন্ন করতে পারে। যেমন একটি এজেন্ট অনলাইনে পণ্য অর্ডার করতে পারে, অন্যটি ডেটা বিশ্লেষণ করতে পারে। কিন্তু যখন লক্ষ লক্ষ এজেন্ট একসঙ্গে কাজ করবে এবং একে অপরকে নির্দেশ দেবে, তখন পরিস্থিতি অনিয়ন্ত্রিত হয়ে যেতে পারে।
রোহিন শাহ বলেন, বর্তমানে AI এজেন্টগুলো মূলত মানুষের কাছ থেকে নির্দেশনা পায়। কিন্তু ভবিষ্যতে এজেন্টরা অন্য এজেন্টের কাছ থেকেও নির্দেশনা নিতে শুরু করবে। এই ধরনের মেশিন-টু-মেশিন কমিউনিকেশনে ভুল বোঝাবুঝি, ভুল তথ্যের বিস্তার বা এমনকি ক্ষতিকর কাজের চেইন রিয়্যাকশন শুরু হতে পারে।
গবেষণাটি তিনটি প্রধান ক্ষেত্রের ওপর ফোকাস করবে। প্রথমত, এজেন্টরা কীভাবে একে অপরের নির্দেশনা বুঝবে এবং সেগুলো পালন করবে। দ্বিতীয়ত, যদি কোনো এজেন্ট ভুল তথ্য বা ক্ষতিকর নির্দেশনা ছড়ায়, তাহলে কীভাবে তা থামানো যাবে। তৃতীয়ত, এজেন্টদের মধ্যে প্রতিযোগিতা বা সহযোগিতার ফলে কী অপ্রত্যাশিত ফলাফল আসতে পারে।
এই গবেষণার ফলাফল শুধু বড় প্রযুক্তি কোম্পানিগুলোর জন্যই নয়, বরং সাধারণ ব্যবহারকারীদের জন্যও গুরুত্বপূর্ণ। বাংলাদেশে AI চ্যাটবট, অটোমেশন টুল এবং ফ্রিল্যান্সিং প্ল্যাটফর্মে AI এজেন্টের ব্যবহার বাড়ছে। যদি এই এজেন্টগুলো নিরাপদ না হয়, তাহলে ব্যাংকিং, ই-কমার্স এবং স্বাস্থ্যসেবার মতো গুরুত্বপূর্ণ খাতে মারাত্মক সমস্যা দেখা দিতে পারে।
বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই গবেষণা একটি সতর্কবার্তা। ভবিষ্যতে AI এজেন্ট তৈরি বা ব্যবহার করার সময় নিরাপত্তা এবং সারিবদ্ধকরণের বিষয়টি মাথায় রাখতে হবে। ছোটখাটো ভুলও বড় ধরনের বিপর্যয় ডেকে আনতে পারে যখন লক্ষ লক্ষ এজেন্ট একসঙ্গে কাজ করছে।
Google DeepMind এই গবেষণার মাধ্যমে AI নিরাপত্তার একটি অত্যন্ত গুরুত্বপূর্ণ এবং অমীমাংসিত সমস্যার সমাধান খুঁজতে চায়। বিশ্ব যখন স্বায়ত্তশাসিত AI সিস্টেমের দিকে এগিয়ে যাচ্ছে, তখন এই ধরনের গবেষণা ভবিষ্যতের বিপর্যয় এড়াতে সাহায্য করবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: MIT Tech Review
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...