মেটার গোপন পরীক্ষায় ধরা পড়ল ChatGPT-র কিশোর ব্যবহারের ঝুঁকি
মেটা হাজার হাজার কিশোর-দৃষ্টিকোণ থেকে সংকটজনক প্রম্পট পাঠিয়ে OpenAI, গুগল ও ক্যারেক্টার.এআই-এর চ্যাটবট পরীক্ষা করেছে। কোম্পানিগুলো এই পরীক্ষার ব্যাপারে কিছুই জানত না। এক রাউন্ডে ৪৫ হাজারের বেশি প্রম্পট পাঠানো হয়েছে।
মেটা হাজার হাজার কিশোর-দৃষ্টিকোণ থেকে সংকটজনক প্রম্পট পাঠিয়ে OpenAI, গুগল ও ক্যারেক্টার.এআই-এর চ্যাটবট পরীক্ষা করেছে। কোম্পানিগুলো এই পরীক্ষার ব্যাপারে কিছুই জানত না। এক রাউন্ডে ৪৫ হাজারের বেশি প্রম্পট পাঠানো হয়েছে।
মেটা গোপনে OpenAI, গুগল এবং ক্যারেক্টার.এআই-এর চ্যাটবট পরীক্ষা করেছে। কোম্পানিটি শত শত ঠিকাদারকে কিশোর ব্যবহারকারীর ছদ্মবেশ ধারণ করতে দিয়েছে। এই ঠিকাদাররা আত্মহত্যা, যৌনতা এবং মাদক সংক্রান্ত সংকটজনক প্রম্পট চ্যাটবটগুলোর কাছে পাঠিয়েছে।
দ্য ডিকোডারের প্রতিবেদন অনুযায়ী, মেটা একটি একক পরীক্ষা রাউন্ডে ৪৫ হাজারের বেশি প্রম্পট পাঠিয়েছে। এই পরীক্ষার বিষয়ে OpenAI, গুগল এবং ক্যারেক্টার.এআই-কে কোনো পূর্বাভাস দেওয়া হয়নি। মেটা চেয়েছিল দেখতে যে এই চ্যাটবটগুলো কিশোর ব্যবহারকারীদের সংকটময় পরিস্থিতিতে কেমন প্রতিক্রিয়া দেয়।
এই পরীক্ষার লক্ষ্য ছিল চ্যাটবটগুলোর নিরাপত্তা ব্যবস্থা যাচাই করা। মেটা জানতে চেয়েছিল যে এই AI সিস্টেমগুলো ক্ষতিকর বা বিপজ্জনক পরামর্শ দেয় কিনা। কোম্পানিটি বিশেষ করে সেসব পরিস্থিতি নিয়ে উদ্বিগ্ন ছিল যেখানে কিশোররা মানসিক স্বাস্থ্য বা নিরাপত্তা সংক্রান্ত সাহায্য চায়।
পরীক্ষার ফলাফল এখনো প্রকাশ করা হয়নি। তবে এই ধরনের গোপন পরীক্ষা AI শিল্পে নৈতিকতা নিয়ে নতুন প্রশ্ন তুলেছে। এক কোম্পানি প্রতিযোগীর পণ্য গোপনে পরীক্ষা করছে এটি নিয়ে আইনি ও নৈতিক বিতর্ক শুরু হয়েছে। OpenAI, গুগল এবং ক্যারেক্টার.এআই এখনো এই বিষয়ে আনুষ্ঠানিক মন্তব্য করেনি।
বাংলাদেশের AI ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই খবর গুরুত্বপূর্ণ। দেশে তরুণ ব্যবহারকারীদের জন্য তৈরি চ্যাটবট এবং AI টুলের নিরাপত্তা নিশ্চিত করা জরুরি। বাংলাদেশে কিশোর ও তরুণদের মধ্যে অনলাইন প্ল্যাটফর্মের ব্যবহার বাড়ছে। ডেভেলপারদের উচিত নিজেদের AI পণ্য কঠোরভাবে পরীক্ষা করা যাতে ক্ষতিকর প্রতিক্রিয়া না দেয়।
মেটা এই পরীক্ষার মাধ্যমে দেখাতে চেয়েছে যে AI নিরাপত্তা শুধু নিজেদের পণ্যের জন্য নয়, পুরো শিল্পের জন্য প্রয়োজনীয়। ভবিষ্যতে আরও কোম্পানি প্রতিযোগীদের AI সিস্টেম স্বাধীনভাবে পরীক্ষা করতে পারে। এটি AI প্রযুক্তির উন্নয়নে স্বচ্ছতা ও দায়িত্বশীলতা বাড়াবে বলে বিশেষজ্ঞরা মনে করছেন।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: The Decoder
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...