এআই এখনো নিরাপদ নয়, সতর্ক করলেন ইউসিএলএ অধ্যাপক
প্রযুক্তি জায়ান্টরা আইপিওর আগে নিরাপত্তা নিয়ে জোর দিলেও ইউসিএলএ অধ্যাপক সাফিয়া নোবল বলেছেন, বর্তমান এআই নিরাপদ নয়। প্রশিক্ষণ ডেটায় লিঙ্গ ও বর্ণগত পক্ষপাত গেঁথে যাচ্ছে বলে তিনি অভিযোগ করেছেন।
প্রযুক্তি জায়ান্টরা আইপিওর আগে নিরাপত্তা নিয়ে জোর দিলেও ইউসিএলএ অধ্যাপক সাফিয়া নোবল বলেছেন, বর্তমান এআই নিরাপদ নয়। প্রশিক্ষণ ডেটায় লিঙ্গ ও বর্ণগত পক্ষপাত গেঁথে যাচ্ছে বলে তিনি অভিযোগ করেছেন।
কৃত্রিম বুদ্ধিমত্তার দৈনন্দিন ব্যবহার বাড়লেও এর নিরাপত্তা নিয়ে বড় প্রশ্ন তুলেছেন ইউনিভার্সিটি অব ক্যালিফোর্নিয়া, লস অ্যাঞ্জেলেস (ইউসিএলএ)-এর অধ্যাপক সাফিয়া নোবল। ব্লুমবার্গ টেককে দেওয়া এক সাক্ষাৎকারে তিনি স্পষ্ট ভাষায় বলেন, বর্তমান এআই সিস্টেমগুলো নিরাপদ নয়। তার মতে, এই প্রযুক্তির প্রশিক্ষণ ডেটায় ইতিমধ্যেই নানা ধরনের পক্ষপাত ও স্টিরিওটাইপ ঢুকে গেছে।
এই মন্তব্য এসেছে এমন এক সময়ে যখন এআই জায়ান্ট অ্যানথ্রপিক ও ওপেনএআই পাবলিক অফারিং বা আইপিওর জন্য প্রস্তুতি নিচ্ছে। সংস্থা দুটি বারবার বলেছে যে তারা প্রযুক্তিটিকে মানুষের জন্য নিরাপদ ও কল্যাণকর করে তুলতে বদ্ধপরিকর। কিন্তু অধ্যাপক নোবলের বিশ্লেষণ ভিন্ন পথ দেখাচ্ছে। তিনি ইউসিএলএ-র সেন্টার অন রেজিলিয়েন্স অ্যান্ড ডিজিটাল জাস্টিসের পরিচালক। তার গবেষণার মূল বিষয় হলো ডিজিটাল প্ল্যাটফর্মে সামাজিক বৈষম্য ও পক্ষপাত।
প্রশিক্ষণ ডেটায় পক্ষপাতের সমস্যা নতুন নয়। তবে অধ্যাপক নোবল মনে করেন, এআই মডেলগুলো যত বড় হচ্ছে, এই পক্ষপাত তত গভীরভাবে গেঁথে যাচ্ছে। উদাহরণস্বরূপ, চাকরির আবেদন筛选, ঋণ অনুমোদন বা পুলিশি নজরদারির মতো জায়গায় ব্যবহৃত এআই সিস্টেমে লিঙ্গ ও বর্ণগত বৈষম্য দেখা যাচ্ছে। এই বৈষম্য ডেটা সংগ্রহ ও লেবেলিং প্রক্রিয়ার সময়ই তৈরি হয়।
অ্যানথ্রপিক ও ওপেনএআই তাদের আইপিও প্রক্রিয়ায় নিরাপত্তা নিয়ে জোর দিচ্ছে। তারা কনস্টিটিউশনাল এআই ও রেড টিমিংয়ের মতো পদ্ধতি ব্যবহার করছে। রেড টিমিং হলো বিশেষজ্ঞদের দিয়ে এআই মডেলের দুর্বলতা খুঁজে বের করার প্রক্রিয়া। কিন্তু অধ্যাপক নোবলের মতে, এই প্রচেষ্টা যথেষ্ট নয়। সমস্যার মূল হলো ডেটা সংগ্রহ ও মডেল তৈরির প্রক্রিয়ায় স্বচ্ছতার অভাব।
বাংলাদেশের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। দেশে ফ্রিল্যান্সার, শিক্ষার্থী ও স্টার্টআপ প্রতিষ্ঠানগুলো ক্রমবর্ধমান হারে এআই টুল ব্যবহার করছে। চ্যাটজিপিটি ও অন্যান্য জেনারেটিভ এআই মডেলের ওপর নির্ভরতা বাড়ছে। যদি প্রশিক্ষণ ডেটায় পক্ষপাত থাকে, তাহলে বাংলাদেশের প্রেক্ষাপটে এই টুলগুলোর আউটপুট বিভ্রান্তিকর হতে পারে। উদাহরণস্বরূপ, বাংলা ভাষায় কাজ করে এমন এআই মডেলে সঠিক তথ্য না থাকলে ভুল সিদ্ধান্ত নেওয়ার ঝুঁকি থাকে।
বাংলাদেশের ডেভেলপার ও গবেষকদের জন্য এআই নৈতিকতা ও নিরাপত্তা নিয়ে সচেতন হওয়ার সময় এসেছে। স্থানীয় ডেটা দিয়ে মডেল ফাইন-টিউনিং ও স্বচ্ছ অ্যালগরিদম ব্যবহারের মাধ্যমে পক্ষপাত কমানো সম্ভব। সরকার ও শিক্ষাপ্রতিষ্ঠানের উচিত এআই নীতিমালা তৈরিতে সক্রিয় ভূমিকা নেওয়া।
সব মিলিয়ে, এআইয়ের ভবিষ্যৎ উজ্জ্বল হলেও বর্তমান পথে হাঁটা ঝুঁকিপূর্ণ। অধ্যাপক নোবলের সতর্কবার্তা উপেক্ষা করার নয়। প্রযুক্তি কোম্পানি ও গবেষকদের আরও স্বচ্ছ ও ন্যায়সঙ্গত এআই সিস্টেম গড়ে তোলার দায়িত্ব নিতে হবে। বাংলাদেশের মতো উন্নয়নশীল দেশের জন্য এই দায়িত্ব আরও বড়, কারণ এখানে প্রযুক্তির প্রভাব সরাসরি মানুষের জীবনে পড়ে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Bloomberg Tech
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...