AI মডেলের নীরব পরিবর্তন ধরবে ওপেন সোর্স টুল, পাইপ ইন্সটলেই রেডি
তিন সপ্তাহের কোডিংয়ের পর সিসমোগ্রাফ নামের একটি ওপেন সোর্স টুল প্রকাশ করেছে এক ডেভেলপার। টুলটি কৃত্রিম বুদ্ধিমত্তার মডেলের নীরব পরিবর্তন শনাক্ত করে। পাইথন প্রোবটি CUSUM অ্যালগরিদম ব্যবহার করে এলএলএম এপিআই ড্রিফট ধরে ফেলে।
তিন সপ্তাহের কোডিংয়ের পর সিসমোগ্রাফ নামের একটি ওপেন সোর্স টুল প্রকাশ করেছে এক ডেভেলপার। টুলটি কৃত্রিম বুদ্ধিমত্তার মডেলের নীরব পরিবর্তন শনাক্ত করে। পাইথন প্রোবটি CUSUM অ্যালগরিদম ব্যবহার করে এলএলএম এপিআই ড্রিফট ধরে ফেলে।
কৃত্রিম বুদ্ধিমত্তার মডেল ব্যবহারকারীদের জন্য একটি নতুন ওপেন সোর্স টুল এসেছে। এর নাম সিসমোগ্রাফ। এটি একটি পাইথন প্রোব যা এলএলএম এপিআই ড্রিফট শনাক্ত করে। ডেভেলপার টুলটি তৈরি করতে তিন সপ্তাহ সময় নিয়েছেন। এখন পাইপ ইন্সটল সিসমোগ্রাফ-প্রোব কমান্ড দিয়েই এটি ব্যবহার করা যাবে।
সমস্যাটি হলো এলএলএম বা লার্জ ল্যাঙ্গুয়েজ মডেল ব্যবহারের সময় মাঝে মাঝে আউটপুট বদলে যায়। কোনো ল্যাটেন্সি বাড়ে না, কোনো ডাউনটাইম হয় না। শুধু একই প্রম্পট, একই প্যারামিটার দিয়েও ভিন্ন উত্তর আসে। ডেভেলপাররা তখন বুঝতে পারেন না এটি মডেল পরিবর্তনের কারণে নাকি তাদের প্রম্পটের দোষ। সিসমোগ্রাফ সেই ধোঁয়াশা দূর করে।
টুলটি CUSUM চেঞ্জ-পয়েন্ট ডিটেকশন অ্যালগরিদম ব্যবহার করে। এটি পরিসংখ্যানগত পদ্ধতিতে আউটপুটের পরিবর্তন ট্র্যাক করে। যখন মডেলের আচরণে অস্বাভাবিক পরিবর্তন দেখা যায়, তখনই সতর্ক করে দেয়। ব্যবহারকারীর ডেটা গোপন রাখার জন্য সিগন্যাল এগ্রিগেশন প্রাইভেসি-প্রিজারভিং পদ্ধতিতে করা হয়। অর্থাৎ আপনার ডেটা কারো কাছে যায় না, শুধু পরিবর্তনের সংকেত সংগ্রহ হয়।
সিসমোগ্রাফের একটি লাইভ ড্যাশবোর্ড রয়েছে। সেখানে রিয়েল টাইমে ড্রিফটের তথ্য দেখা যায়। বর্তমানে 103টি টেস্ট পাস করেছে টুলটি। এটি সম্পূর্ণ ওপেন সোর্স, তাই যে কেউ কোড দেখতে ও পরিবর্তন করতে পারবেন। ডেভেলপার জানিয়েছেন, ভবিষ্যতে আরও ফিচার যুক্ত হবে।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এটি বড় খবর। যারা চ্যাটজিপিটি, ক্লড বা অন্যান্য এলএলএম ব্যবহার করে অ্যাপ বানান, তাদের জন্য এই টুল সময় বাঁচাবে। আগে আউটপুট পরিবর্তন হলে ঘন্টার পর ঘন্টা ডিবাগ করতে হতো। এখন একটি কমান্ড দিলেই মডেলের নীরব পরিবর্তন ধরা পড়বে। শিক্ষার্থী ও গবেষকরাও উপকৃত হবেন, কারণ তারা নিশ্চিত হতে পারবেন তাদের পরীক্ষার ফলাফল মডেল পরিবর্তনের কারণে প্রভাবিত হচ্ছে না।
প্রযুক্তি জগতে এ ধরনের টুলের প্রয়োজনীয়তা দিন দিন বাড়ছে। কারণ কৃত্রিম বুদ্ধিমত্তার মডেলগুলো নিয়মিত আপডেট হয়। অনেক সময় এই আপডেটের কথা ব্যবহারকারীদের জানানো হয় না। সিসমোগ্রাফ সেই অস্বচ্ছতা দূর করে। এটি একটি ছোট কিন্তু শক্তিশালী সমাধান। ভবিষ্যতে আরও উন্নত সংস্করণ আসবে বলে আশা করা যায়।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...