মোবাইল অ্যাপে লেটেন্সি কমাবে নতুন হাইব্রিড সিস্টেম, জানুন কী লাভ

মোবাইল অ্যাপ্লিকেশনে ব্যবহারকারীর কথার অর্থ বোঝার গতি বাড়াতে একটি নতুন গবেষণা সামনে এসেছে। dev.to ML সোর্সের বরাত দিয়ে AIখবর জানিয়েছে, গবেষকরা একটি হাইব্রিড এজ-ক্লাউড আর্কিটেকচার প্রস্তাব করেছেন। এই সিস্টেম ইন্টেন্ট ক্লাসিফিকেশনের লেটেন্সি উল্লেখযোগ্যভাবে কমাতে সক্ষম হবে।

বর্তমানে বেশিরভাগ আধুনিক অ্যাপ্লিকেশন প্রতিটি ব্যবহারকারীর বার্তা সরাসরি ক্লাউড-হোস্টেড Large Language Model (LLM)-এ পাঠায়। LLM হলো বড় ভাষার মডেল যা জটিল কথোপকথন বুঝতে পারে। কিন্তু গবেষকরা দেখিয়েছেন যে সহজ অনুরোধের জন্য এটি অপ্রয়োজনীয়। তাদের মতে, সহজ কাজ স্থানীয়ভাবে সম্পন্ন করলেই দ্রুত উত্তর দেওয়া সম্ভব।

গবেষণাপত্রটির শিরোনাম Designing Hybrid Edge AI Systems for Low-Latency Intent Classification in Mobile Applications। এই সিস্টেমে দুটি স্তর রয়েছে। প্রথম স্তরটি ডিভাইসের ভেতরেই কাজ করে এবং সহজ ইন্টেন্ট যেমন অ্যালার্ম সেট করা বা হালকা প্রশ্নের উত্তর দেওয়া সম্পন্ন করে। দ্বিতীয় স্তরটি ক্লাউডে অবস্থিত এবং জটিল যুক্তি বা বিশ্লেষণের জন্য ব্যবহৃত হয়।

এই পদ্ধতি ব্যবহারকারীর অভিজ্ঞতা উন্নত করবে। যখন কোনো ব্যবহারকারী দ্রুত উত্তর চান, তখন ডিভাইস স্থানীয়ভাবে তা প্রক্রিয়া করে ফেলবে। শুধুমাত্র যখন গভীর বিশ্লেষণ প্রয়োজন হবে, তখনই ক্লাউডের সাহায্য নেওয়া হবে। এতে করে নেটওয়ার্ক লেটেন্সি ও সার্ভারের চাপ উভয়ই কমবে।

বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই গবেষণা গুরুত্বপূর্ণ হতে পারে। স্থানীয় অ্যাপ ডেভেলপাররা এই আর্কিটেকচার ব্যবহার করে কম খরচে দ্রুত অ্যাপ তৈরি করতে পারবেন। বিশেষ করে যেসব অ্যাপ ব্যবহারকারীর কমান্ড বুঝতে হয়, সেগুলোর পারফরম্যান্স বাড়বে। শিক্ষার্থীরাও এই পদ্ধতি শিখে তাদের প্রজেক্টে প্রয়োগ করতে পারে।

গবেষকরা মনে করছেন ভবিষ্যতে আরও উন্নত এজ ডিভাইস তৈরি হবে। তখন স্থানীয় প্রক্রিয়াকরণের ক্ষমতা আরও বাড়বে। ফলে ক্লাউডের ওপর নির্ভরতা কমে আসবে এবং ব্যবহারকারীরা আরও দ্রুত সেবা পাবেন। এই গবেষণা সেই পথের প্রথম ধাপ।

আরও পড়ুন

• RAG-এ তথ্য খোঁজা এখন ৩ গুণ দ্রুত, জানুন নতুন পদ্ধতি
• AI এখন ইমিউনোকম্প্রোমাইজড রোগীদের সংক্রমণ ঝুঁকি কমাবে, জানুন কীভাবে
• AI এখন বুঝবে প্রশ্নের জটিলতা, কম খরচে দ্রুত উত্তর পাবেন বাংলাদেশিরা