Google-এর নতুন AI ফিচার ডাটাবেজ কোয়েরির গতি বাড়াবে ২৪০০ গুণ
Google তাদের AlloyDB AI ফাংশনকে সাধারণ ব্যবহারের জন্য উন্মুক্ত করেছে। নতুন Proxy Model আর্কিটেকচার বাইরের LLM কল ছাড়াই ডাটাবেজের ভেতরে স্থানীয়ভাবে ইনফারেন্স চালিয়ে কোয়েরির গতি 2,400 গুণ পর্যন্ত বাড়িয়েছে।
Google তাদের AlloyDB AI ফাংশনকে সাধারণ ব্যবহারের জন্য উন্মুক্ত করেছে। নতুন Proxy Model আর্কিটেকচার বাইরের LLM কল ছাড়াই ডাটাবেজের ভেতরে স্থানীয়ভাবে ইনফারেন্স চালিয়ে কোয়েরির গতি 2,400 গুণ পর্যন্ত বাড়িয়েছে।
Google তাদের ক্লাউড ডাটাবেজ সার্ভিস AlloyDB-র AI ফাংশনকে সাধারণ ব্যবহারের জন্য (GA) উন্মুক্ত করেছে। এই আপডেটের কেন্দ্রবিন্দুতে রয়েছে একটি Proxy Model আর্কিটেকচার। এটি একটি হালকা ওজনের মডেল যা বড় ভাষার মডেল (LLM) থেকে শেখে এবং পরে ডাটাবেজের ভেতরেই স্থানীয়ভাবে ইনফারেন্স চালায়। এর ফলে বাইরের কোনো API বা সার্ভারে কল করার প্রয়োজন হয় না।
এই প্রযুক্তির সবচেয়ে বড় সুবিধা হলো গতি। Smart Batching নামের একটি কৌশল ব্যবহার করে AlloyDB AI 2,400 গুণ পর্যন্ত থ্রুপুট উন্নতি করতে সক্ষম হয়েছে। প্রিভিউ পর্যায়ে এই সিস্টেম প্রতি সেকেন্ডে 100,000 সারি প্রক্রিয়া করতে পেরেছে। তবে Google জানিয়েছে যে এই বেঞ্চমার্ক সংখ্যা শুধুমাত্র অভ্যন্তরীণ পরীক্ষার জন্য প্রযোজ্য।
Proxy Model কীভাবে কাজ করে? এটি প্রথমে একটি বড় LLM (যেমন Gemini) থেকে আউটপুট সংগ্রহ করে। সেই আউটপুট ব্যবহার করে একটি ছোট, দ্রুত মডেল তৈরি করে। এই ছোট মডেলটি ডাটাবেজের ভেতরেই থাকে। ব্যবহারকারী যখন একটি AI কোয়েরি চালান, তখন AlloyDB বাইরে না গিয়ে এই ছোট মডেল দিয়ে উত্তর তৈরি করে। এটি লেটেন্সি প্রায় শূন্যে নামিয়ে আনে।
তুলনা করলে দেখা যায়, প্রচলিত পদ্ধতিতে একটি LLM কল করতে 500 মিলিসেকেন্ড থেকে কয়েক সেকেন্ড সময় লাগে। কিন্তু Proxy Model ব্যবহার করে সেই একই কাজ মাইক্রোসেকেন্ডের মধ্যে সম্পন্ন করা সম্ভব। বিশেষ করে যেসব অ্যাপ্লিকেশনে রিয়েল-টাইম ডেটা প্রসেসিং প্রয়োজন, যেমন ফ্রড ডিটেকশন বা রিকমেন্ডেশন সিস্টেম, সেখানে এই গতি গুরুত্বপূর্ণ ভূমিকা রাখবে।
বাংলাদেশের ডেভেলপার এবং টেক কোম্পানির জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। স্থানীয় স্টার্টআপগুলো এখন AlloyDB ব্যবহার করে তাদের অ্যাপ্লিকেশনে AI ফিচার যুক্ত করতে পারবে। যেমন একটি ই-কমার্স সাইট পণ্য রিকমেন্ডেশন বা সার্চের জন্য ব্যয়বহুল LLM API ব্যবহার না করে ডাটাবেজের ভেতরেই দ্রুত ফলাফল দিতে পারবে। ফ্রিল্যান্সার এবং ছোট টিমের জন্যও এটি বড় সুযোগ। কারণ তাদের বড় AI মডেল হোস্ট করার প্রয়োজন হবে না।
তবে মনে রাখতে হবে যে Proxy Model সব ধরনের কাজের জন্য উপযুক্ত নয়। এটি বিশেষভাবে ট্রেনিং ডেটার কাছাকাছি প্যাটার্নের জন্য ভালো কাজ করে। জটিল বা নতুন ধরনের প্রশ্নের জন্য এখনও পূর্ণ LLM-এর প্রয়োজন হতে পারে।
ভবিষ্যতে Google এই প্রযুক্তিকে আরও পরিশীলিত করবে বলে আশা করা যায়। আরও বেশি ডাটাবেজ ফাংশনের সাথে একীভূত হবে এবং আরও বড় মডেল সাপোর্ট করবে। বাংলাদেশের ডেভেলপারদের এখনই এই টুল নিয়ে পরীক্ষা-নিরীক্ষা শুরু করা উচিত। কারণ এটি দ্রুত, সস্তা এবং সহজ AI ইন্টিগ্রেশনের পথ দেখাচ্ছে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: InfoQ AI
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...