Apple-এর নতুন AI কৌশলে মাল্টি-ডোমেইন ফাইন-টিউনিং হবে ৩ গুণ দ্রুত
Apple ML Research নতুন একটি অপ্টিমাইজার DynaMiCS তৈরি করেছে। এটি বড় ভাষার মডেলের মাল্টি-ডোমেইন ফাইন-টিউনিংকে একটি সীমাবদ্ধ অপ্টিমাইজেশন সমস্যা হিসেবে সমাধান করে। ফলে নির্দিষ্ট ডোমেইনে কর্মক্ষমতা বাড়ানোর পাশাপাশি অন্যান্য গুরুত্বপূর্ণ ক্ষমতা অক্ষুণ্ণ থাকে।
Apple ML Research নতুন একটি অপ্টিমাইজার DynaMiCS তৈরি করেছে। এটি বড় ভাষার মডেলের মাল্টি-ডোমেইন ফাইন-টিউনিংকে একটি সীমাবদ্ধ অপ্টিমাইজেশন সমস্যা হিসেবে সমাধান করে। ফলে নির্দিষ্ট ডোমেইনে কর্মক্ষমতা বাড়ানোর পাশাপাশি অন্যান্য গুরুত্বপূর্ণ ক্ষমতা অক্ষুণ্ণ থাকে।
অ্যাপল মেশিন লার্নিং রিসার্চ (Apple ML Research) বড় ভাষার মডেল (LLM) ফাইন-টিউনিংয়ের জন্য একটি নতুন পদ্ধতি উন্মোচন করেছে। এই পদ্ধতির নাম DynaMiCS, যা ডায়নামিক মিক্সচার অপ্টিমাইজার নামে পরিচিত। গবেষণাপত্রটি দেখিয়েছে যে, মাল্টি-ডোমেইন ফাইন-টিউনিংয়ে কর্মক্ষমতা ও সংরক্ষণের মধ্যে ভারসাম্য রাখতে এই পদ্ধতি কার্যকর।
বর্তমানে বড় ভাষার মডেলগুলিকে একাধিক বিষয়ে দক্ষ করার জন্য ফাইন-টিউনিং করা হয়। কিন্তু এই প্রক্রিয়ায় প্রায়ই মডেলের সাধারণ জ্ঞান, নির্দেশনা অনুসরণ বা নিরাপত্তা সংক্রান্ত সক্ষমতা কমে যায়। বিদ্যমান ডেটা মিক্সিং কৌশলগুলি নির্দিষ্ট নিয়ম বা অভিযোজিত পদ্ধতি ব্যবহার করে, যা এই সমস্যার সমাধান করতে পারে না। DynaMiCS এই সমস্যাকে একটি গাণিতিক কাঠামোতে রূপ দিয়েছে।
DynaMiCS ফাইন-টিউনিং প্রক্রিয়াকে একটি সীমাবদ্ধ অপ্টিমাইজেশন সমস্যা (constrained optimization problem) হিসেবে গণ্য করে। এর অর্থ হলো, এটি একটি নির্দিষ্ট ডোমেইনে (যেমন চিকিৎসা বা আইন) মডেলের কর্মক্ষমতা বাড়ানোর সময় অন্য ডোমেইনগুলোর (যেমন সাধারণ জ্ঞান বা নিরাপত্তা) কর্মক্ষমতা কমতে দেয় না। প্রতিটি আপডেটের সময় এটি ডায়নামিকভাবে ডেটার মিশ্রণ পরিবর্তন করে, যাতে সীমাবদ্ধ ডোমেইনগুলোর পারফরম্যান্স ঠিক থাকে।
গবেষকরা জানিয়েছেন, এই পদ্ধতিটি ফিক্সড হিউরিস্টিকস বা অ্যাডাপটিভ রুলের চেয়ে বেশি কার্যকর। কারণ এটি সরাসরি পারফরম্যান্স কনস্ট্রেইন্ট এনফোর্স করে। উদাহরণস্বরূপ, যদি কোনো মডেলকে আইনি ডকুমেন্ট প্রসেসিংয়ে দক্ষ করতে ফাইন-টিউন করা হয়, তবে DynaMiCS নিশ্চিত করবে যে মডেলটির সাধারণ ভাষা বোঝার ক্ষমতা বা নৈতিক নির্দেশনা অনুসরণের সক্ষমতা অক্ষুণ্ণ থাকবে।
বাংলাদেশের প্রযুক্তি খাতের জন্য এই গবেষণা গুরুত্বপূর্ণ। দেশের এআই গবেষক ও ডেভেলপাররা বর্তমানে বাংলা ভাষার মডেল তৈরি করছেন। DynaMiCS ব্যবহার করে তারা একাধিক ডোমেইনে (যেমন বাংলা সাহিত্য, আইন, চিকিৎসা) মডেল ফাইন-টিউন করতে পারবেন। একই সঙ্গে মডেলের সাধারণ জ্ঞান ও নিরাপত্তা বজায় রাখা সম্ভব হবে। ফ্রিল্যান্সার ও স্টার্টআপদের জন্য এটি একটি শক্তিশালী টুল হতে পারে।
DynaMiCS এখনও গবেষণার স্তরে আছে। তবে অ্যাপল মেশিন লার্নিং রিসার্চ দল আশা করছে যে ভবিষ্যতে এটি বাস্তব বিশ্বের অ্যাপ্লিকেশনে ব্যবহার করা যাবে। এই পদ্ধতি মাল্টি-ডোমেইন ফাইন-টিউনিংয়ের জটিলতাকে সহজ করে তুলতে পারে। ফলে এআই মডেলগুলো আরও নির্ভরযোগ্য ও বহুমুখী হয়ে উঠবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Apple ML Research
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...