অ্যাপলের নতুন কৌশল: নিজের আউটপুট দিয়েই কোড লেখার গতি বাড়বে ৪ গুণ
অ্যাপল এমএল রিসার্চ দেখিয়েছে, কোনো বাহ্যিক যাচাইকারী বা শিক্ষক মডেল ছাড়াই শুধু নিজের আউটপুট ব্যবহার করে কোড জেনারেশনের ক্ষমতা বাড়ানো সম্ভব। তাদের SSD পদ্ধতি Qwen3-30B-Instruct মডেলের পারফরম্যান্স ৪২.৪% থেকে ৫৫.৩%-এ উন্নীত করেছে।
অ্যাপল এমএল রিসার্চ দেখিয়েছে, কোনো বাহ্যিক যাচাইকারী বা শিক্ষক মডেল ছাড়াই শুধু নিজের আউটপুট ব্যবহার করে কোড জেনারেশনের ক্ষমতা বাড়ানো সম্ভব। তাদের SSD পদ্ধতি Qwen3-30B-Instruct মডেলের পারফরম্যান্স ৪২.৪% থেকে ৫৫.৩%-এ উন্নীত করেছে।
অ্যাপলের মেশিন লার্নিং রিসার্চ টিম একটি অত্যন্ত সহজ কিন্তু কার্যকর পদ্ধতি আবিষ্কার করেছে যা বড় ভাষার মডেলের (LLM) কোড জেনারেশন ক্ষমতা উল্লেখযোগ্যভাবে বাড়িয়ে দেয়। এই পদ্ধতির নাম Simple Self-Distillation বা SSD। গবেষকরা দেখিয়েছেন যে একটি মডেল শুধুমাত্র নিজের তৈরি করা আউটপুট দিয়েই নিজেকে উন্নত করতে পারে। এর জন্য কোনো বাহ্যিক ভেরিফায়ার, শিক্ষক মডেল বা রিইনফোর্সমেন্ট লার্নিংয়ের প্রয়োজন পড়ে না।
গবেষণাটি বলছে, SSD পদ্ধতি Qwen3-30B-Instruct মডেলের পারফরম্যান্স LiveCodeBench v6 বেঞ্চমার্কে 42.4% pass@1 থেকে বাড়িয়ে 55.3% pass@1-এ নিয়ে গেছে। pass@1 মানে হলো মডেল প্রথম চেষ্টাতেই সঠিক সমাধান দিতে পারার হার। এই 13 শতাংশ পয়েন্টের উন্নতি বিশেষভাবে উল্লেখযোগ্য কারণ এটি কোনো অতিরিক্ত সম্পদ বা জটিল প্রশিক্ষণ কৌশল ছাড়াই অর্জিত হয়েছে।
SSD পদ্ধতি কীভাবে কাজ করে তা খুবই সরল। প্রথমে মডেলটি থেকে নির্দিষ্ট টেম্পারেচার এবং ট্রাঙ্কেশন কনফিগারেশন ব্যবহার করে কিছু সমাধান নমুনা হিসেবে সংগ্রহ করা হয়। টেম্পারেচার হলো একটি প্যারামিটার যা মডেলের সৃজনশীলতা নিয়ন্ত্রণ করে। ট্রাঙ্কেশন বলতে আউটপুটের দৈর্ঘ্য নিয়ন্ত্রণ করাকে বোঝায়। তারপর এই নমুনাগুলো দিয়ে মডেলটিকে স্ট্যান্ডার্ড সুপারভাইজড ফাইন-টিউনিংয়ের মাধ্যমে পুনরায় প্রশিক্ষণ দেওয়া হয়।
গবেষকরা লক্ষ্য করেছেন যে এই উন্নতি বিশেষ করে কঠিন কোডিং সমস্যার ক্ষেত্রে বেশি দেখা গেছে। সহজ সমস্যাগুলোতে মডেলের পারফরম্যান্স আগের মতোই ছিল। কিন্তু জটিল সমস্যাগুলো সমাধানে মডেল অনেক বেশি দক্ষ হয়ে উঠেছে। এটি প্রমাণ করে যে মডেলটি নিজের ভুল থেকে শিখে আরও ভালো সমাধান তৈরি করতে পারছে।
এই গবেষণার ফলাফল বাংলাদেশের ডেভেলপার, ফ্রিল্যান্সার এবং শিক্ষার্থীদের জন্য অত্যন্ত গুরুত্বপূর্ণ। বর্তমানে অনেকেই কোড জেনারেশনের জন্য বিভিন্ন AI টুল ব্যবহার করে। SSD পদ্ধতি দেখায় যে উচ্চমানের AI মডেল তৈরি করতে বিশাল ডেটাসেট বা জটিল প্রশিক্ষণ পদ্ধতির প্রয়োজন নেই। একটি মডেল নিজেই নিজের আউটপুট ব্যবহার করে শিখতে পারে। এটি ছোট প্রতিষ্ঠান বা ব্যক্তিগত ডেভেলপারদের জন্য বড় AI মডেল নিয়ে কাজ করার পথ উন্মুক্ত করে দেয়।
অ্যাপলের এই গবেষণা AI জগতে একটি নতুন দিক নির্দেশনা দিয়েছে। ভবিষ্যতে আমরা আরও সহজ এবং কার্যকর সেলফ-ডিস্টিলেশন পদ্ধতি দেখতে পাব। এটি কোড জেনারেশন থেকে শুরু করে বিভিন্ন প্রোগ্রামিং টাস্কে AI-এর ব্যবহার আরও বাড়িয়ে তুলবে। গবেষকরা এখন এই পদ্ধতিকে আরও বড় মডেল এবং ভিন্ন ধরনের কাজের জন্য পরীক্ষা করার পরিকল্পনা করছেন।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Apple ML Research
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...