অ্যাপল ম্যাকের গতি এখন নিজেই মাপুন, বিনামূল্যে ওপেন সোর্স টুল এলো
একজন কম্পিউটার সায়েন্সের শিক্ষার্থী অ্যাপল সিলিকনের জন্য mlx-Chronos নামে একটি ওপেন সোর্স বেঞ্চমার্ক টুল তৈরি করেছে। এটি MLX ইনফারেন্স ইঞ্জিনগুলোর প্রকৃত কর্মক্ষমতা পরিমাপ করতে সাহায্য করে। ব্যবহারকারীরা তাদের ফলাফল একটি শেয়ার্ড কমিউনিটি লিডারবোর্ডে জমা দিতে পারবেন।
একজন কম্পিউটার সায়েন্সের শিক্ষার্থী অ্যাপল সিলিকনের জন্য mlx-Chronos নামে একটি ওপেন সোর্স বেঞ্চমার্ক টুল তৈরি করেছে। এটি MLX ইনফারেন্স ইঞ্জিনগুলোর প্রকৃত কর্মক্ষমতা পরিমাপ করতে সাহায্য করে। ব্যবহারকারীরা তাদের ফলাফল একটি শেয়ার্ড কমিউনিটি লিডারবোর্ডে জমা দিতে পারবেন।
অ্যাপল সিলিকনে চালানো বিভিন্ন MLX ইনফারেন্স ইঞ্জিনের কর্মক্ষমতা নিয়ে দীর্ঘদিনের বিভ্রান্তি দূর করতে একটি নতুন ওপেন সোর্স টুল এসেছে। একজন কম্পিউটার সায়েন্সের শিক্ষার্থী mlx-Chronos নামের এই কমান্ড-লাইন টুল তৈরি করেছে। এটি ব্যবহারকারীদের তাদের নিজস্ব ম্যাকেই বেঞ্চমার্ক চালানোর সুযোগ দেয় এবং ফলাফল একটি কমিউনিটি লিডারবোর্ডে জমা দিতে পারে।
এই টুল তৈরির মূল কারণ ছিল বিদ্যমান বেঞ্চমার্কগুলোর স্বচ্ছতার অভাব। বেশিরভাগ বেঞ্চমার্ক ইঞ্জিন নির্মাতারা নিজেরাই তৈরি করেছেন। অনেক বেঞ্চমার্ক শুধুমাত্র M3 Ultra-এর মতো দামি হার্ডওয়্যারে চলে। আর যেগুলো চলে সেগুলো শুধু টোকেন পার সেকেন্ড (tok/s) দেখায়, কিন্তু প্রকৃত ব্যবহারের প্রেক্ষাপট দেয় না।
mlx-Chronos এই সমস্যার সমাধান করে একটি স্ট্যান্ডার্ডাইজড প্রোটোকল ব্যবহার করে। এটি দুটি গুরুত্বপূর্ণ মেট্রিক পরিমাপ করে: কোল্ড এবং ক্যাশেড টাইম টু ফার্স্ট টোকেন (TTFT)। কোল্ড TTFT বলতে বোঝায় মডেল প্রথমবার লোড হওয়ার পর প্রথম টোকেন তৈরি করতে কত সময় নেয়। ক্যাশেড TTFT বলতে বোঝায় মডেলটি আগে থেকে লোড থাকলে কত দ্রুত প্রথম টোকেন দেয়।
এই টুলটি বর্তমানে oMLX, Rapid-MLX, mlx-lm এবং Ollama-এর মতো জনপ্রিয় ইঞ্জিন সমর্থন করে। ব্যবহারকারীরা তাদের ম্যাকের টার্মিনালে একটি সহজ কমান্ড চালিয়ে বেঞ্চমার্ক শুরু করতে পারেন। ফলাফল স্বয়ংক্রিয়ভাবে একটি শেয়ার্ড লিডারবোর্ডে জমা দেওয়ার অপশন থাকে। এটি কমিউনিটিকে বিভিন্ন ইঞ্জিনের প্রকৃত পারফরম্যান্স তুলনা করতে সাহায্য করবে।
বাংলাদেশের ডেভেলপার এবং ফ্রিল্যান্সারদের জন্য এই টুলটি বিশেষভাবে গুরুত্বপূর্ণ। অনেক বাংলাদেশি ডেভেলপার ম্যাকবুক ব্যবহার করেন এবং স্থানীয় AI মডেল চালান। এখন তারা নিজেদের মেশিনেই বিভিন্ন ইঞ্জিন পরীক্ষা করে সেরাটি বেছে নিতে পারবেন। এটি সময় এবং অর্থ দুটোই বাঁচাবে। শিক্ষার্থীরাও এই টুল ব্যবহার করে বাস্তব অভিজ্ঞতা অর্জন করতে পারবেন।
ভবিষ্যতে mlx-Chronos আরও বেশি ইঞ্জিন এবং মেট্রিক যোগ করতে পারে। কমিউনিটির অংশগ্রহণ যত বাড়বে, লিডারবোর্ড তত বেশি নির্ভরযোগ্য হবে। এই টুলটি অ্যাপল সিলিকনে AI ডেভেলপমেন্টের জন্য একটি গুরুত্বপূর্ণ সম্পদ হিসেবে গড়ে উঠতে পারে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/MachineLearning
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...