NVIDIA-র নতুন মডেল ৬ গুণ গতি দেবে, ফ্রিল্যান্সারদের AI কাজে বড় সুযোগ
NVIDIA তাদের নতুন ওপেন-ওয়েট মডেল Nemotron 3 Ultra প্রকাশ করেছে। এটি 550 বিলিয়ন প্যারামিটার ও 1 মিলিয়ন টোকেন কনটেক্সট সাপোর্ট করে। প্রচলিত মডেলের তুলনায় এটি প্রায় 6 গুণ বেশি ইনফারেন্স থ্রুপুট দেয়।
NVIDIA তাদের নতুন ওপেন-ওয়েট মডেল Nemotron 3 Ultra প্রকাশ করেছে। এটি 550 বিলিয়ন প্যারামিটার ও 1 মিলিয়ন টোকেন কনটেক্সট সাপোর্ট করে। প্রচলিত মডেলের তুলনায় এটি প্রায় 6 গুণ বেশি ইনফারেন্স থ্রুপুট দেয়।
NVIDIA তাদের নতুন ওপেন-সোর্স AI মডেল Nemotron 3 Ultra প্রকাশ করেছে। এটি একটি 550 বিলিয়ন প্যারামিটারের Mixture-of-Experts আর্কিটেকচার যা Mamba এবং Transformer-এর হাইব্রিড। এই মডেলটি দীর্ঘমেয়াদী স্বায়ত্তশাসিত এজেন্টদের জন্য তৈরি করা হয়েছে।
Nemotron 3 Ultra-তে মোট 550 বিলিয়ন প্যারামিটার থাকলেও প্রতি ইনফারেন্সে সক্রিয় থাকে মাত্র 55 বিলিয়ন প্যারামিটার। এই কৌশলটি মডেলটিকে অত্যন্ত দক্ষ করে তুলেছে। এটি একসঙ্গে 1 মিলিয়ন টোকেন পর্যন্ত কনটেক্সট প্রক্রিয়া করতে পারে।
মডেলটির সবচেয়ে বড় বৈশিষ্ট্য হলো এর ইনফারেন্স থ্রুপুট। NVIDIA দাবি করেছে, এটি সমমানের অন্যান্য ওপেন LLM-এর তুলনায় প্রায় 6 গুণ বেশি দ্রুত আউটপুট দিতে পারে। একইসঙ্গে নির্ভুলতার দিক থেকেও এটি কোনো অংশে কম নয়।
NVIDIA এই মডেলের ওপেন ওয়েট, ট্রেনিং ডেটা এবং রেসিপি OpenMDW-1.1 লাইসেন্সের অধীনে প্রকাশ করেছে। এর মানে হলো গবেষক ও ডেভেলপাররা মডেলটিকে নিজেদের কাজে ব্যবহার, পরিবর্তন এবং বিতরণ করতে পারবেন।
বাংলাদেশের জন্য এই খবর বিশেষ গুরুত্বপূর্ণ। স্থানীয় ডেভেলপার ও স্টার্টআপরা এই ওপেন মডেল ব্যবহার করে জটিল কাজের জন্য দীর্ঘমেয়াদী AI এজেন্ট তৈরি করতে পারবেন। ফ্রিল্যান্সাররা বড় কনটেক্সট সমর্থনের কারণে ডকুমেন্ট অ্যানালাইসিস, কোড জেনারেশন এবং কাস্টমার সাপোর্টের মতো কাজে এটি ব্যবহার করতে পারবেন। বিশ্ববিদ্যালয়ের গবেষকরা ওপেন রেসিপি ব্যবহার করে নিজেদের গবেষণাকে আরও এগিয়ে নিতে পারবেন।
Nemotron 3 Ultra-এর 1 মিলিয়ন টোকেন কনটেক্সট উইন্ডো বিশেষভাবে কার্যকর। এটি মডেলটিকে একসঙ্গে পুরো বই বা বড় ডকুমেন্ট বুঝতে সাহায্য করে। এজেন্ট-ভিত্তিক অ্যাপ্লিকেশনের জন্য এটি একটি বড় অগ্রগতি।
NVIDIA আগামী দিনে আরও উন্নত সংস্করণ প্রকাশ করতে পারে বলে ধারণা করা হচ্ছে। এই মডেলটি ওপেন সোর্স AI সম্প্রদায়ের জন্য একটি শক্তিশালী সংযোজন। বাংলাদেশের প্রযুক্তি সম্প্রদায়ের জন্য এটি একটি বড় সুযোগ।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: MarkTechPost
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...