বাংলাদেশি ফ্রিল্যান্সারদের জন্য বড় সুযোগ: নিজেই বানান শক্তিশালী AI সার্ভার
একজন প্রযুক্তি উৎসাহী নিজের হাতে তৈরি করেছেন একটি অসাধারণ LLM সার্ভার। এতে রয়েছে AMD-এর শক্তিশালী EPYC 9575F প্রসেসর, 4টি RTX 3090 GPU ও 768GB ECC RAM। এই সার্ভারটি স্পেস সিমুলেশন গেমের NPC-দের পরিকল্পনা ক্ষমতা উন্নত করতে ব্যবহৃত হবে।
একজন প্রযুক্তি উৎসাহী নিজের হাতে তৈরি করেছেন একটি অসাধারণ LLM সার্ভার। এতে রয়েছে AMD-এর শক্তিশালী EPYC 9575F প্রসেসর, 4টি RTX 3090 GPU ও 768GB ECC RAM। এই সার্ভারটি স্পেস সিমুলেশন গেমের NPC-দের পরিকল্পনা ক্ষমতা উন্নত করতে ব্যবহৃত হবে।
একজন প্রযুক্তি উৎসাহী নিজের ব্যক্তিগত ব্যবহারের জন্য একটি শক্তিশালী LLM সার্ভার তৈরি করে ফেলেছেন। Reddit-এর r/LocalLLaMA কমিউনিটিতে তিনি তার বিল্ডের বিস্তারিত তথ্য শেয়ার করেছেন। সার্ভারটির নাম দেওয়া হয়েছে Nalthis।
এই সার্ভারের মূল আকর্ষণ হলো এর চারটি Nvidia RTX 3090 গ্রাফিক্স কার্ড। প্রতিটি কার্ডে 24GB VRAM থাকায় মোট VRAM দাঁড়িয়েছে 96GB। এর পাশাপাশি রয়েছে AMD-এর সর্বশেষ Zen 5 আর্কিটেকচারের EPYC 9575F প্রসেসর, যাতে রয়েছে 64টি কোর ও 128টি থ্রেড। 768GB DDR5-5600 ECC RDIMM RAM এই সার্ভারকে যেকোনো বড় মডেল চালানোর জন্য প্রস্তুত রাখে।
ব্যবহারকারী জানিয়েছেন, তিনি এই সার্ভারটি দুটি মূল উদ্দেশ্যে ব্যবহার করবেন। প্রথমত, vLLM ব্যবহার করে ছোট মডেলগুলোর জন্য উচ্চ থ্রুপুট নিশ্চিত করবেন। দ্বিতীয়ত, llamacpp ব্যবহার করে বড় রিজনিং মডেল চালাবেন। তিনি একটি স্পেস সিমুলেশন গেম তৈরি করছেন এবং এই সার্ভারের মাধ্যমে গেমের NPC-দের পরিকল্পনা করার ক্ষমতা উন্নত করতে চান।
সার্ভারের অন্যান্য উপাদানের মধ্যে রয়েছে Supermicro H13SSL-N মাদারবোর্ড, 2টি 3.94TB NVMe ড্রাইভ ডেটার জন্য এবং একটি 2TB NVMe ড্রাইভ অপারেটিং সিস্টেমের জন্য। পাওয়ার সাপ্লাই হিসেবে ব্যবহার করা হয়েছে 2050W ATX 3.1 PSU। সবকিছু রাখা হয়েছে একটি Corsair 9000D কেসে।
এই ধরনের ব্যক্তিগত LLM সার্ভার তৈরি করা বাংলাদেশের ডেভেলপার ও গবেষকদের জন্য একটি বড় প্রেরণা হতে পারে। দেশে এখনো সীমিত সম্পদ নিয়ে কাজ করতে হয়, কিন্তু এই উদাহরণ দেখায় যে সঠিক পরিকল্পনা ও বিনিয়োগের মাধ্যমে নিজস্ব AI অবকাঠামো তৈরি করা সম্ভব। ফ্রিল্যান্সার ও ছোট স্টার্টআপগুলোর জন্য এটি বিশেষভাবে গুরুত্বপূর্ণ, কারণ তারা ক্লাউড সার্ভিসের ওপর নির্ভর না করে নিজস্ব সার্ভার দিয়ে AI মডেল চালাতে পারবে।
ভবিষ্যতে আরও বেশি মানুষ নিজস্ব LLM সার্ভার তৈরি করবে বলে আশা করা যায়। এটি শুধু গবেষণার গতিই বাড়াবে না, বরং ডেটা গোপনীয়তা ও কাস্টমাইজেশনের ক্ষেত্রেও নতুন দিগন্ত উন্মোচন করবে।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: Reddit r/LocalLLaMA
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...