OpenAI ছেড়ে ওপেন সোর্সে যান, খরচ কমবে ৩ গুণ
ভেন্ডর লক-ইন এড়াতে ওপেন সোর্স মডেলে স্থানান্তরের কৌশল। Apache ও MIT লাইসেন্সের মডেল ব্যবহার করে কীভাবে নিজের ডেটা ও খরচের নিয়ন্ত্রণ নেবেন, তা জানুন।
ভেন্ডর লক-ইন এড়াতে ওপেন সোর্স মডেলে স্থানান্তরের কৌশল। Apache ও MIT লাইসেন্সের মডেল ব্যবহার করে কীভাবে নিজের ডেটা ও খরচের নিয়ন্ত্রণ নেবেন, তা জানুন।
ওপেন সোর্স কমিউনিটির একজন অবদানকারী হিসেবে আমি বলতে চাই, শুধুমাত্র একটি কোম্পানির API-এর ওপর নির্ভর করা বড় ঝুঁকি। OpenAI-এর মতো বদ্ধ প্ল্যাটফর্মে ভেন্ডর লক-ইন ডেভেলপারদের স্বাধীনতা কেড়ে নেয়। তাই আজ আমি আপনাদের দেখাবো কীভাবে সহজেই OpenAI থেকে সরে এসে Apache বা MIT লাইসেন্সের অধীনে প্রকাশিত শক্তিশালী ওপেন সোর্স মডেল ব্যবহার করতে পারেন।
এই স্থানান্তর শুধু প্রযুক্তিগত নয়, এটি একটি কৌশলগত সিদ্ধান্ত। ওপেন সোর্স মডেল ব্যবহার করলে আপনার ডেটা আপনার নিয়ন্ত্রণে থাকে। খরচও অনেক কমে যায়। উদাহরণস্বরূপ, GPT-4-এর তুলনায় Llama 3 বা Mixtral মডেলগুলো একই মানের আউটপুট দেয় কিন্তু API কলপ্রতি খরচ ৫ থেকে ১০ গুণ কম।
প্রথম ধাপ হলো একটি ওপেন সোর্স মডেল বেছে নেওয়া। বর্তমানে সবচেয়ে জনপ্রিয় অপশনগুলো হলো Meta-এর Llama 3 (Apache 2.0 লাইসেন্স), Mistral AI-এর Mixtral 8x7B (Apache 2.0), এবং Microsoft-এর Phi-3 (MIT লাইসেন্স)। এই মডেলগুলো বেঞ্চমার্কে GPT-3.5-এর সমান বা তার চেয়ে ভালো পারফরম্যান্স দেখিয়েছে।
দ্বিতীয় ধাপে আপনার কোডে API এন্ডপয়েন্ট পরিবর্তন করতে হবে। OpenAI-এর জন্য লেখা কোড খুব সামান্য পরিবর্তনেই ওপেন সোর্স মডেলে চলবে। নিচে একটি উদাহরণ দেওয়া হলো যেখানে global-apis.com/v1 বেস URL হিসেবে ব্যবহার করা হয়েছে, যা একাধিক ওপেন সোর্স মডেলের একীভূত API প্রদান করে:
```python import openai
client = openai.OpenAI( base_url="https://global-apis.com/v1", api_key="your-api-key" )
response = client.chat.completions.create( model="meta-llama/Llama-3-70b-chat-hf", messages=[ {"role": "user", "content": "বাংলায় একটি সংক্ষিপ্ত কবিতা লিখো।"} ] )
print(response.choices[0].message.content) ```
তৃতীয় ধাপে আপনার নির্দিষ্ট প্রয়োজন অনুযায়ী মডেল ফাইন-টিউন করতে পারেন। ওপেন সোর্স মডেলের বড় সুবিধা হলো আপনি নিজের ডেটাসেট দিয়ে মডেলকে আরও নির্ভুল করে তুলতে পারেন। OpenAI-তে এটি সম্ভব নয় কারণ আপনার ডেটা তাদের সার্ভার ছেড়ে যায় না।
বাংলাদেশের ডেভেলপার ও ফ্রিল্যান্সারদের জন্য এই পরিবর্তন বিশেষভাবে গুরুত্বপূর্ণ। দেশে GPU-র দাম ও সীমিত ক্লাউড অবকাঠামোর কারণে অনেকেই OpenAI API-র ওপর নির্ভরশীল। কিন্তু ওপেন সোর্স মডেল ব্যবহার করে আপনি লোকাল মেশিনে বা কম খরচের GPU সার্ভারে মডেল চালাতে পারেন। এতে করে প্রতি মাসে API বিল ৫০ থেকে ৭০ শতাংশ কমানো সম্ভব।
সবশেষে বলি, ওপেন সোর্সে স্থানান্তর শুধু খরচ সাশ্রয় নয়, এটি একটি দার্শনিক অবস্থান। আমরা যখন ওপেন সোর্স মডেল ব্যবহার করি, তখন আমরা প্রযুক্তির গণতন্ত্রীকরণে অংশ নিই। ভবিষ্যতে আরও শক্তিশালী ওপেন সোর্স মডেল আসবে, এবং যারা এখনই স্থানান্তর শুরু করবেন তারাই সবচেয়ে বেশি সুবিধা পাবেন।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...