১০ হাজার API কলের পরীক্ষা: GPT-4o-র খরচে দেউলিয়া হতে পারে বাংলাদেশি স্টার্টআপ
একটি সিরিজ এ স্টার্টআপের CTO ১০ হাজার API কল চালিয়ে মার্কিন ও চীনা বড় ভাষার মডেলের (LLM) খরচ ও মান তুলনা করেছেন। ফলাফলে দেখা গেছে, GPT-4o-র মতো মডেলের উচ্চ ইনফারেন্স খরচ স্টার্টআপের জন্য আত্মঘাতী হতে পারে। পাশাপাশি ভেন্ডর লক-ইনের ঝুঁকি নিয়েও সতর্ক করেছেন তিনি।
একটি সিরিজ এ স্টার্টআপের CTO ১০ হাজার API কল চালিয়ে মার্কিন ও চীনা বড় ভাষার মডেলের (LLM) খরচ ও মান তুলনা করেছেন। ফলাফলে দেখা গেছে, GPT-4o-র মতো মডেলের উচ্চ ইনফারেন্স খরচ স্টার্টআপের জন্য আত্মঘাতী হতে পারে। পাশাপাশি ভেন্ডর লক-ইনের ঝুঁকি নিয়েও সতর্ক করেছেন তিনি।
মার্কিন ও চীনের কৃত্রিম বুদ্ধিমত্তা মডেলের মধ্যে খরচ ও গুণগত মানের তুলনা সামনে এনেছে এক চাঞ্চল্যকর বিশ্লেষণ। dev.to-তে প্রকাশিত এক ব্লগপোস্টে এক সিরিজ এ স্টার্টআপের প্রধান প্রযুক্তি কর্মকর্তা (CTO) জানিয়েছেন, তিনি ১০ হাজার API কল চালিয়ে GPT-4o, Claude Sonnet, Gemini Pro-র মতো মার্কিন মডেল ও চীনা মডেলের মধ্যে তুলনা করেছেন।
প্রাথমিকভাবে তার দল মাসে ৫০ হাজার থেকে ২০ লাখ অনুরোধে যাওয়ার পরিকল্পনা করেছিল। মার্কিন মডেল ব্যবহার করলে মাসিক API বিল দাঁড়াত ১৮ হাজার ৫০০ ডলার। একটি প্রি-রেভিনিউ সিরিজ এ স্টার্টআপের জন্য এই অঙ্ক টেকসই নয় বলে মন্তব্য করেছেন তিনি। এটিকে তিনি 'আত্মঘাতী' সিদ্ধান্ত বলে অভিহিত করেছেন।
চীনা মডেলের দাম অনেক কম। তবে সস্তা মানেই যে গুণগত মান খারাপ তা নয়। কিছু নির্দিষ্ট কাজে চীনা মডেলগুলো মার্কিন মডেলের কাছাকাছি পারফরম্যান্স দেখিয়েছে। বিশেষ করে সেন্টিমেন্ট অ্যানালাইসিস, কাস্টমার সাপোর্ট অটোমেশনের মতো নির্দিষ্ট ডোমেইনে চীনা মডেলগুলো কার্যকর প্রমাণিত হয়েছে।
তবে শুধু খরচ নয়, ভেন্ডর লক-ইনের ঝুঁকিও বড় উদ্বেগের বিষয়। চীনা মডেল ব্যবহার করলে ডেটা সার্বভৌমত্ব, নিয়ন্ত্রক জটিলতা ও ভবিষ্যতে সরবরাহ বিঘ্নিত হওয়ার সম্ভাবনা থাকে। অন্যদিকে মার্কিন মডেলের ওপর নির্ভরতা তৈরি হলে সেটাও এক ধরনের লক-ইন তৈরি করে। বিশেষ করে যখন স্টার্টআপ স্কেল করতে থাকে, তখন মডেল পরিবর্তন করা অত্যন্ত ব্যয়বহুল ও সময়সাপেক্ষ হয়ে ওঠে।
বাংলাদেশের ডেভেলপার ও স্টার্টআপ প্রতিষ্ঠাতাদের জন্য এই বিশ্লেষণ অত্যন্ত প্রাসঙ্গিক। স্থানীয় অনেক স্টার্টআপ এখন AI-ভিত্তিক প্রোডাক্ট তৈরি করছে। তাদের জন্য বাজেট সীমিত। মার্কিন মডেলের উচ্চ মূল্য তাদের জন্য বাধা হয়ে দাঁড়াতে পারে। অন্যদিকে চীনা মডেলের সাশ্রয়ী মূল্য ও গ্রহণযোগ্য গুণগত মান তাদের জন্য বিকল্প হতে পারে। তবে ভেন্ডর লক-ইন এড়াতে হাইব্রিড পদ্ধতি নেওয়ার পরামর্শ দিচ্ছেন বিশেষজ্ঞরা।
ভবিষ্যতে আরও প্রতিযোগিতা বাড়লে AI মডেলের দাম আরও কমবে বলে আশা করা যায়। তবে এখনই সঠিক নির্বাচন করা জরুরি। খরচ, গুণগত মান ও দীর্ঘমেয়াদী ঝুঁকি বিবেচনা করেই সিদ্ধান্ত নেওয়া উচিত।
আরও পড়ুন
এই সংবাদটি আন্তর্জাতিক সূত্রের তথ্য অবলম্বনে AI-সহায়তায় বাংলায় উপস্থাপন ও বাংলাদেশের প্রেক্ষাপটে সম্পাদিত। মূল তথ্যের জন্য নিচের সূত্র দেখুন।
মূল প্রতিবেদন: dev.to ML
সোর্স দেখুন ↗মন্তব্য০
লোড হচ্ছে...