AI Perks স্টার্টআপ এবং ডেভেলপারদের অর্থ সাশ্রয়ে সাহায্য করতে AI টুল, ক্লাউড সার্ভিস এবং API-তে একচেটিয়া ছাড়, ক্রেডিট এবং ডিলে অ্যাক্সেস প্রদান করে।

২০২৬ সালে ওপেন-সোর্স এআই জিপিটি-৫ এবং ক্লডের সাথে তাল মিলিয়েছে
এপ্রিল ২০২৬ সালের মধ্যে, ছয়টি ওপেন-সোর্স মডেল পরিবার প্রতিযোগিতামূলক ওপেন-ওয়েট মডেল সরবরাহ করে যা বাস্তব ওয়ার্কলোডগুলিতে বন্ধ বিকল্পগুলির প্রতিদ্বন্দ্বিতা করে বা ছাড়িয়ে যায়। ডিপসিক ভি৪ কাঁচা বেঞ্চমার্কে নেতৃত্ব দেয় (৮৩.৭% এসডব্লিউই-বেঞ্চ ভেরিফাইড, ৯৯.৪% এআইএমই ২০২৬)। কিউওয়েন ৩.৬ তার ওজন শ্রেণির চেয়ে বেশি শক্তিশালী। লামা ৪ ক্ষুদ্র থেকে ফ্রন্টিয়ার স্কেল পর্যন্ত বিস্তৃত। "ওপেন বনাম বন্ধ" ব্যবধান দ্রুত সঙ্কুচিত হচ্ছে।
খটকা: সেরা ওপেন-সোর্স মডেলগুলি বিশাল। প্রায় ১টি প্যারামিটার সহ ডিপসিক ভি৪-এর জন্য নিজেকে হোস্ট করতে একাধিক H100 জিপিইউ প্রয়োজন। কিউওয়েন ৩.৬-৩৫বি-এ৩বি হল একমাত্র ফ্রন্টিয়ার-প্রতিযোগিতামূলক ওপেন মডেল যা একটি একক কনজিউমার জিপিইউ-তে চলে। ভুল মডেল নির্বাচন করা মানে হয় প্রিমিয়াম এপিআই রেট পরিশোধ করা বা পরিকাঠামো নিয়ে সংগ্রাম করা।
এই গাইডটি ২০২৬ সালে সক্ষমতা, হার্ডওয়্যার প্রয়োজনীয়তা এবং বাস্তব-বিশ্বের খরচ অনুসারে শীর্ষ ওপেন-সোর্স এআই মডেলগুলিকে র্যাঙ্ক করে। সাথে AI Perks এর মাধ্যমে $৫,০০০-$২০০,০০০+ মূল্যের বিনামূল্যের AWS / Google / Together AI ক্রেডিট ব্যবহার করে সেগুলিকে সাশ্রয়ীভাবে হোস্ট করার উপায়।
AI ক্রেডিটে আপনার বাজেট সাশ্রয় করুন
| Software | আনুমানিক ক্রেডিট | অনুমোদন সূচক | কর্ম | |
|---|---|---|---|---|
আপনার SaaS প্রচার করুন
৯০,০০০+ প্রতিষ্ঠাতার কাছে পৌঁছান যারা আপনার মতো টুল খুঁজছেন
২০২৬ সালের ওপেন-সোর্স এআই মডেল টায়ার তালিকা
| টায়ার | মডেল | আকার | সেরা ব্যবহারের ক্ষেত্র | স্ব-হোস্ট খরচ |
|---|---|---|---|---|
| এস-টায়ার | ডিপসিক ভি৪ | ~১টি প্যারামিটার | ফ্রন্টিয়ার রিজনিং + কোডিং | $৫-$১৫/ঘন্টা (মাল্টি-H100) |
| এস-টায়ার | কিউওয়েন ৩.৬ ২৩৫বি | ২৩৫বি (MoE, ২২বি সক্রিয়) | সাধারণ ফ্রন্টিয়ার | $২-$৫/ঘন্টা (একক H100) |
| এ-টায়ার | লামা ৪ মাভেরিক | ৪০০বি | শক্তিশালী সাধারণ | $৩-$৮/ঘন্টা |
| এ-টায়ার | লামা ৪ স্কাউট | ১০৯বি (MoE, ১৭বি সক্রিয়) | ১০M কনটেক্সট উইন্ডো | $১-$৩/ঘন্টা |
| এ-টায়ার | কিউওয়েন ৩.৬-৩৫বি-এ৩বি | ৩৫বি (MoE, ৩বি সক্রিয়) | একক জিপিইউ ফ্রন্টিয়ার | $০.৫০-$১.৫০/ঘন্টা |
| এ-টায়ার | জিএলএম-৫.১ | ১০০বি+ | চীনা ভাষার শ্রেষ্ঠত্ব | $১-$৩/ঘন্টা |
| বি-টায়ার | জেম্মা ৪-২৬বি-এ৪বি | ২৬বি | সস্তা কনজিউমার জিপিইউ | $০.৩০-$০.৮০/ঘন্টা |
| বি-টায়ার | মিস্ট্রাল স্মল ৪ | ২২বি | ইইউ-বান্ধব লাইসেন্সিং | $০.৩০-$০.৮০/ঘন্টা |
| বি-টায়ার | লামা ৪ ৮বি | ৮বি | এজ ডিপ্লয়মেন্ট | লোকাল সিপিইউ সম্ভব |
AI Perks স্টার্টআপ এবং ডেভেলপারদের অর্থ সাশ্রয়ে সাহায্য করতে AI টুল, ক্লাউড সার্ভিস এবং API-তে একচেটিয়া ছাড়, ক্রেডিট এবং ডিলে অ্যাক্সেস প্রদান করে।

এস-টায়ার: ডিপসিক ভি৪
ডিপসিক ভি৪ ২০২৬ সালে ফ্রন্টিয়ার-প্রতিযোগিতামূলক ওপেন-সোর্স মডেল। ২০২০ সালের প্রথম দিকে প্রকাশিত, এটি কোডিং (৮৩.৭% এসডব্লিউই-বেঞ্চ ভেরিফাইড, ৯০% হিউম্যানইভাল) এবং রিজনিং (৯৯.৪% এআইএমই ২০২৬, ৯২.৮% এমএমএলইউ-প্রো) এ নেতৃত্ব দেয়।
ডিপসিক ভি৪ এর শক্তি
- একাধিক বেঞ্চমার্কে জিপিটি-৪.১ এবং ক্লড সানেটকে ছাড়িয়ে যায়
- এনগ্রাম মেমরি সহ ১M কনটেক্সট উইন্ডো
- সক্রিয় গবেষণা সম্প্রদায়
- বাণিজ্যিক ব্যবহারের জন্য অনুমতিপ্রাপ্ত লাইসেন্স
- শক্তিশালী এজেন্টিক ক্ষমতা (জিপিটি-৫.৫ এর কাছাকাছি)
ডিপসিক ভি৪ হার্ডওয়্যার প্রয়োজনীয়তা
| কোয়ান্টাইজেশন | জিপিইউ সেটআপ | প্রতি ঘন্টা খরচ (ক্লাউড) |
|---|---|---|
| এফপি১৬ | ৮x H100 ৮০জিবি | $২৫-$৪০/ঘন্টা |
| আইএনটি৮ | ৪x H100 ৮০জিবি | $১২-$২০/ঘন্টা |
| আইএনটি৪ | ২x H100 ৮০জিবি | $৬-$১০/ঘন্টা |
| হোস্টেড (টুগেদার এআই, ফায়ারওয়ার্কস) | এপিআই | $০.২৭-$২.২০/১M টোকেন |
ফ্রন্টিয়ার মানের ডিপসিক ভি৪ স্ব-হোস্ট করার খরচ $৬-$৪০/ঘন্টা। হোস্টেড এপিআই (টুগেদার এআই, ফায়ারওয়ার্কস, ডিপসিক ডাইরেক্ট) পরিবর্তনশীল ওয়ার্কলোডের জন্য নাটকীয়ভাবে সস্তা।
কখন ডিপসিক ভি৪ ব্যবহার করবেন
- ক্লড/জিপিটি-র চেয়ে কম এপিআই খরচে ফ্রন্টিয়ার রিজনিং
- কোডিং-ভারী ওয়ার্কফ্লো
- অনুমতিপ্রাপ্ত ওপেন লাইসেন্সের প্রয়োজন
- গোপনীয়তা-সংবেদনশীল (স্ব-হোস্ট সম্ভব)
এস-টায়ার: কিউওয়েন ৩.৬-২৩৫বি
কিউওয়েন ৩.৬-২৩৫বি হল আলিবাবার ফ্রন্টিয়ার মডেল যা MoE আর্কিটেকচার (২২বি সক্রিয় প্যারামিটার) সহ। ভাষা জুড়ে শক্তিশালী রিজনিং, বিশেষ করে প্রতি সক্রিয় প্যারামিটারে চিত্তাকর্ষক পারফরম্যান্স সহ।
কিউওয়েন ৩.৬-২৩৫বি এর শক্তি
- ২২বি সক্রিয় প্যারামিটার (ডিপসিক ভি৪-এর চেয়ে সস্তা ইনফারেন্স)
- চমৎকার বহুভাষিক (বিশেষ করে চীনা, ইংরেজি, কোড)
- অ্যাপাচি ২.০ লাইসেন্স
- পরিপক্ক টুল-কলিং সমর্থন
- এআইএমই ২০২৬ (৯২.৭%) এবং জিপি কিউ এ (৮৬%) তে শক্তিশালী
কিউওয়েন ৩.৬ হার্ডওয়্যার (২৩৫বি)
| কোয়ান্টাইজেশন | জিপিইউ সেটআপ |
|---|---|
| এফপি১৬ | ৪x H100 ৮০জিবি |
| আইএনটি৮ | ২x H100 ৮০জিবি |
| আইএনটি৪ | ১x H100 ৮০জিবি |
MoE আর্কিটেকচার মানে প্রতি টোকেনে মাত্র ২২বি প্যারামিটার সক্রিয় হয়, যা ২৫৫বি ঘন মডেলগুলির তুলনায় ইনফারেন্সকে নাটকীয়ভাবে সস্তা করে তোলে।
এ-টায়ার: কিউওয়েন ৩.৬-৩৫বি-এ৩বি (একক-জিপিইউ ফ্রন্টিয়ার)
কিউওয়েন ৩.৬-৩৫বি-এ৩বি হল একমাত্র ফ্রন্টিয়ার-প্রতিযোগিতামূলক ওপেন মডেল যা কোয়ান্টাইজেশন সহ একটি একক কনজিউমার জিপিইউ-তে চলে। ৩৫বি প্যারামিটার, প্রতি টোকেনে ৩বি সক্রিয়।
কেন এটি গুরুত্বপূর্ণ
| বেঞ্চমার্ক | কিউওয়েন ৩.৬-৩৫বি-এ৩বি |
|---|---|
| এসডব্লিউই-বেঞ্চ ভেরিফাইড | ৭৩.৪% |
| জিপি কিউ এ ডায়মন্ড | ৮৬.০% |
| এআইএমই ২০২৬ | ৯২.৭% |
| এমএমএলইউ-প্রো | ৮৭% |
এই সংখ্যাগুলি জিপিটি-৪.১ এবং ক্লড সানেট ৪.৬-এর প্রতিদ্বন্দ্বী - একটি মডেল যা একটি A10G জিপিইউ-তে (AWS-এ $১.২১/ঘন্টা) ফিট করে।
স্ব-হোস্ট খরচ
- এডব্লিউএস জি৫.২এক্সলার্জ (১x A10G ২৪জিবি): $১.২১/ঘন্টা = ২৪/৭-এর জন্য ~$৮৭০/মাস
- আইএনটি৪-এ কোয়ান্টাইজ করা: ১৬জিবি ভিআরএএম প্রয়োজন (A10G-তে ফিট করে)
অবিরাম ইনফারেন্স চালনাকারী একটি স্টার্টআপের জন্য, $১.২১/ঘন্টা মূল্যের একটি একক A10G ক্লড সানেট মানের সাথে এপিআই খরচের একটি ভগ্নাংশে মেলে।
এ-টায়ার: লামা ৪ পরিবার
লামা ৪ একাধিক আকারে বিস্তৃত - স্কাউট (১০৯বি/১৭বি সক্রিয়), মাভেরিক (৪০০বি), এবং ছোট ভ্যারিয়েন্ট। মেটার বিস্তৃত ফ্যামিলি অ্যাপ্রোচ লামা ৪-কে সবচেয়ে বহুমুখী ওপেন-সোর্স বিকল্প করে তোলে।
লামা ৪ স্কাউট: ১০M কনটেক্সট উইন্ডো
লামা ৪ স্কাউট-এর প্রধান বৈশিষ্ট্য: একটি ১০ মিলিয়ন টোকেন কনটেক্সট উইন্ডো। এটি ওপেন-সোর্স মডেলগুলির জন্য অভূতপূর্ব। পুরো কোডবেস বা বিশাল নথি প্রক্রিয়াকরণের প্রয়োজন এমন কাজের জন্য, স্কাউট অতুলনীয়।
লামা ৪ মাভেরিক: সাধারণ ফ্রন্টিয়ার
সাধারণ ওয়ার্কলোড কভার করে ৪০০বি প্যারামিটার। বেশিরভাগ বেঞ্চমার্কে জিপিটি-৪.১-এর সাথে প্রতিযোগিতামূলক তবে কোডিং/রিজনিং-এ ডিপসিক ভি৪ এবং কিউওয়েন ৩.৬-২৩৫বি-এর চেয়ে পিছিয়ে।
কখন লামা ৪ ব্যবহার করবেন
- ১০M কনটেক্সট উইন্ডোর প্রয়োজন (স্কাউট)
- মেটার ইকোসিস্টেম এবং সরঞ্জাম চান
- পূর্ববর্তী সংস্করণ থেকে লামা পরিবারের সাথে পরিচিত
- মাল্টি-ক্লাউড ডিপ্লয়মেন্ট (AWS, GCP, Azure সব লামা সমর্থন করে)
হোস্টেড বনাম স্ব-হোস্টেড: আসল সিদ্ধান্ত
বেশিরভাগ দলের জন্য, ওপেন-সোর্স মডেলগুলিতে হোস্টেড এপিআই অ্যাক্সেস স্ব-হোস্টিংয়ের চেয়ে সস্তা যদি না আপনার খুব বেশি অবিরাম থ্রুপুট থাকে।
হোস্টেড মূল্য (এপ্রিল ২০২৬)
| প্রদানকারী | মডেল | মূল্য |
|---|---|---|
| টুগেদার এআই | লামা ৪, কিউওয়েন ৩, ডিপসিক ভি৪ | $০.২৭-$২.২০/১M টোকেন |
| ফায়ারওয়ার্কস এআই | লামা ৪, কিউওয়েন ৩, ডিপসিক | $০.২০-$২.০০/১M টোকেন |
| ডিপইনফ্রা | মাল্টি-মডেল | $০.১০-$১.৫০/১M টোকেন |
| রেপ্লিকেট | মাল্টি-মডেল | প্রতি সেকেন্ডে মূল্য |
| fal.ai | মাল্টি-মডেল | প্রতি সেকেন্ডে মূল্য |
~৫০M টোকেন/মাস-এর কম ওয়ার্কলোডের জন্য, হোস্টেড এপিআই সস্তা। তার উপরে, স্ব-হোস্ট করা বেশি লাভজনক হয়ে ওঠে (যদি আপনার প্রকৌশলী ক্ষমতা থাকে)।
কখন ওপেন-সোর্স ক্লড/জিপিটি-কে ছাড়িয়ে যায়
| ব্যবহারের ক্ষেত্র | ওপেন-সোর্স বিজয়ী | কেন |
|---|---|---|
| স্কেলে খরচ-সংবেদনশীল | ডিপসিক ভি৪ / কিউওয়েন ৩.৬ | ক্লড ওপাস-এর চেয়ে ৫-১০ গুণ সস্তা |
| সর্বোচ্চ কনটেক্সট (>১M টোকেন) | লামা ৪ স্কাউট | ১০M টোকেন উইন্ডো |
| গোপনীয়তা / ডেটা রেসিডেন্সি | যে কোনও স্ব-হোস্ট | কোনও ডেটা আপনার পরিকাঠামো ছেড়ে যায় না |
| কাস্টমাইজেশন / ফাইন-টিউনিং | লামা ৪ / কিউওয়েন ৩.৬ | এসএফটি, লোআরএ-এর জন্য ওপেন ওয়েটস |
| এজ ডিপ্লয়মেন্ট | লামা ৪ ৮বি / জেম্মা ৪ | কনজিউমার হার্ডওয়্যারে চলে |
| কম খরচে ফ্রন্টিয়ার রিজনিং | ডিপসিক ভি৪ | জিপিটি-৪.১-কে ছাড়িয়ে যায়, সস্তা |
কখন বন্ধ মডেলগুলি এখনও জিতে
- সেরা এজেন্ট ইকোসিস্টেম (ক্লড কোড, কোডেক্স স্কিলস)
- পালিশড মাল্টিমডাল (জিপিটি-৫.৫ ইউনিফাইড টেক্সট/ইমেজ/অডিও/ভিডিও)
- ফ্রন্টিয়ার কোডিং (ক্লড ওপাস ৪.৭, জিপিটি-৫.৫)
- সবচেয়ে সহজ ডেভ অভিজ্ঞতা (কোনও পরিকাঠামো নেই)
- সর্বোচ্চ নিরাপত্তা + ব্যাখ্যামূলক গবেষণা (ক্লড)
বেশিরভাগ নির্মাতাদের জন্য, উভয়ই ব্যবহার করা সঠিক উত্তর - সংবেদনশীল, গ্রাহক-মুখো কাজের জন্য বন্ধ মডেল; উচ্চ-ভলিউম সস্তা ইনফারেন্সের জন্য ওপেন-সোর্স।
বিনামূল্যের ক্রেডিট ওপেন-সোর্স হোস্টিংকে শক্তিশালী করে
| ক্রেডিট উৎস | উপলব্ধ ক্রেডিট | শক্তি |
|---|---|---|
| এডব্লিউএস অ্যাক্টিভেট | $১,০০০ - $১০০,০০০ | ইসি২ জিপিইউ (H100, A100, A10G) |
| গুগল ক্লাউড | $১,০০০ - $২৫,০০০ | জিসিই জিপিইউ + ভার্টেক্স হোস্টিং |
| টুগেদার এআই স্টার্টআপ প্রোগ্রাম | $১৫,০০০ - $৫০,০০০ | হোস্টেড লামা ৪, কিউওয়েন, ডিপসিক |
| মাইক্রোসফট ফাউন্ডার্স হাব | $৫০০ - $১,০০০ | অ্যাজুর জিপিইউ + অ্যাজুর এমএল |
| রেপ্লিকেট / fal.ai সাইন-আপ | পরিবর্তনশীল | মাল্টি-মডেল এপিআই |
মোট সম্ভাব্য: ওপেন-সোর্স হোস্টিংয়ের জন্য $১৭,৫০০ - $১৭৬,০০০+ বিনামূল্যের ক্রেডিট।
$৫০,০০০ মূল্যের স্ট্যাক করা ক্রেডিট সহ একটি স্টার্টআপ $০ ডলার খরচ না করে ৬+ মাস ধরে ২৪/৭ একাধিক কিউওয়েন ৩.৬-২৩৫বি ইনস্ট্যান্স চালাতে পারে।
ধাপে ধাপে: বিনামূল্যের ক্রেডিট দিয়ে ওপেন-সোর্স এআই ডিপ্লয় করুন
ধাপ ১: বিনামূল্যে ক্রেডিট পান
AI Perks-এ সাবস্ক্রাইব করুন এবং AWS Activate, Google Cloud, Together AI Startup Program, এবং Microsoft Founders Hub-এর জন্য আবেদন করুন।
ধাপ ২: আপনার হোস্টিং পদ্ধতি বেছে নিন
- হোস্টেড এপিআই (সবচেয়ে সহজ): টুগেদার এআই, ফায়ারওয়ার্কস, ডিপইনফ্রা
- ক্লাউড জিপিইউ (নমনীয়): AWS EC2, GCP GCE, Azure VMs
- স্ব-পরিচালিত কুবারনেটিস (উন্নত): আপনার নিজস্ব ইনফারেন্স সার্ভার চালান
ধাপ ৩: আপনার মডেল বেছে নিন
- ফ্রন্টিয়ার বেঞ্চমার্ক: ডিপসিক ভি৪
- একক-জিপিইউ ফ্রন্টিয়ার: কিউওয়েন ৩.৬-৩৫বি-এ৩বি
- দীর্ঘ কনটেক্সট: লামা ৪ স্কাউট (১০M উইন্ডো)
- মাল্টি-পারপাস: কিউওয়েন ৩.৬-২৩৫বি
- এজ / মোবাইল: লামা ৪ ৮বি / জেম্মা ৪
ধাপ ৪: ইনফারেন্স সেট আপ করুন
উচ্চ-থ্রুপুট সার্ভিংয়ের জন্য vLLM, TGI, বা SGLang ব্যবহার করুন। অথবা একটি হোস্টেড এপিআই ব্যবহার করুন এবং পরিকাঠামো সম্পূর্ণরূপে এড়িয়ে যান।
ধাপ ৫: অপ্টিমাইজ করুন
সস্তা হোস্টিংয়ের জন্য INT8 বা INT4-এ কোয়ান্টাইজ করুন। সম্ভব হলে প্রম্পট ক্যাচিং ব্যবহার করুন। টোকেন ব্যবহার নিরীক্ষণ করুন।
ধাপ ৬: বন্ধ মডেলগুলির সাথে মিশ্রিত করুন
সংবেদনশীল গ্রাহক-মুখী কাজের জন্য বন্ধ মডেল (ক্লড, জিপিটি-৫.৫) ব্যবহার করুন। উচ্চ-ভলিউম অভ্যন্তরীণ/ব্যাচ প্রক্রিয়াকরণের জন্য ওপেন-সোর্স ব্যবহার করুন। স্মার্ট রাউটিং মোট খরচ ৭০-৯০% কমিয়ে দেয়।
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
২০২৬ সালে সেরা ওপেন-সোর্স এআই মডেল কোনটি?
ডিপসিক ভি৪ কাঁচা বেঞ্চমার্কে নেতৃত্ব দেয় (৮৩.৭% এসডব্লিউই-বেঞ্চ, ৯৯.৪% এআইএমই)। কিউওয়েন ৩.৬-২৩৫বি কম কম্পিউট খরচে প্রতিযোগিতামূলক। কিউওয়েন ৩.৬-৩৫বি-এ৩বি হল সেরা একক-জিপিইউ বিকল্প। লামা ৪ স্কাউট-এর ১০M কনটেক্সট উইন্ডো রয়েছে। "সেরা" আপনার হার্ডওয়্যার এবং ওয়ার্কলোডের উপর নির্ভর করে। AI Perks এর মাধ্যমে বিনামূল্যের ক্রেডিট আপনাকে সবগুলি পরীক্ষা করার অনুমতি দেয়।
ওপেন-সোর্স মডেলগুলি কি জিপিটি-৫.৫ এবং ক্লড ওপাস ৪.৭-এর সাথে প্রতিদ্বন্দ্বিতা করতে পারে?
অনেক বেঞ্চমার্কে, হ্যাঁ। ডিপসিক ভি৪ কোডিং এবং রিজনিং-এ জিপিটি-৪.১-কে ছাড়িয়ে যায়। কিউওয়েন ৩.৬ সাধারণ কাজগুলিতে ক্লড সানেট ৪.৬-এর সাথে মেলে। বন্ধ মডেলগুলি এখনও এজেন্ট ইকোসিস্টেম পরিপক্কতা (ক্লড কোড, কোডেক্স), মাল্টিমডাল (জিপিটি-৫.৫), এবং ডেভেলপার অভিজ্ঞতায় নেতৃত্ব দেয়। উভয়ই ব্যবহার করুন - অনেক নির্মাতা তা করে।
লামা ৪ কি বাণিজ্যিক ব্যবহারের জন্য বিনামূল্যে?
হ্যাঁ, লামা ৪ মেটার অনুমতিপ্রাপ্ত লাইসেন্সের অধীনে বাণিজ্যিক ব্যবহারের জন্য লাইসেন্সপ্রাপ্ত। স্ব-হোস্টেড এবং ক্লাউড প্রদানকারীদের (AWS বেডরক, GCP ভার্টেক্স, ইত্যাদি) মাধ্যমে ব্যবহার অনুমোদিত। খুব বড় কোম্পানিগুলির (৭০০M+ MAU) জন্য কিছু বিধিনিষেধ প্রযোজ্য। বেশিরভাগ স্টার্টআপের সম্পূর্ণ বাণিজ্যিক অধিকার রয়েছে।
ডিপসিক ভি৪ স্ব-হোস্ট করতে কত খরচ হয়?
এফপি১৬-এ ডিপসিক ভি৪ স্ব-হোস্ট করার জন্য ৮x H100 জিপিইউ প্রয়োজন যা $২৫-$৪০/ঘন্টা। আইএনটি৪ কোয়ান্টাইজেশন এটিকে ২x H100-এ $৬-$১০/ঘন্টায় নামিয়ে আনে। বেশিরভাগ ওয়ার্কলোডের জন্য, হোস্টেড এপিআই (টুগেদার এআই, ফায়ারওয়ার্কস) $০.২৭-$২.২০/১M টোকেনে স্ব-হোস্টিংয়ের চেয়ে সস্তা। AI Perks এর মাধ্যমে বিনামূল্যের ক্রেডিট উভয় পথকে কভার করে।
আমি কি একটি একক জিপিইউ-তে ওপেন-সোর্স এআই চালাতে পারি?
হ্যাঁ - কিউওয়েন ৩.৬-৩৫বি-এ৩বি আইএনটি৪ কোয়ান্টাইজেশন সহ একটি একক A10G (২৪জিবি ভিআরএএম) তে চলে। জেম্মা ৪-২৬বি এবং মিস্ট্রাল স্মল ৪ একক কনজিউমার জিপিইউ-তেও ফিট করে। AWS g5.2xlarge ($১.২১/ঘন্টা) যথেষ্ট। AI Perks এর মাধ্যমে AWS Activate ক্রেডিট সহ, এটি বিনামূল্যে।
আমার কি একটি ওপেন-সোর্স মডেল ফাইন-টিউন করা উচিত?
আপনার যদি একটি নির্দিষ্ট ডোমেন টাস্ক এবং >১০,০০০ উচ্চ-মানের উদাহরণ থাকে তবে ফাইন-টিউন করুন। অন্যথায়, একটি শক্তিশালী বেস মডেল (ডিপসিক ভি৪, কিউওয়েন ৩.৬) এর উপর প্রম্পট ইঞ্জিনিয়ারিং প্রায়শই একটি ছোট মডেলকে ফাইন-টিউন করার চেয়ে ভাল ফল দেয়। ফাইন-টিউনিং মডেলের আকারের উপর নির্ভর করে জিপিইউ সময়ের $৫০-$৫,০০০ খরচ হয়।
সবচেয়ে সস্তা হোস্টেড ওপেন-সোর্স এআই এপিআই কোনটি?
টুগেদার এআই, ফায়ারওয়ার্কস, এবং ডিপইনফ্রা সকলেই শীর্ষ ওপেন-সোর্স মডেলগুলির জন্য $০.২০-$২.২০/১M টোকেন-এ প্রতিযোগিতা করে। ডিপইনফ্রা প্রায়শই বিশুদ্ধ দামে জয়ী হয়। টুগেদার এআই-এর সবচেয়ে শক্তিশালী স্টার্টআপ ক্রেডিট প্রোগ্রাম রয়েছে ($১৫K-$৫০K AI Perks এর মাধ্যমে)। একাধিক প্রদানকারী পরীক্ষা করুন - বিনামূল্যের ক্রেডিট এটিকে খরচ-মুক্ত করে তোলে।
ফ্রন্টিয়ার মানের ওপেন-সোর্স এআই চালান, শূন্য খরচে
২০২৬ সালের ওপেন-সোর্স এআই ল্যান্ডস্কেপ এখন পর্যন্ত সবচেয়ে শক্তিশালী। ডিপসিক ভি৪ একাধিক বেঞ্চমার্কে জিপিটি-৪.১-কে ছাড়িয়ে যায়। কিউওয়েন ৩.৬ ক্লড সানেট-এর সাথে মেলে। লামা ৪ পুরো স্কেল বর্ণালীকে বিস্তৃত করে। AI Perks নিশ্চিত করে যে আপনি হোস্টিংয়ের জন্য অর্থ প্রদান না করেই সেগুলি চালাতে পারবেন:
- AWS Activate-এ $১,০০০-$১০০,০০০+ (জিপিইউ হোস্টিং)
- Google Cloud-এ $১,০০০-$২৫,০০০+ (ভার্টেক্স এআই হোস্টিং)
- টুগেদার এআই ক্রেডিট-এ $১৫,০০০-$৫০,০০০+ (হোস্টেড এপিআই)
- ২০০+ অতিরিক্ত স্টার্টআপ পারক্স
getaiperks.com-এ সাবস্ক্রাইব করুন →
ওপেন-সোর্স এআই ২০২৬ সালে বন্ধ মডেলগুলির সাথে মেলে। getaiperks.com-এ বিনামূল্যে চালান।