ارزش اعتبارات رایگان Vertex AI چقدر است؟
اعتبارات Vertex AI برای استارتاپهای واجد شرایط تا 100,000 دلار ارزش دارند و این منعطفترین کمکهزینه بزرگ هوش مصنوعی موجود است، زیرا همین موجودی در چندین ارائهدهنده مدل به جای یک ارائهدهنده هزینه میشود.
این بخشی است که بنیانگذاران آن را دستکم میگیرند. بیشتر اعتبارات مدل شما را به یک ارائهدهنده واحد محدود میکند. اعتبار Vertex AI از مدلهای خود گوگل، مدلهای شخص ثالث ارائه شده از طریق Model Garden از جمله Claude از Anthropic، و خانوادههای مدلهای با وزن باز مانند Llama و Mistral پشتیبانی میکند، با این تفاوت که در دسترس بودن بسته به منطقه و در طول زمان متفاوت است.
یک استخر، چندین فروشنده. این انعطافپذیری تیتر واقعی است، نه رقم دلاری.
واجد شرایط بودن به مرحله، تأمین مالی و نحوه رسیدن شما به برنامه بستگی دارد، و این قوانین اغلب بیشتر از مقدار اعتبار تغییر میکنند. AI Perks شرایط فعلی را در کنار 7.7 میلیون دلار اعتبار در 194 شرکت پیگیری میکند.
Vertex AI در واقع برای چیست
Vertex AI پلتفرم مدیریت شده Google Cloud برای فراخوانی، تنظیم، زمینهسازی و استقرار مدلها است، بنابراین آنچه شما خریداری میکنید لایه عملیاتی اطراف مدل است نه خود مدل.
به طور عملی، این لایه شامل موارد زیر است:
- یک سطح API واحد در میان چندین ارائهدهنده مدل، بنابراین جابجایی مدلها یک تغییر پیکربندی است نه بازنویسی
- تنظیم و ارزیابی، بنابراین میتوانید تغییر را اندازهگیری کنید به جای حدس زدن
- بازیابی، از جمله جستجوی برداری و ابزارهای مدیریت شده RAG
- استقرار، از جمله نقاط پایانی آنلاین، پیشبینی دستهای و توان عملیاتی رزرو شده
- حاکمیت، از جمله IAM، شبکهسازی خصوصی، اقامتگاه داده و ثبت گزارش حسابرسی
این تست پذیرش صادقانه است. اگر محصول شما اعلانهایی را به یک مدل ارسال میکند و پاسخ را میخواند، یک کلید API مستقیم سادهتر و معمولاً ارزانتر است. Vertex AI زمانی پیچیدگی خود را نشان میدهد که به بیش از یک فروشنده، کنترلهای سازمانی که خریدار درباره آنها سوال میکند، یا بازیابی و ارزیابی نیاز دارید که در غیر این صورت خودتان میساختید.
رفتار هزینه Vertex AI در مقیاس
Vertex AI از دو ساعت مختلف صورتحساب میگیرد: استفاده بر اساس توکن که با ترافیک مقیاسپذیر است، و زیرساخت بر اساس نود که صرف نظر از رسیدن ترافیک صورتحساب دریافت میکند. اشتباه گرفتن این دو راهی است که تیمها یک موجودی شش رقمی را روی محصولی که هنوز هیچکس از آن استفاده نمیکند، میسوزانند.
| محرک هزینه | چگونه صورتحساب میگیرد | رفتار در مقیاس |
|---|---|---|
| فراخوانی مدلهای مولد | به ازای هر توکن ورودی و خروجی | با ترافیک مقیاسپذیر است، در زمان بیکاری به صفر میرسد |
| نقاط پایانی سفارشی مستقر شده | به ازای هر نود-ساعت در زمان استقرار | ثابت، در ساعت 3 صبح با صفر کاربر صورتحساب دریافت میکند |
| سرویسدهی ایندکس جستجوی برداری | به ازای هر نود-ساعت در زمان سرویسدهی ایندکس | ثابت، با رشد ایندکس افزایش مییابد |
| کارهای تنظیم و آموزش | به ازای هر شتابدهنده-ساعت برای کار | پرشی، یک دوره اجرا یک آیتم خط بزرگ است |
| پیشبینی دستهای | به ازای هر توکن، معمولاً کمتر از نرخهای آنلاین | ارزانترین مسیر برای هر چیزی که کسی منتظر آن نیست |
| فراخوانیهای زمینهسازی شده و مبتنی بر جستجو | به ازای هر درخواست، علاوه بر توکنها | میتواند هزینه واحد یک حلقه RAG ساده را دو برابر کند |
سه پیامد که طراحی در اطراف آنها ارزش دارد.
زیرساخت بیکار نشتی اصلی است. یک نقطه پایانی نمایشی که در طول یک فصل کمترافیک مستقر باقی میماند، میتواند اعتبار بیشتری نسبت به محصولی که در ترافیک سرویسدهی شده مصرف کند. مصرف توکن خود محدود است، مصرف نود اینطور نیست.
توکنهای خروجی غالب هستند. در اکثر مدلهای پیشرفته، خروجی چندین برابر بیشتر از ورودی قیمتگذاری میشود، بنابراین سیستمی که به جای یک فیلد ساختاریافته، متن برمیگرداند، جایی است که حاشیه سود به آرامی ناپدید میشود.
کش کردن و دستهبندی دو اهرم بزرگتر هستند. کش کردن زمینه، هزینه ارسال مجدد همان پیشوند طولانی در هر فراخوانی را کاهش میدهد، و حالت دستهای برای کارهایی که کاربر محور نیستند تخفیف میدهد. هر دو تصمیم پیکربندی هستند، نه بازنویسی.
100,000 دلار اعتبار Vertex AI واقعاً چه چیزی میخرد
موجودی 100,000 دلاری بسته به اینکه مصرف شما بر اساس توکن باشد یا نود، یا بیشتر یک سال زمان عملیاتی یا دو ماه از آن را نشان میدهد.
| شکل بار کاری | 100,000 دلار تقریباً چه چیزی را نشان میدهد |
|---|---|
| محصول فقط با اعلان در یک مدل میانرده | ماهها، اغلب کل سال قبل از درآمد |
| محصول RAG با بازیابی زمینهسازی شده | زمان عملیاتی قابل توجه اگر بازیابی کش شود |
| نقاط پایانی سفارشی همیشه فعال، چند منطقهای | بسیار کمتر از انتظار، عمدتاً مصرف ثابت |
| چرخههای تنظیم و ارزیابی | بودجه تحقیقاتی واقعی، که در دورههای پرش مصرف میشود |
| تولید تصویر یا ویدئو در حجم بالا | سریعترین راه برای خرج کردن کل موجودی |
ردیفهای میانی جایی هستند که تخمینها اشتباه میشوند. تیمها هزینه توکن خود را با دقت مدل میکنند، سپس سه نقطه پایانی و یک ایندکس همیشه در حال سرویسدهی را مستقر میکنند و متوجه میشوند که لایه ثابت عدد بزرگتری بوده است. قبل از درخواست، مشخص کنید معماری شما با کدام ساعت کار میکند، سپس برنامه را با استفاده از فیلترهای دستهبندی در AI Perks با آن تطبیق دهید.
اعتبار Vertex AI با چه چیزهایی انباشته میشود
اعتبار Vertex AI خط گوگل صورتحساب شما را پوشش میدهد و چهار مورد دیگر را پوشش نمیدهد، به همین دلیل است که اعتبارات به صورت مجموعهای به جای یکی یکی جمعآوری میشوند.
یک محصول معمولی هوش مصنوعی در ماه دوازدهم هزینه موارد زیر را پرداخت میکند:
- دسترسی به مدل، بخشی در Vertex AI، بخشی مستقیم به یک فروشنده دوم به عنوان برنامه افزونگی
- محاسبات برای آموزش، کارهای دستهای و هر چیزی که به نقطه پایانی مدیریت شده تعلق ندارد
- دادهها، به معنی Postgres، یک فروشگاه برداری و انبار داده
- ابزارها، به معنی مشاهدهپذیری، ارزیابی و دستیارهای کدنویسی
- تحویل، به معنی میزبانی، CDN و ایمیل
هر یک از این لایهها شرکتهایی دارند که برنامههای اعتبار اجرا میکنند، و بیشتر آنها با کمکهزینه ابری سازگار هستند زیرا جداگانه صورتحساب دریافت میکنند. تیمهایی که بدون دور مالی پل به بازار محصول میرسند، معمولاً چهار یا پنج کمکهزینه متوسط را همزمان دارند، نه یک کمکهزینه بزرگ. AI Perks وجود دارد تا نشان دهد کدام ترکیبها فعال هستند و کدام لایهها را پوشش ندادهاید.
بنیانگذاران درباره اعتبارات Vertex AI چه اشتباهی میکنند
گرانترین اشتباه شروع ساعت اعتبار قبل از وجود داشتن بار کاری برای خرج کردن آن است. اعتبارات دارای محدودیت زمانی هستند، و موجودی بزرگ که در طول مرحله نمونه اولیه شروع به تیک زدن میکند، عمدتاً بدون استفاده منقضی میشود.
اشتباه گرفتن پلن رایگان با صورتحساب Vertex. سطوح رایگان توسعهدهنده گوگل محصولی متفاوت از استفاده صورتحساب شده Vertex AI در یک پروژه Cloud است. نمونههای اولیهای که بر روی پلن رایگان ساخته شدهاند، مفروضات سهمیه و قیمتگذاری را به همراه دارند که پس از انتقال باقی نمیمانند، و محدودیتهای نرخ پس از رسیدن ترافیک واقعی متفاوت عمل میکنند.
رها کردن نقاط پایانی و ایندکسهای مستقر شده. هر چیزی را که سرویسدهی نمیکند، لغو استقرار کنید. این عادت واحد ارزشمندتر از هر بهینهسازی اعلان است که اکثر تیمها انجام خواهند داد.
فرض اینکه هر مدل و منطقه پوشش داده میشود. اعتبار به صورتحساب Google Cloud اعمال میشود، اما مدلهای خاص، مناطق و لیستهای شخص ثالث در Model Garden ممکن است شرایط خاص خود را داشته باشند. قبل از طراحی معماری پیرامون یک مدل، تأیید کنید.
رفتار با اعتبارات به عنوان پول رایگان. از هفته اول هزینه را به ازای هر درخواست اندازهگیری کنید. اعتبارات اقتصاد واحد شما را دقیقاً به همان مدتی که دوام میآورند پنهان میکنند، و تیمهایی که آسیب میبینند کسانی هستند که اولین بار صورتحساب واقعی را همزمان با اولین صورتحساب واقعی از مشتریان خود مشاهده میکنند.
درخواست برای یک برنامه. معیارهای تأیید متفاوت هستند، و سه تأییدیه از هشت درخواست بهتر از یک از یک است.
چه چیزهایی باید در کنار اعتبارات Vertex AI پوشش داده شود
یک کمکهزینه ابری لایههای مدل و زیرساخت بودجه هوش مصنوعی را پوشش میدهد و هیچکدام از بقیه را پوشش نمیدهد، بنابراین سوال مفید این است که کدام لایهها هنوز پوشش داده نشدهاند به جای اینکه کدام برنامه واحد بزرگترین است. دستهبندیهای ابزار هوش مصنوعی و ابری در getaiperks.com جایی هستند که بزرگترین موجودیها قرار دارند.
واجد شرایط بودن بیش از مقادیر تغییر میکند. مرحله، تأمین مالی و الزامات ثبت شرکت در هر برنامه متفاوت است، و شرایط فعلی در هر شرکت در AI Perks فهرست شده است به جای اینکه حدس زدن ارزش آن را داشته باشد.
زمانبندی از حجم مهمتر است. یک کمکهزینه تنها به اندازهای که در پنجره آن خرج میکنید ارزش دارد، بنابراین یک موجودی که با سه ماههای که واقعاً ارسال خواهید کرد مطابقت دارد، ارزشمندتر از دو مورد است که همزمان نگهداری شده و با هم منقضی میشوند.
پوشش لایهها، نه تیترها. یک کمکهزینه ابری 100,000 دلاری به علاوه هیچ چیز دیگر، همچنان شما را مجبور به پرداخت هزینه پایگاه داده، مشاهدهپذیری و فروشنده مدل دوم خود میکند.
شرایط جابجا میشوند. برنامههای اعتبار زیرساخت و هوش مصنوعی چندین بار در سال مقادیر و واجد شرایط بودن را تغییر میدهند، بنابراین لیستی که یک بار بررسی شده، در حال حاضر قدیمی است.
سوالات متداول
اعتبار اعتبارات رایگان Vertex AI چقدر است؟
تا 100,000 دلار برای استارتاپهای واجد شرایط، که معمولاً به صورت اعتبار Google Cloud صادر میشود و در Vertex AI و سایر خدمات Cloud هزینه میشود. میزان مصرف آن بستگی به این دارد که آیا مصرف شما بر اساس توکن باشد یا نود. مقادیر فعلی و واجد شرایط بودن در getaiperks.com پیگیری میشوند.
اعتبارات Vertex AI چه چیزی را پوشش میدهند؟
فراخوانی مدلهای مولد، کارهای تنظیم و آموزش، پیشبینی دستهای، جستجوی برداری، نقاط پایانی مستقر شده و خدمات Google Cloud اطراف که برنامه شما استفاده میکند. از آنجایی که این اعتبار Cloud است نه اعتبار مدل تک-فروشنده، همچنین هزینههای ذخیرهسازی، شبکهسازی و دادهها را که در کنار لایه مدل قرار دارند، جذب میکند.
آیا میتوانم از اعتبارات Vertex AI برای Claude و سایر مدلهای غیر گوگل استفاده کنم؟
به طور کلی بله. Model Garden مدلهای شخص ثالث و با وزن باز را در کنار مدلهای خود گوگل فهرست میکند، و استفاده از طریق Google Cloud صورتحساب میشود. در دسترس بودن و شرایط بسته به مدل و منطقه متفاوت است، بنابراین قبل از طراحی معماری پیرامون یک مدل خاص، تأیید کنید که مدل مورد نظر شما در جایی که مستقر میکنید ارائه میشود.
آیا Vertex AI بدون اعتبار برای امتحان رایگان است؟
Google Cloud اعتبار آزمایشی حساب جدید را ارائه میدهد و برخی خدمات دارای سهمیه استفاده رایگان هستند، که راه معمول برای ارزیابی قبل از درخواست برای یک کمکهزینه بزرگتر است. این یک سطح متفاوت از برنامه اعتبار استارتاپ است، با محدودیتهای متفاوت. ببینید در حال حاضر چه چیزی در getaiperks.com در دسترس است.
آیا اعتبارات Vertex AI با اعتبارات OpenAI یا Anthropic انباشته میشوند؟
بله، و باید. آنها صورتحسابهای متفاوتی هستند: اعتبار Vertex AI Google Cloud را پوشش میدهد، در حالی که اعتبارات مدل مستقیم فراخوانی به API خود آن فروشنده را پوشش میدهد. داشتن هر دو به شما یک فروشنده دوم برای افزونگی و اهرم قیمتگذاری میدهد. AI Perks 7.7 میلیون دلار را در 194 شرکت در getaiperks.com پیگیری میکند.
چرا صورتحساب Vertex AI من در حالی که ترافیک ثابت بود افزایش یافت؟
تقریباً همیشه یک منبع مبتنی بر نود. نقاط پایانی مستقر شده، ایندکسهای برداری در حال سرویسدهی و توان عملیاتی رزرو شده صرف نظر از درخواستها ساعتی صورتحساب دریافت میکنند، بنابراین یک ماه کمترافیک همان هزینه یک ماه پرترافیک را دارد. هر چیزی را که ترافیک سرویسدهی نمیکند، لغو استقرار کنید و کارهای غیر فوری را به حالت دستهای منتقل کنید.
در getaiperks.com مشترک شوید →
بر روی Vertex AI بسازید. اجازه دهید اعتبارات لایه مدل را حمل کنند.