محققان در عمل چقدر اعتبار رایگان هوش مصنوعی دریافت میکنند؟
بیشتر محققان میتوانند در هر زمان چهار تا پنج رقم اعتبار رایگان هوش مصنوعی جمعآوری کنند، زیرا آزمایشگاههای مدل، پلتفرمهای ابری، فروشندگان GPU و ابتکارات محاسباتی عمومی، مسیرهای دانشگاهی جداگانهای را اجرا میکنند که با یکدیگر رقابت نمیکنند.
هیچ برنامه واحدی کل سال یک آزمایشگاه را پوشش نمیدهد. الگویی که کار میکند، سه یا چهار گرنت متوسط است که لایههای مختلف صورتحساب را پوشش میدهند و در چرخههای مختلف تمدید میشوند، نه یک گرنت بزرگ که همه در یک زمان منقضی میشود.
مسئله دشوارتر، کشف کردن است. مسیرهای تحقیقاتی به آرامی اعلام میشوند، در زیردامنههایی قرار میگیرند که هیچکس به آنها لینک نمیدهد و به ندرت در جمعبندی اعتبار استارتاپ که بر جستجوها مسلط است، ظاهر میشوند. AI Perks ۷.۷ میلیون دلار اعتبار در ۱۹۴ شرکت را ردیابی میکند، از جمله مسیرهای دانشگاهی و تحقیقاتی که بیشتر لیستها به طور کامل از قلم میاندازند.
کدام ارائهدهندگان اعتبار هوش مصنوعی رایگان برای محققان ارائه میدهند؟
منابع معتبر به چهار گروه تقسیم میشوند: آزمایشگاههای مدل پیشرو، ابرهای هیپرسکیل، فروشندگان GPU و استنتاج، و ابتکارات محاسباتی با بودجه عمومی. هر کدام یک قلم مورد متفاوت را پوشش میدهند، به همین دلیل است که آنها روی هم جمع میشوند.
اندازههای گرنت در زیر باندهای مشاهده شده هستند، نه لیست قیمتهای منتشر شده. ارائهدهندگان جوایز را بر اساس پروژه اندازهگیری میکنند و یک برنامه مشابه میتواند اعداد بسیار متفاوتی را برای یک دانشجوی دکتری انفرادی و یک آزمایشگاه چند ساله با بودجه ارائه دهد.
| ارائهدهنده | اعتبار چه چیزی را پوشش میدهد | شکل معمول گرنت | قویترین برای |
|---|---|---|---|
| Anthropic (Claude) | توکنهای API Claude | ناچیز برای پروژههای فردی، چهار تا پنج رقم برای کارهای با بودجه | تجزیه و تحلیل اسناد با زمینه طولانی، تحقیقات ایمنی و تفسیرپذیری |
| OpenAI | استفاده از API مدل GPT | گرنتهای ثابت، معمولاً در ارقام چهار رقمی پایین برای هر پروژه تایید شده | مطالعات آزمایشی، بازتولید معیار |
| Google Cloud | Vertex AI، Gemini، به علاوه محاسبات عمومی GPU و TPU | چهار رقم میانی مستقیم، بزرگتر از طریق یک موسسه | تیمهای نیازمند مدلها و محاسبات آموزش در یک صورتحساب |
| Microsoft Azure | Azure OpenAI و محاسبات Azure | اغلب به عنوان تخصیص استفاده به جای مبلغ دلاری اعطا میشود | دسترسی سازمانی در مقیاس دانشگاه |
| AWS | مدلهای Bedrock به علاوه مجموعه گستردهتر AWS | بسته به مسیر و منطقه به شدت متفاوت است | آزمایشگاههایی که خطوط لوله داده از قبل در AWS دارند |
| NVIDIA | ساعات GPU و دسترسی به ابر کلاس DGX | تخصیص سختافزار یا محاسبات، نه اعتبار دلاری | دورههای آموزش و تنظیم دقیق، نه فراخوانی API |
| Hugging Face | استنتاج میزبانی شده و گرنتهای GPU جامعه | کوچک، سریع، قابل تمدید | مجموعه دادههای باز، انتشار مدل، نمایش عمومی |
| Together AI، Groq، Fireworks | استنتاج مدل با وزن باز | سطوح رایگان سخاوتمندانه به علاوه اعتبار تحقیقاتی اختیاری | استنتاج دستهای با حجم بالا بر روی مدلهای کلاس Llama و Mistral |
| ابتکارات محاسباتی ملی (آمریکا، اتحادیه اروپا، بریتانیا) | ظرفیت GPU عمومی جمعآوری شده | تخصیص در ساعات GPU، در دورهها اعطا میشود | دورههای آموزش که هیچ فروشنده تکی گرنتی پوشش نمیدهد |
شرایط از مسیری به مسیر دیگر به شدت متفاوت است و شرایط پیوست به یک جایزه به ندرت همانهایی هستند که متقاضیان انتظار دارند. شرایط فعلی هر کدام در getaiperks.com فهرست شده است.
چرا هزینههای تحقیقاتی هوش مصنوعی در مقیاس متفاوت عمل میکنند
هزینههای تحقیق به جای خطی بودن، پراکنده است، زیرا ارزیابی هر بار که یک پرامپت، یک مدل یا یک پارامتر تغییر میکند، کل مجموعه داده را مجدداً اجرا میکند. صورتحساب یک تیم محصول با کاربران افزایش مییابد. صورتحساب یک آزمایشگاه با تعداد شرایط آزمایشی افزایش مییابد که بسیار سریعتر انباشته میشود.
این بزرگترین دلیلی است که محققان نیازهای خود را دست کم میگیرند:
| محرک هزینه | چرا در تحقیق گزنده است | اثر عملی |
|---|---|---|
| ablation (حذف) | هر نسخه، مجموعه کامل ارزیابی را مجدداً اجرا میکند | یک جدول میتواند ۱۰ تا ۳۰ برابر یک عبور واحد هزینه داشته باشد |
| تکرارپذیری | نتایج باید ماهها بعد در یک بازپخش باقی بمانند | همان هزینه دو بار، گاهی سه بار اتفاق میافتد |
| زمینه طولانی | مقالات، رونوشتها و کدهای کد، پنجره را پر میکنند | هزینه هر فراخوانی در بالای محدوده قیمت قرار میگیرد |
| برچسبگذاری با دخالت انسان | حاشیهنویسی با کمک مدل در کل مجموعه اجرا میشود | حجم، نه پیچیدگی، صورتحساب را هدایت میکند |
| درخواستهای بازبین | دور دوم، آزمایشهایی را میخواهد که بودجهبندی نکردهاید | هزینه پس از بسته شدن سال گرنت دریافت میشود |
دو نتیجه عملی. اول، استنتاج دستهای و صفبندی شده به طور قابل توجهی ارزانتر از فراخوانیهای تعاملی با حجم کل یکسان است، و بیشتر کارهای تحقیقاتی ذاتاً دستهای هستند. دوم، اعتبار زمانی ارزشمندتر است که قبل از آزمایشها به جای در حین آنها دریافت شود، که زمانبندی را بخشی از استراتژی میسازد.
اعتبار تحقیقاتی با چه مواردی روی هم جمع میشود؟
اعتبارات مدل، اعتبارات محاسباتی و اعتبارات ابزار، سه صورتحساب جداگانه هستند و یک آزمایشگاه که فقط یکی از آنها را دارد، همچنان پول واقعی پرداخت میکند.
یک پشته تحقیقاتی معمولی چهار لایه دارد:
- دسترسی به مدل: توکنهای API از Anthropic، OpenAI، Google یا یک میزبان با وزن باز
- محاسبات: ساعات GPU برای آموزش، تنظیم دقیق و هر چیزی که خود میزبانی شده است
- داده و ذخیرهسازی: ذخیرهسازی اشیاء، پایگاه دادههای برداری، Postgres مدیریت شده
- ابزار: ردیابی آزمایش، حاشیهنویسی، ارکستراسیون، قابلیت مشاهده
بسیاری از فروشندگان در دو لایه آخر، سطوح دانشگاهی یا منبع باز را اجرا میکنند که سخاوتمندانهتر از سطوح استارتاپ آنها هستند و اغلب برای کارهای منتشر شده کاملاً رایگان هستند. آنها همچنین لایههایی هستند که محققان فراموش میکنند در مورد آنها بپرسند، زیرا عدد اصلی همیشه بر روی اعتبارات مدل است.
گرنتهای سازمانی و شخصی نیز معمولاً روی هم جمع میشوند. تخصیص ابری در سطح دپارتمان معمولاً اعتبار فردی را که یک محقق برای پروژه خود دریافت میکند، مصرف نمیکند. AI Perks دستهبندیهای سازگار و دستهبندیهای انحصاری متقابل را پوشش میدهد.
چرا زمانبندی تعیین میکند که یک گرنت چقدر ارزش دارد
زمان پیشرو، نه ارزش اصلی، تعیین میکند که یک آزمایشگاه چقدر از اعتبار گرنت را در واقع میتواند خرج کند. دو جایزه با اندازه یکسان، بسته به اینکه در کجای آزمایشهایی که قرار است تأمین مالی کنند قرار بگیرند، ارزش بسیار متفاوتی دارند.
سه چیز باعث میشود اعتبارات تحقیقاتی به طور غیرمعمولی به زمان حساس باشند:
مسیرهای کند و مسیرهای فوری حالات شکست مخالف هستند. برخی جوایز در دورههای بازبینی تصمیمگیری میشوند و با سرعت خود پاسخ میدهند. برخی دیگر در یک دقیقه ادعا میشوند و لحظهای که پذیرفته میشوند شروع به شمارش معکوس میکنند. آزمایشگاهی که با هر دو به یک شکل رفتار میکند، منتظر آنهایی است که زود نیاز داشت و آنهایی را که دیر نیاز داشت میسوزاند.
لایه ابزار و داده، لایه خاموش است. در کنار اعتبارات اصلی مدل، دست کم گرفتن آن آسان است و این لایهای است که هزینههای تکراری را که مدتها پس از از بین رفتن اعتبارات مدل باقی میمانند، حذف میکند.
برنامهها حرکت میکنند. مسیرهای تحقیقاتی بسیار بیشتر از برنامههای استارتاپ باز، بسته و تغییر اندازه میشوند و یک پنجره از دست رفته میتواند یک چرخه گرنت کامل هزینه داشته باشد. اینکه کدام مسیرها در حال حاضر فعال هستند و چگونه محققان بیشترین بهره را از آنهایی که واجد شرایط آن هستند میبرند، چیزی است که AI Perks حفظ میکند.
محققان در مورد اعتبارات رایگان هوش مصنوعی چه اشتباهی میکنند
گرانترین اشتباه، رفتار با اعتبار به عنوان تخفیف است نه به عنوان ضربالاجل. تقریباً همه آنها محدود به زمان هستند و اعتبار استفاده نشده به سادگی به ارائهدهنده بازگردانده میشود.
خطاهای تکراری:
درخواست از یک ارائهدهنده. نرخهای تأیید به اندازهای بالا نیستند که یک درخواست واحد را به یک استراتژی تبدیل کنند. چهار درخواست با سه تأیید، بهتر از یک ارسال دقیقاً صیقل داده شده است.
فرض اینکه یک برنامه استارتاپ، دانشگاهیان را مستثنی میکند. بسیاری این کار را نمیکنند، به ویژه برای شرکتهای اسپینآوت، شرکتهای وابسته به آزمایشگاه و محققانی که کار خود را تجاری میکنند. سهم قابل توجهی از ۷.۷ میلیون دلار ردیابی شده در AI Perks برای محققانی باز است که فرض میکنند این برای آنها نیست.
نادیده گرفتن مدلهای با وزن باز. سهم زیادی از کارهای تحقیقاتی به خوبی بر روی مدلهای با وزن باز با کسری از قیمتگذاری پیشرو اجرا میشوند. رزرو اعتبارات پیشرو برای فراخوانیهایی که واقعاً به قابلیت پیشرو نیاز دارند، میتواند طول عمر مؤثر را دو برابر کند.
بودجهبندی برای مقاله و نه برای مجازات. آزمایشهای درخواستی بازبین به طور معمول پس از انقضای اعتبار میرسند. یک ذخیره نگه دارید.
هرگز مجدداً درخواست نکنید. تمدید و گرنتهای دوم رایج هستند و بیشتر محققان هرگز درخواست نمیکنند. یک پروژه تکمیل شده با خروجیهای منتشر شده، درخواست قویتری نسبت به گرنت اول دارد.
سوالات متداول
آیا برای دریافت اعتبار تحقیقاتی هوش مصنوعی به وابستگی دانشگاهی نیاز دارم؟
همیشه نه. برخی مسیرها فراتر از دانشگاهها را میبینند و برخی دیگر نه، و آنهایی که این کار را انجام میدهند تمایل دارند سابقه عمومی خروجی را بیشتر از آدرس ایمیل سازمانی وزن دهند. این به اندازهای بین ارائهدهندگان متفاوت است که ارزش بررسی مسیر به مسیر را دارد تا اینکه به هر حال فرض کنید. اینکه کدامها برای محققان بدون وابستگی باز هستند در getaiperks.com فهرست شده است.
در مجموع، اعتبار رایگان هوش مصنوعی برای محققان چقدر ارزش دارد؟
مجموعهای با چینش خوب از درخواستها معمولاً در هر زمان در محدوده چهار تا پنج رقم قرار میگیرد، با تخصیص محاسبات عمومی که ساعات GPU را به جای دلار اضافه میکنند. آزمایشگاههای با بودجه به بالاتر میرسند. AI Perks ۷.۷ میلیون دلار اعتبار در ۱۹۴ شرکت را ردیابی میکند، از جمله مسیرهای تحقیقاتی که بیشتر جمعبندیها کاملاً حذف میکنند.
آیا میتوانم از اعتبارات تحقیقاتی برای یک استارتاپ که از آزمایشگاه من جدا شده است استفاده کنم؟
معمولاً نه با همان گرنت. مسیرهای تحقیقاتی و مسیرهای تجاری در بیشتر ارائهدهندگان به طور جداگانه نگهداری میشوند. مسیر بهتر، داشتن هر دو است: یک جایزه تحقیقاتی برای کار دانشگاهی و یک مسیر استارتاپ جداگانه برای شرکت. این دو به ندرت در تضاد هستند و دستهبندیها در getaiperks.com نگاشت شدهاند.
آیا مدلهای با وزن باز جایگزین واقعی برای اعتبارات پیشرو هستند؟
برای بخش زیادی از تحقیقات، بله. طبقهبندی، استخراج، جاسازی و حاشیهنویسی دستهای به خوبی بر روی مدلهای با وزن باز با کسری از قیمتگذاری پیشرو اجرا میشوند. مدلهای پیشرو هزینه خود را در استدلال زمینه طولانی و تولید سخت به دست میآورند. تقسیم کارهای بین هر دو، نحوه دوام آوردن گرنت اعتبار ثابت برای یک سال کامل در آزمایشگاهها است.
وقتی اعتبار تحقیقاتی منقضی میشود چه اتفاقی میافتد؟
اعتبار استفاده نشده در تقریباً همه برنامهها از بین میرود و تمدیدها در بهترین حالت اختیاری هستند. به همین دلیل است که چینش مهمتر از ارزش کل است: گرنتی که قبل از طراحی آزمایشها ادعا میشود، اغلب نیمه تلف میشود. رفتار انقضا به شدت با ارائهدهنده متفاوت است، بنابراین قبل از پذیرش گرنت، آن را تأیید کنید نه بعد از آن.
آیا گرنتهای GPU و اعتبار API به عنوان یک چیز در نظر گرفته میشوند؟
خیر، و اشتباه گرفتن آنها یک خطای برنامهریزی رایج است. تخصیصهای GPU آموزش، تنظیم دقیق و استنتاج خود میزبانی شده را پوشش میدهند. اعتبارات API فراخوانی به یک مدل میزبانی شده را پوشش میدهند. آزمایشگاهی که هر دو را انجام میدهد به هر دو نیاز دارد، و داشتن تنها یکی، صورتحساب زندهای را بر روی دیگری باقی میگذارد.
در getaiperks.com مشترک شوید →
آزمایشها را اجرا کنید. بگذارید ارائهدهندگان هزینه محاسبات را تأمین کنند.