AI Perks pakub juurdepääsu eksklusiivsete allahindluste, krediitide ja pakkumistega AI tööriistadele, pilveteenustele ja API-dele, et aidata idufirmadel ja arendajatel raha säästa.
Kui palju tasuta tehisintellekti krediiti saab teadlane tegelikult?
Enamik teadlasi saab korraga koguda neli kuni viis numbrit tasuta tehisintellekti krediiti, sest mudelite laborid, pilveplatvormid, GPU-tarnijad ja avalikud arvutusalgatused töötavad eraldiseisvatel akadeemilistel radadel, mis ei konkureeri omavahel.
Ükski programm ei kata labori täisaastat. Töötav mudel on kolm või neli keskmist toetust, mis katavad erinevad arve osad ja mida uuendatakse erinevatel tsüklitel, mitte üks suur toetus, mis aegub korraga.
Raskem probleem on avastamine. Uuringurajad kuulutatakse välja vaikselt, asuvad alamdomeenidel, millele keegi ei lingi, ja ilmuvad harva käivitusettevõtete krediidi ülevaadetes, mis domineerivad otsingutes. AI Perks jälgib 7,7 miljonit dollarit krediiti 194 ettevõttes, sealhulgas akadeemilisi ja teaduslikke radu, mida enamikku nimekirju täielikult ei hõlmata.
Parimad AI-oskuste krediidid idufirmadele
Kandideerige otse nende kinnitatud programmide kaudu.
Claude (via program) $100,000
Sobib varajases staadiumis idufirmadele
OpenAI (via program) $2,500
Sobib varajases staadiumis idufirmadele
Anthropic $20,000
Sobib varajases staadiumis idufirmadele
AWS $300,000
Sobib varajases staadiumis idufirmadele
Google Cloud $350,000
Sobib varajases staadiumis idufirmadele
Lovable Up to $150
Sobib varajases staadiumis idufirmadele
Millised pakkujad pakuvad teadlastele tasuta tehisintellekti krediiti?
Usaldusväärsed allikad jagunevad nelja rühma: piirmudelite laborid, hüperskaala pilved, GPU- ja järeldustarnijad ning avalikult rahastatud arvutusalgatused. Igaüks katab erineva kirje, seepärast need kuhjuvad.
Allpool toodud toetussummad on täheldatud vahemikud, mitte avaldatud hinnakirjad. Pakkujad määravad toetuste suurused projekti järgi ning sama programm võib anda väga erinevaid numbreid üksikule doktorandile ja rahastatud mitmeaastasele laborile.
| Pakkuja | Mida krediit katab | Tüüpiline toetuse kuju | Tugevaim |
|---|---|---|---|
| Anthropic (Claude) | Claude API märgid | Üksikprojektide jaoks tagasihoidlik, rahastatud tööde jaoks neli kuni viis numbrit | Pika kontekstiga dokumendi analüüs, ohutuse ja tõlgendatavuse uuringud |
| OpenAI | GPT mudeli API kasutus | Kindlad toetused, enamasti mõne tuhande dollari ulatuses projekti kohta | Pilot-uuringud, võrdlusuuringute reprodutseerimine |
| Google Cloud | Vertex AI, Gemini, lisaks üldine GPU ja TPU arvutus | Keskmised neli numbrit otse, suuremad institutsiooni kaudu | Meeskonnad, kes vajavad mudeleid ja koolitusarvutust ühel arvel |
| Microsoft Azure | Azure OpenAI ja Azure arvutus | Sageli antakse kasutuseraldisena, mitte dollarites | Ülikoolitasemel institutsionaalne juurdepääs |
| AWS | Bedrock mudelid pluss laiem AWS-i valdkond | Suures osas sõltub rajast ja piirkonnast | Laborid, mille andmevoogud on juba AWS-is |
| NVIDIA | GPU tunnid ja DGX-klassi pilve juurdepääs | Riistvara või arvutuseraldus, mitte dollarikrediit | Koolitus- ja täpsustamised, mitte API-kutsed |
| Hugging Face | Hostitud järeldus ja kogukonna GPU toetused | Väikesed, kiired, uuendatavad | Avatud andmestikud, mudelite väljaandmised, avalikud demoväljapanekud |
| Together AI, Groq, Fireworks | Avatud kaaluga mudeli järeldus | Helbed tasuta tasemed pluss kaalutlusõiguslikud teadusauhinnad | Suuremahuline partii järeldus Llama ja Mistral klassi mudelite kohta |
| Riiklikud arvutusalgatused (USA, EL, Ühendkuningriik) | Kogutud avalik GPU võimekus | Eraldised GPU tundide kohta, antakse voorudena | Koolitused, mida ükski tarnija toetus ei kataks |
Tingimused erinevad raja lõikes järsult ja auhinnaga seotud tingimused on harva need, mida taotlejad ootavad. Praegused tingimused igale on loetletud aadressil getaiperks.com.
Miks uurimistöö AI kulud käituvad erinevalt suurel skaalal
Uuringukulud on hüplikud, mitte lineaarsed, kuna hindamine viib iga kord, kui muudetakse päringut, mudelit või parameetrit, kogu andmekogumi uuesti läbi. Tootmismeeskonna arve kasvab koos kasutajatega. Labori arve kasvab eksperimentaalsete tingimuste arvuga, mis komponendid kasvavad palju kiiremini.
See on suurim põhjus, miks teadlased alahindavad seda, mida nad vajavad:
| Kulude tegur | Miks see uurimistöös murtakse | Praktiline mõju |
|---|---|---|
| Ablatsioonid | Iga variant viib kogu hindamise komplekti uuesti läbi | Üks tabel võib maksta 10–30 korda rohkem kui üks läbimine |
| Reprodukteeritavus | Tulemused peavad kestma kuu hiljem uuesti läbiviimist | Sama kulu tekib kaks korda, mõnikord kolm korda |
| Pikk kontekst | Paberid, transkriptid ja koodibaasid täidavad akna | Kõne kohta maksumus on hinnakirja ülaosas |
| Inimese-in-the-loop märgistamine | Mudeliga abistatud annotatsioon töötab kogu korpuse ulatuses | Maht, mitte keerukus, juhib arvet |
| Läbivaataja taotlused | Teine voor küsib eksperimente, mida te ei eelarvestanud | Kulud saabuvad pärast toetusaasta lõppu |
Kaks praktilist tagajärge. Esiteks, partii ja järjekorras olev järeldus on dramaatiliselt odavam kui interaktiivsed kõned sama kogumahu korral, ja enamik uurimistöö töökoormusi on iseloomult partiidena. Teiseks, krediidid on väärt palju rohkem, kui need saabuvad enne eksperimente, mitte nende ajal, mis muudab ajastamise strateegia osaks.
Parimad AI-oskuste krediidid idufirmadele
Kandideerige otse nende kinnitatud programmide kaudu.
Claude (via program) $100,000
Sobib varajases staadiumis idufirmadele
OpenAI (via program) $2,500
Sobib varajases staadiumis idufirmadele
Anthropic $20,000
Sobib varajases staadiumis idufirmadele
AWS $300,000
Sobib varajases staadiumis idufirmadele
Google Cloud $350,000
Sobib varajases staadiumis idufirmadele
Lovable Up to $150
Sobib varajases staadiumis idufirmadele
Millega uurimiskrediidid kuhjuvad?
Mudelikrediidid, arvutuskrediidid ja tööriistakrediidid on kolm eraldi arvet ning labor, millel on ainult üks neist, maksab ikkagi päris raha.
Tüüpiline uurimistöö kuhjumine koosneb neljast kihist:
- Mudeli juurdepääs: API märgid Anthropicilt, OpenAI-lt, Google'ilt või avatud kaaluga hostilt
- Arvutus: GPU tunnid koolitamiseks, täpsustamiseks ja kõike, mis on ise hostitud
- Andmed ja salvestus: objektide salvestus, vektorandmebaasid, hallatud Postgres
- Tööriistad: eksperimentide jälgimine, annotatsioon, orkestratsioon, vaadeldavus
Enamik viimase kahe kihi müüjaid töötab akadeemiliste või avatud lähtekoodiga tasemetel, mis on heldemad kui nende käivitusettevõtete tasemed ja sageli tasuta avaldatud tööde eest. Need on ka kihid, mille kohta teadlased unustavad küsida, sest pealkirja number on alati mudelikrediitide kohta.
Institutsionaalsed ja isiklikud toetused kuhjuvad ka tavaliselt. Osakonna tasemel pilveeraldis ei tarbi tavaliselt individuaalset krediiti, mida teadlane oma projekti jaoks saab. AI Perks katab, millised kategooriad on ühilduvad ja millised on vastastikku välistavad.
Miks ajastus otsustab, kui palju toetus on väärt
Lead time, mitte pealkirjaväärtus, otsustab, kui palju krediidi toetust labor tegelikult kulutada saab. Kaks samasuguse suurusega auhinda on väga erineva väärtusega, sõltuvalt sellest, kuhu need paigutuvad võrreldes nende rahastama mõeldud eksperimentidega.
Kolm asja muudavad uurimiskrediidid ebatavaliselt ajastundlikuks:
Aeglased ja kiired rajad on vastupidised ebaõnnestumisrežiimid. Mõned auhinnad otsustatakse ülevaatvoorudes ja vastatakse omas tempos. Teisi nõutakse minuti jooksul ja nende allakäik hakkab lugema hetkest, mil need vastu võetakse. Labor, mis kohtleb mõlemat ühtemoodi, ootab neid, mida ta vajas alguses, ja põletab neid, mida ta vajas hiljem.
Tööriistade ja andmekiht on vaikne. Seda on lihtne alahinnata pealkirjamudeli krediitide kõrval ja see on kiht, mis eemaldab püsikulud, mis jäävad alles pärast mudelikrediitide kadumist.
Programmid liiguvad. Uuringurajad avanevad, sulguvad ja nende suurust muudetakse palju sagedamini kui käivitusettevõtete programme ning möödunud aken võib maksta täie toetuse tsükli. Millised rajad on praegu avatud ja kuidas teadlased saavad nendest kõige rohkem kasu, milleks nad kvalifitseeruvad, seda AI Perks hooldab.
Parimad AI-oskuste krediidid idufirmadele
Kandideerige otse nende kinnitatud programmide kaudu.
Claude (via program) $100,000
Sobib varajases staadiumis idufirmadele
OpenAI (via program) $2,500
Sobib varajases staadiumis idufirmadele
Anthropic $20,000
Sobib varajases staadiumis idufirmadele
AWS $300,000
Sobib varajases staadiumis idufirmadele
Google Cloud $350,000
Sobib varajases staadiumis idufirmadele
Lovable Up to $150
Sobib varajases staadiumis idufirmadele
Mida teadlased tasuta AI-krediitide kohta valesti aru saavad
Kõige kallim viga on krediitide käsitlemine allahindlusena, mitte tähtajana. Peaaegu kõik neist on ajaliselt piiratud ja kasutamata krediit tagastatakse tarnijale.
Korduvad vead:
Ühele pakkujale kandideerimine. Heakskiidu määrad ei ole kusagil piisavalt kõrged, et üks taotlus oleks strateegia. Neli taotlust kolme heakskiiduga on parem kui üks hoolikalt lihvitud esitus.
Eeldades, et käivitusettevõtte programm välistab akadeemikud. Paljud ei tee seda, eriti tööstusettevõtete, laboriga seotud ettevõtete ja teadlaste jaoks, kes oma tööd kommertsialiseerivad. Üllatav osa AI Perks jälgitavast 7,7 miljonist dollarist on avatud teadlastele, kes eeldavad, et see ei ole nende jaoks.
Avatud kaaluga mudelite ignoreerimine. Suur osa uurimistöö töökoormusest töötab suurepäraselt avatud kaaluga mudelitega murdosa piirihindadest. Piirmudelite krediitide reserveerimine kõnedele, mis tõesti vajavad piirivõimet, võib kahekordistada efektiivset tööulatust.
Eelarve koostamine paberi jaoks, mitte vastulausumise jaoks. Läbivaataja poolt taotletud eksperimendid saabuvad tavaliselt pärast krediitide aegumist. Hoidke reservi.
Mitte kunagi uuesti taotlemine. Uuendused ja teised toetused on tavalised ning enamik teadlasi ei küsi kunagi. Valmistatud projekt koos avaldatud väljunditega on tugevam taotlus kui see, mis võitis esimese toetuse.
Korduma kippuvad küsimused
Kas ma vajan uurimis AI-krediitide saamiseks ülikooli sidumist?
Mitte alati. Mõned rajad vaatavad kaugemale ülikoolidest ja teised mitte, ja need, kes seda teevad, kipuvad avaliku väljundi rekordi kaaluma rohkem kui institutsionaalse e-posti aadressi. See varieerub piisavalt pakkujate vahel, et tasub kontrollida rada raja kaupa, mitte eeldada üht ega teist. Millised on avatud sidumata teadlastele, on loetletud aadressil getaiperks.com.
Kui palju tasuta AI-krediidid teadlastele kokku maksavad?
Hästi järjestatud taotluste kogumik maandub tavaliselt korraga nelja kuni viie numbri vahemikku, avalikud arvutuseraldised lisavad GPU tunnid ülevalt, mitte dollarit. Rahastatud laborid jõuavad kõrgemale. AI Perks jälgib 7,7 miljonit dollarit krediiti 194 ettevõttes, sealhulgas teadusrajad, mida enamik ülevaateid jätab täielikult välja.
Kas ma saan kasutada uurimiskrediite oma laborist väljakasvanud käivitusettevõtte jaoks?
Tavaliselt mitte sama toetusega. Uurimisrajad ja kaubandusrajad on enamiku pakkujate poolt kavatsuslikult eraldatud. Parem tee on mõlema hoidmine: uurimistoetus akadeemiliseks tööks ja eraldi käivitusettevõtte rada ettevõtte jaoks. Need kaks harva konflikti ja kategooriad on kaardistatud aadressil getaiperks.com.
Kas avatud kaaluga mudelid on tõeline piir krediitide asendus?
Suure osa uurimistööde jaoks, jah. Klassifitseerimine, ekstraheerimine, inkorporeerimine ja masstanoteerimine töötab hästi avatud kaaluga mudelitega murdosa piirihindadest. Piirmudelid teenivad oma kulu pika konteksti järelduste ja raske genereerimise pealt. Töökoormuse jagamine mõlema vahel on see, kuidas laborid panevad fikseeritud krediidi toetuse kestma terve aasta.
Mis juhtub, kui uurimiskrediidid aeguvad?
Kasutamata krediit läheb peaaegu igast programmist kaotsi ja pikendused on igal juhul valikulised. Sellepärast on järjestamine olulisem kui koguväärtus: enne eksperimentide kavandamist taotletud toetus läheb sageli pooleldi raisku. Aegumiskäitumine varieerub pakkujati järsult, seega kinnitage see enne toetuse vastuvõtmist, mitte pärast.
Kas GPU toetused ja API-krediidid loetakse samaks?
Ei, ja nende segiajamine on tavaline planeerimisviga. GPU eraldised katavad koolituse, täpsustamise ja ise hostitud järelduse. API-krediidid katavad kõned hostitud mudelile. Mõlemat tegev labor vajab mõlemat ja ainult ühe hoidmine jätab teise peale elava arve.
Telli aadressil getaiperks.com →
Teostage eksperimendid. Laske pakkujatel arvutust rahastada.
