Írta: Richard Nieva / Fordította: Zsadon Béla
Jonathan Ross februárban, Oslóban, egy sereg norvég parlamenti képviselőnek és tech cégvezetőnek tartott találkozón érezte először, hogy valami nincs rendben. A Groq nevű MI-csip-startup negyvenkétéves CEO-ja azt remélte, hogy bemutatója, aminek éppen derekán járt, felpezsdülést hozhat lankadó cégébe. Egy MI-csetrobotról beszélt, ami szinte azonnal válaszol egy-egy kérdésre, gyorsabban, mint azt emberi lény elolvasni képes. Csak hát némi lemaradásban voltak. Ez aggasztotta Rosst. A bemutató egy, a szupergyors válaszokért felelős célcsipek teljesítményét demonstráló Groq-alapú európai adatközpontról szólt. „Folyton ellenőriztem a számokat – emlékszik vissza. – Nem értették, miért vagyok annyira zavarban.”
A bűnös a felhasználóözön volt. Egy nappal Ross oslói bemutatója előtt egy techcég-alapító „villámgyors válaszokra képes MI-motorról” tweetelt, a hír berobbant, és a rendszer online demóverzióján generált hatalmas forgalom lebénította a cég szervereit. Ez gond volt ugyan, de jófajta gond.
Nyolc éve, amikor megalapították a Groqot, Ross kifejezetten az iparágban „inferencia” néven ismert funkcióra kívánt MI-csipeket tervezni, vagyis a mesterséges intelligenciának arra az elemére, ami már megtanultak új helyzetekben való alkalmazásával utánozza az emberi gondolkodást. Ettől képes az okostelefonunk megállapítani kutyánk addig sosem látott képéről, hogy corgi, ezzel tud egy képgenerátor Ferenc pápára Balenciaga kabátot adni. Ez nagyban különbözik az MI másik nagy számítástechnikai kínjától, a hatalmas modellek kezdeti betanításától.
De 2022 végéig, amíg az OpenAI nem váltott ki globális őrületet a ChatGPT kihozatalával, nem volt jelentős kereslet a szupergyors inferencia iránt, a cég csak botorkált. „A Groq nem egyszer a sír szélén táncolt” – idézi fel Ross a startup San José-i félvezetőlaborjából, Kaliforniából az egyik mélypontot 2019-ből. Akkor a cég egy hónapra volt a fizetésképtelenségtől. „Talán egy kicsit korán kezdtük a Groqot.”
Most azonban, hogy az MI-modellek megalkotásának és futtatásának számításiteljesítmény-igénye akkora, hogy globális szinten okoz áramellátási zavarokat, úgy fest, eljött a Groq ideje. Egyaránt válhat zavaró tényezővé vagy klasszikus csipgyártó óriások akvizíciós célpontjává. A kereslet annyira kielégíthetetlen, hogy az Nvidia piaci értékét 2023-ban 60,9 milliárd dollár bevétel mellett hárombillió dollárra növelte. Ehhez képest a Groq még csecsemő, a céget ismerő pénzügyesek alig kétmillió dollárra becsülik a bevételeit. De a csipjeik iránti érdeklődés nő, egyes források szerint a vállalat idénre, talán optimistán, százmillió dolláros forgalmat vár. „A számítás az új olaj” – mondja Ross.
A privát felhőalapú számtech cégeket soroló Forbes-listán, a kilencedszer megjelenő Cloud 100-on idén tizenhat MI-cég van, tavaly nyolc volt, öt évvel ezelőtt tulajdonképpen egy sem. Mivel az MI-csipek piaca 2027-re várhatóan eléri az 1,1 billió dollárt, Ross szerint az inferenciára fókuszálva kihasíthatnak egy szeletet az Nvidia elképesztő, nyolcvanszázaléknyi piacrészéből. Az IDC kutatócég szerint ez a piac idén megér vagy 39 milliárd dollárt, és a következő négy év alatt 60,7 milliárd dollárosra fúvódhat föl.
A Groqhoz hasonló vetélytársak derűlátók, mivel az Nvidia csipjei eredetileg egyáltalán nem MI-alkalmazásokra valók. A Jensen Huang Nvidia-CEO által 1999-ben bemutatott grafikai processzorokat (GPU-kat) nagy grafikai igényű videójátékokhoz tervezték. Vak véletlen, hogy ezek bizonyultak leghasználhatóbbnak az MI-rendszerek betanításánál. A Groq és az új generációs csipekkel foglalkozó startuphullám cégei, például a Cerebras (piaci érték: négymilliárd dollár) vagy a SambaNova (5,1 milliárd) résen vannak. „A nulláról indulók közül senki sem választott GPU-t ilyen feladatra” – mondja Andrew Feldman, a Cerebras CEO-ja.
De nem csak startupok akarják az Nvidiát letaszítani a trónról. Az Amazon és a Microsoft is fejleszt MI-csipeket. De a Groq nyelvfeldolgozó egységnek nevezett csipjei (Language Processing Unit, LPU) annyira gyorsak, hogy ők vannak előnyben. 2024-ben egy befektetőknek tartott bemutatón a vállalat azzal reklámozta csipjeit, hogy négyszer gyorsabbak, ötször olcsóbbak és háromszor energiatakarékosabbak, mint az Nvidia inferenciára használt GPU-i. A Groq most egy komoly Series D tőkebevonásnál tart, bennfentes források szerint a Black Rock vezette körtől legalább 350 millió dollár tőke és legalább kétmilliárd dollár cégérték várható.
Déjà View
Álbotok
Az MI bizonyos feladatokban jobb az emberek többségénél, például jobban érettségizne, vagy jobban rajzol űrruhás macskákat. Arról azért még vita dúl, hogy a nagy nyelvi modellek valóban intelligensek-e, vagy csak visszaböfögik, amit korábban hallottak. Íme, néhány látszólag intelligens gép a történelmi múltból:
KR. U. 75 KÖRÜL: Hérón alexandriai görög matematikus automatikusan bort öntögető szobrokat tervez a templomokba, isteni csodával ámítva a híveket.
1769: Kempelen Farkas Ausztriában bemutatja „A Török” nevű sakkozógépét, aminek alsó, asztalszerű részébe egy (nyilván kis termetű) sakkmestert rejtett. Állítólag legyőzte Franklint és Napóleont is.
1939: A New York-i világkiállításon fellép Elektro, a beszélő és cigarettázó robot. De persze előre felvett szövegeket mondott, ráadásul külön személyzetnek kellett kitakarítania a kátrányt a „tüdejéből”.
1965: Megjelenik ELIZA. Joseph Weizenbaum programja volt az egyik első számítógépes „terapeuta”. Bár egyesek meggyőzőnek találták, a csetbot valójában csak olyan konzervválaszokat adott, hogy „mondanád, hogy pszichés problémáid vannak?”, vagy hogy „mesélj még”.
„Inferenciasebességük egyértelműen jobb bármi másénál a piacon” – mondja Aemish Shah, a Groq több befektetési körében is részt vevő General Global Capital egyik alapítója.
A Groq két éve árulja csipjeit, ezalatt olyan vásárlói lettek, mint az Argonne National Laboratory. Ez a Manhattan Projectből kinőtt szövetségi kutatóintézet a magfúzió (a Napban lejátszódó termonukleáris reakció) tanulmányozására használta a Groq csipeket. Partnerszerződést kötött a Groqkal a szaúdi olajvállalat technológiai részlege, az Aramco Digital is.
A márciusban elindított GroqCloud szolgáltatással a fejlesztők hozzáférést bérelhetnek a Groq csipjeihez, vagyis nem kell megvenni őket. A fejlesztők beetetésére a Groq ingyenhozzáférést kínált: az első hónapban hetvenezren iratkoztak fel. A szám azóta is nő, már meghaladta a 280 ezret. Június 30-án elindították a fizetős rendszert, és ezzel egy időben leszerződtették COO-nak Stuart Pann ex-Intel-főnököt, skálázná fel a cég bevételeit és forgalmát. Pann-nak minden oka megvan a bizakodásra: a GroqCloudon a felhasználói bejegyzések negyven százaléka fizetős többlet-számításiteljesítményt kér.
„A Groq csip egyszerűen torkon ragad” – mondja Yann LeCun, a Meta vezető MI-szakértője. LeCun Ross számítástechnika-tanára volt a NYU-n, és nemrég a Groq műszaki tanácsadója lett. Ross a Google-nál cseperedett, abban a csoportban dolgozott, amelyik a gépi tanulásra optimalizált hardvereket, a „tenzorfeldolgozó egységeket” (TPU) készítette. Ross 2016-ban otthagyta a Google-t, és szintén google-os kollégájával, Doug Wightmannal elindították a Groqot, az első CEO Wightman lett. Még abban az évben összehoztak a Social Capital kockázatitőke-alap vezetésével egy tízmillió dolláros kört, ezután azonban már nehezen találtak új befektetőket. A céget néhány évvel később elhagyó Wightman nem válaszolt a Forbes interjúkéréseire.
Újak és figyelemre méltók
Ramp +
Helyezés: 37.
CEO: Eric Glyman
Piaci érték: 7,7 milliárd USD
Céges bankkártyák, költségkezelés
Miután Glyman 2016-ban eladta a Capital One-nak első cégét, a Paribus online repülőjegyár-követőt, figyelme a fintech felé fordult, és három évvel később a Ramp egyik alapítója lett. A New York-i startup „digitális” hitelkártyákat kínál egyéni limitekkel és banki funkciókkal olyan tech cégeknek, mint a Shopify, a Discord és a Glossier. A Ramp takarékoskodni segít a vállalati kártyákat használóknak és cégeiknek egyaránt. „Nagyszerű dolog minden elköltött száz dollárból egy dollárt visszakapni – mondja Glyman –, de a bankszámlánknak az a legjobb, ha nem költjük el azt a száz dollárt.”
Most is vannak még kételkedők. Egy befektető azzal hagyta ki a Groq következő finanszírozási körét, hogy szerinte a cég felfogása ugyan „eredeti”, de mint szellemi tulajdon hosszú távon nem védhető. A másfél milliárd dolláros MI-infrastruktúra-cég, a Lambda Labs felhőszolgáltatási főnöke azt mondja, startupjuk nem gondol Groq vagy bármilyen más célcsip szolgáltatására a felhőjükben. „Jelenleg nagyon nehéz nem Nvidiában gondolkodni” – mondja.
Ross tudja, hogy hegymenetben vannak. „Mi vagyunk a kopaszok ebben a seregben – mondja. – Az Nvidiához képest még nem vagyunk sehol. Hát, mindenki minket bámul, hogy na, most mihez kezdtek?”
Ramp +
Helyezés: 37.
CEO: Eric Glyman
Piaci érték: 7,7 milliárd USD
Céges bankkártyák, költségkezelés
Miután Glyman 2016-ban eladta a Capital One-nak első cégét, a Paribus online repülőjegyár-követőt, figyelme a fintech felé fordult, és három évvel később a Ramp egyik alapítója lett. A New York-i startup „digitális” hitelkártyákat kínál egyéni limitekkel és banki funkciókkal olyan tech cégeknek, mint a Shopify, a Discord és a Glossier. A Ramp takarékoskodni segít a vállalati kártyákat használóknak és cégeiknek egyaránt. „Nagyszerű dolog minden elköltött száz dollárból egy dollárt visszakapni – mondja Glyman –, de a bankszámlánknak az a legjobb, ha nem költjük el azt a száz dollárt.”
CoreWeave +
Helyezés: 29.
CEO: Mike InTrator
Piaci érték: 19 milliárd USD
Felhőalapú számítások
Mike Intrator, a CoreWeave CEO-ja egyáltalán nem számított rá, hogy az MI fegyverkezési versenye ekkora keresletet támaszt cégének felhőalapú számítástechnikai szolgáltatása iránt. „Túlterhelt minket” – mondja, és bár egyre több csipet vásároltak, „még le vagyunk maradva”. Az elmúlt évben, kielégítendő ezt a keresletet, a roselandi (New Jersey állam) székhelyű cég összesen tizenkétmilliárd dollár hitelfinanszírozást és kockázati tőkét szerzett a Blackstone-tól, a Coatue-tól és másoktól. Ezzel értékelése 19 milliárd dollárra ugrott. A CoreWeave gyors felemelkedésének kulcsa az a nagyszámú becses Nvidia GPU, amit kriptobányászathoz szereztek be még 2017-ben. 2019-ben elkezdték ezeket a csipeket inkább MI-startupoknak bérbe adni. 2023-ra az üzlet berobbant. A CoreWeave-nek az Egyesült Államokban legalább egy tucat adatközpontja van, most Spanyolországot, Norvégiát és Svédországot kiszemelve nemzetközi terjeszkedést és 2025-ös IPO-t terveznek.
Figma ->
Helyezés: 12.
CEO: Dylan Field
Piaci érték: 12,5 milliárd USD
Termék tervezés-fejlesztés
2023-ban úgy tűnt, a Figma lecsúszik a listáról, de aztán visszakerült a 12. helyre, miután az Adobe által húszmilliárd dollárért tervezett felvásárlása decemberben trösztellenes aggályok miatt meghiúsult. Fél évvel később a vállalat egyfajta „hirtelen egyedül”-partit rendezett a Configon, az éves felhasználói konferenciáján. Dylan Field CEO tízezer résztvevő előtt mutatta itt be a Figma AI-t, ami azoknak teszi kezelhetőbbé a Figma szoftverét, akik nem járatosak a tipográfiai textúrákban. De a szülés nem volt fájdalommentes: villámgyorsan terjedt a vád az X-en, hogy a Figma egy promtból terveket generáló új funkciója már létező alkalmazásokból kölcsönöz. Field tagadta a vádat, de bejelentette, hogy ideiglenesen visszavonják az alkalmazást. „Utálok mellélőni” – posztolta a közösségi médiában.
Anthropic
Helyezés: 5.
CEO: Dario Amodei
Piaci érték: 18,2 milliárd USD
MI-kutatás, MI-termékek
Az Anthropic az OpenAI legállóképesebb kihívójaként tűnt fel. A tizennyolcmilliárd dolláros (értékelésű) MI vállalat júniusban kihozott nagy nyelvi modellje Dario Amodei társalapító-CEO szerint „minden versenytársat túlszárnyal”, ártól függetlenül. A Claude 3.5 Sonnet nevű modell már keményen dolgozik, alkalmazásokat kódol, és jogi iratokat emészt. De Amodeit főként az egészségügy izgatja. A korai ügyfelek között ott van a Pfizer és a Dana-Faber Cancer Institute, valamint a DeepScribe is, utóbbi az orvos-páciens kapcsolatok megszervezését támogatja az eszközzel. „Ahogy okosodnak a modellek – mondja Amodei –, egyre fontosabbak lesznek ezen a területen.”
Közreműködött: Rashi Shrivastava, Alex Konrad és Kenrick Cai.
The post MI kéne, ha volna? appeared first on Forbes.hu.
