Az Amazon Web Services a végső beüzemelés előtt nagyjából 5 milliárd dollár értékben vett át Nvidia GB300-as szerverszekrényeket, és havonta további 3 milliárd dolláros tétellel számol. A hardverek egy része raktárakban várakozik, mivel több adatközpontban jelenleg nem áll rendelkezésre a működtetésükhöz szükséges elektromos áram.
A folyamatot a felhőszolgáltatók közötti éles verseny indokolja. A szűkösen elérhető GPU-k korai felvásárlásával az Amazon biztosítja a kapacitásokat a versenytársak elől, még mielőtt a berendezések ténylegesen bevételt termelnének. Ez a jelenség az úgynevezett dark GPU-k számát gyarapítja, vagyis azokat az infrastruktúrákat, amelyek megvásárlásuk után kihasználatlanul állnak.
A vállalat szóvivője szerint bevált üzleti gyakorlatról van szó, és a hardvereket a telepítési helyszínek közelében tárolják, hogy az áramkapacitás bővülésekor azonnal hálózatra köthessék őket. Az Amazon idén mintegy 220 milliárd dolláros beruházási kerettel számol, ami az utóbbi időszakban negatívba fordította a cég szabad cash flow-ját.
Az eredeti szöveg (Perplexity Discover)
Az Amazon milliárdos értékű Nvidia AI-szerverszekrényeket kezdett átvenni, még mielőtt néhány adatközpontjában meglenne az működtetésükhöz szükséges áram. A Business Insider kedden, az augusztusi belső e-mailekre hivatkozva arról számolt be, hogy az Amazon Web Services bevezette az „Early Rack Receipt” (korai szerverszekrény-átvétel) folyamatát. Ennek keretében az AWS a végső üzembe helyezés előtt nagyjából 5 milliárd dollárnyi Nvidia GB300-as szerverszekrényre számított amerikai létesítményeiben, és „belátható időn belül” havonta további nagyjából 3 milliárd dollárra.
A program jól mutatja azt a kompromisszumot, amellyel a hiperskálázók ma szembesülnek. A szűkösen elérhető GPU-k korai lekötésével elzárhatják azokat a riválisaik elől, a pénzt viszont akkor költik el, amikor a hardver még nem termelhet felhős bevételt.
A erőfeszítésben érintett, a témát ismerő források a Business Insidernek elmondták, hogy az AWS egyes telephelyein lett volna hely további szerverszekrényeknek (rackeknek), de nem volt elég áram a bekapcsolásukhoz. Emiatt a kész berendezések köztes raktárakban vártak, amíg az adatközpontok készen nem álltak a fogadásukra. Az egyik e-mail szerint legalább egy AWS-csapatnak akkoriban nem volt „világos, előre jelezhető útja” annak, hogy a beérkező szerverszekrényeket adatközpontokba juttassa.
A korábbi gyakorlatban az AWS csak akkor vette birtokba a kész szerverszekrényt, amikor az megérkezett az adatközpontba. Belső dokumentumok szerint az új folyamat lehetővé teszi, hogy a cég bizonyos szerverszekrényeket már az ellátási lánc korábbi szakaszában kifizessen és könyveljen. A lap ezt a gyakorlatot a „dark GPU-k” jelenségével hozta összefüggésbe: így nevezik azokat az MI-chipeket, amelyeket megvásároltak, de áramhiány vagy más szűk keresztmetszet miatt kihasználatlanul állnak.
Az Amazon szóvivője azt közölte, hogy a cég rutinszerűen a telepítési helyszínek közelében tárolja a kész hardvereket, hogy a kapacitás felszabadulásakor azonnal üzembe helyezhessék őket, és ezt „bevált üzleti gyakorlatnak” nevezte. A szóvivő azt is vitatta, hogy a vállalatnak egésze számára hiányzott volna az útja annak, hogy a szerverszekrényeket adatközpontokba juttassa.
A jelentés a Business Insider október 19-én, hétfőn megjelent oknyomozó cikkét követi, amely az Amazon idei, 220 milliárd dolláros beruházási terveiről szólt. Egy szeptemberi megbeszélés belső felvételén John Felton, az AWS pénzügyi igazgatója tréfásan így szólt Prasad Kalyanaramanhoz, az infrastruktúráért felelős vezetőhöz: „Ön negatívba vitte a cég szabad cash flow-ját, szóval gratulálok." Kalyanaraman elmondta, hogy az Amazon gépi tanulási és mesterségesintelligencia-üzletága „hatalmas mínuszban van szabad cash flow tekintetében". Hozzátette, hogy szerinte a vállalat egészének szabad cash flow-ja „az elkövetkező pár évben" negatív marad.
Az Amazon második negyedéves eredményei szerint az elmúlt 12 hónap szabad cash flow-ja mínusz 7,6 milliárd dollár volt, szemben az egy évvel korábbi 18,2 milliárd dolláros pluszszal. A cég a fordulatot elsősorban a nettó eszközvásárlások 66,1 milliárd dolláros növekedésével magyarázta, amelynek nagy része az mesterséges intelligenciához kapcsolódott. A kereslet továbbra is erős: az AWS bevétele a negyedévben nagyjából 37%-kal nőtt, a cég pedig mintegy 496 milliárd dollárnyi szerződéses állományról számol be.
Andy Jassy vezérigazgató szerint az Amazon számára „tisztán látható” az út az MI-beruházások jelentős megtérüléséhez, a technológiát pedig „egyszeri alkalomnak az életben” nevezte. Éves részvényesi levelében azt írta: „Átéltük már ezt a ciklust az AWS első nagy növekedési hullámánál, és elégedettek voltunk az eredménnyel. Hasonlóra számítunk ennél a következő hullámnál is.”
