TECH
John Locher/AP/TT
AI kan bli nästa stora kassako för Amazon: ”Efterfrågan saknar motstycke”
Andy Jassy, vd för Amazon, hävdar att ai-intäkterna växer snabbt och att framtida kostnader för kunder kommer att minska.
E-handelsjätten Amazons vd Andy Jassy säger att bolagets
ai-intäkter växer med tresiffriga procenttal i årstakt, vilket motsvarar en
årlig intäktstakt på flera miljarder dollar. Det framgår av toppchefens årliga
brev till aktieägare.
”Vi fortsätter att tro att ai är en unik omvälvning av
allt vi känner till, att efterfrågan inte liknar något vi sett tidigare och att
våra kunder, aktieägare och vår verksamhet kommer att gynnas av att vi
investerar aggressivt nu”, skriver Jassy.
Vidare skriver Jassy att ai är dyrt för kunder just nu, men
att det inte kommer att vara det i framtiden. Chip bedöms kunna minska i pris
med hjälp av Trainium.
”Trainium bör hjälpa till, eftersom våra nya
Trainium2-chips erbjuder 30-40 procent bättre prisprestanda än de nuvarande
GPU-drivna beräkningsinstanserna som är allmänt tillgängliga idag. Medan
modellträning fortfarande står för en stor del av de totala ai-utgifterna,
kommer inferens (som är modellernas förutsägelser eller utdata) att stå för den
överväldigande majoriteten av framtida ai-kostnader eftersom kunderna tränar
sina modeller regelbundet, men producerar inferenser hela tiden i storskaliga
ai-applikationer”.
Att minska kostnaden per enhet inom ai kommer att frigöra ai som används så expansivt som kunderna önskar.
Vidare beskrivs inferens bli en annan byggsten, tillsammans
med beräkning, lagring, databas och annat.
”Vi känner ett starkt behov av att göra inferens mindre
kostsamt för kunderna. Mer prisvärda chip kommer att hjälpa till. Men inferens
kommer också att bli meningsfullt effektivare under de närmaste åren med
förbättringar inom modelldestillation, snabbcachning, beräkningsinfrastruktur
och modellarkitekturer. Att minska kostnaden per enhet inom ai kommer att
frigöra ai som används så expansivt som kunderna önskar, och också leda till
mer totala ai-utgifter”, skriver han.