Apple försöker ge Mac en ny roll på företagen. Nya Mac mini och Mac Studio marknadsförs som lokala AI-maskiner som kan minska behovet av dyra molntjänster.
När företag använder modeller från exempelvis OpenAI eller Anthropic betalar de vanligtvis efter mängden så kallade tokens.
En token är den lilla textenhet som en AI-modell läser eller skriver. Ett vanligt ord kan bestå av en eller flera tokens. Både frågan och svaret räknas, och leverantörerna tar ofta betalt per miljon tokens. Enstaka frågor kostar lite, men stora dokument, AI-agenter och tusentals automatiserade uppgifter kan ge en ansenlig löpande kostnad.
Apples argument är enkelt: köp datorn en gång och kör modellerna lokalt hur många gånger som helst.
– När maskinen står på skrivbordet är den redan betald. Det finns ingen kostnad per token, säger Apples hårdvaruchef Johny Srouji till Reuters.
Fyra Mac Studio körde en biljonparametermodell
Apple har demonstrerat fyra sammankopplade Mac Studio som körde en AI-modell med en biljon parametrar. Modellen användes för att hitta och rätta ett grafikfel i programkod.
Datorerna kommunicerade genom RDMA över Thunderbolt 5, vilket låter dem komma åt varandras minne med mindre fördröjning än vid vanlig nätverkskommunikation. Hela systemet kunde enligt Apple drivas från ett vanligt vägguttag.
Det är möjligt tack vare Apple Silicons enhetliga minne. Processor, grafik och AI-kärnor arbetar med samma minnespool, vilket gör att en större del av arbetsminnet kan användas för själva modellen. Mac Studio kan utrustas med upp till 512 GB enhetligt minne, och flera datorer kan kopplas samman när en modell inte ryms på en enda maskin.
Apples demonstration ska ändå inte förväxlas med ett oberoende prestandatest. Företaget har inte publicerat någon fullständig jämförelse av hastighet, inköpspris och energiförbrukning mot Nvidia-system eller hyrd molnkapacitet.
Inte en ersättare för alla datacenter
Mac Studio kommer inte att ersätta de stora datacenter som används för att träna de största AI-modellerna. Apples satsning handlar främst om att köra redan färdigtränade modeller, ett arbete som brukar kallas inferens.
För företag kan lokal körning ge fler fördelar än bara priset. Källkod, dokument och kunduppgifter behöver inte skickas till en extern molntjänst. Datorn fortsätter också fungera när internetanslutningen är långsam eller saknas.
Apple möter samtidigt ett uppenbart hinder. Enligt IDC har Mac endast omkring 4,6 procent av marknaden för företagsdatorer, medan Windows ligger på drygt 91 procent. Microsoft och Nvidia satsar dessutom på egna mindre AI-system.
Det nya är därför inte att en Mac kan köra AI. Det nya är att Apple öppet försöker sälja Mac Studio som ett privat AI-datacenter – komplett med argumentet att ekonomichefen slipper få en ny tokenräkning varje månad.
