Apple maakt Mac Studio tot krachtige machine voor lokale AI-agents
512 GB geheugen en 1,2 TB per seconde aan bandbreedte. Apple bouwt de nieuwe Mac Studio niet alleen voor video, 3D of softwareontwikkeling, maar nadrukkelijk voor AI die op het eigen bureau draait.
De M5 Ultra moet enorme taalmodellen lokaal aankunnen. Apple noemt coding agents expliciet en laat meerdere Macs zelfs als één AI-cluster samenwerken.
Dat zet een tweede route naast de miljarden kostende AI-datacenters: steeds meer rekenwerk terug naar de gebruiker.
Mac Studio krijgt tot 512 GB geheugen
Apple presenteerde de nieuwe Mac Studio op 25 augustus met M5 Max en M5 Ultra.
Voor lokale AI springt vooral de M5 Ultra eruit.
De zwaarste uitvoering krijgt een CPU met maximaal 36 cores en een GPU met maximaal 80 cores. In iedere GPU-core zitten Neural Accelerators voor AI-berekeningen.
Apple claimt tot 4,3 keer meer piek-AI-prestaties dan bij M3 Ultra.
Maar voor grote taalmodellen is misschien het geheugen belangrijker.
De Mac Studio kan tot 512 GB unified memory krijgen met een bandbreedte van 1,2 TB per seconde.
Daardoor kunnen modellen met honderden miljarden parameters volledig in het lokale geheugen passen.
Unified memory geeft Apple een opvallend voordeel
Een groot AI-model heeft weinig aan snelle rekenchips wanneer zijn gewichten niet in het beschikbare geheugen passen.
Daar zit de bijzondere positie van Apple silicon.
CPU en GPU werken met dezelfde geheugenpool. Data hoeft daardoor minder heen en weer te worden gekopieerd tussen afzonderlijke systeem- en videogeheugens.
Voor standaard pc's met losse GPU's kan videogeheugen sneller de beperkende factor worden.
Apple zet die gedeelde pool nu agressief in voor AI.
De M5 Ultra heeft volgens het bedrijf 50% meer geheugenbandbreedte dan de M3 Ultra.
Dat moet vooral helpen bij inference: het daadwerkelijk uitvoeren van een reeds getraind model.
Apple noemt coding agents expliciet
Opvallend is hoe Apple zelf over de nieuwe Mac praat.
Het bedrijf noemt AI coding agents rechtstreeks in de aankondiging en stelt dat deze taken op de nieuwe hardware aanzienlijk sneller kunnen worden uitgevoerd.
Dat past bij een bredere ontwikkeling rond crypto-AI, softwareontwikkeling en autonome agents.
Een chatbot wacht meestal op een vraag.
Een agent kan veel langer actief blijven. Hij kan bestanden bekijken, code aanpassen, tests uitvoeren en verschillende stappen achter elkaar afronden.
Daarvoor kan voortdurend rekenkracht nodig zijn.
Wanneer al dat werk via een commerciële cloud-API loopt, tikken kosten per token of verzoek door.
Een lokaal model verandert die rekensom.
De Mac mini krijgt zelfs een always-on rol
Apple gaat bij de nieuwe Mac mini nog explicieter.
Het nieuwe model met M6 wordt door het bedrijf omschreven als desktop voor “always-on agentic computing”.
De Mac mini kan daardoor een andere rol krijgen dan een klassieke pc die alleen actief is wanneer iemand erachter zit.
Een gebruiker kan hem permanent laten draaien voor een lokale agent.
Dat kan aantrekkelijk zijn voor softwareontwikkeling, documentverwerking, automatisering en andere taken die uren achter elkaar doorgaan.
De Mac Studio mikt hoger.
Daar draait het meer om grote modellen, zware inference en professionele AI-workloads.
Lokale AI vermijdt API-kosten, maar is niet gratis
Apple verkoopt lokale inference nadrukkelijk met twee voordelen: privacy en minder afhankelijkheid van cloudkosten.
Wie een open model volledig op de Mac draait, betaalt niet voor iedere prompt tokens aan OpenAI, Anthropic of een andere externe modelprovider.
Dat maakt lokale agents interessant wanneer ze langdurig of zeer intensief worden gebruikt.
Alleen is de hardware zelf duur.
De Mac Studio met M5 Ultra begint in Nederland bij €6.649. De uitvoering met 512 GB unified memory komt pas eind oktober beschikbaar.
Daar komen stroomverbruik en beheer nog bovenop.
Lokaal draaien is daardoor niet automatisch goedkoper.
De berekening hangt af van hoeveel het model draait en welke cloudkosten daardoor worden vermeden.
Vier Mac Studio's kunnen één cluster vormen
Voor zwaarder werk laat Apple meerdere systemen samenwerken.
Mac Studio's kunnen via Thunderbolt 5 en RDMA aan elkaar worden gekoppeld.
RDMA laat machines rechtstreeks data uit elkaars geheugen benaderen zonder dat iedere stap via de normale processorroute hoeft te lopen.
Volgens Apple ontstaat zo een veel grotere gezamenlijke geheugenpool.
Een cluster van vier Mac Studio-systemen levert in Apples eigen tests tot drie keer snellere AI-inference dan één systeem.
Dat maakt vier Macs nog geen vervanger voor een gigantisch Nvidia-cluster.
Maar het creëert wel iets tussen een losse workstation en een volwaardige serveromgeving.
Core AI wordt nieuwe softwarelaag
De hardware is maar de helft van Apples inzet.
Het bedrijf introduceert ook Core AI, een nieuw framework voor het bouwen, uitvoeren en inzetten van modellen op Apple silicon.
Core AI brengt CPU, GPU, Neural Engine en unified memory samen.
Ontwikkelaars kunnen daarmee eigen modellen lokaal in apps verwerken.
Daarnaast blijft Apple zwaar investeren in MLX.
MLX is Apples open-sourceframework voor machine learning op Apple silicon. Het ondersteunt het draaien, trainen en fine-tunen van modellen en is specifiek gebouwd rond de gedeelde geheugenarchitectuur van Apple-chips.
Apple heeft voor MLX inmiddels ook tools voor lokale agentic AI.
OpenAI-compatibele lokale server maakt overstappen makkelijker
Daar zit een interessant technisch detail.
MLX-LM Server kan een lokaal model beschikbaar maken via een OpenAI-compatibele API.
Software die normaal gesproken een externe AI-dienst aanspreekt, kan daardoor in sommige gevallen met relatief beperkte wijzigingen naar een lokaal model worden omgeleid.
De server ondersteunt daarnaast structured tool calling.
Dat is belangrijk voor agents.
Een model moet niet alleen tekst produceren, maar op een voorspelbare manier functies kunnen aanroepen om bijvoorbeeld bestanden te openen of softwaretools te bedienen.
Hier begint lokale AI veel meer op een echte agentomgeving te lijken.
Privacy wordt belangrijker zodra agents bestanden mogen lezen
De privacywinst wordt groter naarmate agents meer mogen doen.
Een gewone chatbot krijgt alleen de informatie die iemand bewust in een tekstvak zet.
Een lokale agent kan uiteindelijk toegang hebben tot complete codebases, bedrijfsdocumenten, agenda's en andere persoonlijke bestanden.
Wanneer het model lokaal draait, hoeft niet iedere analyse naar een extern datacenter.
Dat verwijdert één gegevensstroom.
Het maakt een agent alleen niet automatisch veilig.
Software met te ruime rechten kan lokaal net zo goed bestanden wissen, gevoelige informatie uitlezen of verkeerde acties starten.
Lokaal draaien en goed toegangsbeheer zijn twee verschillende problemen.
Voor crypto moet signing apart blijven
Dat wordt extra belangrijk bij financiële toepassingen.
Een lokale agent kan bijvoorbeeld transactiedata analyseren, code controleren of een voorstel voor een wallet voorbereiden.
Maar een algemeen AI-model onbeperkt toegang geven tot private keys blijft een gevaarlijke constructie.
Een veiliger ontwerp houdt analyse en ondertekening gescheiden.
De agent kan voorstellen wat er moet gebeuren.
Een aparte beveiligde laag bepaalt vervolgens of een transactie daadwerkelijk mag worden getekend.
Dat geldt ook wanneer agents in de toekomst met smart contracts gaan werken.
Meer lokale rekenkracht lost slechte permissions niet op.
Cloudmodellen blijven voorlopig sterker voor veel taken
Apple maakt de cloud niet overbodig.
De grootste AI-modellen blijven gigantische hoeveelheden rekenkracht vragen. Voor training zijn grote clusters voorlopig nog moeilijk te vermijden.
Ook bij inference kan een frontiermodel in een datacenter sterker zijn dan een kleiner lokaal model.
Daarom ligt een hybride model meer voor de hand.
Privacygevoelige en repetitieve taken draaien lokaal. Voor moeilijkere opdrachten kan een agent alsnog een extern model aanspreken.
De gebruiker krijgt dan meer controle over welke informatie het apparaat daadwerkelijk verlaat.
Apple probeert de computer opnieuw waarde te geven
Daar zit uiteindelijk de grotere inzet.
Tijdens het cloudtijdperk schoof steeds meer rekenwerk weg van de pc.
AI kan een deel daarvan terugbrengen.
De nieuwe Mac Studio heeft honderden gigabytes snel geheugen, gespecialiseerde AI-rekenkracht en software om grote modellen op het apparaat te draaien.
De Mac mini krijgt zelfs een expliciete rol als permanent actieve agentmachine.
Apple verkoopt daarmee niet alleen snellere computers.
Het bedrijf gokt erop dat mensen en bedrijven straks hun eigen AI-processen willen bezitten in plaats van iedere taak te huren van een externe cloudprovider.
Als agents inderdaad urenlang zelfstandig gaan werken, wordt de vraag daardoor opvallend fysiek:
Draait jouw digitale medewerker in een datacenter van iemand anders, of op de Mac die onder je eigen bureau staat?
Stop met te veel betalen voor je crypto. Bij de Amsterdamse exchange Finst handel je tegen de laagste tarieven van Nederland, zonder verborgen kosten.
👀 Bekijk Finst nu ›Let op: Beleggen in crypto brengt risico’s met zich mee. Handel alleen met geld dat u kunt missen.
Ga verder met lezen
Dit vind je misschien ook leuk
Laat mensen jouw mening weten
Lees ook
Populair Nieuws
Loading
