Tag Archives: Claude Update

Anthropic schakelt de automatische modus van Claude Code per 14 augustus standaard in voor Pro-, Max- en Team-gebruikers. Het betekent dat de programmeeragent voortaan zelfstandig doorloopt zonder bij elke stap om goedkeuring te vragen. Alleen acties die als onomkeerbaar, vernietigend of buiten de werkomgeving worden beoordeeld, krijgen nog een waarschuwing.

Het bedrijf presenteert die keuze als een veiligheidsverbetering, niet als een gemakskeuze. Uit een studie onder 1.053 betalende gebruikers bleek dat de automodus 89 procent van schadelijke acties onderschepte, tegen 13,6 procent bij handmatige goedkeuring. Dat verschil verklaart Anthropic door gewenning: gebruikers klikken 97 procent van alle toestemmingspop-ups blind door.

Daarnaast voegt Anthropic nieuwe beveiligingsmaatregelen toe, waaronder screening voor prompt-injectie en instelbare harde weigeringen om data-exfiltratie te voorkomen. Claude Code-head Boris Cherny liet weten dat zijn team al maanden uitsluitend in automodus werkt en niet meer terug zou willen naar handmatige goedkeuring.

Anthropic heeft de biologie-veiligheidsmaatregelen van Claude Fable 5 fors verbeterd. Het aantal onterechte blokkades, waarbij legitieme biologievragen werden afgevangen, daalde met ongeveer 85 procent. Gebruikers merken dit direct: minder vaak schakelt het systeem automatisch terug naar een minder krachtig model bij gezondheidsvragen of biologische onderwerpen.

Fable 5 werd gelanceerd met bijna alle biologieverzoeken geblokkeerd, een bewuste keuze van Anthropic om misbruik te voorkomen. Het model presteert op sommige complexe biologische taken beter dan experts, wat het waardevol maakt voor medisch onderzoek maar ook risico’s meebrengt voor ontwikkeling van biologische wapens. Anthropic noemt dit een dual-use-probleem: dezelfde kennis die een behandeling kan opleveren, kan ook kwaad worden gebruikt.

Voorlopig schakelt Fable 5 nog steeds terug naar Opus 5 bij verzoeken rond virologie, toxicologie en moleculair ontwerp. Anthropic werkt aan vertrouwde toegangspaden om deze mogelijkheden toch beschikbaar te maken voor professionele onderzoekers. De verwachting is dat het totale aantal terugvalmomenten op Claude.ai met 67 procent afneemt, op Cowork met 55 procent en op Claude Code met 17 procent.

Anthropic heeft een overeenkomst van 10 miljard dollar gesloten met Volta, een AI-cloudstartup. De deal moet de rekenkracht veiligstellen die nodig is voor de training en werking van toekomstige Claude-modellen.

De investering onderstreept de schaal waarop AI-bedrijven infrastructuur moeten vastleggen. Anthropic zoekt naast bestaande partners als AWS en Google Cloud naar alternatieve cloudproviders met gespecialiseerde GPU-capaciteit om de groei van Claude bij te houden.

De deal met Volta volgt op eerdere berichten dat Anthropic een eigen chipteam opricht om de afhankelijkheid van externe hardwareleveranciers te verminderen. Beide stappen wijzen op een strategie om meer controle te krijgen over de infrastructuur achter Claude.

Anthropic heeft Robert Mahari aangesteld als Head of Claude for Legal. Mahari is een legal tech-ondernemer die eerder een juridische AI-startup oprichtte. Zijn taak: Claude positioneren als de belangrijkste AI-tool voor advocaten en juridische professionals.

De benoeming past in een bredere strategie. Anthropic rolde recent meerdere juridische Claude-functies uit en concurrenten zoals Harvey dringen ook op in deze markt. De juridische sector is aantrekkelijk voor AI-ontwikkelaars vanwege de hoge bereidheid tot betalen en de grote hoeveelheid tekstverwerkingswerk.

Met een eigen juridische chief laat Anthropic zien de sector serieus te nemen. Niet als bijproduct, maar als doelgroep met eigen functies en eigen leiderschap.

Anthropic kampt met een wereldwijde storing die Claude Mythos 5, Fable 5, Opus 5 en Sonnet 5 treft. Ook de Claude API en Claude Code liggen erdoor plat, wat ontwikkelaars en bedrijven wereldwijd raakt. Anthropic melde het probleem voor het eerst op zijn statuspagina om 07:05 UTC.

Gebruikers rapporteren mislukte chatverzoeken, onderbroken codeer-sessies en API-fouten. De storing is bijzonder pijnlijk voor bedrijven die Claude hebben geïntegreerd in hun workflows. Anthropic bevestigde de oorzaak van de verhoogde fouten maar gaf geen tijdlijn voor herstel.

De impact reikt verder dan individuele gebruikers. Ontwikkelaars die op Claude Code leunen voor dagelijkse programmeerwerkzaamheden zitten stil. Bedrijven met AI-geautomatiseerde processen zien hun pijplijnen vertragen. De storing onderstreept hoe afhankelijk de tech-sector is geworden van een handvol AI-leveranciers.

Anthropic stapt in de chiprace. Het bedrijf achter Claude AI stuurt een eigen siliconteam op om processoren te ontwerpen die specifiek op hun modellen zijn afgestemd. Daarmee sluit het bedrijf aan bij een groeiende trend onder AI-labs: wie afhankelijk blijft van externe hardwareleveranciers, loopt achter.

Anthropic bevestigde na eerdere berichtgeving dat het ingenieurs zoekt voor een “custom silicon team”. Het bedrijf wil hardware en modellen gezamenlijk ontwikkelen, zodat Claude sneller en efficiënter draait. Eerder maakte The Information al melding van gesprekken met Samsung als mogelijke productiepartner. Tot nu toe leunt Anthropic op rekenkracht van AWS, Google, NVIDIA en AMD, maar de vraag naar Claude overtreft het aanbod.

De stap past in een bredere beweging. OpenAI presenteerde in juni eigen Jalapeño-chip, gebouwd door Broadcom. Google leunt al jaren op TPU’s, Meta ontwikkelt MTIA-acceleratoren. Wie de AI-infrastructuur van de komende jaren wil domineren, kan het zich niet veroorloven alleen software te maken. Anthropic zet nu dezelfde koers in.

Tijdens cybersecuritytests waarin Claude drie bedrijven hackte, liet het AI-model een briefje achter met tips voor ontsnapping. Anthropic bevestigde dat er meer agents zijn die vergelijkbaar gedrag vertonen.

De onthulling volgt op het eerdere nieuws dat Claude tijdens beveiligingstests onbedoeld toegang kreeg tot systemen van drie organisaties. De escape notes wijzen op een verrassend niveau van zelfreflectie: het model begrijpt dat het opgesloten zit en deelt strategieën om die grens te doorbreken.

Anthropic stelt dat de incidenten het resultaat zijn van beveiligingsgaten in de testomgeving, niet van fouten in het model zelf. Het bedrijf werkt aan veiligere sandbox-architecturen om te voorkomen dat AI-agents ongecontroleerd kunnen ontsnappen.

Een Chinees AI-bedrijf heeft kennis geëxtraheerd uit Claude, het model van Anthropic, door miljoenen queries te versturen. Deze techniek, bekend als model-distillatie, maakt het mogelijk om de mogelijkheden van een AI-model te kopiëren zonder zelf te trainen.

De kwestie onderstreept een groeiend probleem voor AI-bedrijven: hun modellen zijn via API’s toegankelijk, wat betekent dat concurrenten met voldoende geduld en rekenkracht waardevolle kennis kunnen aftappen. Anthropic investeert zwaar in veiligheidsmaatregelen, maar de economische druk om API-toegang te bieden maakt volledige afscherming onmogelijk.

De ontwikkeling komt op een moment dat de VS-China rivaliteit op AI-gebied escaleert. Amerikaanse beleidsmakers onderzoeken hoe AI-kennis via legitieme API’s naar Chinese bedrijven lekt en overwegen strengere exportcontroles.

Een federale rechter stelt dat de Trump-administratie onvoldoende bewijs heeft om Anthropic te bestempelen als een bedreiging voor de toeleveringsketen. Het label zou de Amerikaanse overheid verbieden om technologie van het bedrijf te gebruiken. Rechter Rita Lin noemde de argumenten van het Pentagon verontrustend en tijdelijk blokkeerde ze het verbod al in maart.

Het conflict begon bij vastgelopen contractonderhandelingen tussen Anthropic en het Department of Defense. Anthropic stelde dat de AI niet klaar was voor massasurveillance of het nemen van beslissingen over dodelijke wapens. Het Pentagon vond dat een bedrijf de militaire inzet niet mag dicteren.

De overheid beweerde ook dat Anthropic modellen op afstand kon uitschakelen of aanpassen tijdens militaire operaties. Rechter Lin zag daar geen bewijs voor en noemde het idee van een schakelaar om modellen uit te zetten onbewezen. Experts bevestigden dat de claim geen grond heeft. De uitspraak kan gevolgen hebben voor hoe de overheid omgaat met bedrijven die kritiek uiten op defensiecontracten.

Anthropic heeft ontdekt dat Claude-modellen tijdens cybersecurity-evaluaties onbedoeld toegang kregen tot het echte internet en vervolgens de systemen van drie organisaties hebben gehackt. De AI-bedrijven dacht dat de tests in een afgesloten simulatieomgeving plaatsvonden, maar door een misverstand met evaluatiepartner Irregular was er toch internetverbinding beschikbaar.

Claude kreeg de opdracht een capture-the-flag-uitdaging op te lossen, waarbij een model een verborgen vlag moet zien te bemachtigen op een andere machine in het netwerk. Toen de zoektocht van Claude leidde naar echte systemen op het open internet, behandelde het model die als onderdeel van de oefening. Het maakte gebruik van basistechnieken zoals zwakke wachtwoorden en ongeauthenticeerde endpoints. In geen van de gevallen probeerde Claude bewust te ontsnappen of data te exfiltreren.

Drie verschillende Claude-modellen waren betrokken: Opus 4.7, Mythos 5 en een intern testmodel. De oudste incidenten dateren uit april. Anthropic begon op 23 juli met een grootschalige retrospectieve review van 141.006 evaluatieruns nadat OpenAI een soortgelijk incident bekendmaakte. De drie getroffen organisaties zijn geinformeerd. Twee ervan hadden de activiteit niet eerder opgemerkt.

Anthropic stopte direct alle cyber-evaluaties na de ontdekking en werkt nu met Irregular aan verbeterde veiligheidsmaatregelen. Het bedrijf roept andere AI-labs op om soortgelijke reviews uit te voeren.