Tag Archives: Claude Update

Anthropic meldt dat Alibaba de mogelijkheden van Claude AI-modellen op illegale wijze heeft geëxtraheerd. De beschuldiging volgt op een rapport van Reuters waarin de Chinese techgigant ervan wordt beticht methoden te hebben gebruikt om Claude’s modelcapaciteiten te distilleren zonder toestemming.

Model distillation, het proces waarbij een kleiner model wordt getraind op de output van een groter model, is een omstreden praktijk in de AI-wereld. Het stelt bedrijven in staat krachtige AI-capaciteiten over te nemen zonder de oorspronkelijke ontwikkelaar te compenseren. Anthropic stelt zich hiermee op als slachtoffer van wat het ziet als intellectuele eigendomsdiefstal door een concurrent.

De beschuldiging komt op een spannend moment voor Anthropic. Het bedrijf moest onlangs twee van zijn krachtigste modellen, Fable 5 en Mythos 5, offline halen na een exportverbod van de Amerikaanse overheid. De zaak tegen Alibaba onderstreept hoe AI-modellen steeds meer het strijdtoneel worden van geopolitieke en commerciële conflicten.

Anthropic lanceert Claude Tag, een AI-teamgenoot die permanent in Slack leeft en meeleeft met kanalen. Gebruikers taggen @Claude voor inzichten en taken, net als bij bestaande integraties, maar de nieuwe dienst voegt een laag van persistente context toe die eerdere tools misten.

Claude Tag volgt gesprekken in een kanaal en bouwt daaruit kennis op over het werk van het team. Met toestemming kan Claude ook informatie verzamelen uit andere kanalen binnen de organisatie. Iedereen in een kanaal deelt dezelfde Claude-identiteit, wat betekent dat collega’s elkaars gesprekken met de AI kunnen inzien en voortzetten.

De dienst kan zelfstandig taken opdelen in stappen en uitvoeren met de tools die het heeft gekregen. Een achtergrondmodus laat Claude proactief deelnemen aan gesprekken, herinneringen ophalen en vergeten taken oppikken. Anthropic positioneert Claude Tag als een digitale collega die werk openbaar produceert met meer context dan voorheen. De functie is beschikbaar in bèta voor Claude Enterprise en Claude Team-klanten.

Anthropic gaat identiteitsverificatie invoeren voor Claude-gebruikers. Vanaf 8 juli vereist het bedrijf gezichtsdata om de identiteit van gebruikers te bevestigen. De maatslag is een opmerkelijke stap voor een AI-lab dat zich positioneert als veiligheidsgericht.

De nieuwe verificatieprocedure betekent dat Claude-gebruikers hun gezicht moeten scannen om toegang te krijgen tot bepaalde functies. Anthropic stelt dat dit nodig is om misbruik tegen te gaan en verantwoord gebruik te garanderen. De details over welke gegevens precies worden verzameld en hoe lang ze worden bewaard, zijn beperkt openbaar.

De invoering roept vragen op over privacy en gegevensverwerking bij een bedrijf dat al onder een exportverbod van de Amerikaanse overheid valt. Gezichtsdata behoort tot de meest gevoelige persoonlijke informatie. Voor Anthropic, dat midden in de voorbereidingen van een beursgang zit, is het een riskant moment om biometrische gegevens te gaan verzamelen.

De Amerikaanse overheid heeft Anthropic gedwongen om twee nieuwste AI-modellen offline te halen. Fable 5 en Mythos 5 moesten verdwijnen nadat de Trump-administratie een exportverbod uitvaardigde op grond van nationale veiligheid. De reden is niet openbaar gemaakt.

Volgens berichten kwam de actie nadat Amazon-onderzoekers een manier vonden om de veiligheidsbarrières van Fable 5 te omzeilen. Amazon-CEO Andy Jassy bracht deze bevindingen onder de aandacht van het Witte Huis, waarna de situatie escaleerde. Anthropic moest de modellen volledig intrekken omdat het bedrijf niet kon garanderen dat buitenlandse nationals geen toegang zouden hebben. Veel van hun eigen medewerkers zijn buitenlanders.

Cyberbeveiligingsexperts hebben een open brief ondertekend waarin ze Trump vragen het besluit in te trekken. Zij waarschuwen dat het gevaarlijk is om geavanceerde cybersecurity-capaciteiten weg te nemen bij Amerikaanse netwerkverdedigers. Ondertussen suggereren analisten dat de ban Anthropic onbedoeld publiciteit geeft. Het bedrijf heeft een slechtere relatie met de Trump-administratie dan andere AI-labs, wat de vraag opwerpt of concurrenten vergelijkbare acties hoeven te vrezen.

John Jumper, een van de drie onderzoekers die in 2024 de Nobelprijs voor Scheikunde deelde met Google DeepMind CEO Demis Hassabis, stapt over naar Anthropic. Jumper werkte sinds 2017 bij DeepMind en was een sleutelfiguur bij de ontwikkeling van AlphaFold, het AI-model dat eiwitstructuren voorspelt. Zijn vertrek is een opvallende brain drain bij Google’s AI-tak.

Jumper kondigde zijn vertrek aan via X. Voor Anthropic is het een opmerkelijke vangst: een onderzoeker die niet alleen een Nobelprijs won, maar ook ervaring heeft met het opschalen van fundamenteel AI-onderzoek naar wereldwijde toepassingen. Het past in een patroon van agressieve talentwerving door de maker van Claude.

De overgang illustreert hoe de strijd om toptalent in AI tot nieuwe hoogten reikt. Google verliest binnen enkele weken zowel Jumper als Noam Shazeer, de co-lead van Gemini, aan rivalen. Voor Anthropic betekent Jumper’s komst extra geloofwaardigheid in wetenschappelijk onderzoek, een gebied waar het bedrijf zich steeds nadrukkelijker profileert.

Anthropic roept de grootste AI-labs op om de ontwikkeling van krachtiger modellen tijdelijk stil te leggen. Het bedrijf achter Claude stelt dat een gecoördineerde pauze nodig is omdat de snelheid waarmee AI zichzelf verbetert door mensen uit de hand dreigt te lopen. De oproep volgt op interne data waaruit blijkt dat Claude inmiddels meer dan 80% van zijn eigen codebase schrijft.

Volgens Anthropic is het moment dat AI-systemen zich recursief beginnen te verbeteren dichterbij dan eerder werd aangenomen. Het bedrijf benadrukt dat dit geen marketingboodschap is maar een technologische realiteit die dringend bestuurlijk handelen vereist. Andere labs, waaronder OpenAI en Google DeepMind, reageren voorzichtig — de discussie over veiligheid versus voortgang laait opnieuw op.

De timing van de oproep is opvallend: Anthropic diende onlangs zijn IPO-aanvraag in met een waardering rond 965 miljard dollar. Critici zien een spanningsveld tussen de veiligheidsboodschap en de beursgang, maar Anthropic stelt dat juist een publieke onderneming meer transparantie en verantwoording mogelijk maakt voor AI-veiligheid.

Daniela Amodei, president van Anthropic, sprak op het StrictlyVC-evenement openlijk over de zorgen rond AI-rendementen. Terwijl het bedrijf zijn IPO voorbereidt op een geschatte waardering van bijna 965 miljard dollar, benadrukte Amodei dat AI-bedrijven nog moeten bewijzen dat ze daadwerkelijk waarde leveren. De eerlijkheid is opmerkelijk in een sector die anders graag alleen de positieve kant laat zien.

De timing is relevant: Anthropic staat onder druk om zijn financiën te stroomlijnen voor de beursgang. De recent aangekondigde SpaceX-computedeal en de uitbreiding van het Partner Hub-programma laten zien dat het bedrijf meerdere fronten opent om de kosten van rekenkracht te dekken en enterprise-inkomsten op te bouwen.

Tegelijkertijd heeft S&P 500 Anthropic — net als OpenAI en SpaceX — de toegang tot de beleggingsindex geweigerd. Het argument: onvoldoende vrije verhandelbaarheid van aandelen en gebrekkige governance. Dat betekent dat Anthropic, ondanks zijn enorme waardering, voorlopig geen toegang heeft tot het miljardenfonds van passieve beleggers die de S&P 500 volgen.