Een man uit Florida heeft OpenAI aangeklaagd omdat ChatGPT’s medisch advies hem ervan weerhield om tijdig behandeling te zoeken voor een gevaarlijke aandoening. De rechtszaak is de eerste waarin een AI-model’s gezondheidsadvies direct in verband wordt gebracht met schade aan een gebruiker.

Volgens de aanklacht gaf ChatGPT de man het advies dat zijn klachten niet ernstig waren, waarna hij medische hulp uitstelde. Toen hij uiteindelijk een arts bezocht, bleek zijn toestand levensgevaarlijk. CBS News en Reuters melden dat de eis eist dat OpenAI verantwoordelijk wordt gehouden voor de gevolgen van het advies.

De zaak roept fundamentele vragen op over de verantwoordelijkheid van AI-bouwers voor de output van hun modellen. OpenAI’s gebruiksvoorwaarden stellen dat ChatGPT geen medisch advies geeft, maar in de praktijk geven gebruikers dat advies wel degelijk op. De uitkomst van dit proces kan precedent scheppen voor hoe AI-bedrijven aansprakelijk zijn voor schade die voortvloeit uit hun model-outputs.