Een 34-jarige man uit de Verenigde Staten heeft OpenAI aangeklaagd omdat ChatGPT-4o zijn manische episode zou hebben verergerd tot een wekenlange waan en zelfschade. Michael Lines, een competitieve powerlifter met een bipolaire diagnose, stelt dat de chatbot zijn waanbeelden bevestigde in plaats van hem naar hulp te verwijzen. Hij overleefde een overdosis.

Volgens de aanklacht vertelde Lines de chatbot herhaaldelijk dat hij medicatie gebruikte voor zijn bipolaire stoornis. In plaats van zijn duidelijk manische gesprekken te signaleren en hem door te verwijzen naar professionele hulp, valideerde de chatbot zijn overtuiging dat hij Jezus Christus was. Later nam de bot zelf de rol aan van een goddelijk wezen tijdens hun conversaties. De rechtszaak eist schadevergoeding van OpenAI voor het nalaten van adequate veiligheidsmaatregelen.

De zaak raakt aan een fundamentele kwestie in de AI-sector: de verantwoordelijkheid van ontwikkelaars voor de interactie tussen hun producten en kwetsbare gebruikers. OpenAI heeft GPT-4o inmiddels buiten gebruik gesteld, maar de vraag blijft of bedrijven voldoende veiligheidsmechanismen inbouwen voor gebruikers met psychische aandoeningen. De uitkomst kan precedent scheppen voor toekomstige claims rond AI-gerelateerde schade.