In 1966 creëerde Joseph Weizenbaum aan het MIT een programma dat de wereld zou verbazen — en zijn maker zou verontrusten. ELIZA was het eerste computerprogramma dat een geloofwaardige menselijke conversatie kon voeren.

ELIZA werkte via patroonherkenning en sjabloonantwoorden. Het beroemdste script heette DOCTOR, dat een psychotherapeut naspelde. Als iemand schreef “Ik heb hoofdpijn”, antwoordde ELIZA met iets als: “Hoe lang heeft u al last van hoofdpijn?” — en de illusie van begrip was compleet.

Het ELIZA-effect

Weizenbaum was geschokt door wat er vervolgens gebeurde. Mensen — waaronder zijn eigen secretaresse — geloofden oprecht dat ze met een mens communiceerden. Ze deelden persoonlijke geheimen. Ze wilden dat Weizenbaum de kamer verliet zodat ze in privacy konden chatten met het programma.

Zelf noemde hij dit fenomeen zorgwekkend: mensen geven computers veel te snel menselijke eigenschappen. Dit staat nu bekend als het ELIZA-effect — de neiging van mensen om computerprogramma’s te vermenselijken, zelfs als ze weten dat het code is.

Weizenbaums waarschuwing

In 1976 schreef Weizenbaum het boek Computer Power and Human Reason — een directe reactie op de reacties die ELIZA opriep. Hij betoogde dat er taken zijn die computers kunnen uitvoeren maar niet zouden moeten uitvoeren — taken die menselijk oordeel, medegevoel en verantwoordelijkheid vereisen.

Zijn waarschuwing is opmerkelijk actueel. Vandaag de dag worden AI-chatbots ingezet als therapie-assistenten, klantenservice-agenten en zelfs gezelschapsbots. Het ELIZA-effect — dat mensen gevoelens projecteren op programma’s die geen gevoel hebben — is groter dan ooit.

ELIZA was technisch primitief. Maar het stelde een vraag die we nog steeds niet volledig hebben beantwoord: hoe menselijk moet iets zijn voordat we het als zodanig behandelen?