Een Encoder-Decoder architectuur bestaat uit twee delen: een encoder die invoergegevens verwerkt en samenperst tot een compact “context” representatie, en een decoder die deze representatie gebruikt om uitvoer te genereren. Dit is de basis voor veel sequence-to-sequence taken.

Deze architectuur is bijzonder nuttig voor taken waar invoer en uitvoer verschillende lengtes hebben, zoals machinevertalingen, tekstsamenvatting en vraag-antwoord systemen.