Transformer

Eine neuronale Netzwerk-Architektur, die auf dem Attention-Mechanismus basiert und die Grundlage moderner Sprachmodelle wie GPT und BERT bildet. Transformer verarbeiten Sequenzen parallel und sind dadurch sehr effizient.