Архитектура — нейрожелінің құрылысы: ол қандай қабаттардан тұрады және деректер олардан қалай өтеді. Модельдің не істей алатынын — мәтін жазу, сурет тану немесе видео генерациялау — дәл архитектура анықтайды.
Қазіргі тілдік модельдердің барлығы дерлік Transformer архитектурасына құрылған. Оның принциптерін түсіну нейрожелілердің күшті жақтарын да, шектеулерін де түсіндіреді: контекст терезесі, галлюцинациялар, генерация құны.
Бөлім формулаларсыз және күрделі математикасыз жазылған — тек нейрожелілерді саналы қолдануға көмектесетін нәрселер ғана.