Paraméterek és súlyok (Parameters and Weights)

A neurális hálózatok kontextusában a paraméterek (Parameters) és súlyok (Weights) azok a belső, numerikus változók, amelyeket a modell a tanulási folyamat során optimalizál a bemeneti adatok és a kívánt kimenet közötti összefüggések leképezése érdekében. A súlyok határozzák meg az egyes neuronok közötti kapcsolatok erősségét, befolyásolva, hogy az információ milyen mértékben továbbítódik a hálózat egyik rétegéből a másikba, míg a torzítások (biases) az aktiválási küszöbértéket állítják be. Ezeknek az értékeknek a precíz finomhangolása teszi lehetővé, hogy a mesterséges intelligencia általánosítható tudást szerezzen, növelve a modell pontosságát az ismeretlen adatokon végzett következtetések során. Összességében a paraméterek száma – amely a modern LLM-ek esetében ezermilliárdos nagyságrendű is lehet – a modell komplexitásának és kapacitásának elsődleges mérőszáma.