AI Hardware Webshop
Bekijk mini-pc's, NAS, werkstations, servers en edge AI-hardware — elk systeem kan worden gecombineerd met installatieservice en software-innovatie van ⏻ On Intelligence.
| Foto | Product | Prijs | Capaciteit |
|---|
Inzicht in modelcapaciteit
Modelcapaciteit verwijst naar het aantal parameters in een AI-model (bijv. 70B = 70 miljard parameters). Grotere modellen vereisen over het algemeen meer geheugen en rekenkracht, maar kunnen betere redeneervermogen en uitvoerkwaliteit bieden.
Precisie (FP16 / FP8 / FP4) beïnvloedt het benodigde geheugen voor een modelcapaciteit: lagere-precisieformaten halveren ruwweg de geheugeneisen per stap (FP16 → FP8 → FP4), ten koste van uitvoerprecisie.
| Modelgrootte | Standaard geheugen (FP16) | Standaard geheugen (FP4) |
|---|---|---|
| ~70B | ~140GB | ~40GB |
| ~120B | ~240GB | ~65GB |
| ~405B | ~810GB | ~220GB |
| ~700B | ~1.4TB | ~380GB |