A Web-based News Reader
| Oggetto | Re: Di Ai... | ||||||||||||||||||||||||||||||||||||||||||||||||||||
| Mittente | Bingo3331 | ||||||||||||||||||||||||||||||||||||||||||||||||||||
| Data | 21 Aug 2026 14:26:08 GMT | ||||||||||||||||||||||||||||||||||||||||||||||||||||
| Newsgroups | free.it.ai.general | ||||||||||||||||||||||||||||||||||||||||||||||||||||
On 21/08/26 14:46, News.tin.it wrote: >
>
>
>... non sò nulla,ma quando sento che
>una AI e composta da 10 miliardi di parametri
>questi parametri che cosa sono?e come possono
>"riempire" 10 miliardi di parametri,dove li prendono
>o li trovano?
>
Man mano che il modello viene addestrato costruisce dei vettori"concettuali" formati da piu' di 1500 coordinate!!! I parametri sono i pesi della rete neurale, ossia i valori numerici della rete neurale che il modello si costruisce da solo con l'addestramento. Solo una piccola correzione: ormai i modelli di frontiera hanno da 300 miliardi a oltre un miliardo di parametri!!! 10 miliardi e' un modello piccoletto che difficilmente sara' "intelligente" per le aspettative odierne. Al momento il modello piu' intelligente conosciuto in rapporto alla sua grandezza dovrebbe essere secondo i benchmark "Nemotron Cascade 2" di Nvidia che ha solo 30 miliardi di parametri ma e' stato sviluppato con piu' di 10 tecniche di addestramento e distillazione...Tieni presente che di solito si fa il pre-training, il training, il reinforcement learning e l'allineamento...e finisce qui...quindi siamo a 3-4 processi di addestramento...nel caso del "Nemotron Cascade 2" sono una decina di tecniche... -- Posted from PhoNews Pro for Android V.3.13.4 News.individual.net - Addio dal 30 sett 2027!! :-( | |||||||||||||||||||||||||||||||||||||||||||||||||||||
| |||||||||||||||||||||||||||||||||||||||||||||||||||||
