Bingo3331 <invalid@invalid.com> posted:
> On 21/08/26 14:46, News.tin.it wrote:
> >
> >
> >
> >... non sò nulla,ma quando sento che
> >una AI e composta da 10 miliardi di parametri
> >questi parametri che cosa sono?e come possono
> >"riempire" 10 miliardi di parametri,dove li prendono
> >o li trovano?
> >
> Man mano che il modello viene addestrato costruisce dei vettori
> "concettuali" formati da piu' di 1500 coordinate!!!
> I parametri sono i pesi della rete neurale, ossia i valori numerici della
> rete neurale che il modello si costruisce da solo con l'addestramento. Solo
> una piccola correzione: ormai i modelli di frontiera hanno da 300 miliardi
> a oltre un miliardo di parametri!!! 10 miliardi e' un modello piccoletto
> che difficilmente sara' "intelligente" per le aspettative odierne. Al
> momento il modello piu' intelligente conosciuto in rapporto alla sua
> grandezza dovrebbe essere secondo i benchmark "Nemotron Cascade 2" di
> Nvidia che ha solo 30 miliardi di parametri ma e' stato sviluppato con piu'
> di 10 tecniche di addestramento e distillazione...Tieni presente che di
> solito si fa il pre-training, il training, il reinforcement learning e
> l'allineamento...e finisce qui...quindi siamo a 3-4 processi di
> addestramento...nel caso del "Nemotron Cascade 2" sono una decina di
> tecniche...
>
ok, vi ringrazio per le informazioni.
Allora un altra domanda,su che cosa si allenano
questi AI,sulla matematica,sulla fisica,biologia,
su quello che succede ogni giorno nel mondo?
Per capire,la realtà devo guardare la reltà.