Welcome to CatWalker
A Web-based News Reader
Oggetto Re: Ai in locale
Mittente ArchiPit
Data Sat, 22 Aug 2026 11:06:11 +0200
Newsgroups free.it.ai.general

Rispondo qui sotto a Bingo3331


> On 22/08/26 10:07, ArchiPit wrote:
>>Rispondo qui sotto a Bingo3331
>>
>>
>>> On 22/08/26 07:05, ArchiPit wrote:
>>>>Fino ad ora ho usato lm-Studio per avere in locale un paio di Ai
>>>> (gpt-oss-20B e Gemma4 26B).
>>>>
>>>>Ho trovato anche da qualche giorno Unsloth su cui sto facendo girare
>>>> NVIDIA-Nemotron-3.5 30B
>>>>
>>> Hai provato a vedere il software di Sanfilippo? Guarda questo video se non
>>>  lo hai visto :
>>>
>>> (Circa 28 minuti)
>>>

Notevole e molto interessante la tecnica descritta; però funziona solo
per deepseek (anche se credo di aver capito possa essere modificata per
altri modelli).


>>In Unsloth ho caricato NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF
>>
> No...direi che non e' lui anche se la taglia e' la stessa...per cui se gira
>  bene questo che hai, girera' bene pure l'altro, ma l'altro pare sia molto
>  buono e molto potente...
> Il Nemotron Cascade 2 dovrebbe essere facile da trovare per
>  scaricarlo...mentre non sono riuscito a trovare una demo online gia' pronta
>  per evitare l'installazione in locale...Ero curioso pure io di provarlo...

Ho installato su Unsloth questo:
bartowski/nvidia_Nemotron-Cascade-2-30B-A3B-GGUF e a sentimento gira
pure meglio sullo stesso prompt per il sudoku!

Una cosa che non ho capito di Unsloth è che vede e lancia anche i
modelli che avevo installato su LM-Studio: ma li usa al proprio interno
oppure "apre" in qualche modo LM-Studio?

Messaggi recenti in questo thread
 
-# Ai in locale ArchiPit Sab, 07:05:13
.-# Re: Ai in locale Luis Sab, 08:28:09
.|\# Re: Ai in locale ArchiPit Sab, 10:03:39
.-# Re: Ai in locale Bingo3331 Sab, 09:22:40
..-# Re: Ai in locale ArchiPit Sab, 10:07:35
...-# Re: Ai in locale Bingo3331 Sab, 10:14:28
....-# Re: Ai in locale (Messaggio attuale) ArchiPit Sab, 11:06:11
.....-# Re: Ai in locale Bingo3331 Sab, 12:02:45
......-# Re: Ai in locale ArchiPit Sab, 13:06:32
.......-# Re: Ai in locale Bingo3331 Sab, 13:26:33
........-# Re: Ai in locale ArchiPit Dom, 11:14:42
.........\# Re: Ai in locale Bingo3331 Dom, 13:35:48


pagina creata in 53 millisecondi.