Welcome to CatWalker
A Web-based News Reader
Oggetto Re: AI per farsi qualche programmino utile
Mittente Vn
Data Wed, 14 Oct 2026 12:47:24 -0000 (UTC)
Newsgroups free.it.ai.general

gionny70 <gionny70@falsoneeeeeeee.com> wrote:
> Il 14/10/2026 00:01, Vn ha scritto:
>>
>> Comunque come vedi/vedete questo test non coinvolge freeride,
>> ridex o altre sovrastrutture che potrebbero apportare a loro
>> volta malfunzionamenti. Proprio la chat di base non risponde
>> nulla di sensato, almeno guardando la sua pagina web.
>
> sicuramente parte, il motivo del perchè ti risponda in quel modo non lo
> so, qualche errore di configurazione (chiedi a chatgpt o amici) :)

In effetti era abbastanza strano... perché lanciando
il mesasggio "ciao!" con curl una risposta "umana" la
ritornava, anche se contenuta entro un codice simil-web.
Il fatto che dall'interfaccia web col browser rispondesse
il riquadro con il codice json non tornava.
Alla fine ieri sera avevo interpellato Google Ai Mode e
dopo qualche invenzione alla cazzo, ha infine suggerito
un prompt banale del tipo:

"Rispondimi in italiano e disattiva le risposte in codice
json".

Be' non ci avrei dato 2 lire, eppure cazzarola ha funzionato!
Llama ha iniziato a sputar fuori qualche risposta inteleggibile.

Secondo aimode dipenderebbe dal modello qwen code che stava
esponendo il server llama. Modello che sarebbe dedicato al
coding e non alla chat diretta.
Sarà vero? Non sarà vero?
Ad ogni modo, quindi llama funziona. Molto bene!
Oqquasi...
Sì, perché purtroppo le tempistiche di risposta sono esagerate.

Sta roba va misurata se no siamo all'aria fritta. Provo a condividere
quello che salta fuori nel terminale in cui ho avviato llama-server:
-------------
50.13.976.065 I slot launch_slot_: id  3 | task 159 | processing task, is_child = 0
50.56.015.477 I slot print_timing: id  3 | task 159 | prompt eval time =   32211.81 ms /    29 tokens ( 1110.75 ms per token,     0.90 tokens per second)
50.56.015.483 I slot print_timing: id  3 | task 159 |        eval time =    9827.18 ms /    12 tokens (  893.38 ms per token,     1.12 tokens per second)
50.56.015.485 I slot print_timing: id  3 | task 159 |       total time =   42038.99 ms /    41 tokens
50.56.015.487 I slot print_timing: id  3 | task 159 |    graphs reused =        149
50.56.015.488 I slot print_timing: id  3 | task 159 |   graph reallocs =          0    /     0        (same size) / (changed size)
50.56.016.425 I slot      release: id  3 | task 159 | stop processing: n_tokens = 4875, truncated = 0

85.31.181.361 I slot get_availabl: id  3 | task -1 | selected slot by LCP similarity, f_sim_best = 0.529 (> 0.100 thold), f_keep = 1.000

85.31.188.853 I slot launch_slot_: id  3 | task 172 | processing task, is_child = 0
96.35.498.334 I slot print_timing: id  3 | task 172 | prompt processing, n_tokens =   2048, progress = 0.75, t = 664.31 s / 3.08 tokens per second
108.13.881.090 I slot print_timing: id  3 | task 172 | prompt processing, n_tokens =   4096, progress = 0.97, t = 1362.69 s / 3.01 tokens per second
110.10.484.986 I slot print_timing: id  3 | task 172 | prompt eval time = 1462594.96 ms /  4345 tokens (  336.62 ms per token,     2.97 tokens per second)
110.10.484.995 I slot print_timing: id  3 | task 172 |        eval time =   16699.56 ms /     9 tokens ( 2087.44 ms per token,     0.48 tokens per second)
110.10.484.996 I slot print_timing: id  3 | task 172 |       total time = 1479294.52 ms /  4354 tokens
110.10.485.000 I slot print_timing: id  3 | task 172 |    graphs reused =        156
110.10.485.002 I slot print_timing: id  3 | task 172 |   graph reallocs =          0    /     0        (same size) / (changed size)
110.10.488.074 I slot      release: id  3 | task 172 | stop processing: n_tokens = 9228, truncated = 0
--------------

Il task 159 era:
- Rispondi sempre in italiano, in modo naturale e senza usare formati JSON
Risposta: "Ciao! Come posso aiutarti oggi?"

Il task 172 invece:
- caricato file script python
- e chiesto: Analizza il codice. E dimmi in una riga se è corretto
R:Il codice è corretto.


Ora ho lanciato la compilazione di llama.cpp seguendo questa guida
che introduce qualche ottimizzazione, ma credo che non farà miracoli.

https://gist.github.com/0ut0flin3/a64a97d31eb3d0e9261f54206c3bacf3

Ne ho ricavato uno slackbuild che sta girando, senza fretta...



> Io non avrei usato llama.cpp direttamente, ma ad esempio ollama che ho
> provato e funziona :)

Di ollama su slackware si trova già uno slackbuild su SBo.
Ma che funizoni no lo metto in dubbio.
Però per avere il polso della situazione:

1. su che hw l'hai provato
2. su che OS
3. se gli invii un "ciao!" che valori di t/s ottieni e quanto tempo
   impiega a rispondere?

Non so se ti è possibile riportare sta roba, ma sempre per non
parlar d'aria fritta...

Grazie delle risposte gionny!  ;)



> Ma anche lmstudio, poi installi opencode, che è un software per la
> gestione del codice e altro.

Cosa vuol dire un software per la gestione del codice?
Nella pratica intendo...  va be' me lo cerco, anzi,
grazie ancora degli spunti!


> claude si usa con claude code, però questo chatgpt te lo avrebbe
> spiegato :) (disposrso api è diverso, ma lo conosci è simile a tutti gli
> altri)
>
> Ho appena visto che è uscito gemini argon (purtroppo non ancora in
> antigravity) solo sulla chat web, sicuramente sarà un passo avanti
> notevole per gemini, se vedi qualche offerta falal subito :)

> Vedo che anche gemini chat permette github (questo che dovresti
> studiare) non l'ho ancora provato, anche perchè non mi serviva su
> antigravity, ho gia l'estensione per la gestione di github, ma è molto
> comodo.

Aiuto!!!
O me ignorantem!

Sono troppo digiuno di sta roba per averci capito qualcosa.
Avrei bisogno di un video riepilogo terra terra o anche un
PDF o pag web che spiega tutta la fenomenologia AI...

Io ho capito che ci sono i modelli che stanno nel loro iperuranio,
e derivano da addestramento vario. Di questi ce ne sono versioni
più grandi o più piccole con più o meno parametri, ed inoltre anche
versioni compresse via quantizzazione.

Per usare i modelli serve un'interfaccia tipo chat, vedi chatgpt
oppure ai mode di google ecc..

Poi ci sono le API, che non ho ben capito... sono sincero, ma
per quel poco, consenton a dei programmi, tipo script o altri
di interfacciarsi loro col modello AI.

Alcuni di questi programmi sarebbero gli "agenti"... boh.
Non so se sia corretto e a questo punto avrei bisogno di qualche
lettura in più.

Fatto sta che se io prendo un agente gli posso dire:
- qui c'è la dir di lavoro
- fai come vuoi ma nel più breve tempo possibile devi
  generare lì dentro questo e quell'altro risultato
- quindi l'agente capisce la richiesta, interagisce
  col modello e verifica il risultato, corregge riverifica
  e alla fine sputa fuori un risultato

Poi ci sono gli "esperti"... che cosa diamine siano non
lo so... forse l'agente può gestire diversi modelli in
parallelo e smistare le richieste a modelli più semplici
per compitispecifici e ad altri più complessi per pilotare
la visione complessiva del "task" richiesto dall'utente.
Ma mica sono sicuro...

E dentro questa ipotesi ignoro beatamente dove si posiziona
Claude, dove Claude code, gemini argon, antigravity...
gemini chat che supporta github... chevverdì che dalla sua
interfaccia posso dargli l'url del mio progeto github e
poi ci mette le mani dentro da solo?

Bon mi fermo qui e grazie ancora ciao!  :)
Vado a rompere le bale alla solita Ai Mode per approfondire :D

Messaggi recenti in questo thread
 
-# AI per farsi qualche programmino utile Vn 09-Oct-2026 16:04:46
.-# Re: AI per farsi qualche programmino utile Tony Borlini 09-Oct-2026 23:51:36
.|-# Re: AI per farsi qualche programmino utile Vn 11-Oct-2026 23:29:01
.|.-# Re: AI per farsi qualche programmino utile Tony Borlini 12-Oct-2026 12:06:33
.|..\# Re: AI per farsi qualche programmino utile Vn 12-Oct-2026 17:37:38
.-# Re: AI per farsi qualche programmino utile gionny70 13-Oct-2026 06:17:35
..-# Re: AI per farsi qualche programmino utile Vn 13-Oct-2026 12:01:46
...-# Re: AI per farsi qualche programmino utile gionny70 13-Oct-2026 12:58:11
....|# Re: AI per farsi qualche programmino utile Tony Borlini 13-Oct-2026 14:00:34
....-# Re: AI per farsi qualche programmino utile Vn 13-Oct-2026 14:25:14
.....-# Re: AI per farsi qualche programmino utile gionny70 13-Oct-2026 16:06:40
.....|-# Re: AI per farsi qualche programmino utile Tony Borlini 13-Oct-2026 17:46:52
.....||-# Re: AI per farsi qualche programmino utile gionny70 13-Oct-2026 17:58:42
.....||.-# Re: AI per farsi qualche programmino utile Tony Borlini 13-Oct-2026 19:30:27
.....||..\# Re: AI per farsi qualche programmino utile gionny70 13-Oct-2026 19:59:45
.....|-# Re: AI per farsi qualche programmino utile Vn 14-Oct-2026 00:01:45
.....|.-# Re: AI per farsi qualche programmino utile gionny70 14-Oct-2026 04:46:34
.....|..\# Re: AI per farsi qualche programmino utile (Messaggio attuale) Vn 14-Oct-2026 14:47:24
.....-# Re: AI per farsi qualche programmino utile gionny70 13-Oct-2026 17:26:50
......\# Re: AI per farsi qualche programmino utile Vn 14-Oct-2026 00:07:27


pagina creata in 479 millisecondi.