Path: news.corradoroberto.it!eternal-september.org!feeder.eternal-september.org!nntp.eternal-september.org!.POSTED!not-for-mail
From: Vn <vn@co.invalid>
Newsgroups: free.it.ai.general
Subject: Re: AI per farsi qualche programmino utile
Date: Tue, 13 Oct 2026 10:01:46 -0000 (UTC)
Organization: A noiseless patient Spider
Lines: 64
Sender: <joe@master.fishnet.local>
Message-ID: <11akvia$e1c6$1@dont-email.me>
References: <11aas9u$rjsp$1@dont-email.me> <11akbd0$7dn6$1@dont-email.me>
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8
Content-Transfer-Encoding: 8bit
Injection-Date: Tue, 13 Oct 2026 10:01:47 +0000 (UTC)
Injection-Info: dont-email.me;
	logging-data="460166"; mail-complaints-to="abuse@eternal-september.org";	posting-account="U2FsdGVkX197q6Kc0tW26Jcdk6Nl7b30ME0ZJwf5V+U="; posting-host="46b0a60c5bef5345a4cbf5907e48fc78"
Cancel-Lock: sha1:Hdc+Igq1lEEbW2i/SZMpDReufZU= sha256:DdqHMVBXzEs/kTJsmtTaWOtxrA01d98ebVNAHOgEl1o=
	sha1:L9PZktbAhV+HhEGM+me8/MbDmbo= sha256:Wu2uCs7IvI0nEnEZ7xhf+SL6OBUpA4BcmjqJGhqBMKE=
Xref: news.corradoroberto.it free.it.ai.general:3174

gionny70 <gionny70@falsoneeeeeeee.com> wrote:
> Il 09/10/2026 16:04, Vn ha scritto:
>> Qualcuno ha suggerimenti?
> 
> usa ambienti di programamzione tipo "antigravity ide", google permette 
> di usare gemini per un po' (con i suoi limiti)
> 
> Dentro lo stesso ambiente potrai usare estensioni per tanti altri llm 
> anche codex di openai (se non ricordo male permette qualcosa free) e 
> tanto altro.
> Purtroppo i tirchioni di anthropic non permettono nulla su open claude  :)
> 
> 
> <https://antigravity.google/download/?os=linux>
> 
> troverai anche altri ambienti, ma per gemini semrpe meglio antigravity :)
> poi dovrebbero esserci offerte per l'abbonamento (se non le hanno tolte)
> 
> So che non ti piacciono le registrazioni, ma google dovresti averlo per 
> forza :)

Sì non mi piaccioni in generale, ma se non ci sono alternative
si può anche fare. In effetti anche per provare "freeride" e "ridex"
occorre ottenere le API KEY dei vari servizi, openrouter ecc...
di conseguenza sono entrato con un account gmail e via.

Grazie del suggerimento.
Comunque volevo testare meglio la configurazione con

llama + freeride + ridex

Tutto in locale insomma, e però adesso non funziona più come l'altro
giorno... mando un "ciao" ma non risponde... neanche dopo 3 minuti.

Di diverso ho lanciato:

$ llama serve -m /path/to/qwen2.5-coder-1.5b-q4_k_m.gguf

si noti che llama in realtà è funzionante perché l'ho riscontrato
col seguente comando:

$ curl -X POST http://localhost:8080/v1/chat/completions -H
"Content-Type: application/json" -d '{"messages": [{"role": "user",
"content": "ciao!"}]}'
=====================
{"choices":[{"finish_reason":"stop","index":0,"message":{"role":"assistant","content":"Ciao! Come posso aiutarti oggi?"}}],"created":1791883838,"model":"/mnt/crmx5/llm_models/qwen2.5-coder-1.5b-q4_k_m.gguf","system_fingerprint":"b11429-d81235049","object":"chat.completion","usage":{"completion_tokens":12,"prompt_tokens":32,"total_tokens":44,"prompt_tokens_details":{"cached_tokens":0}},"id":"chatcmpl-nvtwkhAgsvkDbhFST0SLBoZrk53VgJkI","timings":{"cache_n":0,"prompt_n":32,"prompt_ms":6287.252,"prompt_per_token_ms":196.476625,"prompt_per_second":5.089663974022355,"predicted_n":12,"predicted_ms":3137.863,"predicted_per_token_ms":285.2602727272727,"predicted_per_second":3.5055705108859123}}
=========================================================

Insomma, la risposta lì arriva quasi subito:
"Ciao! Come posso aiutarti oggi?"

L'altro giorno avevo avviato llama con altro comando:

$ llama serve -hf Qwen/Qwen2.5-Coder-1.5B-Instruct-GGUF:Q4_K_M

Non dovrebbe cambiare nulla credo...
Eppure l'altro giorno freeride e "ridex" funzionavano. Rispondeva
in chat senza problemi...

Boh... magari riprovo il comando... dell'altro giorno, solo
che riscarica tutto il modello e lo mette in "cache" in un file
temporaneo che risiede in RAM /dev/shm/ecc...: