A Web-based News Reader
| Oggetto | Re: come risparmiare token.. | ||||||||||||||||||||||||||||||||||
| Mittente | Bingo3331 | ||||||||||||||||||||||||||||||||||
| Data | 13 Jun 2026 05:55:11 GMT | ||||||||||||||||||||||||||||||||||
| Newsgroups | free.it.ai.general | ||||||||||||||||||||||||||||||||||
On 13/06/26 01:55, gionny70 wrote: >
>Sì, il contesto è assolutamente necessario, ma non sempre servono chat
>lunghissime, altrimenti userei gemini.
>
E' proprio Gemini che ha messo limiti stretti alla conputazione/inferenza!!!Chatgpt plus ha dei limiti nell'interfaccia dell'app per le chat lunghissime, nel senso che oltre un certo limite ti chiama l'errore e non la carica piu'...la soluzione in questo caso e' andare nell'interfaccia web caricarla da li' e chiedere a Chatgpt all'interno della chat stessa di farti un riassunto del contesto della chat in maniera da poter continuare in una nuova chat da dove hai interrotto incollando questo riassunto... Da notare che una volta che raggiungi il limite nell'interfaccia dell'app anche eventuali branch della chat non caricheranno, chiameranno l'errore e sara' impossibile utilizzarle...Lo dico per non farvi perdere tempo.. perche' ho gia' fatto tutte le prove del mondo... >
>Cambio chat appena possibile, compatibilmente con il mantenimento del
>contesto.
>
E' quello che dovremmo fare tutti...Ma io non posso essere ipocrita perche' mi rendo conto che mi serve il contesto affinche' chatgpt e Gemini mi funzionino correttamente. Quindi lo ammetto approfitto di tutta la computazione/inferenza che mi danno...ma non per spreco, semplicemente ho poca scelta...o questo oppure fare un progettino con i file mark down e se volete proprio comportarvi da veri ingegneri potete costruirvi un sistema di mantenimento del contesto a basso consumo tramite il progetto Wiki LLM di Karpathy ed Obsidian... bellissimo e funzionale solo che richiede tempo (a mio parere)...se andate di fretta non si puo' fare...ma se avete tempo ve lo consiglio caldamente... >Modificando uno dei prompt precedenti, elimini tutto il resto della chat
>e inizi un nuovo ramo senza perdere quello precedente, che però non
>dovrebbe essere conteggiato (ho fatto delle prove e non lo considera).
>
Me lo sono sempre chiesto se lo considera o no... all'inizio (al primoprompt) lo deve considerare per forza... probabilmente dopo no, da quello che mi dici.. >In gemini aistudio puoi addirittura eliminare del tutto una parte della
>chat.
>
>Queste sono le regole che seguo quando me ne ricordo, non ne conosco altre.
>
E' la piu' importante, l'altra che fino ad ora non ci interessava e'conoscere gli orari in cui ci sta meno richiesta di computazione/inferenza sui server della AI (Claude e Gemini al momento hanno questa regola: limitano gli utenti che usano maggiore computazione in determinati orari) >Poi le solite cose di non fare troppi copia incolla o chiedere riassunti
>troppo lunghi (al limite eliminare quella parte di chat dopo averli
>ottenuti).
>
>Consiglio di seguirli in antigravity, che i limiti sono bassi.
>
Guarda e' la stessa cosa degli operatori telefonici...la gente vuolescaricare, fare videoconferenze ma se guardi film in 4k alle 10 di mattina di limitano la connessione... Mentre puoi guardare tranquillamente video a 720p...qui diciamo che se utilizzi troppi token ti conteggiano in modo molto severo il tuo utilizzo residuo ...ed ovviamente ti limitano ... Parliamo sempre di Claude e Gemini al momento... -- Posted from PhoNews Pro for Android V.3.13.3 News.individual.net - Addio dal 30 sett 2027!! :-( | |||||||||||||||||||||||||||||||||||
| |||||||||||||||||||||||||||||||||||
