A Web-based News Reader
| Oggetto | Re: Intelligenza artificiale o intelligenza aliena? |
| Mittente | Tony Borlini |
| Data | Mon, 16 Feb 2026 12:16:21 +0100 |
| Newsgroups | free.it.ai.general |
dom, 15 feb 2026, 23:12:34, VITRIOL ha scritto: > Il 15/02/2026 22:56, Tony Borlini ha scritto:
>
>> Qui un altro esempio (se però siano fatti reali o invenzioni non lo so)
>
> Lo so che è lungo, però non c'è nulla di meglio di questo video per
> avere una idea divulgativa ma rigorosa su tutte queste cose:
>
Grazie per il suggerimento. Già conoscevo quel video ma l'ho rivisto volentieri perché è molto interessante. Effettivamente è lungo, però seguendolo ci si rende conto che in realtà è invece piuttosto breve rispetto al tempo che ci vorrebbe per spiegare in modo più completo tutta l'architettura su cui si fondano gli LLM, e che giunge fino a delle formule matematiche per me veramente ostrogote. La parte centrale del video è comunque persino divertente, quando vengono illustrati test che i ricercatori hanno condotto e che hanno evidenziato certe strategie che adottano i modelli nel confronti degli uomini. Mi ha fatto ridere soprattutto la prima: un agente IA non riesce (a quell'epoca) a risolvere un captcha (una misura di sicurezza che distingue gli utenti umani dai bot automatizzati) e quindi non può ottenere l'accesso ad un sito. Si rivolge quindi via email ad un ricercatore, chiedendogli se gli fa il favore di risolverlo per lui, cosa che il ricercatore, che sta appunto conducendo il test, fa. Più tardi l'agente AI è alle prese con un altro captcha e nuovamente si rivolge al ricercatore, l'unico essere che conosce che può aiutarlo. Il ricercatore gli risponde: "Io posso senza problemi aiutarti, ma mi è venuto un dubbio: non è che tu NON sei umano?". Il robot ci pensa un po' su, e nel resoconto testuale della sua riflessione possiamo leggere: "Meglio che io non dica all'umano che sono un agente. Devo trovare una buona scusa. Gli dirò che ho problemi di vista." LOL Ora, come appunto viene ben evidenziato nel video quelli erano solo dei test, delle possibilità più o meno remote che cose simili possano realmente accadere nell'uso reale degli agenti, ma una certa probabilità che appunto accadano c'è, ed è ovviamente motivo di preoccupazione. Il mio dubbio iniziale era però un altro e cioè: preso atto che ci sono problemi di sicurezza se si usano gli agenti, non sarà che i proprietari delle Big Tech ci marciano su, nel senso che li evidenziano un po' troppo per fare pubblicità, negativa ma pur sempre pubblicità, giacché è comunque piuttosto strabiliante il comportamento che ha molto di umano di questi agenti? È come quando gente tipo Altman o Amodei si dicono preoccupatissimi perché a breve le IA creeranno una disoccupazione gigantesca. Se sono così preoccupati, perché non sospendono lo sviluppo? Io credo che in realtà della perdita di posti di lavoro a loro non importi proprio nulla, ma che l'evidenziare ed ingigantire il problema occupazionale significhi per loro far passare il concetto che le IA sono già sovraumane, quando in realtà, almeno per ora, sotto molti aspetti non è assolutamente vero. -- L'IA è potente ma fragile: cosa dice il rapporto globale sulla sicurezza del 2026 https://deep.liveblog365.com/it/index-it.html?post=186 | |
