Path: news.corradoroberto.it!fu-berlin.de!uni-berlin.de!individual.net!not-for-mail
From: Bingo3331 <invalid@invalid.com>
Newsgroups: free.it.ai.general
Subject: Re: Il sicofante! Non solo leccaculo, ma proprio bugiardo.
Date: 24 Feb 2026 11:28:26 GMT
Lines: 40
Message-ID: <n05gaqFip8cU1@mid.individual.net>
References: <g73opkl3got6nibar4b336uq13p9v5vgfn@4ax.com>
 <10nh3qh$loom$1@solani.org> <10nh5k0$lq2n$1@solani.org>
 <l06ppkthajnmnol06999o017flfefls1oe@4ax.com>
 <mn.c2b27ea24dbd0b01.0@LeTreDiNotteVirgilio.it>
Mime-Version: 1.0
Content-Type: text/plain; charset=UTF-8; format=flowed
Content-Transfer-Encoding: 8bit
X-Trace: individual.net wl3wt+cO1cnbrFuVCJhFngM4wqd6gV6n7S1b66tlpnuA72ecGn
Cancel-Lock: sha1:IOwy04MsY8n0nZXdBVB0bcgaOCM= sha256:eJFiHCVUMYmXZ1O3Lyg1HRaBe8iZmD4BELE0X5mQhCA=
User-Agent: PhoNews/3.13.3 (Android/14)
In-Reply-To: <mn.c2b27ea24dbd0b01.0@LeTreDiNotteVirgilio.it>
Xref: news.corradoroberto.it free.it.ai.general:1843

On 24/02/26 11:30, ArchiPit wrote:
>Rispondo qui sotto a Luca
>
>
>> VITRIOL:
>>
>>> PS
>>> Ad esempio ora si sa che non si deve fare come fece OpenAI che tentò di 
>>> usare come rinforzo i "mi piace" e "non mi piace" che davano gli utenti, 
>>> e usci un disastro totale.
>>
>> E uscì anche un ragazzo suicidato, se non ricordo male.
>
>La Ai gli disse qualcosa del tipo "e allora fallo" e lui lo ha fatto.
>
Allora due cose: (1) Vitriol si riferisce al fatto che mettendo il pollice
 in su alle risposte che piacciono agli utenti si e' creato un modello
 "sicofante" oltre i limiti che compiace l'utente, penso il modello 4o
 migliorato, che ora e' stato tolto... Quindi non ha in se' nulla a che
 vedere direttamente con il suicidio del ragazzo 
(2) La AI e' uno strumento ed in genere puo' interagire in due modi con
 l'utente: si puo' rifiutare di aiutarti oppure puo' aiutarti a raggiungere
 il tuo obiettivo. Nel caso del ragazzo che si e' suicidato si tratta di un
 ragazzo malato di depressione ed il modello non ha capito le reali
 intenzioni del soggetto e quindi indirettamente ha supportato le sue
 elucubrazioni...

Tuttavia va considerato che la AI e' uno strumento, non una persona, per cui
 se un depresso cronico gli dovesse dire "agisci come un mio amico emo con
 manie suicide" sarebbe l'inizio di una catastrofe...
Il modello non va valutato in senso assoluto...non e' un marketer, non e' un
 mentore, non e' programmatore, assume il ruolo che gli da' l'utente!!! E se
 l'utente e' distrurbato, son dolori,nonostante i red team provino a
 simulare qualunque scenario negativo ed a tentare di prevenirlo...

-- 
Posted from
  PhoNews Pro for Android V.3.13.3
  News.individual.net - Addio dal 30 sett 2027!!   :-(