Viviamo nella società dei dati, la nostra vita, in tutte le sue dimensioni è sempre più influenzata dai nostri dati personali, da chi li utilizza, da cosa ci fa, da dove e quanto li conserva. Senza dire che anche gli algoritmi ne sono straordinamente golosi, direi voraci. Ecco perché dedicare tre minuti al giorno alla privacy potrebbe essere una buona idea, il tempo di un caffè veloce, un buongiorno e niente di più, per ascoltare una notizia, un'idea, un'opinione o, magari, per sentirti cheiedere cosa ne pensi di qualcosa che sta accadendo a proposito di privacy e dintorni. Non una rubrica per addetti ai lavori, ma per tutti, un esercizio per provare a rendere un diritto popolare, di tutti e per tutti, centrale come merita nella nostra esistenza.
All content for Good morning privacy! is the property of Guido Scorza and is served directly from their servers
with no modification, redirects, or rehosting. The podcast is not affiliated with or endorsed by Podjoint in any way.
Viviamo nella società dei dati, la nostra vita, in tutte le sue dimensioni è sempre più influenzata dai nostri dati personali, da chi li utilizza, da cosa ci fa, da dove e quanto li conserva. Senza dire che anche gli algoritmi ne sono straordinamente golosi, direi voraci. Ecco perché dedicare tre minuti al giorno alla privacy potrebbe essere una buona idea, il tempo di un caffè veloce, un buongiorno e niente di più, per ascoltare una notizia, un'idea, un'opinione o, magari, per sentirti cheiedere cosa ne pensi di qualcosa che sta accadendo a proposito di privacy e dintorni. Non una rubrica per addetti ai lavori, ma per tutti, un esercizio per provare a rendere un diritto popolare, di tutti e per tutti, centrale come merita nella nostra esistenza.
Un milione di persone ogni settimana parla di suicidio con ChatGPT
Good morning privacy!
3 minutes
3 weeks ago
Un milione di persone ogni settimana parla di suicidio con ChatGPT
Un milione di persone ogni settimana parla di suicidio e altri comportamenti autolesionistici mentre usa ChatGPT. Lo ha reso noto la stessa società che gestisce il servizio di AI generativa più popolare del mondo lo scorso 27 ottobre insieme a una serie di altri dati su altri generi di conversazione, ovviamente meno preoccupanti ma non certo rassicuranti. La sigla e ne parliamo.
[SIGLA]
È una classica situazione da bicchiere mezzo vuoto o mezzo pieno a seconda i punti di vista o, considerata l’ora, da tazzina di caffè con un caffè troppo corto o corto quasi al punto giusto. Stiamo parlando dei dati che OpenAI ha pubblicato nei giorni scorsi, dati che essenzialmente, dicono due cose: che le conversazioni su ChatGPT restano in un numero rilevante di casi pericolose ma che sono sensibilmente meno pericolose che in passato perché la società si sta impegnando a affrontare e gestire questo genere di problemi. Alcuni numeri, però, mettono i brividi. Il primo è appunto quello di quel milione di persone in soli sette giorni che manifesterebbe propositi o intenzioni suicida o autolesioniste mentre usa ChatGPT. Oggettivamente tante, anzi tantissime se si considera l’oggetto delle conversazioni e se si tiene conto della facilità con la quale, talvolta, si passa dalle parole ai fatti come hanno raccontato alcuni drammatici episodi. Gli altri numeri, pure importanti, naturalmente, appaiono meno gravi. Quello, analogo, degli utenti che manifestano "livelli elevati di attaccamento emotivo a ChatGPT" e quello da centinaia di migliaia di persone che mostrano segni di psicosi o mania nelle loro conversazioni settimanali. Tutti fenomeni gravi e preoccupanti. Ma, per chi voglia guardare la tazzina di caffè piena al punto giusto, tutti numeri inferiori a quelli di qualche mese fa e, naturalmente, di quelli che si sarebbero registrati, se fossero stati misurati con le stesse metriche, al momento del debutto. OpenAI, insomma, e i numeri appena pubblicati in un’operazione di trasparenza comunque apprezzabile lo confermano, sta lavorando per contenere questo genere di fenomeni. Tanto per fare un esempio, i dati suggeriscono che il nuovo modello GPT-5 ha ridotto le risposte indesiderate, nel caso di utenti che manifestano propositi suicida o autolesionisti, del 52% rispetto al GPT-4°. Bene, naturalmente. Difficile dire se anche benissimo, non conoscendo il numero delle risposte indesiderate che ChatGPT continua a dare agli utenti che usandolo parlano di suicidio. E però la domanda da porsi probabilmente è un’altra e, bene dirlo subito, non riguarda solo ChatGPT e OpenAI ma l’intero universo dei chatbot. Milioni di persone ogni settimana, conversando solo con ChatGPT evidenziano propositi suicida e autolesionisti, mostrano livelli elevati di attaccamento emotivo a ChatGPT e segni di psicosi o mania. E se questa è la situazione in casa OpenAI è verosimile che non sia diversa quella che va in scena sulle pagine degli altri fornitori di servizi analoghi. Uno scenario oggettivamente pericoloso con rischi, probabilmente, da considerarsi elevati se non in termini assoluti, in relazione alla natura degli interessi in gioco. La domanda con la quale salutarci questa mattina, quindi, a me pare debba essere: siamo certi che servizi del genere possano essere distribuiti liberamente fuori da ogni regola che identifichi gli standard oltre i quali il rischio deve considerarsi insostenibile e imponga guardrails precisi a tutela degli utenti, a cominciare dai più giovani. Personalmente non credo si possa andare avanti così, utilizzando il mercato come se si trattasse di un laboratorio nel quale sperimentare le proprie soluzioni e le persone come cavie. Ma parliamone.
Buona giornata e, naturalmente, goodmorningprivacy!
Good morning privacy!
Viviamo nella società dei dati, la nostra vita, in tutte le sue dimensioni è sempre più influenzata dai nostri dati personali, da chi li utilizza, da cosa ci fa, da dove e quanto li conserva. Senza dire che anche gli algoritmi ne sono straordinamente golosi, direi voraci. Ecco perché dedicare tre minuti al giorno alla privacy potrebbe essere una buona idea, il tempo di un caffè veloce, un buongiorno e niente di più, per ascoltare una notizia, un'idea, un'opinione o, magari, per sentirti cheiedere cosa ne pensi di qualcosa che sta accadendo a proposito di privacy e dintorni. Non una rubrica per addetti ai lavori, ma per tutti, un esercizio per provare a rendere un diritto popolare, di tutti e per tutti, centrale come merita nella nostra esistenza.
