Anthropic ha appena aggiornato la propria usage policy e, dal 12 novembre, vieterà comportamenti abusivi e crudeli, prolungati e privi di scopo, nei confronti dei suoi modelli. L’IA non può più essere trattata male, ma la possibilità che sia l’IA a trattare male il sottoscritto inquieta, e non poco.
Nel tentativo di fugare ogni dubbio, l’altra sera ho partecipato ad un meetup Papers We Love, “giocato in casa”, negli uffici Red Hat di Milano. Il chapter meneghino lo organizzano i colleghi Daniele Zonca ed Edoardo Vacchi; a loro il merito (la colpa?) di avermi fatto restare in ufficio oltre orario a rimirare formule che neanche al lontano esame di Analisi II…
Il titolo, Repetita Non Iuvant: Why generative AI Models Cannot Feed Themselves, diceva già tutto. La speaker, la bravissima Valeria Zuccoli di Intella, ci ha spiegato che cosa succede quando i modelli generativi vengono addestrati sempre più spesso sui loro stessi output: il collasso del modello. Gli eventi probabili vengono sovrastimati, le code della distribuzione, cioè proprio le cose rare e interessanti, spariscono, e gli errori si accumulano giro dopo giro. Il risultato è un degrado progressivo: si parte da disegnare uccelli e si finisce a disegnare pesci. Come una fotocopia di una fotocopia di una fotocopia, ma con meno dignità.
La buona notizia è che non siamo senza difese. Tra le strategie di mitigazione ci sono l’accumulare i dati storici invece di sostituirli, i filtri e il watermarking per distinguere testi umani da testi sintetici, e procedure di verifica ed etichettatura che scartano i contenuti scadenti. Fatte bene, queste tecniche permettono ai modelli non solo di evitare il collasso, ma perfino di migliorare nel tempo.
Me ne sono andato con una convinzione: la diversità dei contenuti, cioè il nostro essere imperfetti, strani e imprevedibili, è una risorsa di cui l’IA ha bisogno quanto noi. Il che, per uno che scrive su un blog come me, è la notizia più consolante della settimana.
Se vi capita, cercate -o proponete- il prossimo incontro di Papers We Love Milano. E, se vi va, qui trovate la registrazione della serata.
Scopri di più da Luca Bonesini
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.