Indica un intervallo di date:
  • Dal Al
©credits

Algoritmi sociali, istruzioni per l’uso

Nonostante il numero di lettori di questo blog sia piuttosto esiguo, ho ricevuto spesso domande e critiche sull’utilizzo di algoritmi per gestire alcuni aspetti della società (dall’assegnazione degli studenti alle scuole alla ripatizione delle faccende domestiche, fino alle le elezioni). Le potrei riassumere così: “In fondo, non siamo mica macchine noi! Ci sono certamente variabili che voi informatici non prendete in conto quando dite che una certa procedura è efficiente, è equa, o non dà incentivi a mentire (è strategy-proof).”

I più informati focalizzano le loro critiche sui modelli comportamentali su cui queste affermazioni sono fondate. Vediamo dunque quali sono le assunzioni principali. I modelli di individuo che utilizziamo appartengono alla “teoria della scelta razionale”, un insieme di modelli matematici che l’intelligenza artificiale ha preso in prestito dall’economia. Per dirla semplice: quando ci troviamo a fare una scelta, valutiamo tutte le opzioni possibili associando ad ogni eventuale conseguenza un valore di utilità, e scegliamo l’azione che massimizza quest’utilità. Si può aggiungere incertezza o esternalità al modello, ma la massimizzazione resta il nucleo del comportamento razionale. Non lasciamoci già tentare da facili critiche: tutto può entrare a far parte dell’utilità, quindi se siamo generosi o altruisti daremo un’utilità personale più alta ad azioni che apparentemente ci fanno perdere beni più o meno materiali in favore di qualcun altro.

Innumerevoli studi di psicologia comportamentale hanno criticato simili modelli, ma la loro semplicità e chiarezza matematica li ha fatti resistere da ormai quasi un secolo – con conseguenze non sempre innocue, come lo psicologo Barry Schwartz osserva analizzando la risposta nevrotica dei suoi studenti alla domanda “cosa farai dopo gli studi?”. Perché dunque affidarci ad algoritmi basati su modelli che semplificano così tanto il nostro comportamento? Innanzitutto non dimentichiamo che questo è solo un primo passo verso modelli più realistici e complessi, ma questa non è che una risposta parziale. Chiediamoci piuttosto perché vogliamo mettere in atto procedure che organizzano alcuni aspetti della nostra vita sociale?

Ci sono diverse risposte possibili. Quella che trovo più convincente è che queste procedure servono a garantire, e sottolineo questo verbo, una qualche forma di equità. Servono a correggere differenze naturali tra gli individui che le utilizzano, ad evitare per esempio che individui particolarmente persuasivi ottengano sistematicamente più degli altri. I modelli comportamentali su cui sono fondate assumono infatti un comportamento egoista dei partecipanti (gli inglesi dicono “self-interested” che è meno connotato negativamente), ed è ovvio che in molte situazioni se assumessimo un comportamento collaborativo potremmo ottenere risultati migliori, indipendentemente dalla procedura utilizzata. Serve però un salvagente per quando la cooperazione fallisce. Possiamo certo sperare che tutti siano generosi, ma non andremo lontano se non sappiamo proteggerci da derive egoistiche che procedure ed istituzioni ben congegnate possono escludere.

Resta il fatto che in diverse situazioni si possa ottenere migliori risultati, e forse anche vivere meglio, con comportamenti individuali collaborativi. Come impedire dunque che procedure sociali fondate sul meccanismo degli incentivi – pensiamo ad esempio ai bonus salariali legati al raggiungimento di specifici obiettivi sul lavoro – influenzino il nostro comportamento e ci rendano troppo “self-interested”? Come evitare di trasformarsi in semplici recettori di premi ed incentivi, cani pavloviani che sbavano in funzione del loro livello di utilità? Se da una parte algoritmi e procedure sociali possono evitare derive egoistiche e garantire l’equità del risultato nei casi peggiori, non bisogna però dimenticarsi della nostra complessità in quanto essere umani, della nostra capacità – forse anche desiderio – di evitare questi casi peggiori, delle nostre un po’ sopite aspirazioni a cercare di costruire una società migliore, a prescindere dal significato attribuito a questo aggettivo. L’ingegneria delle istituzioni e delle procedure sociali permette una corretta gestione della società, un compito in cui purtroppo la politica attuale tende ad identificarsi quasi completamente, ma è inutile quando si tratta di ispirare trasformazioni collettive o nuovi comportamenti individuali. Gli algoritmi sociali sono un salvagente, una barca ben progettata. Senza nessuno ai remi ci fanno fare quello che sanno fare meglio: galleggiare.