Rischi Artificiali

 

Schermata 2019-05-04 alle 10.30.37.png

Ti fidi di me?

Ti fidi di una macchina? Non so, non credo.

Probabilmente questa è la risposta più comune a questa domanda. Poi, se ci pensi, cominci a riflettere t’accorgi che ti sei fidato delle macchine più di quanto tu non sospettavi. A volte fidarsi delle macchine diventa una sorta di dipendenza. Cosa voglio dire? Pensate a tutte le volte che sul vostro navigatore avete impostato una destinazione e vi siete sostanzialmente affidati a Lui, si dico Lui con la lettera maiuscola. La vocina comincia a dire a 100 metri e svolta a destra, alla rotonda prendi la seconda uscita poi prosegui per via stretta, ancora un po’ e sei arrivato. Si, ne sono sicuro, vi site fidati, nessuno si senta escluso.

L’assuefazione comincia poi quando dai timidi approcci iniziali, quasi da innamoramento, hai cominciato a sperimentare che Lui o Lei “non si sbaglia mai!”, allora è amore, ceco.

Specie quando Lui o Lei le sa proprio tutte e non mi riferisco agli indirizzi e alle svolte ma quando, diavolo di una macchina, mi suggeriva di fare un percorso che non avrei mai fatto per risparmiare 20 minuti! Ma come faceva a saperlo? E allora ti fidi. E allora ti lasci andare. Non ne puoi più fare a meno.

Questo è ciò che avrà pensato Sabine Moreau, che doveva andare a prendere una sua cara amica a Brussels partendo dalla sua casa a Solre-sur-Sambre in Belgio. Sabine doveva percorrere una cinquantina di chilometri scarsi da casa sua, ma si è ritrovata molte ore a Zagabria, in Croazia.

Magari Zagabria avrà pure il suo fascino, ma è alla bellezza di 1450 km lontana dall’obiettivo iniziale. Forse un po’ smarrita Sabine lo sarà stata ma forse in cuor suo si sentiva protetta e sicura ad ubbidire ai comandi di quella voce e lasciarsi guidare. Sabine si è lasciata guidare, perché’ si fidava. In un trafiletto da cui ho letto la notizia qualche anno del Telegraph (https://www.telegraph.co.uk/news/worldnews/europe/belgium/9798779/GPS-failure-leaves-Belgian-woman-in-Zagreb-two-days-later.html) c’era scritto: “Notavo un traffico di ogni tipo passarmi affianco (questo mi fa capire che andava pure lenta). Prima in Francia, quindi ero in Germania – Colonia, Aachen, Francoforte… ma non mi sono data una spiegazione”. Sabine era sovrappensiero e quindi assuefatta al suo GPS? Non saprei dire, ma qualche altro caso del genere è capitato.

Schermata 2019-04-18 alle 15.47.40

Per Sabine e per chi come lei o anche noi stessi, in qualche modo, mi son detto che conviene

certamente investigare la nostra relazione con la tecnologia e in particolare con i sistemi di nuova generazione che sono sempre più alimentati dall’Intelligenza Artificiale.

E allora ho deciso di descrivere tutto questo in un libro, a modo mio, per far capire ma anche per capire io stesso su come il rapporto tra noi e le macchine stia evolvendo, evidentemente di pari passo alla nostra stessa percezione dei rischi che questa relazione può avere.

E’ tempo di parlare di nuovi rischi, che poi in molti caso sono anche vecchi e ben noti, che potremmo definire oggi Rischi Artificiali. E’ un tema non solo caldo ma il tema centrale dei prossimi anni.

Perché’?

Senza l’assunzione del rischi non muovi una cippa lippa, non muovi nulla. Il tuo “status quo”, il tuo come singolo, quello collettivo, come azienda, come organizzazione o anche  come nazione resta li scolpito sulla pietra. L’assunzione del rischio, nostra, di chi ci sta vicino o di altri o della natura è quasi fosse il motore che ci ha spinto nell’evoluzione. Non c’è innovazione senza rischi.

Mi sono detto che vale la pena approfondire tutto questo con l’obiettivo di capire e di far capire come l’assunzione del rischio o anche i rischi stessi stanno mutando al tempo della tecnologia, delle macchine, e al tempo della spinta evolutiva che l’Intelligenza Artificiale si accinge a fornire.

Questo lavoro sarà un lavoro incrementale, che evolverà a puntate nel tempo ed apparirà sul mio blog. Quasi come un quaderno con appunti d’esplorazione. Ho una specie di mappa da seguire, non ne sono sicuro che sarà sempre la stessa ma partiamo da un punto, da un indice.

Questo è il percorso e i temi che esplorerò, racconterò e condivideremo se vi pare.

RISCHI ARTIFICIALI

1. Fidarsi delle macchine, fidarsi degli uomini

  • Gradi di fiducia
  • La qualità dei sistemi software
  • La gestione dei Rischi
  • I rischi dei nostri pregiudizi
  • Le preoccupazioni di carattere generale: ruoli, responsabilità, etica
  • La sicurezza nei sistemi “mission critical”

2. I sistemi di Intelligenza Artificiale

  • Perché l’intelligenza Artificiale?
  • Qual è il valore di business dei sistemi AI
  • Tassonomia dei sistemi AI
  • AI per ridurre l’approssimazione
  • La storia dell’AI e dello spazzolino da denti

3. L’Intelligenza (Artificiale) di cui aver fiducia

  • Cosa è l’Artificial Intelligence Ethics (AI Ethics)?
  • Etica dell’Intelligenza Artificiale e il suo “mercato”
  • Proposte e principali tavoli di lavoro dell’AI Ethics

4. Le vulnerabilità dei sistemi di Intelligenza Artificiale

  • Nuovi tipi di minacce alla sicurezza dei sistemi
    • Compromissione dei Dati
    • Attacchi avversari
    • Furto di Modelli
  • Intelligenza Artificiale vs privacy
    • Acquisizione di Dati
    • Data pre-processing e modelling
    • Rilasci di un modello
    • Rischi operativi
  • Dati carichi di “pregiudizi”
  • Impredicibilità
  • Effetto Blackbox

5. Sfide nella gestione del rischio nei sistemi di Intelligenza Artificiale

  • Descrivere un sistema di intelligenza artificiale
  • Implementare un sistema di IA
    • Scelta di feature incorrette
    • Setting errato dei paramenti
    • Presenza di Bug software
    • Transfer Learning
    • Continual Learning
  • Rischi nell’uso (imporio) di un Sistema Artificiale
    • Human computer interacton e fattori psicologici
    • Pratiche fraudolente

6. Come mitigare i rischi

  • Il ciclo di vita dei sistemi
  • Sistemi Trasparenti
  • Spiegabili
  • Controllare l’Intelligenza Artificiale
    • Human in the loop
    • Controllo basato sulle decisioni
    • Robustezza intrinseca
    • Test e validazione
  • Metodi di verifica e validazione dei software
    • Misura ella qualità
    • Test in ambienti simulati
    • Comparazione con prestazioni di umani
  • Uso e applicabilità
    • Misurare l’affabilità predittiva di un sistema
    • Compliance rispetto all’intelligenza umana
    • Gestione delle aspettative
    • Etichette di qualità

7. Futuro nella gestione dei Rischi

 

I commenti che riceverò mi aiuteranno a dare una priorità alla stesura di questo racconto. Allora vedetelo come un catalogo viaggi e l’elenco di tante possibili mete.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

Blog at WordPress.com.

Up ↑

%d bloggers like this: