Overview dei lavori prodotti da IBM Research AI nel 2018 (Parte 1): Nuovi metodi e approcci di AI

Il team AI di IBM Research quest’anno ha pensato di fare una sorta di regalo di Natale con il frutto del loro lavoro: ha compilato una rassegna dei articoli prodotti dai vari team nel 2018 per offrire qualche spunto sui principali temi nell’agenda di ricerca per il prossimo anno.

Schermata 2018-12-20 alle 13.27.15

A questo link è raccolto il materiale inclusi dei booklet scaricabili con gli articoli: https://www.research.ibm.com/artificial-intelligence/publications/2018/

E’ una bella iniziativa, a mio giudizio, non sono di parte 🙂 vi assicuro, che offre una vista sintetica sui vari temi di ricerca ma allo stesso tempo evidenzia le direttrici di lavoro futuro. Considerando la quantità incredibile di lavori che si stanno pubblicando mi pare un modo utile per tirare le somme rapidamente, almeno su quali sono le intenzioni strategiche di questo gruppo di ricercatori.

A proposito, per chi avesse voglia di dilettarsi su quanto l’Intelligenza Artificiale a livello globale sta generando vi consiglio questo bel report fresco fresco prodotto da AI Index (http://cdn.aiindex.org/2018/AI%20Index%202018%20Annual%20Report.pdf). Come questo report evidenzia le pubblicazioni scientifiche su AI crescono molto più rapidamente rispetto a tutte le altre pubblicazioni in ambito informatico negli ultimi anni: 8x rispetto a 6x dal 1996 ad oggi.

Ma i findings the AI Index li analizzerò in un prossimo post. Ritorniamo ad IBM.

Per quanto riguarda le pubblicazioni messe in evidenza dal team di IBM Research sono tre i principali assi attorno ai quali è stata organizzata la rassegna dei lavori (evidentemente si parla di AI ma il Machine Learning è l’argomento di punta possiamo dire), eccoli:

  1. Nuovi metodi e approcci
  2. Efficientamento degli algoritmi (o scalability come dicono gli americani)
  3. Affidabilità dei risultati e dei metodi stessi di Intelligenza Artificiale

 

Qui di seguito descrivo il primo degli stream di ricerca tra quelli appena citati, in ulteriori post che farò nei prossimi giorni fornirò alcuni spunti per gli altri.

 

Comprendere realmente ciò che si dice. Nell’ambito dell’analisi del testo applicata a scenari in cui vi sono dialoghi un task molto importante è quello che ha l’obiettivo di comprendere realmente quello che l’altro interlocutore vuol dire. Sembra facile ma pensate a contesti in cui il dialogo non è sbilanciato (uno chiede e l’altro risponde) ma c’è una sorta di bilanciamento delle conoscenze tra entrambe le parti, ad esempio, stanno dibattendo su un determinato argomento complesso e ciascuno voglia far emergere le proprie ragioni (si pensi ad un dialogo tra avvocati). IBM Research persegue già da vari anni una grand challege in questo contesto con progetto Debater (https://www.research.ibm.com/artificial-intelligence/project-debater/ ). Vi sono vari side effetti che questa iniziativa sta producendo come la definizione di nuovi metodi che permettono di migliorare la capacità predittiva nella comprensione/lettura degli argomenti proposti dall’interlocutore o semplicemente raccolti. Un lavoro citato è questo di Shachar M. ed altri Listening Comprehension over Argumentative Content http://www.aclweb.org/anthology/D18-1078. Questo lavoro introduce proprio il task chiamato  “machine listening  comprehension” ed ha predisposto un dataset interessante che include 200 interazioni spontanee formulate in dialoghi-dibattiti riguardanti una 50 argomenti. Queste interazioni sono state annotate in vario modo e costituiscono un’ottima base di partenza per creare modelli di ragionamento sofisticati nella comprensione del testo in un contesto in cui occorre argomentare dibattere.

Apprendere con pochi esempi. La riduzione del numero di esempi necessari a raggiungere un’accuratezza molto alta è evidentemente l’Holy Grail di chi si occupa di machine Learning e di reti neurali in particolare. Questi metodi sono voraci per lavorare bene bene, voraci di dati. Più ne metti e più il problema di “curve fitting”, che maliziosamente i simbolici dicono che risolvono, è efficace. Una delle principali linee di ricerca di IBM è pertanto quella che punta a costruire metodi che richiedono un basso numero di esempi, a limite uno solo, e da lì generando esempi sostanzialmente finti con tecniche di vario tipo ottenere risultati paragonabili al caso ideale.  Un lavoro di IBM Research da citare in quest’area è quello di Schwartz E. ad altri  ∆-encoder: an effective sample synthesis method for few-shot object recognition (https://arxiv.org/pdf/1806.04734.pdf). Questo team ha realizzato un metodo in grado di generare esempi sintetici per addestrare sistemi di riconoscimento di immagini a partire da esempi reali che fa leva su una vasto range di tecniche di distorsione e generazione di immagini.

Apprendere in modo cooperativo. Chi si occupa di didattica nelle scuole usa, e in qualche caso abusa, del termine cooperative Learning. Con questo ci si riferisce a proporre ai ragazzi delle modalità di apprendimento che hanno target il piccolo gruppo e far in modo che i bambini imparino cooperando o meglio dalla cooperazione in se, per certi versi. Questo amplifica il risultato finale che si ottiene. Anche in Artificial Intelligence si sta percorrendo una strada simile, si studiano metodi che permettono ad “agenti intelligenti” di apprendere e, nello stesso tempo, cooperare con altri “agenti intelligenti” nell’apprendere a risolvere compiti, come se si lavorasse in squadra. Alla fine degli anni novanta il tema degli Agenti Intelligenti era molto caldo e ricordo a quel tempo che la traiettoria era quella di immaginare un mondo popolato da agenti autonomi e addirittura moventi in senso virtuale (qualcuno si ricorda gli Aglets?) che interagivano e si scambiavano informazioni per risolvere task collaborativamente. Il distributional learning, sotto varie forme, è stata sempre una bella attiva area di ricerca. In un lavoro proposto da Omidshafiei S. Learning to Teach in Cooperative Multiagent Reinforcement Learning (https://arxiv.org/pdf/1805.07830.pdf) viene proposto un modello in cui ciascun agent apprende sia come ma quando deve fornire avvisi cooperando con altri agenti. Un’importante caratteristica del modello è che i ruoli non sono definiti a priori, quindi ogni agente può essere uno studente o un maestro a secondo delle situazioni e momenti dell’interazione durante la soluzione di un problema.

Le so tutte (o quasi). Qualcuno sostiene che l’evento simbolico che ha dato vita alla nuova primavera (industriale e non) dell’intelligenza artificiale nel recente passato sia stato la vittoria del sistema Watson al gioco Jeopardy! Il ben noto rischiatutto americano. Il problema affrontato da Watson Jeopardy! era quello dell’Open Question & Answer a cui molti gruppi di ricerca si sono cimentati in precedenza e continuano a cimentarsi tutt’ora. E’ interessante vedere come gli approcci al Q&A stanno migliorando negli ultimi anni del post-Watson Jeopardy! inglobando alle tecniche più efficienti ed efficaci basate su deep learning. Wang ed altri, ad esempio, in Evidence aggregation for answer re-rankingin open-domain question answering (https://arxiv.org/abs/1711.05116) hanno proposto due nuovi metodi per aggregare i fatti o evidenze che servono a rispondere ad una domanda e magari possono essere distribuiti in più passaggi testuali di un testo ottenendo un miglioramento delle prestazioni dell’8% dell’accuratezza delle risposte misurate su sue dataset di riferimento per il Q&A quali Quasar-T, SearchQA.

In ulteriori post che farò nei prossimi giorni fornirò alcuni spunti per gli altri due stream: Efficientamento degli algoritmi (o scalability come dicono gli americani) e Affidabilità dei risultati e dei metodi stessi di Intelligenza Artificiale

 

La panoramica complessiva è proposta in questi post

La parte 1 è proposta quo: https://pieroleo.com/2018/12/20/overview-dei-lavori-prodotti-da-ibm-research-nel-2018-e-temi-di-ricerca-per-il-nuovo-anno-parte-1/

la parte 2 è proposta qui: https://pieroleo.com/2018/12/21/overview-dei-lavori-prodotti-da-ibm-research-nel-2018-e-temi-di-ricerca-in-ambito-artificial-intelligence-per-il-nuovo-anno-parte-2/

la parte 3 è proposta qui: https://pieroleo.com/2018/12/23/overview-dei-lavori-prodotti-da-ibm-research-nel-2018-e-temi-di-ricerca-in-ambito-artificial-intelligence-per-il-nuovo-anno-parte-3/

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

Blog at WordPress.com.

Up ↑

%d bloggers like this: