ROMA - Età diverse, diverse specializzazioni, differenti gli istituti dove lavorano. Eppure Tomaso Poggio e Giorgio Metta sono due voci importanti della stessa rivoluzione. A 72 anni, Poggio è un’autorità nel settore dell’intelligenza artificiale (Ai, acronimo di artificial intelligence) e oggi dirige fra le altre cose il dipartimento Brains, Minds e Machines del Massachusetts Institute of Tecnology (Mit) di Boston. Metta invece, classe 1970, sta per diventare il nuovo direttore dell’Istituto italiano di tecnologia (Iit) oltre ad essere il “padre” del robot iCub.
 
Li abbiamo incontrati a Roma, al National Geographic Festival delle scienze, per parlare degli allarmi continui per quanto riguarda il controllo sociale con l’uso del riconoscimento automatico dei volti così utile ai regimi totalitari. Non a caso Microsoft si è rifiutata di vedere certe tecnologie e ora anche dentro Amazon sono in tanti a pensare che la loro azienda dovrebbe fare la stessa cosa.  Abbiamo quindi chiesto ad entrambi cosa ne pensano e cosa temono per il futuro.

Cosa le fa paura dell’intelligenza artificiale?  
Poggio: “Troppa frenesia attorno alle Ai. Non avremo sistemi digitali simili alla mente umana a breve, ci vorranno decenni e saranno necessarie tante scoperte. Elon Musk, così come Stephen Hawking, hanno esagerato il pericolo che corriamo. Ma è vero che ci sono dei temi che vanno affrontati ora: la privacy ad esempio e il fatto che l’applicazione delle Ai in ambito sociale, potendo dar vita sistemi di sorveglianza, rende la vita molto più facile ai dittatori. Non è un caso che i migliori sistemi di riconoscimento facciale siano cinesi. O che Hassad in Siria abbia fatto piazza pulita dell’opposizione anche sfruttano l’osservazione dei social attraverso tecnologia e ingeneri russi”.  

Metta: “Per ora però le Ai funzionano bene se applicate a processi ripetitivi in ambienti che cambiano poco, ma sono davvero molto lontane dalle distopie dipinte nei film di fantascienza. Mi spaventa quindi più la stupidità umana più dell’intelligenza artificiale. E mi preoccupa il fatto che questa rivoluzione, fra Ai, automazione e robot, possa non esser diffusa. Che i vantaggi reali restino nelle mani di pochi Paesi o poche compagnie, che queste tecnologie applicate alla produzione come alla sanità vengano fatte pagare tanto ai cittadini aumentando le disparità sociali invece di sanarle”.

Usa, San Francisco vieta il riconoscimento facciale: minaccia la privacy

13 Settembre 2019

Cosa pensa dei principi stilati dalla Commissione europea?
Poggio: “E’ un ottima cosa e credo che anche i colossi del Web siano assolutamente dell’idea che delle regole servano fatte da governi e da autorità internazionali. In fondo il problema non è tanto la regola in sé quanto che valga per tutti e valgano ovunque. Nessuna è propriamente intelligente, nemmeno AlphaZero di DeepMind che impara da sola a giocare a scacchi o ad altri giochi. Se sta giocando e l’edificio va in fiamme, resterebbe lì invece di salvarsi. Questo solo per dire che le Ai non hanno idea di cosa sta davvero succedendo attorno a loro. C’è però un aspetto, assurdo e ironico ad un tempo: non sappiamo cosa accada esattamente in certi processi legati al “deep learning” (l’apprendimento profondo, una delle tecniche dell’intelligenza artificiale, ndr)”.  
 
Metta: “Sono un’ottima base di partenza, toccano i punti essenziali come il rischio di tecnologie che volontariamente o involontariamente finiscano per discriminare. Pensi ad esempio all’efficacia di una certo tipo di analisi medica che magari fallisce più frequentemente con persone di un certo tipo. E tocca anche il tema della trasparenza degli algoritmi. Dobbiamo sapere cose accade negli algoritmi”.

Stiamo quindi usando algoritmi avanzati che noi stessi non sappiamo come agiscono?
Poggio: “Non sappiamo matematicamente perché funziona tanto bene. Io penso di averlo capito a livello teorico. Ma sono certo che nel giro di due anni ne sapremo molto di più. Nella scienza non è una cosa così sorprendente. Dopo la scoperta dell’elettricità da parte di Alessandro Volta ci vollero 60 anni prima di arrivare ad una vera teoria matematica e questo non ha impedito nel frattempo scoperte e invezioni legate a quel settore. Certo, in questo caso stiamo parlando di sistemi che possono fra le altre cose guidare una macchina, dunque è meglio sapere perché agisce in carta maniera e l’attenzione verso lo sviluppo di Ai basate su “White box” (test che premette di rivelare gli errori e capire dove sono, ndr.) è importante. Bisogna però ricordarsi che sono tanti gli aspetti della vita dei quali sappiamo alla fine poco. La complessità delle cose aumenta sempre più”.
 
Metta: “Non sempre. A volte agiscono in maniera autonoma e non abbiamo idea del perché hanno fatto una certa cosa. Sono sistemi che imparano e scelgono come risolvere certi problemi. AlphaGo, l’Ai creata da DeepMind di Google, battendo il campione del Go fece alcune mosse inspiegabili. E finché restiamo nel campo dei giochi da tavolo non vedo problemi, problemi che invece potrebbero sorgere in ospedale, in una catena di montaggio, in un sistema di sicurezza cybernetico. Il problema è che non siamo sempre tecnicamente in grado di capire i motivi di certe azioni ma del resto non possiamo imporre l’intellegibilità assoluta come condizione base per la creazione di algoritmi perché si bloccherebbe la ricerca”.

RLab

Riconoscimento facciale: se una macchina capisce chi siamo e cosa facciamo

Jaime D'Alessandro 09 Ottobre 2018

Nel del 2018 dall’Italia sono emigrati circa 300mila persone. E’ una città intera delle dimensioni di Catania. Avendo in nostro Paese risorse limitate, lei su quali campi della tecnologia punterebbe per tentare di fermare quest’emorragia di intelligenze e risorse?
Poggio: “Sulle applicazioni dell’informatica nella produzione e nella manifattura. Sono processi noti ma molto sofisticati e l’intelligenza artificiale può dare un enorme contributo nello sviluppo di processi produttivi migliori arrivando a perfezionare quelli esistenti già molto complessi ed elaborati. Potrebbe essere un nuovo tipo di pasta, un nuovo materiale, ma anche un vino. E non servirebbero investimenti enormi. Prendiamo DeepMind a Londra: sono circa mille dipendenti con un budget di circa 300 milioni di dollari. Pochi per una grande compagnia come Google, ancor meno per uno stato. E comunque una cifra ridicola rispetto a quella che ad esempio servirebbe per costruire da zero una fabbrica di microchip”.   
 
Metta: “Investire subito nel settore dell’intelligenza artificiale e sostenere la sinergia con gli altri Paesi europei perché questo non è un campo nel quale si ottengono risultati se si va da soli sapendo che dall’altra parte abbiamo colossi come Cina e Stati Uniti”.