Istituzioni e intelligenza artificiale privata

In risposta a all’articolo di Monica Cainarca: https://medium.com/italia/intelligenza-artificiale-rischi-e17ea8eebe5f#.mg94aw6qr

Ciao Monica!

Riporto il testo:

La preoccupazione principale è che i sistemi di IA sono sempre più integrati in istituzioni sociali fondamentali nonostante la mancanza di rigorosi studi e conferme sul loro grado di accuratezza e sui loro effetti sociali ed economici.

Questo è un punto molto delicato ed importante, che in Italia non stiamo ancora affrontando, nel 2016.

La mia preoccupazione è che sistemi di machine learning proprietari (ovvero appartenenti ad aziende private con obiettivi di profitto) diventino, come dici: integrati nelle istituzioni sociali fondamentali, senza che ci siano delle metriche di valutazione super partes, ovvero di organismi esterni di controllo (che immaginerei essere di competenza R&D dell’istruzione pubblica, università, CNR…, etc.). Non mi pare accada niente di tutto questo ora, ma niente proprio :-D, e questo è un grosso problema!

Sono certamente d’accordo con la conclusione:

Se gli impatti sociali dell’intelligenza artificiale sono difficili da vedere, è di fondamentale importanza individuare approcci rigorosi per renderli più visibili e trasparenti.

Sì, al momento manca in Italia, per quel che ne so, la ricerca di un qualche sistema di controllo “etico” (e democratico…) sulle soluzioni tecnologiche e metodologiche e strategiche, previste dai tanto acclamati sistemi di intelligenza artificiale “privata”.

BTW, ti invito a partecipare (scrivendoci se vuoi e diffondendo) il blog: www.convcomp.it che abbiamo creato per creare una comunità italiana attorno ai temi legati all'intelligenza artificiale, il machine learning ed i chatbots (sopratutto).

Cordiali saluti
giorgio