etica

Il vostro aspirapolvere non sta cercando di uccidervi (forse)

 E’ un po’ che volevo scrivere questo post. Anzi, per essere precisi volevo scrivere questo post da quando, qualche settimana fa, ho partecipato a un seminario sulle nuove tecnologie e sulle implicazioni che queste avranno sul nostro futuro. No, no.. piano con l’entusiasmo: il momento clou del seminario è stato il mio intervento, quando dopo quattro ore passate a sentire le previsioni del relatore degne di un film apocalittico con Will Smith e – ancora peggio – le domande e gli interventi di alcuni dei presenti (eravamo un’ottantina di ragazzi fra i 25 e i 30 anni, tutti post-laurea ma provenienti da facoltà molto eterogenee) ho perso la pazienza e ho preso la parola.

Generalmente non sono una che ama fare interventi in pubblico, soprattutto davanti a platee che non conosco e a maggior ragione se quello che devo dire va in totale contrapposizione con quanto detto fino a quel momento dal relatore. Generalmente, perchè poi quando è troppo è troppo.

Ho fatto il mio intervento, guadagnandomi il silenzio imbarazzato del relatore, un po’ di sguardi perplessi da parte degli altri partecipanti e la gratitudine dell’unico altro ragazzo che come me aveva studiato un po’ le basi di intelligenza artificiale.

Dopodichè ho realizzato una cosa: “La’ fuori c’è gente veramente convinta che l’intelligenza artificiale consista solo di bambini robot inquietanti e che l’avanzamento tecnologico ci porterà necessariamente a eserciti di cyborg killer che in confronto C17 e C18 sono dei teneroni” (se non sapete di che parlo, documentatevi qui).

Va bene, confesso che quando ho visto iCub alla Maker Faire di due anni fa anche a me ha fatto un sacco impressione ma questa è un altra storia, stavolta mi riferivo al bambino del film A.I – Intelligenza Artificiale che mediamente è il primo a venire chiamato in causa quando si parla di questo argomento. Ricordo ancora la faccia della mia compagna di banco del liceo che a fine esame di maturità disse alla commissione che si sarebbe iscritta a ingegneria informatica per specializzarsi poi in intelligenza artificiale e l’unico commento fu quello del commissario di italiano – esterno – che disse: “Ah, bello, come quello del film col bambino robot“. Tutt’oggi mi ritengo fortunata che quando toccò a me si limitarono ad annuire educatamente e basta.

Ma torniamo a noi: ho avuto questa epifania e ho deciso di scriverci un post a riguardo. Ecco quindi quattro miti sull’intelligenza artificiale che vorrei sfatare, o meglio “quello che avrei voluto veramente dire a quel seminario, ma che per educazione ho dovuto censurare

  • Il vostro aspirapolvere robot non sta cercando di uccidervi. Bisognerebbe scriverlo su delle t-shirt. Come dicevo prima, quando si parla di intelligenza artificiale vengono subito in mente scene di film di fantascienza di vario genere che ormai fanno parte dell’immaginario collettivo: quindi se ora io vi dico che già molti di noi hanno delle macchine intelligenti dentro casa il primo pensiero è di controllare sotto al letto se c’è Will Smith qualche tremendo robottone killer. E invece eccolo lì, piccolo, tondo e diabolico: l’aspirapolvere robot. Quando ho scoperto che il mio librone di intelligenza artificiale (Artificial Intelligence: A Modern Approach, di S. Russell e P. Norvig) faceva esempi solo e soltanto usando questa scopa elettronica rotonda ci sono rimasta malissimo anche io, ma ragionateci un momento: come fareste a spiegare a una scopa dove spazzare, ogni quanto, che non deve spazzare due volte nello stesso punto e, soprattutto, che deve tornare alla base prima di esaurire la carica della batteria? A meno che non stiate facendo un remake di Fantasia, vi servono un bel po’ di algoritmi per rendere la vostra scopa intelligente. Assodato che Freud avrebbe comunque parecchio da dire sull’insana passione di chi studia A.I. per questi aspirapolveri e che Topolino è stato comunque un pioniere delle pulizie domestiche 2.0, prima di dire che le macchine intelligenti distruggeranno il genere umano, pensate che state parlando anche del vostro aspirapolvere.
  •  Comunque il vostro aspirapolvere robot potrebbe effettivamente cercare di uccidervi, ma la colpa non sarebbe la sua. Se una macchina fa qualcosa è perchè è stata programmata per farla quindi agisce su precise indicazioni di un qualche essere umano, che poi siano indicazioni volontarie del programmatore o bug dell’algoritmo è un altro conto, ma comunque non prende iniziative di sua spontanea volontà. Credo che questo sia il concetto alla base di tutto: le macchine sono costruite dagli umani, sta a noi darci dei limiti. Ce lo insegna benissimo Tony Stark nell’ultimo film degli Avengers, a me lo ha insegnato un po’ più brutalmente il mio professore, quando una volta a lezione chiesi come mai un determinato compito all’interno di un algoritmo di data integration doveva essere necessariamente svolto dall’uomo e non poteva essere automatizzato con un algoritmo, e lui mi rispose “Scrivi un programma che lo faccia e avrai creato un’intelligenza in grado di distruggere il genere umano”. Vi dirò, per 3 CFU non mi è sembrato il caso di correre il rischio. Non voglio entrare troppo nel merito, il discorso sarebbe lungo e fa troppo caldo, ma alla fine è una questione etica non troppo lontana da quella che riguarda, ad esempio, le armi.. come disse Einstein “nessun topo al mondo costruirebbe una trappola per topi“… o forse sì?
  • Anche gli aspirapolveri nel loro piccolo fanno esperienze. Anche le macchine imparano, la loro esperienza non è un “ricordo” come lo intendiamo normalmente noi, ma un insieme di dati che processati da opportuni algoritmi guidano le scelte della macchina. Un aspirapolvere robot che è stato programmato per evitare gli ostacoli e per memorizzare nel suo database quando e dove ne incontra uno, nel momento in cui va a sbattere contro un muro non si comporterà in maniera molto diversa dalla mia cuginetta di sei mesi che sta imparando a gattonare. Nel primo caso si tratta di un buon algoritmo di reasoning, nel secondo di istinto di sopravvivenza. C’è un ramo dell’intelligenza artificiale che studia proprio questo, indovinate come si chiama? Machine learning!
  • Il vostro aspirapolvere potrebbe non uccidervi, ma potrebbe sempre rubarvi il lavoro. Quarta ed ultima osservazione emersa durante il seminario “le macchine ci ruberanno il lavoro”… ok, forse. Ma siamo sicuri che sia un male? Se un lavoro è molto ripetitivo e non richiede “l’occhio umano” per essere eseguito perchè non affidarlo ad una macchina? Sarà così possibile ridurre la percentuale di errore umano nel risultato e si potrà assegnare alla risorsa “umana” un altro task per cui è più adeguata. Vi faccio un esempio: prendete un pasticcere che lavora 8 ore al giorno il cui compito è solo fare torte. Se fa tutto a mano sarà in grado di produrre 8 torte al giorno (sto tirando numeri a caso), dedicando in media 20 minuti per la decorazione di ogni torta e con la buona probabilità che per una minima distrazione commetta un errore e rovini qualche dolce. Ma se una parte del suo lavoro viene affidata al nuovo e fiammante BakeRobot 2.0 che impasta e cuoce i pan di spagna da solo, il rischio di errori nella fase di impasto e cottura della torta cala di molto, per non parlare del fatto che il nostro buon pasticcere avrà molto più tempo da dedicare alla decorazione della torta o potrà fare più torte al giorno, aumentando quindi qualità e/o quantità della sua produzione. Quindi sì, c’è la possibilità che fra dieci anni una macchina farà il vostro lavoro, o almeno che ne farà una parte, ma magari voi sarete troppo impegnati col vostro nuovo lavoro per restarci troppo male.

Certo su questi temi ci si potrebbe discutere per ore e ognuno di questi punti e degno di più e più post sull’argomento, infatti sono abbastanza convinta che in futuro ne parleremo ancora, il mio intento in questo caso era – oltre che mettere nero su bianco una serie di riflessioni fatte in una calda mattinata di luglio – provocare un po’ le coscienze e spingere soprattutto i più “profani” delle nuove tecnologie ad informarsi e a ragionare con la propria testa, prima di preoccuparsi perchè qualcuno a un seminario ha raccontato una storiella fantascientifica su un futuro piuttosto improbabile.

La consapevolezza delle macchine

Di Samuele Vinanzi

«Homo sum, humani nihil a me alienum puto»: sono un essere umano, non ritengo a me estraneo nulla di umano – Publio Terenzio Afro

Avendo passato gli ultimi dodici mesi nello studio della Robotica e dell’Intelligenza Artificiale, mi sento di poter dire che, nel mio modesto parere, la frase che meglio rappresenta lo stato dell’arte di questa branca della scienza è stata pronunciata da un mio professore durante una sua lezione in aula: «l’intelligenza sta negli occhi di chi osserva».

Con questa frase si vuole lasciare intendere che, ad oggi, siamo molto lontani dalla realtà fantascientifica che vorrebbero mostrare i film e i romanzi in cui si dipingono storie che ruotano intorno a macchine senzienti, intelligenze artificiali talmente complesse da iniziare ad agire in totale autonomia in qualsiasi tipo di ambiente e circostanza, che possano provare amore e sentimenti oppure che siano mosse dall’istinto di conquistare la Terra e di soggiogare la razza umana. Tuttavia, seppur i nostri software attuali siano molto meno complessi, c’è da chiedersi: è giusto porsi degli interrogativi a proposito delle macchine consapevoli? Se è vero che ora come ora sembra rendersi necessario un mastodontico impegno di studio e di ricerca nella branca per riuscire a risolvere la grandissima quantità di sottoproblemi che andrebbe a caratterizzare un’intelligenza artificiale di livello umano (non per ultimi problemi che potrebbero apparire banali, per quanto stiano al fondamento stesso di quest’idea, ma che rappresentano un elevato grado di sfida per i progettisti, quali la sintesi di linguaggio e il riconoscimento della semantica all’interno di frasi recepite), dall’altro lato nessuno di noi è estraneo alla rapidità con cui avanza il progresso tecnologico. Se ad oggi l’idea di un robot che possa provare sentimenti può sembrare così fantasiosa, non è difficile pensare che tra qualche anno questo obbiettivo potrebbe non sembrare così impossibile da raggiungere. Se allora accettiamo queste ipotesi e assumiamo che sia possibile, nel corso delle prossime decadi, di riuscire a vedere realizzata un’intelligenza artificiale che possa competere con i prodotti della fantasia di registi e scrittori, allora non possiamo permetterci il lusso di giungere impreparati fino a quel giorno.

(altro…)