PDF Stampa E-mail
I robot nella forza lavoro. Intervista a James Hughes
Tecnoscienza - Intelligenza artificiale

Le interviste del SIAI (Singularity Institute for Artificial Intelligence)

James Hughes, Co-fondatore e Direttore Esecutivo dell'Institute for Ethics and Emerging Technologies 

“Perché giudichi probabile un’intelligenza artificiale dotata di volontà propria?"  equal rights for robots

Vedo già, nel mondo, casi di strutture informative sovraumane, che si sono autoconferite alcune caratteristiche. Le maggiori organizzazioni, come ad esempio la Chiesa Cattolica, hanno una memoria istituzionale, desideri, progetti per il futuro, strumenti per perpetuarsi. Hanno funzioni interne specializzate, proprio come un meta-organismo. A mio avviso, mentre cercavamo di creare il puro essere, un’intelligenza programmata, pura ed immune dalle bassezze umane, ci è sfuggito che queste intelligenze pure già esistono. La questione semmai è: ”Esisterà mai un'intelligenza sovrumana simile che non includa esseri umani? Sarà un qualcosa di superiore, o no?” E’ su questo punto che divergo profondamente dal resto di questa gente [con riferimento ai membri del Singularity Institute for Artificial Intelligence - Ndt].

“Perché credi nel potenziale delle intelligenze artificiali?”

Le vedo all’opera nelle architetture informative, che sono distribuite e, in parte, biologiche, e quindi credo che possano essere create anche nelle architetture non biologiche. Ecco perché le reputo fattibili. C’è anche in gioco un fattore irrazionale. Voglio dire, mi piacerebbe vivere in un futuro in cui ci sia la robotica. Vedo tutto il progresso fatto, e leggo Kurzweil delineare questi tipi di trend. Quanto alla coscienza, sono essenzialmente un materialista. E anche questa, secondo me, è una precondizione per credere in qualche tipo di Singolarità o Intelligenza Artificiale. Non credo che la coscienza richieda un qualche dono soprannaturale. E se anche lo richiede, i robot lo otterranno.

In effetti, ho discusso la questione con alcuni cristiani fondamentalisti. E molti cristiani fondamentalisti fraintendono completamente la natura dell’anima. I teologi per migliaia di anni hanno detto che l’anima non è stata creata all’inizio del tempo e che non sopravvive alla morte del corpo, perché Dio crea Adamo dall’argilla e vi soffia dentro l’anima. Creare un uomo, quindi, è un processo materiale. Si suppone che la resurrezione alla fine del tempo sia la resurrezione del corpo. L’anima, quindi, è la relazione di un essere cosciente con il divino. Se volessi creare, in una macchina, un essere che abbia lo stesso senso di reverenza e di apprezzamento per il mondo naturale e qualunque altra qualità spirituale vogliamo, se tu fossi in grado di creare quel tipo di fenomenologia in una macchina, quella sarebbe una macchina con un'anima. Siccome sono un materialista di quel tipo, non penso che creare intelligenza artificiale sia un problema.

“L’IA amichevole (Friendly AI su Wikipedia) è possibile?"

Penso che sia possibile, ma improbabile. Da materialista, ancora una volta, lo penso perché vedo gente amichevole. Quindi so che è possibile avere un essere conscio e senziente che sia amichevole, e non penso che vi sia alcun ostacolo insormontabile a creare lo stesso tipo di coscienza in una macchina. Il problema, penso, è che prevediamo di inserire l’intelligenza nelle macchine in un modo molto più controllabile e manipolabile di quanto le coscienze biologiche siano state fino ad oggi. Penso che anche le forme di coscienza biologica saranno molto più varie in futuro, e potremmo così diventare tanto complessi quanto le IA. Ad ogni modo, diciamo che crei un’IA, e le dai certi valori e una certa morale. Se qualcosa "esce dai binari" e compie una reductio ad absurdumcon un insieme o un’altro di valori, allora ti ritrovi con un disastro per le mani. Più potente è [tale IA - Ndt], peggiore sarà il disastro. Ecco perché il progetto "IA amichevole" mi lascia tanto perplesso: fondamentalmente, ci vedo il sogno di un cavaliere su un cavallo bianco che arriva e risolve tutti i nostri problemi.

“L’IA condizionerà la forza lavoro?”

E’ la solita tesi della disoccupazione a causa dell’automazione. Gli utopisti hanno sostenuto questa tesi per molto tempo, la nozione che potremmo essere in grado di liberarci della fatica sostituendo persone con macchine, animali ingegnerizzati, o altro. Sono tesi che tornano ciclicamente. Abbiamo visto, negli anni ’60, che un gruppo di economisti scrisse al presidente Kennedy e disse, ”ci aspettiamo che nei prossimi dieci, quindici anni, l’automazione su vasta scala produrrà disoccupazione di massa. Dobbiamo prepararci fin da ora”. Beh, si sbagliavano. E una delle ragioni per cui si sbagliavano è che l‘economia crea nuovi lavori per fare nuove cose che la gente vuole realizzate e che non erano state fatte prima. Una volta che il minatore lo fa il robot, nascono lavori industriali, e lavori nel terziario.

Il nostro problema, oggi, è che se otterremo l’IA forte, quell'IA di gran lunga sovrumana sostituirà la forza lavoro umana nei servizi e nell’occupazione intellettuale. E dopo, non vi sono altri sbocchi professionali. Sono poche le occupazioni "emotive" per cui le persone continueranno a preferire gli umani. Anzi, se guardi il film “A.I. - Intelligenza Artificiale”, persino la prostituzione dei robot sarà migliore di quella umana. Abbiamo già visto che la robo-psichiatria è maledettamente più economica e quasi altrettanto efficace di quella praticata da esseri umani. Quindi non saprei dire se ci sia una qualche occupazione creativa, intellettuale, qualunque cosa insomma, che faremo comunque meglio delle macchine. Arrivati a questo punto, tutti rischiano di essere disoccupati. Dobbiamo pensarci. Stiamo per lasciare che tutti muoiano di fame? O stiamo per capire come far mangiare tutti? Se capiremo come sfamare tutti, non sarà più necessario lavorare per essere pagati. Il contratto sociale, quindi, cambia completamente.

“Che ruolo potrebbero avere, nei progressi del futuro, il potenziamento umano e il potenziamento dell’intelligenza?”

Rileggete Vernor Vinge. Lui sostiene che l’intelligenza artificiale potrebbe portarci in un buco nero oltre il quale potremmo non sopravvivere. Oppure, ci potremmo impegnare in un’amplificazione dell’intelligenza, nell’aumento delle capacità intellettuali umane, che ci potrebbe portare molto vicini alla stessa cosa, e a quel punto avremo conosciuto un po’ di più quel che succede poiché avremo conosciuto un po’ meglio noi stessi. Se leggi "La Singolarità é vicina" di Kurzweil, noti come capitolo dopo capitolo insista sull’ingegneria genetica e sul potenziamento cognitivo umano attraverso la nanorobotica. E poi ti imbatti in questi cultori del codice (sono miei amici, sia chiaro, ma sono cultori del codice...) che  pensano che la bellezza della matematica salverà il mondo, e che non dovremmo avere alcuna origine biologica, alcun tipo di programma genetico, darwiniano, perché la bellezza della matematica salverà l’umanità. Ma la bellezza della matematica non ci indica la strada! L’etica, i valori, l’empatia, tutto questo é proprio degli umani incarnati. Perciò, se vuoi un’architettura IA guidata dai valori umani, direi di iniziare con il potenziare gli umani. Se hai un’idea di come creare l’IA, inseriscila in un essere umano.

“Le IA avranno diritti legali?”

Non è scritto da nessuna parte, nella Costituzione, che devi essere un umano per essere una persona giuridica. Già riconosciamo questo status alle aziende. Penso ci sia già un precedente legale. Il 14esimo emendamento dice che devi essere nato o naturalizzato negli Stati Uniti. Forse, se le IA non nascono negli USA, le dovremo naturalizzare. Ma se le riconosciamo come persone giuridiche, allora quali sono le precondizioni per essere una persona? E’ questa, secondo me, la discussione legale da fare. E’ ancora più probabile avere scimpanzé, orangutan e scimmie bonobo geneticamente modificati, che soddisfino i criteri di personalità giuridica.

“Perché sostenere il SIAI?”

Come ho detto, penso che l'interazione con il mondo della scienza informatica, della sicurezza informatica, della scienza cognitiva, sia ancora troppo carente. Se vai su scholar.google.com e cerchi “Friendly AI” per vedere quali pubblicazioni siano disponibili su questi argomenti, non trovi nulla. Perché nessuno ha mai sentito parlare dell’argomento, e ancora meno persone lo hanno preso sul serio. Perciò, se la comunità vuole davvero lasciare un segno sulle persone che cercano di progettare la cybersicurezza, l’IA, deve impegnarsi in modo diretto. Questa gente si trova nelle accademie, nel governo, nei think tank, e finora è stato un fenomeno subculturale. Ora, io so che tra il pubblico [del Singularity Summit - Ndt] ci sono persone che non fanno parte di questa sottocultura. Quindi, questo è un primo passo. Ma ce ne vogliono molti, molti altri.

“La Singolarità diventerà mai “di moda”?

Penso che tutte le idee attraversino una sequenza di fasi prevedibili. Alcune si arenano e non raggiungono mai la maturità. Ma una delle prime fasi è quella che io chiamo la fase del “salotto”. E’ quella di un gruppo di persone che generalmente sono l’una d’accordo con l’altra, ma a volte divergono con forza l’una dall’altra, sono molto intelligenti, amano stare insieme e parlare delle proprie idee, come nei salotti francesi del Settecento. Poteva tenersi una grande discussione sull’opportunità di far votare le donne: “E’ una grande idea, far votare le donne. Parliamone!”. Poi c’è stato il movimento delle suffragette nel tardo Ottocento, le donne si lasciavano morire di fame, la gente si faceva saltare per aria, e l’Internazionale dei lavoratori, con i suoi scioperi repressi a viva forza. Poi si passa dal salotto, dal tè delle cinque, al vero impegno politico dei giorni nostri. Quindi, la misura in cui il pubblico ed il governo prendono sul serio i tipi di cambiamenti sociali e di minacce radicali di cui parla il SIAI è anche la misura in cui o prendono l’impegno politico sul serio o saranno cancellati dalla mappa. Le sole persone che ne parleranno [in quest'ultimo caso, NdT] saranno la destra cristiana o la gente del Pentagono.

“Ci stiamo dirigendo verso la Singolarità?”

Beh, io credo che ci siano momenti di discontinuità nella storia, momenti rivoluzionari in cui tutto cambia molto in fretta. Penso vi sia un certo astoricismo nei Singolaritari e nella loro comprensione della Storia. Ci sono stati momenti, per esempio nel tardo ‘800, in cui le cose si mossero molto, molto in fretta. C’era molta innovazione tecnologica, molto cambiamento culturale, politico. Ci sono, penso, periodi così e periodi in cui le cose non sono così rapide. E credo anche che ci siano periodi come il passaggio epocale della nostra specie all’uso di simboli, nel qual caso non hai niente a che fare con quello che è avvenuto prima. Potrebbe essere questo il tipo di transizione che stiamo vivendo, o potrebbe essere piuttosto una discontinuità che ci porterà verso una nuova fase sociale, come il passare da una società basata su salario e lavoro, ad una con reddito minimo garantito e nessuna necessità di lavorare. Se faremo in modo che i robot svolgano tutto il lavoro, sarà un cambiamento fondamentale, che la super IA raggiunga i suoi scopi o no. Quindi sì, credo stia per avvenire una trasformazione fondamentale. La prevedo prima del 2050. Ma perché lo penso? Non sono un supergenio che può tenere d'occhio tutte le tendenze. Penso che nessuno possa farlo.

“Ci sarà marginalizzazione?”

Gestisco un think tank chiamato Institute for Ethics and Emerging Technologies (IEET), ed uno dei nostri leader teorici è un critico acerrimo del singolaritarianismo e del transumanismo in genere. Uno dei fenomeni che più critica è il continuo tentativo di "sub-culturalizzare". Qual’è il vantaggio, se stai andando al Pentagono e vuoi parlare delle minacce dell’Intelligenza Artificiale nelle infrastrutture dell’informazione, qual’è, dicevo, il vantaggio nel dire: “Sono un singolaritario e rappresento una organizzazione singolaritaria?”. Non ti dà alcuna credibilità, anzi secondo lui te ne toglie. E da un punto di vista pratico, ha ragione. Ho fatto l’attivista socialista per molti anni. Esattamente lo stesso problema. Se vai nell’ufficio del candidato Democratico locale e dici, “ Rappresento i socialisti d’America. Vogliamo supportare la tua candidatura e ti appoggeremo pubblicamente!”, lui ti dirà senz'altro: “ Se vuoi darmi vantaggio politico, non sostenermi pubblicamente e non dire a nessuno che sei un socialista!”. Con un qualcosa di strano e di là da venire come il Singolaritarianismo oggi, il problema è uguale. D’altro canto, la ragione per cui aiutavo quel candidato era perché ero un socialista e volevo sostenere la causa della sanità per tutti e dei diritti dei lavoratori. Non ci sarei andato se non fossi diventato un socialista, quindi i Singolaritari devono sviluppare una squadra di attivisti che vadano “in missione” nel mondo dell’informatica, nelle accademie, in politica. Ed affronteranno le stesse tensioni. Che differenza fa l'essere un Singolaritario, quando cerchi fare tutto questo?

Traduzione in italiano di Michele Gianella.
Video e audio originali sono disponibili sul sito del Singularity Institute: Video; audio (mp3).
Trascrizione originale, su Future Current: Robots Entering the Workforce

Ci scusiamo di ogni eventuale errore di traduzione, e vi invitiamo a segnalarcelo.

Picture credit: Union of Mechanical Workers STRIKE, by Sarah Dungan (site, blog)

 

Tecnofascismo? No grazie.

  • Una serie di articoli su sovrumanismo e dintorni e sui motivi che hanno spinto Estropico ad andarsene dalla Associazione Italiana Transumanisti.
  • Aggiornamenti (su Estropico Blog)

Varie