PDF Stampa E-mail
Questioni economiche del 21esimo secolo. Intervista a Peter Thiel
Visioni del futuro - Varie

Le interviste del SIAI (Singularity Institute for Artificial Intelligence)
Peter Thiel, fondatore di Clarium Capital, co-fondatore di PayPal, advisor di SIAI

Patrick Wolf è stato per due volte campione di scacchi degli Stati Uniti e fu secondo ad Anand contro Kasparov nel ’96, cioè un anno prima che Deep Blue lo sconfiggesse. Nei primi anni ’90, era un grande riconoscimento essere un campione americano di scacchi. Ora lo è molto meno. È solo un’osservazione, ma è un fatto culturalmente rilevante che gli scacchi siano molto meno significativi. Non è come negli anni ’30, quando Stalin disse che avrebbe dimostrato la superiorità del sistema sovietico su quello occidentale tramite l’abilità di formare scacchisti migliori, perché allora era una misura affidabile da usare. Oggi non lo diremmo più. E penso anche che, stranamente, stiamo almeno in parte negando il potenziale impatto dell’Intelligenza Artificiale (IA) nel 21esimo secolo. Se studi la storia della seconda metà del 20esimo secolo, gli scacchi erano visti quasi come sinonimo di intelligenza, mentre ora sono visti come una cosa un po’ eccentrica. È come saper calcolare a mente le radici quadrate. Non dice molto sulla tua intelligenza.

È chiaro che il termine [IA, Ndt] significa molte cose diverse. È uno di quei termini su cui si è parlato molto e che è stato utilizzato a sproposito in molti contesti. C’era da prevederlo, naturalmente. Negli anni ’80 la gente diceva che era dietro l’angolo. Ci è voluto senz’altro di più e abbiamo sofferto molte delusioni lungo la strada. Ma è chiaro che molte cose si stanno realizzando, e chi non pensa che stia succedendo qualcosa di importante sta vivendo in un delirante mondo fantastico. Se stai iniziando una carriera negli Stati Uniti, oggi, penso che una delle domande più importanti che potresti porti sia: “in quale campo non competerò direttamente con i computer?” La gente oggi si sta concentrando sul competere con Cina e Messico, ma non saranno queste le questioni economiche importanti nel 21esimo secolo. Man mano che avanzeremo nel 21esimo secolo diventerà molto più importante capire come collaborare o competere con i computer, e quali siano i giusti rapporti di scambio. Qual’è l’equivalente della teoria dei vantaggi comparati di Ricardo tra umani e computer, nella quale noi beneficiamo dalla relazione piuttosto che esserne penalizzati? È questo che ci si dovrebbe chiedere. La gente che non si sta ponendo queste domande probabilmente farà, secondo me, grossi errori nella vita, e anche come società probabilmente faremo grossi errori se non prenderemo sul serio queste domande.

Penso sia difficile sapere se siamo ad una fase embrionale o avanzata del processo, o se l’IA non arriverà mai per qualche strana ragione che ancora non comprendiamo. Magari si sta realizzando proprio ora, magari è dietro l’angolo, o forse mancano 50 o 100 anni, o ancora di più. È difficile stabilirlo con certezza. E ancora, se guardi a cose come gli scacchi per il computer, sui quali la gente all’inizio era scettica, poi abbiamo visto un progresso incessante finché [i computer, Ndt] non sono diventati molto migliori degli esseri umani. Forse l’IA progredisce in questo modo, e ogni passo è chiaramente misurabile. O forse progredisce in un modo più esponenziale, o addirittura binario, e si realizza quasi da un giorno all’altro. Non lo sappiamo con certezza. Tanto premesso, penso che gli obiettivi fondamentali siano aumentare la consapevolezza tra il pubblico su questioni del genere, far capire alla gente che siamo nel mezzo della più grande rivoluzione tecnologica nella storia del mondo. Benché le persone siano consapevoli di molte delle ripercussioni quotidiane, non necessariamente si rendono conto di alcune ripercussioni di lungo termine. E credo sia esattamente questo il genere di cose che un’organizzazione no-profit dovrebbe fare. Non può farlo un’organizzazione a scopo di lucro perché il suo orizzonte temporale è troppo limitato. Se sapessimo che qualcosa si verificherà nei prossimi due o tre anni, potremmo renderlo un business finanziabile. Potresti ottenere capitale di rischio da investire. Ma il genere di cose in cui penso che la filantropia sia tanto importante quanto sotto-finanziata sono le questioni di base di lungo periodo dove i benefici sono molto diffusi, [in quanto, Ndt] sebbene tutta l’umanità potrebbe goderne, non li puoi monetizzare in un modo molto concentrato. Non lo fanno le corporazioni e nemmeno i governi, perché le une e gli altri tendono a pensare troppo a breve termine.

Sono un imprenditore ed un investitore impegnato in diverse aziende della Silicon Valley. Sono stato iI cofondatore ed il CEO di PayPal, che ho avviato nel 1998, e l’ho resa quella azienda enorme che eBay ha comprato nel 2002. E nel corso degli ultimi anni ho investito e ho fatto da mentore a diversi imprenditori che stanno dando vita alla nuova onda di aziende tecnologiche. Mi è sembrato logico che il mio impegno filantropico fosse complementare al mio settore di investimenti, che è questa nuova ondata tecnologica che trasformerà il mondo nelle decadi a venire. Cercando di capire dove si affrontano tali questioni, conclusi che il SIAI si stava impegnando davvero in quella direzione, e in modo molto diretto. La gente coinvolta sembrava essere quella con più talento. Questo è uno dei criteri che ho usato per investire in aziende start-up, e sembrava che le stesse regole si dovessero applicare alle no-profit: una combinazione di gente dotata di talento che si concentra sui problemi veramente importanti.

Ci sono molti dettagli che non mi interessa imporre. Piuttosto, mi interessa aiutare a creare un forum in cui ci possa essere uno scambio intelligente di idee e in cui ci possa essere una ricerca sostanziale su come creare un mondo in cui l’IA sia benevola verso gli umani, piuttosto che ostile. Penso che in qualche modo non abbiamo le risposte e la cosa importante da fare sia creare una “piattaforma” necessaria a porre le domande e a perseguire un programma di ricerca aperto in queste aree. Uno dei modi in cui posso dare il mio contributo è lavorare con Tyler Emerson e alcuni altri membri del SIAI su come costruire un’organizzazione, come farla crescere, come mettere insieme diverse cose che progrediscano molto naturalmente. Ma ciò che più mi interessa penso sia creare un forum dove le persone più intelligenti del mondo possano riflettere su ciò che considero uno dei problemi più importanti del 21esimo secolo. Molta gente diversa dovrebbe occuparsene. Penso che governi, aziende e individui dovrebbero occuparsene. Penso che per molte ragioni strutturali sia difficile che grosse organizzazioni, in qualche modo avverse al rischio, investano in questo tipo di ricerca. È ricerca di frontiera. Alcune persone la considererebbero oltre il limite della rispettabilità. La mia esperienza mi insegna che è solo spingendo le cose oltre il limite della rispettabilità che si ottiene qualcosa e che ti confronti veramente con le questioni interessanti, ottenendo dei progressi rivoluzionari. Ma è molto difficile, secondo me, che questa gente ottenga finanziamenti da aziende o da governi che spesso hanno un’agenda completamente diversa. Non significa che non dovremmo provarci. Non significa che falliremo senz’altro, ma, almeno per la mia esperienza, nel breve periodo la cosa migliore è il contributo individuale.

Il termine “Singolarità” è una breve definizione di questo cambiamento incredibilmente accelerato che sta per manifestarsi. Nella fisica, una Singolarità è un buco nero, uno strappo nella struttura dello spazio-tempo, dove le convenzioni della fisica non valgono più. È molto difficile sapere con certezza cosa porterà. Analogamente, esso ci avverte che certi vettori della tecnologia cambieranno così rapidamente nei decenni a venire che non sappiamo prevedere cosa verrà dopo. Non sappiamo che aspetto avrà l’anno 2100. E non puoi fartene un’idea estrapolando i trend correnti. Se estrapoli i trend, ottieni una certa immagine di come sarà il mondo nel 2100. La maggioranza della popolazione USA sarà di minoranza etnica, e la maggioranza dei bianchi sarà mormone. È questo che ottieni quando estrapoli tout court i trend demografici, per esempio. Ci sono altri trend che puoi estrapolare in modi differenti. Ma il concetto di Singolarità ci dice che tutte queste estrapolazioni sono profondamente sbagliate, perché ci sono alcuni vettori tecnologici che accelereranno talmente, nei decenni a venire, e che già hanno accelerato, da cambiare tutto.

La decisione su quali iniziative filantropiche sostenere è sempre molto personale. Penso che la gente dovrebbe osservare il SIAI e vedere se sta sollevando alcuni tipi di questioni che non si stanno discutendo altrove. E se sta formando un forum in modo che alcuni dei nostri migliori scienziati informatici, e altri accademici e pensatori, possano incontrarsi ed impegnarsi in questi argomenti. Penso che il SIAI abbia fatto un lavoro fenomenale, negli ultimi anni, e per giunta con un budget molto risicato. Dal mio punto di vista, la questione chiave è, “Quanto è grande la leva finanziaria che ottengo come investitore? Dove posso avere un grande impatto con un piccolo contributo?” Penso sia una forma di filantropia ad alto rendimento. Penso che a rendere unico il lavoro del SIAI sia il fatto che la ricompensa del successo [nella creazione di una Friendly A.I., Ndt] sia molto alta e sia qualcosa di lungo termine, cioè proprio l’ambito in cui la filantropia è sotto-finanziata.

Penso, quindi, che ci siano molte forme di ricerca scientifica in corso, nelle università  o in diversi contesti aziendali, dove il rendimento è immediato, quindi se lavori su uno specifico progetto ottieni delle risposte entro 6 o 12 mesi, oppure l’attesa è un po’ più lunga, ma comunque resta nei confini del convenzionale, della prassi comune. Penso che [quanto fatto dal SIAI, Ndt] sia appena al di fuori di quello. Certo, potremmo sbagliarci. Potremmo essere dei pazzi a pensare che i nostri sforzi in questo campo sortiranno qualcosa. Ma la mia convinzione in merito è che non tutto il lavoro scientifico importante sia stato portato avanti nei canali convenzionali. E quando, nel 2100, torneremo con la mente ad oggi, vedremo che i progressi chiave sono arrivati da fuori del mainstream, da gruppi quali il SIAI. La domanda è: “Può il Singularity Institute diventare una specie di Santa Fé Institute del 21esimo secolo per l’Intelligenza Artificiale e la convivenza tra esseri umani e computer su questo pianeta? Nessun altro sta facendo una cosa simile. Una delle regole chiave, nell’avviare un business o una no-profit, è evitare di competere con una massa di persone che sta facendo esattamente la stessa cosa. Nessun altro al mondo sta facendo quello che facciamo noi. Quindi, se faremo un buon lavoro, e otterremo dei successi, diventeremo lo standard de facto nel nostro campo.

Penso che sia in corso una graduale evoluzione che noi continueremo. Uno degli aspetti cruciali in queste innovazioni paradigmatiche è far sì che le persone ci pensino quando sono giovani, alle superiori o ai primi anni dell’università. Penso che diventare un forum per le persone di quell’età sia molto importante. Una triste realtà è che le persone, dopo una certa età, non cambiano molto i loro punti di vista. Penso sia stato Max Planck a dire che la scienza progredisce un funerale alla volta, perché la gente si fissa su certe idee... Mentre penso che dovremmo essere assolutamente aperti ad influenzare scienziati e ricercatori in ogni luogo e contesto, ha molto senso concentrarsi in particolare sulle persone verso la fine del liceo, o ai primi anni dell’università, e cercare di diventare un forum per molte delle migliori menti nella scienza informatica e campi affini. Siamo solo agli inizi.

È una bella domanda, chiedersi perché non ci sia molto più interesse su queste cose, perché siano tanto “di nicchia”. Penso che una delle sfide concettuali sia che non abbiamo una chiara idea di ciò che sarà il XXI secolo. Se chiedi in giro, la maggior parte delle persone daranno per scontato che sarà una specie di continuazione lineare delle tendenze correnti. Nel breve termine questo è più o meno vero, ma nel medio-lungo termine è completamente errato. Penso che questa percezione errata sia molto diffusa. Gli esseri umani non se la cavano bene con la matematica esponenziale, che è una delle caratteristiche della Singolarità. Non riescono a districarsi in situazioni nelle quali possono accadere cose di cui non comprendono nessuno dei componenti. Penso che questo sia il genere di cose con cui la gente intrinsecamente non se la cava bene. Penso che dal punto di vista psicologico, o storico, non c’è stato alcun periodo nella storia del mondo in cui c’è stato il rischio che gli esseri umani distruggessero il mondo intero. Penso si possa anche affermare che nel 20esimo secolo la gente sottostimasse il rischio di una guerra nucleare. Non si verificò, ma siamo fortunati ad essere qui, oggi. Penso che molta gente non afferri quanto si sia rischiato.

Non c’è nulla, nella nostra esperienza biologica, storica o culturale, che ci abbia preparato alla nozione che gli umani e le macchine che costruiamo potrebbero distruggere il mondo intero, o, in alternativa, che potrebbero cambiarlo radicalmente in meglio. Quindi, penso che lo spettro di possibilità sia molto più ampio. Hai una distribuzione di probabilità che ha un raggio molto più ampio di quanto la gente sia abituata a pensare. C’è un intero insieme di fattori come questo che convergono per rendere la cosa molto al di fuori di ciò cui la gente è abituata a pensare. E penso, senza dubbio, che l’altra sfida del SIAI sia un orizzonte temporale poco definito. Potrebbe essere di dieci, oppure di cinquant’anni. Molto spesso, in molti contesti, le persone vogliono una tabella di marcia: “Tu ci hai detto che i computer avrebbero dominato il mondo in dieci anni, doveva succedere nel ’95, ma non è ancora successo. Quindi è ovvio che ti sei sbagliato su tutto”. La cosa giusta sarebbe riconoscere che non abbiamo certezze su stime del genere. E sono molte le situazioni così, il che complica molto il tutto.

Penso che un buon punto di partenza sia documentarsi ed imparare. Partecipare. Il SIAI organizza questi raduni annuali [i Singularity Summit, Ndt], un forum molto compatto, di circa un giorno, dove raduni un gruppo di persone e si tengono alcune grandi conversazioni su questi temi. Personalmente, ho scoperto di imparare molto entrando in relazione con altre persone interessate alle stesse questioni e discutendo su questo tipo di cose. È così che il mio apprendimento funziona al meglio. Ma ovviamente, siamo anche sempre interessati ai finanziamenti, non c’è bisogno di dirlo. Una cosa che aggiungerei: mi sembra molto appropriato che il SIAI sia nella Silicon Valley, al centro del posto in cui più probabilmente questa rivoluzione nascerà. È al centro di tutto, sotto questo aspetto, e sarà guidato da una combinazione di imprenditori visionari, informatici brillanti, ricercatori e accademici di grande valore intellettuale. Queste comunità mi sembrano il posto giusto dove essere. Magari ci sbagliamo. Magari avverrà in Paraguay, o in qualche isola del Sud pacifico, ma scommetterei che avverrà nella Silicon Valley.

La ragione per cui queste questioni sono importanti è che c’è una buona probabilità, non una certezza ma una buona probabilità, che nei prossimi 20-50 anni trasformeranno il mondo. [Trascurarle, ndT] Sarebbe come dire: ”non dobbiamo preoccuparci dell’energia perché il petrolio non finirà l’anno prossimo”. Ma c’è una buona probabilità che finirà nei prossimi 20-50 anni, quindi ci si dovrebbe pensare a più lungo raggio. L’energia è un problema di lungo termine. È possibile fare progetti di investimenti sul lungo periodo, il che è il motivo per cui in parte il settore privato si prenderà cura del problema. [Quello di cui si occupa il SIAI, Ndt] è simile al problema dell’energia, nel senso che è di lungo termine, ma è diverso perché dobbiamo ancora fare molta ricerca di base. Non sappiamo ancora cosa sia necessario, o cosa si debba fare, o non fare, al riguardo.

Per quanto riguarda la filantropia, penso che uno degli errori più frequenti sia questa concezione del fare i propri interessi facendo al contempo del bene, il che riduce l’investimento ai settori dove c’è un rendimento immediato - quasi fosse un’opportunità di business con un di più filantropico. Penso che in alcuni casi le cose stiano così, ma in molti casi si finisce senza nessuno dei due. Si finisce con qualcosa che non è un business particolarmente buono e non è nemmeno filantropicamente buono. Secondo me, è intellettualmente più rigoroso separare le cose che servono al profitto, e che hanno certi parametri per meritare un investimento, dalla filantropia, la quale serve a rendere il mondo un posto migliore. In questa seconda categoria, bisogna confrontare le varie opportunità all’interno di quella categoria. È un argomento molto importante che non viene affrontato, ma dovrebbe, soprattutto nella comunità tecnologica.


Traduzione in italiano di Michele Gianella.
Video e audio originali sono disponibili sul sito del Singularity Institute: Video; audio (mp3).
Trascrizione originale, su Future Current: Economic Questions of the 21st Century

Ci scusiamo di ogni eventuale errore di traduzione, e vi invitiamo a segnalarcelo.


 

Tecnofascismo? No grazie.

  • Una serie di articoli su sovrumanismo e dintorni e sui motivi che hanno spinto Estropico ad andarsene dalla Associazione Italiana Transumanisti.
  • Aggiornamenti (su Estropico Blog)

Varie