PDF Stampa E-mail
Sistemi Intelligenti totalmente integrati. Intervista a Barney Pell, fondatore di Powerset
Tecnoscienza - Intelligenza artificiale

Le interviste del SIAI (Singularity Institute for Artificial Intelligence)

Barney_Pell

Sono Barney Pell, attualmente fondatore e CEO di Powerset, un'azienda che usa l'intelligenza artificiale avanzata per fornire al mondo un nuovo modo di ricercare le informazioni, un modo che permetterà agli utenti di effettuare ricerche usando il linguaggio naturale, invece di dover parlare in termini comprensibili per un computer. Tuttavia, non abbiamo ancora creato l'intelligenza artificiale generale e stabile, stiamo lavorando alle primissime fasi. Ma stiamo avendo aiuti da alcuni importanti progressi nell'AI che sono rimasti fermi per i trent'anni passati.

Penso che prevedere il futuro sia molto difficile. Noi possiamo al massimo fare analisi in base ai trends. Ci sono stati progressi costanti nell'AI, come mostra la legge di Moore. Ripensando alle prime ricerche sull'AI, dovevi spendere tutto il tuo tempo a cercare di fare entrare ogni cosa all'interno di poca memoria e potenza di calcolo. Quindi l'AI è diventata ora molto più malleabile grazie ai progressi in quei due settori. Un buon esempio sono gli scacchi. Quando la gente ci si cimentò, le prime volte, era uno dei primi grandi problemi dell'AI, e la gente diceva che avremmo avuto un programma di scacchi in grado di battere un campione mondiale (umano) magari entro soli cinque anni. Ma poi cinque anni passarono senza molti progressi, e così per altri 25, 30 anni. La gente si stava quasi scoraggiando, quando finalmente le cose cominciarono a funzionare. C'era stato un avanzamento importante nella Scienza, nella Legge di Moore, c'erano programmi che surclassavano in alcune situazioni campioni mondiali (umani). E' vero, alcuni di questi problemi sono davvero difficili, richiedono molto tempo, ma quel che ci aspettiamo è che la tecnologia avanzi.

Specificamente per la Singolarità, è difficile fare previsioni. Direi che entro un centinaio di anni, è quasi sicuro che avremo computer in grado di lavorare a livelli umani, assorbendo informazioni dal mondo e processandole più in fretta di noi, e il problema è solo se noi riusciremo a stare al passo. Io sono un consulente al SIAI. Il SIAI è un ente no-profit che essenzialmente prevede quali saranno le conseguenze a lungo termine quando una vera intelligenza artificiale arriverà e condizionerà il mondo. Ci sono alcune questioni davvero interessanti. Sappiamo che nei progressi tecnologici la gente ha vari interessi, di tipo accademico, intellettuale, economico. Ma prima o poi quel traguardo tecnologico arriva, e spesso ci rendiamo conto delle conseguenze solo dopo. Il SIAI si occupa di guardare lontano e cercare di fare previsioni e, sebbene le cose sembrino molto al di là dal venire, il futuro arriverà più in fretta di quanto ognuno di noi prevede; ecco, noi guardiamo lontano e diciamo "Di cosa è necessario preoccuparsi già da ora?". Magari ci sono cose da fare per prepararsi, o forse bisogna prendere in considerazione le modalità che servono per progettare questi sistemi di AI, così ci saranno le giuste AI nel futuro, invece che, potenzialmente, quelle sbagliate.

Quindi, molte delle cose di cui parliamo qui entrano quasi nel regno della fantascienza. La cosa buffa è che le cose che erano fantascienza dieci o venti anni fa ora sono reali, e noi stiamo guardando questi tipi di scenari. La cosa di cui parliamo ora sono forse scenari alla terminator. Cosa succede quando hai un sistema AGI altrettanto o più intelligente degli umani, come si relazionerà con gli umani? Che succederà se avrà scopi tutti suoi? Magari sfuggirà al controllo. Un esempio è un sistema di AI distruttiva, interessata solo a conquistare il mondo. Questi sono in un certo senso i lati nascosti e temibili dell'intelligenza artificiale che vediamo spesso nella fantascienza. Potrebbe succedere che una IA vedrà gli umani semplicemente come una minaccia e vorrà, come vorrebbe un umano, distruggerli e dominare ogni cosa. Quindi questo sarà ciò che avverrà quando avremo sistemi intelligenti così potenti, forse più intelligenti di noi, con certi istinti radicati di dominio e che potenzialmente potrebbero uccidere tutti? Sarebbe sicuramente una brutta cosa.

Ora, non ci sono ragioni per cui ad un sistema intelligente serva avere una visione circoscritta. Molte persone pensano che sia scritta nella nostra architettura di primati. Molti animali non l'hanno. Non è fondamentale, per l'intelligenza. Rendendoci conto di quale sia l'architettura di una mente intelligente e che c'è un'intera "famiglia di menti possibili" che potrebbe essere progettata, quali proviamo a progettare? Dovremmo inserire alcuni tipi di emozioni negative, o solo quelle buone? Si può avere il bene senza il male? Sono queste le questioni da affrontare ora, e la cosa ha effetti sul tipo di architetture mentali che possiamo creare.

Queste questioni sono certamente lontane nel futuro. Ma, come sappiamo dai progressi tecnologici, il futuro arriva prima di quanto ci aspettiamo. In particolare, abbiamo il concetto di cambiamento accelerato, promosso da Ray Kurzweil, dove le cose avvengono sempre più in fretta. Quindi, i computer accelerano più in fretta che mai. Quanto è lontano questo futuro? Davvero non lo sappiamo. Quindi possiamo dire che ce ne potremmo occupare quando la creazione di questi sistemi di AI sarà vicina. Ma forse se ci pensiamo in anticipo sarà meglio. Il problema è che a quel punto certe scelte potrebbero essere già state fatte e si potrebbe non tornare indietro. Quindi la cosa interessante è pensare in anticipo: "Ci sono aspetti che dovremmo prendere in considerazione ora, prima che sia magari troppo tardi?" Perché se ipotizziamo che mancano solo cinque anni alla realizzazione di questi sistemi di AI forte, potrebbero esserci decisioni importanti da compiere subito per evitare di avere poi spiacevoli conseguenze.

La Singolarità è l'idea che ci sarà un momento unico nella storia umana dove i computer arriveranno ad essere tanto intelligenti quanto gli umani. E siccome il tasso di sviluppo dei componenti elettronici è più rapido del tasso si evoluzione dei sistemi biologici, arriverà un momento in cui i computer raggiungeranno gli umani e le cose si altereranno irreversibilmente. I computer a quel punto continueranno a migliorare sempre più in fretta mentre le persone potenzialmente rimarranno con la stessa architettura cognitiva e non miglioreranno con la stessa velocità. Quindi, tutto inizierà a cambiare molto in fretta. Quali nuovi livelli di informazione saranno disponibili e quali tipi di menti saranno in grado di collegarsi tra loro? Reggeremmo fino al momento in cui i computer staranno al passo con l'informazione e noi no e il mondo, da quel momento in poi, correrà troppo in fretta per noi. Gli unici che terranno il passo col cambiamento e con l'informazione saranno in effetti i computer. E' questa la Singolarità.

Quanto al mio background, mi sono interessato a lungo all'AI: da quando ero bambino, in realtà. Quando dovevo ancora laurearmi a Stanford, mi specializzai in sistemi simbolici, un'area dove la filosofia, la psicologia, la linguistica e la scienza informatica convergono, in quanto si cerca di capire cosa diventerà un sistema intelligente. Ho lavorato, sebbene non ancora laureato, alla comprensione del linguaggio naturale in uno dei più grandi laboratori al mondo sull'intelligenza artificiale. Poi presi un PhD in scienza informatica e AI all'università di Cambridge, dove ancora mi occupavo dei problemi dell'intelligenza Artificiale e a come potevano le macchine imparare dalla loro esperienza quando si imbattevano in nuovi problemi che non si erano mai presentati, immaginando strategie e soluzioni agli stessi. Poi andai alla NASA, e alla NASA, lavorai nel campo dell'intelligenza Artificiale applicata a software che potenzialmente potessero creare e controllare navicelle spaziali in completa autonomia. Lavorando su diagnosi, pianificazione, esecuzione multi-thread, controllo e monitoraggio, abbiamo messo insieme le conoscenze più avanzate dei nostri laboratori e le abbiamo riunite nella prima architettura software autonoma per navicelle spaziali e l'abbiamo fatta volare a bordo di un astronave. Abbiamo dimostrato che ognuno poteva sottoporre al sistema obiettivi di alto livello e il sistema, analizzati questi obiettivi, avrebbe pianificato una strategia per raggiungerli. E poi avrebbe tenuto traccia di cosa man mano succedeva, e se ci fossero stati problemi, li avrebbe diagnosticati, avrebbe provato a ripararli e poi avrebbe pianificato di nuovo il tutto e sarebbe ripartito adattatosi alla nuova situazione. In questo modo demmo la possibilità alla NASA di mandare navicelle spaziali fuori ad esplorare l'universo senza dover essere vincolate alle linee di comunicazione con la Terra, creando di fatto un'intera nuova architettura di sistemi in grado di adattarsi. Questo lavoro fu in parte d'ispirazione per la missione su Marte, dove avevamo rover in azione ancora non tanto autonomi quanto avremmo voluto, ma molto più di quanto lo fossero prima. Almeno potevano far fronte ai loro problemi, superare ostacoli, e cose del genere.

Sono stato coinvolto in diverse compagnie nuove da quando ho lasciato la NASA. Attualmente, sono fondatore e CEO di un'azienda chiamata Powerset. Stiamo sviluppando innovazioni rivoluzionarie nella comprensione del linguaggio naturale. I nostri sistemi leggono tutti i documenti del web e li convertono in una rappresentazione semantica cercando di comprendere il loro significato. Al momento della ricerca, un utente può utilizzare un linguaggio a lui naturale ed il sistema poi ne estrae il significato e fa una ricerca incrociata tra il significato della ricerca dell'utente ed il significato di tutto il contenuto e di tutta l'informazione che ha, per restituire un tipo di ricerca del tutto nuovo. Quindi, in effetti stiamo cercando un punto di contatto tra il linguaggio naturale e le potenzialità dell'intelligenza artificiale avanzata, cosa che condizionerà la vita di tutti. Sarà davvero la prima volta che potremo dire di interagire veramente con un sistema intelligente. Siamo tuttavia ancora agli inizi. Stiamo esplorando trent'anni di progresso nel campo dell'intelligenza artificiale. Ma possiamo già vedere, in quello che stiamo facendo, come un sistema una volta letti documenti possa iniziare ad aumentare la sua intelligenza direttamente da quelli, il che dà il via a vari tipi di reazioni a catena dove il sistema cerca di conoscere sempre di più, cerca di imparare e continua ad andare avanti finché non ha una base di conoscenza talmente ricca che gli permetta di interagire col mondo.

Per ottenere la vera intelligenza artificiale, sono richiesti requisiti di un certo livello su molti fronti differenti della tecnologia. Un'area a cui sono particolarmente interessato è la comprensione del linguaggio naturale. Il che consiste essenzialmente nel rendere le macchine in grado di ragionare sul linguaggio: leggere, comunicare, comprendere, fare collegamenti, dialogare con altre persone e altre macchine intelligenti. In realtà ci sono molte altre capacità richieste. Per esempio, l'abilità umana di processare la visione per essere in grado di individuare gli oggetti e prevedere le conseguenze del loro movimento nello spazio. Ancora non abbiamo niente del genere nei computer. E poi, anche se si costruiscono sistemi che hanno comprensione del mondo e del significato delle cose, finché non sono dotati di capacità percettive non avremo mai un sistema davvero intelligente. Ci sono molti, molti aspetti. Alcune persone credono che alla fine queste intelligenze dovranno essere dotate di un corpo che possa impegnarsi in prima persona nella realtà di tutti i giorni, percepire cose, formare associazioni e quindi spendersi per la società. Quindi, penso che non basterà semplicemente risolvere un unico problema. Il tutto dipenderà da un'intera architettura che integra diversi aspetti dell'intelligenza e capace di imparare dall' esperienza grazie all'interazione con il mondo.

Non è solo questione di avere uno strumento intelligente come un frigorifero che ordina il latte. E' questione di avere strumenti intelligenti completamente integrati. E' questione di sistemi che potrebbero avere i loro propri corpi, camminare, parlare a robot che sono fisicamente tanto in grado quanto noi di vivere nel mondo e di capire le cose con la stessa, o maggiore, intelligenza di noi. E' questo il mondo di cui parliamo, dove non ci sono solo piccoli strumenti che ci limitiamo semplicemente ad utilizzare, ma agenti con volontà propria, bisogni propri, movimenti propri, e potenzialmente pari, o chissà, in una posizione superiore a noi. Il mio ruolo al SIAI è di consulente. Penso che quello che stanno facendo sia grande. Penso che siano per davvero il punto di incontro per tutte quelle persone che vogliono pensare a queste cose, non solo alle questioni a breve termine sull'intelligenza artificiale o di una singola applicazione o di un'altra, ma davvero alle questioni fondamentali a lungo termine su che realtà avremo quando questo settore sarà davvero avanzato e quando, quindi, questi sviluppi saranno realtà. Sono davvero felice di sostenere la gente che adotta questa prospettiva visionaria. E' una piccola organizzazione ed hanno dalla loro alcune persone davvero brillanti e che amano il proprio lavoro, e il mio ruolo è quello di essere parte di questa realtà, aiutare le persone a comprendere il valore, essere un evangelista, e portare altra gente interessante.

Dato che sono un esperto di intelligenza artificiale e che la mia azienda Powerset sta davvero costruendo i confini dell'intelligenza artificiale, possiamo dire di essere parte di questo ambiente dove la gente pensa a ciò che succederà in futuro quando ci saranno queste macchine intelligenti. Questo genera molto interesse nelle persone che vogliono investire su intelligenze brillanti o trovare modi per coinvolgermi. Quindi, è apprezzabile avere un'organizzazione come il SIAI, nella quale posso far incontrare persone per creare un gruppo di individui interessati a questioni veramente importanti. Penso che molto, nel mondo, sia guidato dalle idee, e se non si pensa ad un'idea e ci si limita a fare semplicemente il proprio lavoro, si potrebbe a lungo andare rimanere da soli. Una volta ogni tanto, viene qualcuno che ha un'idea. E una volta che si è consapevoli di quell'idea, tutto quel che si fa risulta, più o meno consciamente, diretta conseguenza. Penso sia ciò che sta facendo qui il SIAI. Stanno davvero portando avanti il concetto di Singolarità e il fatto che il futuro dell'intelligenza artificiale si sta avverando molto più in fretta di quanto la gente avrebbe mai immaginato. Abbiamo davvero bisogno di pensarci. Le conseguenze sono davvero importanti. La semplice idea di esserci, di essere visibili a comunità sempre più grandi, significa che nel nostro lavoro quotidiano, sensibilizziamo la gente al problema. Questa idea può fare la differenza tra il far avvenire le cose in un modo dispersivo, inefficace e potenzialmente ostile, oppure in modo ragionato, coordinato e produttivo per ottenere il futuro che tutti noi vorremmo avvenisse.

Dal punto di vista finanziario, c'è un grosso numero di settori in cui poter contribuire. Molti di questi hanno conseguenze immediate. Facciamo una particolare cosa, e vediamo il risultato dopo poco. E molte di queste condizioneranno un gran numero di individui l'anno che verrà. Ed è così che si misurano i risultati, dal numero di persone condizionate. Penso che il SIAI stia davvero portando avanti un'idea nuova di come investire. Investe sul futuro a lungo termine dell'umanità ed il futuro a lungo termine della tecnologia. Ma il punto è che il lungo termine si crea ogni giorno e si sta creando proprio ora. Quindi, partecipando, investendo, e sostenendo il SIAI, puoi davvero essere sicuro che il tuo gesto avrà conseguenze importanti sul futuro dell'umanità.

Traduzione italiana di Michele Gianella.

Trascrizione originale, su Future Current: Fully Integrated Intelligent Systems. Ci scusiamo di ogni eventuale errore di traduzione, e vi invitiamo a segnalarcelo.

Qui il video originale dell'intervista, sul sito del Singularity Institute.

Immagine: Information, by untitledprojects


 

Tecnofascismo? No grazie.

  • Una serie di articoli su sovrumanismo e dintorni e sui motivi che hanno spinto Estropico ad andarsene dalla Associazione Italiana Transumanisti.
  • Aggiornamenti (su Estropico Blog)

Varie