PDF Stampa E-mail
Motori di creazione. Capitolo 12: Strategie e sopravvivenza
Tecnoscienza - Nanotecnologie

Colui che non ricorre a nuovi rimedi, deve attendersi nuove disgrazie; poiché il tempo è il più grande innovatore.  
- Francesco Bacone
  

Nei capitoli precedenti ho delimitato dettagliatamente il solido terreno delle possibilità tecnologiche. Ora, però, mi devo ulteriormente avventurare nei reami delle politiche e delle azioni umane. Questo terreno è meno solido, ma i fatti tecnologici ed i principi evolutivi forniscono ancora una volta i punti fermi dai quali partire per esplorare il territorio. La corsa tecnologica, guidata dalle pressioni evolutive, ci sta conducendo verso rischi senza precedenti; abbiamo bisogno di escogitare strategie per fronteggiare questi rischi. Poiché innanzi a noi vediamo pericoli così grandi, ha senso considerare di arrestare la nostra corsa frenetica. Ma come potremmo riuscirci?  

Restrizioni personali 

A livello individuale, potremmo astenerci dallo svolgere ricerche che conducano verso capacità pericolose. Ed infatti, la maggior parte della gente se ne astiene, poiché la maggior parte della gente, in primo luogo, non è composta da ricercatori. Ma questa strategia non arresta i progressi: nel nostro mondo così diversificato, altri porteranno avanti il lavoro.  

Repressione locale

Una strategia di limitazione personale (almeno in questa materia) odora di semplice inazione. Ma che dire di una strategia d'azione politica condotta a livello locale da gruppi di pressione che domandino leggi per la repressione di certi tipi di ricerche? Questa, vorrebbe essere una azione personale mirata al rafforzamento di una inazione collettiva. Sebbene essa possa ottenere successi nel sopprimere la ricerca in una città, un distretto, un paese o una alleanza, si tratta di una strategia che non può aiutarci a guidare la conquista della posizione di supremazia, lasciando invece che qualche altra forza, una fuori dal nostro controllo, la raggiunga. Un movimento popolare di questo tipo arresterebbe la ricerca solo laddove le persone di tal movimento detengono il potere, e i suoi più grandi successi potenziali risulterebbero meramente nello sgombrare la strada ad uno stato più repressivo, affinché esso possa diventare la forza dominante.  

Dove siano coinvolte armi nucleari, si possono avanzare argomenti a favore di un disarmo unilaterale e di una resistenza non-violenta (o, quanto meno, non-nucleare). Le armi nucleari possono essere utilizzate per distruggere l'establishment militare e diffondere il terrore, ma non possono essere impiegate per occupare dei territori o comandare sulla gente - almeno non direttamente. Le armi nucleari non sono riuscite a sopprimere le situazioni di guerriglia e le agitazioni sociali, sicché una strategia di disarmo e resistenza ha un certo grado di sensatezza.  

La repressione unilaterale della nanotecnologia e dell'IA, al contrario, corrisponderebbe ad un disarmo unilaterale in una situazione in cui la resistenza non può funzionare. Uno stato aggressivo potrebbe usare queste tecnologie per sequestrare e dominare (o sterminare) anche una nazione interamente composta da Gandhi, o persino composta da combattenti per la libertà armati e indomiti.  

Questa circostanza merita di essere evidenziata enfaticamente. Senza un qualche nuovo modo per riformare gli stati del mondo oppressivi, la semplice repressione totale della ricerca non può risultare in un successo totale. In assenza di un successo totale, un successo importante potrebbe essere un disastro per le democrazie. Persino se non si approdasse a nulla, gli sforzi di questo tipo potrebbero assorbire il lavoro e la passione degli attivisti, sprecando in una futile strategia le già scarse risorse umane. Inoltre, gli sforzi di repressione potrebbero inimicarsi i ricercatori coinvolti, fomentando lotte dissidenti fra alleati potenziali e sprecando ulteriori risorse umane. La futilità e il divisionismo di questa strategia, la rendono una strategia da evitare.  

Nonostante tutto, la repressione possiede una innegabile attrattiva. Essa è semplice e diretta; "Il pericolo arriva? Fermiamolo!". Inoltre, i successi degli sforzi locali di repressione promettono gratificazioni a breve termine: "Il pericolo arriva? Possiamo fermarlo qui ed ora, tanto per cominciare!". Queste partenze potrebbero rivelarsi false partenze, ma nessuno lo noterebbe. Sembra probabile che l'idea della semplice repressione riesca a sedurre molte menti. Dopo tutto, la repressione locale di pericoli locali ha una lunga tradizione di successi; arrestare una sorgente inquinante locale, per esempio, riduce l'inquinamento a livello locale. I tentativi di repressione locale dei pericoli globali sembrano analoghi, comunque differente sia il loro effetto. Abbiamo bisogno di organizzazioni locali e di pressioni politiche, ma attorno ad entrambe andrebbero costruite delle strategie in grado di funzionare.  

Accordi di repressione globale

Secondo un approccio più promettente, potremmo applicare delle pressioni locali per la negoziazione di una messa al bando d'estensione mondiale. Una simile strategia potrebbe avere una qualche probabilità di controllare le armi nucleari. Ma tentare di arrestare la nanotecnologia e l'intelligenza artificiale porrebbe problemi di ordine ben differente, per almeno due ragioni.  

In primo luogo, queste tecnologie sono meno ben definite rispetto a quelle delle armi nucleari: poiché le tecnologie nucleari attuali richiedono certi isotopi di metalli rari, esse sono ben distinte da altre attività. Questa particolare attività può quindi venir ben definita e (in linea di principio) messa al bando. Ma la biochimica moderna conduce già, a piccoli passi, verso la nanotecnologia, così come la moderna tecnologia informatica conduce a piccoli passi verso l'IA. Nessuna linea definisce un punto di separazione naturale. E poiché ogni piccolo progresso apporterà benefici medici, militari ed economici, come potremmo negoziare un accordo mondiale a proposito del "dove" fermarsi?  

In secondo luogo, queste tecnologie sono più potenti delle armi nucleari: poiché reattori e sistemi d'arma sono piuttosto grandi, delle ispezioni potrebbero limitare la dimensione di una forza segreta e quindi limitare la sua potenza. Ma i replicatori pericolosi sarebbero microscopici, e il software IA sarebbe intangibile. Come potrebbe chiunque essere sicuro che un qualche laboratorio non si stia avvicinando alla soglia di un passo avanti tecnologico strategico? Sul lungo termine, come potrebbe chiunque essere sicuro che un qualche hacker all'interno del suo scantinato non sia ormai proprio sulla soglia di un passo avanti tecnologico strategico? Le contromisure ordinarie di sorveglianza non funzionerebbero, e ciò rende la negoziazione e il mantenimento di un bando mondiale quasi impossibile.  

Le pressioni per i giusti tipi di accordo internazionale, renderebbero più sicuro il nostro cammino, ma è evidente che gli accordi che si limitino semplicemente a sopprimere i progressi pericolosi non possono funzionare. Ancora una volta, la pressione locale deve essere parte di una strategia funzionante.  

Repressione globale forzata

Se gli accordi pacifici non funzionano, si potrebbe considerare l'uso di forza militare per reprimere i progressi pericolosi. Ma a causa dei problemi di vigilanza, la pressione militare da sola non basterebbe. Per sopprimere i progressi attraverso l'uso della forza, occorrerebbe invece che una potenza conquisti ed occupi altre potenze ostili (1), e che sia armata con armi nucleari al fine di garantire con fermezza una politica di sicurezza. Inoltre, la potenza conquistatrice sarebbe essa stessa dotata di un potere militare massiccio, unito ad una ben dimostrata intenzione di farne uso. Perciò, una tale potenza potrebbe davvero essere considerata affidabile per quel che riguarda l'auto-repressione dei propri sforzi di ricerca? Ed anche se così fosse, sarebbe da considerarsi affidabile per il mantenimento di una interminabile e onnipresente vigilanza sul mondo intero? In caso contrario, è molto probabile che la minaccia emerga in segreto, e per di più in un mondo nel quale gli sforzi aperti verso gli scudi attivi sono stati prevenuti. Il probabile risultato sarebbe il disastro.  

La potenza militare nelle democrazie comporta grandi benefici, ma da sola essa non risolve i nostri problemi. Non possiamo acquisire sicurezza attraverso una strategia di conquista e di repressione della ricerca.  

Queste strategie per arrestare la ricerca, siano esse basate sulla inazione personale, sulla inazione locale, sulla negoziazione di accordi o sulla conquista del mondo, sembrano tutte destinate a fallire. Eppure, l'opposizione ai progressi ha un suo ruolo da giocare, perché abbiamo bisogno di ritardi selettivi intelligentemente diretti per posporre le minacce fino al momento in cui saremo davvero preparati per affrontarle. Le pressioni degli attivisti allarmisti saranno essenziali, ma per aiutare il progresso e non per arrestarlo.  

Progresso unilaterale 

Se i tentativi di sopprimere le ricerche su IA e nanotecnologia appaiono futili e pericolosi, che dire del corso di azione opposto, ossia uno sforzo di sviluppo completo e unilaterale? Anche questo sforzo presenta dei problemi. Noi, in democrazia, probabilmente non possiamo produrre un grosso passo avanti strategico in condizioni di perfetta segretezza. Troppa gente ne verrebbe coinvolta, e per troppi anni. Poiché le dirigenze Sovietiche verrebbero a sapere dei nostri sforzi, le loro reazioni sarebbero improntate su una ovvia preoccupazione, e tali dirigenze guarderebbero sicuramente ad un grosso passo avanti tecnologico in termini di una grossa minaccia. Se la nanotecnologia fosse sviluppata come parte di un programma militare segreto, gli analisti del loro servizio di spionaggio temerebbero lo sviluppo di un armamentario sottile e decisivo, probabilmente basato su "germi" programmabili. In base alle circostanze, i nostri opponenti potrebbero scegliere di sferrare un attacco a freddo. E' importante che le democrazie mantengano la supremazia su queste tecnologie, ma saremo più sicuri se potremo in qualche maniera combinare questa forza con delle politiche inequivocabilmente non minacciose.  

Equilibrio di potere 

Se perseguiamo una qualunque delle strategie delineate fino ad ora, inevitabilmente scateniamo dei forti conflitti. I tentativi di reprimere nanotecnologia e IA, getteranno nell'arena i desideri dei repressori contro gli interessi vitali dei gruppi di ricerca, delle istituzioni militari e dei pazienti bisognosi di assistenza medica. I tentativi di conquistare un vantaggio unilaterale per mezzo di queste tecnologie getteranno nell'arena le democrazie cooperative contro gli interessi vitali dei nostri avversari. Tutte le strategie scateneranno conflitti, ma è proprio inevitabile che tutte le strategie vadano a dilaniare così pesantemente le società occidentali o il mondo?  

Per cercare una via di mezzo potremmo tentare di raggiungere un equilibrio di potere basato su un equilibrio tecnologico. Ciò potrebbe apparentemente estendere una situazione che ha costituito una misura pacificatrice per quattro decadi. Ma la parola chiave qui è "apparentemente": i prossimi passi avanti tecnologici saranno troppo bruschi e destabilizzanti perché possa continuare il vecchio equilibrio. In passato, una nazione poteva soffrire di un ritardo tecnologico di diversi anni e tuttavia poteva ancora mantenere un approssimativo equilibrio militare rispetto ai suoi avversari. Con i replicatori rapidi o con l'IA avanzata, un ritardo di un singolo giorno potrebbe risultare fatale. Un equilibrio stabile sembra troppo improbabile per sperarci.  

Sviluppo cooperativo 

In linea di principio, esiste un modo di assicurare un equilibrio tecnologico fra le democrazie cooperative ed il blocco Sovietico: potremmo sviluppare cooperativamente le tecnologie, condividendo i nostri strumenti e le nostre informazioni. Nonostante tutto ciò presenti degli ovvi problemi, rappresenta quantomeno qualcosa di più pratico da perseguire di quel che potrebbe intuitivamente sembrare.  

E' possibile negoziare la cooperazione? Vengono subito in mente tentativi falliti di negoziare controlli efficaci sulle minacce legate agli armamenti, e rispetto a tali tentativi la cooperazione potrebbe sembrare ancora più complicata e difficile da impostare. Ma è proprio così? Nel controllo degli armamenti, ogni parte sta tentando di ostacolare le azioni delle altre parti; ciò rafforza la relazione antagonista fra le due parti. Inoltre, ciò scatena conflitti all'interno di ogni fazione, fra gruppi in favore della limitazione delle armi e gruppi che esistono per costruire armi. E, cosa ancor peggiore, i negoziati ruotano attorno alle terminologie e ai loro significati, ma ogni parte ha il suo proprio linguaggio ed un certo interesse a manipolare i significati per adattarli ai propri interessi.  

La cooperazione, al contrario, coinvolge entrambe le parti nell'operare verso una meta comune; e questo tende a diradare la natura antagonista della relazione. Inoltre, essa potrebbe attenuare i conflitti fra fazioni interne alle due parti, poiché gli sforzi di cooperazione creerebbero progetti, invece di distruggerli. Infine, entrambe le parti discuterebbero i loro sforzi in un linguaggio comune, il linguaggio della matematica e dei diagrammi impiegati in scienza e in ingegneria. E poi, la cooperazione produce risultati visibili e ben delineati. Nella metà degli anni '70, Stati Uniti e Unione delle Repubbliche Sovietiche volarono in una missione spaziale congiunta ed, almeno fino al momento in cui non si svilupparono nuove tensioni politiche, esse stavano elaborando dei tentativi di pianificazione congiunta per una stazione spaziale comune. Questi episodi non rappresentavano degli isolati accidenti, sia nello spazio che al suolo; i progetti congiunti e gli scambi tecnici hanno avuto luogo per anni. Nonostante tutti i problemi che la cooperazione comporta, essa si è dimostrata almeno altrettanto facile del controllo degli armamenti, e forse persino più facile se si considera il grande sforzo profuso in quest'ultimo.  

Paradossalmente, dove siano coinvolte IA e nanotecnologia, l'approccio cooperativo ed il controllo efficace degli armamenti dovrebbero essere caratterizzati da una rassomiglianza di base. Verificare un accordo sul controllo degli armamenti richiede una costante e approfondita ispezione, condotta da esperti di una delle due parti nei laboratori dell'altra parte: una relazione altrettanto stretta quanto la più completa cooperazione immaginabile.  

Ma come potrebbe attuarsi la cooperazione? Essa potrebbe assicurare l'equilibrio ma l'equilibrio non assicura la stabilità. Se due pistoleri si fronteggiano l'uno contro l'altro, ognuno con le armi spianate e la tensione alta, la loro potenza è equilibrata, ma quello che spara per primo può eliminare la minaccia costituita dall'altro. Uno sforzo cooperativo teso allo sviluppo tecnologico che manchi di una accurata pianificazione ed un accurato controllo, doterebbe ognuna delle due parti di armi spaventose, mentre al contempo non fornirebbe nessuna delle due parti di uno scudo contro di esse. Chi potrebbe dirsi sicuro che nessuna delle due parti troverà la maniera di sferrare in piena impunità un attacco disarmante contro l'altra parte?  

Ed anche se si potesse garantire ciò, che dire del problema di altri poteri - oppure che dire della minaccia potenziale posta da appassionati dilettanti o da incidenti casuali?  

Nell'ultimo capitolo ho descritto una soluzione per questi problemi: ossia sviluppo, collaudo e costruzione di scudi attivi. Essi, ci offrono un rimedio nuovo per un problema nuovo, e nessuno ha ancora avanzato suggerimenti per una valida alternativa a questo tipo di difese. Finché qualcuno non lo farà, sembrerebbe saggio ragionare su come andrebbero costruiti gli scudi attivi, e se questi possano rendere possibile una strategia in grado di funzionare.  

Una sintesi di strategie    

Restrizioni personali, azione locale, ritardo selettivo, accordo internazionale, potere unilaterale e cooperazione internazionale: tutte queste strategie possono esserci di aiuto nell'impresa di sviluppare scudi attivi.  

Consideriamo la nostra situazione odierna. Le democrazie hanno, per decadi, guidato il mondo nella maggior parte delle aree della scienza e della tecnologia; oggi siamo in testa in campi come il software per computer e le biotecnologie. Tutte assieme, costituiamo la forza dominante. Non sembra esserci alcuna ragione per la quale non dovremmo conservare questa supremazia e sfruttarla.  

Come discusso nell'ultimo capitolo, la forza dominante sarà in grado di utilizzare svariate tattiche per gestire il rivoluzionario passo avanti tecnologico degli assemblatori. Queste tattiche includono l'impiego di laboratori sigillati per assemblatori, limitazioni sugli stessi assemblatori sviluppati, ed il mantenimento della segretezza sui dettagli dello sviluppo iniziale degli assemblatori. Mentre beneficiamo dei frutti, grazie a queste (ed altre) politiche, potremo lavorare allo sviluppo di scudi attivi in grado di garantirci una protezione permanente contro i nuovi pericoli. Questo definisce una meta. Per raggiungerla, una strategia composta da due parti sembra essere la migliore.  

La prima parte implica un'azione interna alle stesse democrazie cooperative. Abbiamo bisogno di mantenere una supremazia che sia sufficientemente rassicurante da procedere con cautela; se avvertissimo che potremmo perdere la corsa, potrebbe anche accaderci di entrare in una condizione di pieno panico. Procedere con cautela significa sviluppare istituzioni affidabili per gestire sia passi avanti tecnologici iniziali, che lo sviluppo di scudi attivi. Gli scudi attivi che svilupperemo, a loro volta, dovranno essere progettati per aiutarci ad assicurare un futuro in cui valga la pena di vivere, un futuro con spazio per la diversità.  

La seconda parte di questa strategia coinvolge politiche riguardanti le potenze che ci sono attualmente ostili. A questo proposito, il nostro scopo dovrà essere quello di mantenere l'iniziativa, minimizzando contemporaneamente la minaccia che costituiamo per gli altri. L'equilibrio tecnologico non funziona, e non possiamo permetterci di cedere la nostra posizione di dominanza. Questo ci lascia esclusivamente la forza e la supremazia come unica nostra scelta realmente possibile, il che rende doppiamente difficile adottare un atteggiamento che non costituisca minaccia. Ecco, ancora una volta, che necessitiamo di istituzioni stabili ed affidabili: se potessimo dotarle di una grande inerzia innata per quel che riguarda i loro obiettivi, allora forse persino i nostri avversari riporrebbero un certo grado di fiducia in esse.  

Per rassicurare i nostri antagonisti (e noi stessi!) queste istituzioni dovrebbero essere tanto più aperte quanto è possibile (2), in modo consistente con la loro missione. Potremmo adoperarci per costruire istituzioni che offrano un ruolo alla collaborazione Sovietica. Invitandoli alla partecipazione, anche se essi dovessero rifiutare i termini da noi proposti, offriremmo un certo grado di rassicurazione sulle nostre reali intenzioni. Se i Sovietici accettassero, essi potrebbero conquistarsi una loro quota di merito nel raggiungimento del nostro successo congiunto.  

Ed ancora, se le democrazie saranno forti nel momento in cui i passi avanti tecnologici si avvicineranno, e se eviteremo di minacciare il controllo di qualsiasi altro governo sul suo stesso territorio, i nostri avversari probabilmente non vedranno nessun vantaggio nell'attaccarci. In tal modo, potremo presumibilmente fare a meno anche della cooperazione, se ciò sarà necessario.  

Scudi attivi contro armi spaziali

Potrebbe essere utile considerare come potremmo applicare l'idea degli scudi attivi in campi più convenzionali. Per tradizione, la difesa ha richiesto armi che fossero impiegabili per l'offesa. Questa è una ragione per cui "difesa" è diventata sinonimo di "capacità di ingaggiare guerra" e per cui gli sforzi di "difesa" danno agli avversari motivo di temere. Le difese spaziali che sono state proposte di recente sono appunto una estensione di questo schema. Quasi qualunque sistema difensivo che possa distruggere dei missili in attacco potrebbe anche distruggere le difese di un avversario, o rappresentare un ostacolo spaziale che previene un avversario anzitutto dal costruire le sue "difese". Delle "difese" così fatte puzzano di offesa, come devono appunto apparire per poter svolgere il loro compito. Ed ecco che la corsa agli armamenti si incammina, per sua stessa natura, verso un'altra impennata pericolosa.  

Difesa ed offesa devono proprio essere così inseparabili? La storia sembra confermarlo. Le mura possono fermare gli invasori sono se sono difese da soldati, ma i soldati possono a loro volta marciare per invadere altri territori. Quando immaginiamo un'arma, naturalmente immaginiamo mani umane a puntarla (3) e capricci umani a decidere quando far fuoco; e la storia ci ha insegnato a temere il peggio.  
E tuttavia oggi, per la prima volta nella storia, abbiamo imparato come costruire sistemi difensivi radicalmente diversi da questo tipo di armi. Consideriamo un esempio basato sullo spazio. Al momento possiamo progettare dispositivi che "sentono" (guarda, un migliaio di missili che sono stati appena stati lanciati), "valutano" (sembra un tentativo di sferrare un attacco per primi!) ed "agiscono" (proviamo a distruggere quei missili!). Se un sistema aprisse il fuoco solo contro un massiccio volo di missili, non potrebbe mai essere impiegato per l'offesa o per realizzare un ostruzionista assedio spaziale. Ancora meglio, potrebbe essere reso incapace di discriminare quale sia la parte sta attaccando. Sebbene serva gli interessi strategici dei suoi costruttori, non sarebbe soggetto agli ordini giorno per giorno di alcun generale. Verrebbe semplicemente a dar vita ad un ambiente pericoloso per un missile attaccante. Come un mare o una catena di montagne nelle guerre passate, essa non minaccerebbe nessuna delle due parti mentre costituirebbe per ognuna una protezione dall'altra (4).  

Sebbene un tale sistema difensivo sfrutterebbe le stesse tecnologie delle armi (sensori, tracciatori, laser, proiettili auto-guidati, e così via), questo sistema di difesa non sarebbe un sistema d'armamenti, poiché il suo ruolo sarebbe fondamentalmente diverso. Sistemi di questo tipo hanno bisogno di un nome che li distingua: essi sono, di fatto, una sorta di scudo attivo, un termine con cui si può descrivere un sistema automatico o semiautomatico progettato perché possa proteggere senza minacciare. Difendendo entrambe le parti, ma al contempo senza minacciarle, gli scudi attivi potrebbero indebolire l'anello vizioso della corsa agli armamenti.  

Le questioni tecniche, economiche e strategiche sollevate dagli scudi attivi sono complesse e, nell'era pre-assemblatori, potrebbero o meno essere risolte in modi praticabili. Se queste soluzioni saranno praticabili, esisteranno allora diversi possibili approcci verso la loro attuazione. In uno di questi approcci, le democrazie cooperanti costruirebbero scudi attivi unilateralmente. Per mettere in grado altre nazioni di verificare ciò che il sistema potrà e (cosa più importante) non potrà fare, potremmo autorizzare ispezioni multilaterali su progetti chiave, componenti, e passi di produzione. Così facendo non daremo via tutte le tecnologie coinvolte, perché sapere cosa non equivale a sapere come. Secondo un altro approccio, invece, potremmo costruire congiuntamente gli scudi, limitando il trasferimento di tecnologie al minimo indispensabile (5) richiesto dalla cooperazione e dalla necessità di verifica dei limiti dei sistemi (utilizzando i principi discussi nelle note).  

Abbiamo molta più possibilità di mettere al bando le armi spaziali di quanta possibilità abbiamo di mettere al bando la nanotecnologia, e questa potrebbe anche essere la maniera migliore di minimizzare i nostri rischi sul breve termine. Nella scelta di una strategia sul lungo termine per il controllo della corsa agli armamenti, tuttavia, dobbiamo considerare ben più che il prossimo passo. L'analisi che ho delineato in questo capitolo suggerisce che gli approcci tradizionali al controllo sugli armamenti, basati sulla negoziazione di limitazioni verificabili, non può adattarsi alla nanotecnologia. Se è proprio questa la situazione, abbiamo bisogno di sviluppare approcci alternativi. Gli scudi attivi, che sembrano indispensabili, potrebbero infine offrire una nuova e stabilizzante alternativa ad una corsa degli armamenti nello spazio. Esplorando questa alternativa, esploreremo le problematiche di base comuni a tutti gli scudi attivi (6). Se svilupperemo gli scudi attivi spaziali, guadagneremo esperienza e costruiremo degli accordi istituzionali, due cose che, in seguito, potrebbero dimostrarsi essenziali per la nostra sopravvivenza.  

Le difese attive sono una nuova opzione basata su una nuova tecnologia. Renderle funzionanti richiede una creativa sintesi interdisciplinare di idee ingegneristiche, di strategia e di diplomazia internazionale. Esse offrono opportunità inedite che potrebbero metterci in grado di uscire dai vecchi vicoli ciechi. Apparentemente offrono una risposta all'antico problema di proteggere senza minacciare, sebbene non una facile risposta.  

Potere, malvagità, incompetenza ed indolenza    

Ho tracciato uno scenario per descrivere come nanotecnologia ed IA avanzata metteranno un grande potere nelle mani della forza dominante, potere che può essere usato per distruggere la vita o per estenderla ed affrancarla. Poiché non possiamo arrestare queste tecnologie, sembra che in qualche maniera dobbiamo farvi fronte, per superare l'emergenza di una grande concentrazione di potere più grande di qualunque altra mai vista prima nella storia.  

Abbiamo bisogno di un sistema di istituzioni adeguate. Per gestire tecnologie complesse in tutta sicurezza, questo sistema deve disporre di modi per giudicare i fatti rilevanti. Per gestire un grande potere in tutta sicurezza, esso deve includere efficaci meccanismi di controllo e riequilibratura, e i suoi scopi e metodi devono mantenersi aperti allo scrutinio pubblico. Infine, poiché esso ci aiuterà a porre le fondamenta di un mondo nuovo, sarà meglio che sia guidato dai nostri comuni interessi, all'interno di una infrastruttura di principi plausibili.  

Non partiremo da zero; costruiremo sulle istituzioni che già abbiamo. Alla fine, esse ci appariranno diverse. Non tutte le nostre istituzioni sono delle burocrazie insediate in grigi edifici; esistono anche istituzioni diffuse e vitali come la libera stampa, le comunità di ricerca e le reti di attivisti. Queste istituzioni decentralizzate ci aiutano a controllare le grigie macchine burocratiche.  

Qui, in parte, abbiamo da fronteggiare una nuova versione dell'atavico e più generale problema di limitare l'abuso di potere. Ciò non rappresenta una grande e fondamentale novità, e principi vecchi di secoli, assieme a istituzioni di democrazia liberale, suggeriscono come tale problema potrebbe venir risolto. I governi democratici possiedono già il potere fisico di far esplodere i continenti nonché di rapire, imprigionare e uccidere i propri cittadini. Ma possiamo convivere con queste capacità perché questi governi sono piuttosto docili e stabili.  

I prossimi anni caricheranno le nostre istituzioni di ben più pesanti fardelli. I principi del governo di rappresentanza, della libertà di parola, della condotta processuale, del ruolo della legge e della protezione dei diritti umani, resteranno cruciali. Per prepararsi ai nuovi fardelli, abbiamo bisogno di estendere e rinvigorire questi principi e le istituzioni che li supportano; la protezione della libertà di parola riguardo argomenti tecnici potrebbe risultare cruciale. Nonostante abbiamo di fronte una grande sfida, c'è ragione di sperare che possiamo misurarci con essa.  

Naturalmente ci sono anche ovvie ragioni per dubitare che davvero si riesca a misurarsi con tale sfida. Ma la disperazione è contagiosa e detestabile, e lascia la gente depressa. Per altro, la disperazione appare ingiustificata, a dispetto di ben noti problemi: Malvagità - siamo troppo perfidi per fare la cosa giusta? Incompetenza - siamo troppo stupidi per fare la cosa giusta? Indolenza - siamo troppo pigri per preparaci?  

Sebbene sarebbe troppo avventato prevedere un futuro roseo, questi problemi non sembrano insormontabili.  

I governi democratici sono grandi e caotici, e talvolta anche responsabili di atrocità, eppure non sembrano malvagi, considerati nel complesso, nonostante possano contenere uomini che meritano di essere etichettati come tali. Di fatto, i loro capi conquistano il potere in gran parte grazie all'apparente sostegno di convenzionali idee di benignità. Il nostro pericolo principale è che le politiche che sembrano benigne possono condurre al disastro, oppure che delle politiche realmente benigne non siano concepite, divulgate e realizzate in tempo per risultare efficaci. Le democrazie soffrono molto più di indolenza ed incompetenza che non di malvagità.

L'incompetenza, naturalmente, sarà inevitabile, ma dovrà anche essere inevitabilmente fatale? Noi esseri umani siamo per nostra natura stupidi ed ignoranti, sebbene talvolta operiamo per combinare assieme i nostri frammenti di competenza e conoscenza al fine di realizzare grandi cose. Nessuno conosce come arrivare fino alla Luna, e nessuno lo ha mai imparato, e tuttavia una dozzina di persone hanno passeggiato sulla sua superficie. Abbiamo raggiunto vari successi in ambiti tecnici perché abbiamo imparato a costruire istituzioni che attirano molte persone per lavorare assieme alla generazione e verifica sperimentalmente delle idee. Queste istituzioni guadagnano affidabilità per mezzo della ridondanza, e la qualità dei loro risultati dipende in larga misura da quanta attenzione dedichiamo e quanto duramente lavoriamo. Quando concentriamo attenzione e risorse a sufficienza sulla affidabilità, spesso otteniamo dei successi. Questo è il motivo per cui le missioni Lunari sono riuscite senza alcun incidente nello spazio, ed anche il motivo per cui nessuna arma nucleare è stata lanciata o detonata accidentalmente. E questo è il motivo per cui potremmo riuscire a gestire la nanotecnologia e l'IA, se verrà posta una attenzione sufficiente per assicurare di lavorare con esse in maniera competente. Persone eccentriche e competenze limitate possono unirsi per formare istituzioni stabili e competenti.  

L'indolenza, sia intellettuale che morale, o anche fisica, sembra forse il nostro pericolo più grande. Possiamo misurarci con le grandi sfide solo grazie a grandi sforzi. Ci saranno abbastanza persone che si impegneranno in sforzi sufficienti? Nessuno può dirlo, perché nessuno può parlare per chiunque altro. Ma il successo non richiede una illuminata mobilitazione improvvisa e universale. Esso richiede solo una crescente comunità di persone impegnata nello sviluppo, divulgazione e realizzazione di soluzioni funzionanti, e che queste persone ottengano un successo di entità crescente.  

Ciò non è poi così implausibile. Le preoccupazioni riguardo la tecnologia sono divenute diffuse in tutto il mondo, così come l'idea che l'accelerazione del cambiamento richiederà una preveggenza migliore. La pigrizia non stringe tutti nella sua morsa, e l'esistenza di qualche pensatore fuorviato non riesce comunque a deviare verso una strada sbagliata gli sforzi di chiunque. Le mortali pseudo-soluzioni (come quella della repressione della ricerca) perderanno la battaglia delle idee se esisteranno persone a sufficienza che le screditeranno. E nonostante abbiamo di fronte una grande sfida, il successo renderà possibile il compimento di grandi sogni. Grandi speranze e paure possono smuovere abbastanza gente da mettere in grado la razza umana di conquistarsi una vittoria assoluta.  

Preoccupazione appassionata ed azione, non saranno sufficienti; abbiamo anche bisogno di politiche sensate. E ciò richiede ben più che buone intenzioni e chiari obiettivi: dobbiamo anche mantenere traccia delle connessioni fra i fatti del mondo, affinché si possa mettere in relazione quello che facciamo con quello che effettivamente otteniamo. All'approssimarsi di una crisi tecnologica di complessità senza precedenti, ha senso provare a migliorare le nostre istituzioni per giudicare fatti tecnici importanti. In che altro modo potremmo guidare la forza dominante e minimizzare la minaccia terminale della nostra incompetenza?  

Le istituzioni evolvono. Per evolvere istituzioni che siano migliori nello scovare i "fatti", dobbiamo copiare, adattare ed estendere i nostri successi passati. Tali successi includono la stampa libera, la comunità scientifica ed i tribunali. Essi, hanno tutti i loro meriti, ed alcuni di questi meriti possono essere combinate assieme.  


Note e bibliografia
Torna all'Indice
Vai al prossimo capitolo: Scoprire i fatti

 

Tecnofascismo? No grazie.

  • Una serie di articoli su sovrumanismo e dintorni e sui motivi che hanno spinto Estropico ad andarsene dalla Associazione Italiana Transumanisti.
  • Aggiornamenti (su Estropico Blog)

Varie