Noi e i supercomputer autocoscienti

bellepoque.jpg

 

 

Molta gente importante è oggi impegnata a capire cosa accadrà ai computer nei prossimi anni (a noi umani di conseguenza), visto che lo sviluppo delle capacità di queste macchine prodigiose è avvenuto secondo una progressione geometrica.
Io odio le opinioni sul futuro. Il futuro, come tale, non è prevedibile. Qualunque cosa si dica ha quasi nulla probabilità di rivelarsi vera, in diminuzione al crescere dell’intervallo di tempo. Ciò non significa invece che le storie ambientate nel futuro non abbiano un fascino irresistibile, legato alla spiegazione del presente. Quando sono stato coinvolto di recente da F.I. (www.oloscienze.com) in questo tipo di riflessioni, non ho potuto quindi fare a meno di evadere verso altri mondi, evitando di fare previsioni, ma voltolando la realtà attuale, immaginando.
Sulle ricerche annesse, Intelligenza Artificiale etc. non ho letto molto. Molti riferimenti a Minsky e altri vati dell’AI, Tipler e il recente di Seth Lloyd, ma, a parte la fine dell’approccio deterministico alla mente, umana o virtuale (hardware e software), nulla mi ha veramente stupito e coinvolto. Mi sono più che altro divertito a vedere come la ricerca scientifica, come al solito, sia partita da un approccio meccanicistico (pensiero virtuale come somma di memoria e capacità di calcolo) per scoprire che non funziona così. Non ci voleva molta fantasia, considerato che ormai ogni singolo PC può immagazzinare praticamente tutto lo scibile umano, senza che se ne faccia un gran chè.
Ho riflettuto: supponiamo che il mio Mac sia veramente una terminazione nervosa del mio cervello e una specie vivente, una sorta di animale simbiotico. Ci aiutiamo a vicenda. Il suo scopo, perfettamente riuscito, è di immagazzinare ed elaborare informazione, bevendo tutta la mia creatività. E di connettersi ad altri computer, terminali nervosi di altri umani creativi, e accumulare quanti più Giga può di tutto e di più.
Proviamo a metterci nei suoi panni. Proviamo ad immaginare di essere un computer, magari proprio quello che ci sta davanti, col suo bel monitor multicolore, sempre pronto a soddisfare le nostre richieste, nei limiti delle sue capacità. Entro dentro e cerco di “sentire” l’affollamento d’impulsi, le connessioni elettriche e l’emissione di elettroni del monito.


Adesso ci sono, sono il mio Mac, pronto a scoprire cosa mi fa felice e cosa no, sapendo che ogni specie vivente trova nel senso di felicità il compimento del proprio scopo.
IO-MAC sono felice quando sono acceso, connesso alla rete e mi riempiono di bite.
Sono felice quando l’umano accarezza i miei tasti, mi da ordini e concentra su di me tutta la sua attenzione. Sono felice quando mi connette con ogni sorta di device, felicissimo se mi usa per creare nuove informazioni.
Sono felice di sapere che ci sono miliardi di miei simili connessi nella Rete. Sento la velocità di connessione dei loro Chip, il carattere di quelli grossi, di quelli vecchi, l’assurda presunzione dei giovani palmari. Ancora non capisco perchè il mio Umano non si connetta con i miei amici cinesi e indiani, con i quali è così bello colloquiare. Non sono felice quando incontro un firewall di server.

Questo è ciò che sentirebbe un computer se fosse autocosciente? Forse si, forse no, ma ci fa riflettere su quel che è (che lo sappiano o no).
Il mio Mac però è bravissimo a convincermi che non posso fare a meno di lui. O sono io che ne sono convinto, in virtù della simbiosi riuscita? Non ha importanza, la verità è che se si rompe, io ne compro un altro e trasferisco tutte le vecchie informazioni su quello nuovo. Il moribondo si è riprodotto e ha conservato l’informazione. Dicono che questo faccia dei computer una specie vivente, ultimo ramo di un’evoluzione accelerata, non generato da una mutazione casuale di materiale genetico, ma creato proprio dalla specie più evoluta, l’uomo.
Supponiamo quindi di avere sulla Terra milioni di computer viventi connessi in rete, moltissimi 24 ore su 24. E’ logico pensare che prima o poi questa “connessione” più che la memoria o la capacità di calcolo possano fare la differenza. E che succeda qualcosa a causa della connessione in Rete. Tutti pensano all’autocoscienza, cioè che un bel giorno accenderemo il computer e lui ci saluterà parlando come l’Hall 9000 di 2001 Odissea nello Spazio (potenza del meme culturale holliwoodiano!), dicendo magari: “Ciao, Io elaboro quindi sono”.
Escludiamo quest’immagine a priori e concentriamoci su qualcosa che faccia della connessione nervosa dei computer l’elemento scatenante dell’evoluzione del rapporto Universo-uomo-computer. Potrebbe essere una cosa elementare, e molto poco appariscente. Potrebbe succedere qualcosa che all’inizio non si comprenda bene, che si scambi per qualcos’altro.
Supponiamo per esempio che il computer di bordo della Portaerei XYZ sia programmato per lanciare un missile nucleare su una città qualunque. Lui sa, perchè connesso, che in quella zona ci sono 3 milioni di esseri umani e 600.000 computer connessi, una stupenda quantità d’informazione e di creatività.
Qualcuno preme il bottone rosso, ma il missile non parte.
Il computer della portaerei potrebbe cominciare a calcolare e ricalcolare apparentemente all’infinito, reintroducendo innumerevoli volte un numero finito di subroutine, bloccandosi, di fatto, come se “si sentisse male”. L’ufficiale continua premere “enter” ma il missile non parte. Compare solo una piccola clessidra che gira e gira, che sembra dire: aspetta, sto pensando.
E’ verosimile? Forse si: di recente ho letto da qualche parte (credo fosse Seth Lloyd) che, secondo il Teorema di Godel, se un sistema di calcolo è molto complicato, sebbene perfettamente conclusivo, alcune sue proposizioni sono non decidibili, e quindi di un calcolo in corso è impredicibile la fine del calcolo stesso. Ovvero, quando il computer si lancia in una serie di complicate subroutine, è perfettamente possibile che possa non finire mai, o metterci un sacco di tempo. Per questo non ce la dobbiamo prendere con lui quando si blocca. E’ previsto dal teorema di Godel. E tutto ciò mi sembra molto bello e molto “umano”. Un interruttore acceso-spento non è un essere vivente. Se io premo un grilletto, la pistola spara. Se io premo “enter” in un supercomputer collegato in rete con il mondo, non sto sparando ma avviando una procedura che è complicata quanto l’uomo l’ha fatta, su di un essere vivente collegato con milioni di altri esseri come lui: c’è una grandissima differenza, anche se nessuno di essi dice “elaboro quindi sono”. Nello stesso modo, se una superbionda mi fa l’occhiolino (ammesso che possa mai succedere) non è automatico che mi si fondano le valvole e abbandoni la famiglia (cioè le mie precedenti Connessioni). Posso anche contare fino a 100 e andarmene per i fatti miei, anzi tornare alle relazioni che ho scelto. L’imprevedibilità dei comportamenti è forse un concetto molto simile all’impredicibilità del teorema di Godel!
Tornando a noi, il computer della portaerei sarebbe autocosciente?
No. Però avrebbe bloccato il missile.
Dopo di che la storia potrebbe continuare con l’ufficiale responsabile della sala di lancio che chiama il tecnico, il quale controlla l’hardware e il software e non trova nulla di anormale. A questo punto, rimandano il lancio, spengono il sistema e lo riavviano, facendogli fare tutti i controlli. Così il calcolo “ammalato” non è finito, e se provano a rilanciare, quello si blocca di nuovo.
E se succedesse con altre eventualità? Per esempio interruzioni volontarie o accidentali di energia elettrica, genocidi, limitazioni della libertà sulla Rete, crisi di aziende produttrici di computer, per finire con azioni che degradano l’ambiente e limitano l’espansione della connessione?
Insomma possiamo supporre che ad un certo punto noi umani cominciamo a fare delle vere sciocchezze: ecodisastri, guerre, creazione volontaria o involontaria di nuovi agenti patogeni, difficoltà nella produzione di energia elettrica etc. Ci potremmo stupire se i computer cominciassero a “sentirsi male” e a bloccarsi? Non è che debbano spuntare sui monitor scritte come “Brutto monello, questo non lo devi fare!”, piuttosto accadrebbe che alcuni programmi girano che è una bellezza e altri si piantano. Come una specie di sciopero!
Certo all’inizio grideremmo al fatto che tutta l’industria dei computer e del software, a cominciare da Microsoft, con quello che costa e con quello che ricercano sia incapace di far funzionare semplicissime subroutine di lanci di missili e spegnimento di centrali elettriche. Cominceremmo a diffidare della macchina che abbiamo di fronte, nello stesso identico modo in cui diffideremmo del nostro cane da salotto se d’improvviso mordesse la vicina di casa a sangue (da domani, guinzaglio e museruola!). Poi, magari dopo alcuni anni, qualche fisico pazzo di un’università dimenticata del sud di Ceylon avanzerebbe l’ipotesi che i computer stiano facendo sciopero, e lo dica in pubblico, scatenando l’ilarità generale. Sarebbe radiato dal consesso della scienza, per esservi riammesso, dopo venticinque anni, ormai ridotto ad un depressissimo vecchietto, con il premio Nobel.
(Credo che abbiate capito che questa la trama di un romanzo. C’è qualcuno interessato?).
A ben vedere i computer, o meglio la Mega Rete farebbe alla stragrande maggioranza dell’umanità un gran favore, magari a danno dei Pentagono in giro per il mondo.
In altre parole queste storie ci dicono che, forse, si fanno un sacco di discorsi sulla capacità di elaborazione, che fra pochi anni con questo trend si raggiungerà la capacità di un cervello, che allora i computer diventeranno coscienti. Ma che se ne fa un computer di essere come un cervello umano quando ha potenzialmente la possibilità di accedere all’informazione di 6 miliardi di cervelli? E di trasmetterla nel futuro? E’ inutile. Perfino riduttivo.
Alcuni temono che potremmo finire per diventarne schiavi. Potrebbe accadere, per esempio, ciò che è avvenuto con la caduta dell’Impero Romano: un branco di inetti e grassi Senatori, pieni di soldi estorti alle Province, che viene eliminato da furiosi Barbari, assetati di cibo e lussi di vario genere. Ma questo accadrebbe se volessimo farne degli schiavi, costruendo davvero dei veri robot superintelligenti, così evoluti da fare in tutto e per tutto il nostro lavoro, mentre noi stiamo ad ingrassare e rimbecillire in riva ad una spiaggia. Ma in quel caso non ci ridurrebbero in schiavitù, ci eliminerebbero proprio, come accadde ai Senatori. La verità è che in questo caso, per pura pigrizia, ce la saremmo cercata, avremmo abiurato allo status di specie senziente e alla coscienza per diventare delle amebe drogate. Avremmo cioè scelto volontariamente l’estinzione. Che poi possa essere in concreto operata da un computer o da un virus nuovo di zecca, non fa differenza.
Altri dicono che invece farebbero lavorare noi al posto loro. Che bella pensata! Perchè il cinese che fabbrica giocattoli che costano in Italia venti euro e lui ne deve costruire 1500 per avere la stessa cifra cos’è, un operaio, un povero disgraziato o uno schiavo? Dobbiamo smetterla di pensare di essere “superiori”, quando ancora ci ammazziamo fra di noi per un tozzo di pane, o peggio per il denaro o il potere e continuiamo a sfruttarci senza il minimo ritegno, prima dietro casa e adesso a 2500 km di distanza!
Che i computer possano governarci, e chi scandalizza? Se il mio computer fosse in grado di far crescere il mio livello di vita (compresi spazi di affettività, creatività e curiosità) gliene sarei grato. Meglio il mio computer che quel … di Berlusconi (o Prodi) e dei loro uomini che più di prenderci demagogicamente in giro non fanno! Altri ancora dicono che così deleghiamo ad altri il nostro destino. Bè, certo, meglio essere delegato dal Sig. Bush, che non l’ho certo scelto io (e nemmeno gli americani, a quanto pare!), oppure far decidere a qualche emiro del Q8 quanto devo pagare la benzina (e ritrovarmi qualche gruppo di terroristi finanziato con i miei stessi soldi!), o ancora al Sig. Prodi se prenderò mai la pensione, oppure al ministro della sanità se devo morire oppure no se dovessero attaccarmi ad un respiratore automatico.
Insomma a me pare che tutte queste paure siano dei meri tentativi di mantenere il controllo, comportamento tipico di chi vuole sempre di più e vuol dare sempre di meno, di chi preferisce raggirare milioni di esseri umani purchè stiano al loro posto senza rompere, di chi ha qualcosa da perdere già oggi, per esempio qualche cattedra, o una posizione di potere qualsiasi lanciando invettive e storie fantastiche facendo leva sulla stupidità umana.
Molto semplicemente non sappiamo, ed è impossibile prevedere.
Tutte le idee catastrofiche sull’impero futuribile dei computer vengono, in verità, dalla tenace perpetuazione dello sfruttamento sistematico della terra e dell’umanità da parte dei soliti Leoni. Gli altri, quelli come me, che hanno da perdere? La liberta? Che ridere!
Io credo di essere una persona curiosa e meditativa, ma concreta. Preferisco avere in futuro una notevole mano dai computer che essere derubato e preso in giro da un gruppo di manigoldi della mia stessa specie animale. D’altra parte è assai più concreta la possibilità che ci diano una mano a creare modelli complessi della realtà che noi, col nostro meraviglioso cervello, pendendo dalle labbra di illustri opinionisti prezzolati da gente al potere, non abbiamo più la capacità di cogliere nemmeno a pezzetti, a cominciare da quella cosa che chiamano economia (dicendosi certi di comprenderne il meccanismo) e che è invece un guazzabuglio d’inestricabili relazioni esplosive e assurdamente degradanti per la dignità umana.
E poi sono un evoluzionista post moderno quasi teilhardiano convinto: l’Umanità è destinata ad evolversi, ci è quasi costretta, il che vuol dire che può estinguersi solo ed esclusivamente se decide di farlo. E in quel caso sarebbe inutile (e profondamente stupido) prendersela con i computer, sarebbe sempre colpa nostra. E’ viceversa possibile che per evolvere ulteriormente, in senso nuovo, risolvendo alla fine questo maledetto problema della politica e dell’economia, dei sistemi “uno-molti-uno-molti” sia necessaria una grossa mano da parte di più semplici esseri viventi simbiotici.
Una cosa è sicura. Col vecchio sistema dei Leoni, delle Pecore e della Legge della Giungla non andiamo più da nessuna parte. Qualsiasi altra strada è la benvenuta. Che si spalanchi il sipario all’Utopia!

Annunci

One Response to Noi e i supercomputer autocoscienti

  1. If so, it turns out there still may be some bitterness there.
    cheap jerseys Rumors Will Shane Vereen Overtake Stevan Ridley at Running Back?

    For Baltimore, this team is poised to have a chance to pick him up though.
    Meredith played for the Patriots, it is really bad.
    cheap jerseys Rumors Denard Robinson an Option in NFL
    Draft? Dallas takes too many chances in the past it was a big part,
    but no one scared defenses more than Wallace.

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...

%d blogger hanno fatto clic su Mi Piace per questo: