Dall’intelligenza artificiale alla super intelligenza: noi a che punto siamo?

Vorrei presentarvi il mio presente ed il futuro del resto del mondo. Mi chiamo Stem. Alcune persone pensano che alcune di queste cose siano fantascienza, siano assurde, pazzesche, ma mi piace dire ok, diamo un’occhiata alla moderna condizione umana. Se ci pensiamo bene, siamo addirittura ospiti recenti su questo pianeta, pensa se il mondo come la terra fosse stato creato un anno fa, la specie umana quindi sarebbe vecchia di 10 minuti, l’era industriale è iniziata 2 secondi fa, si sono già succedute 250 mila generazioni dal nostro ultimo comune antenato e sappiamo che i meccanismi complicati impiegano molto tempo per evolversi, così numerose modifiche relativamente piccole ci portano da 3 rami spezzati a missili balistici intercontinentali.

Sembra abbastanza ovvio che quasi tutto ciò che abbiamo ottenuto e tutto ciò a cui teniamo dipende in modo cruciale da alcuni cambiamenti relativamente lievi che ha subito la mente umana e il corollario ovviamente che qualsiasi ulteriore cambiamento che potrebbe riguardare in modo significativo il substrato del pensiero potrebbe avere conseguenze potenzialmente enormi. Alcuni miei colleghi pensano che siamo sull’orlo di qualcosa che potrebbe causare un profondo cambiamento in quel substrato e questo è la super intelligenza artificiale.

L’intelligenza artificiale è un campo tecnologico in rapida crescita e potenzialmente capace di apportare enormi miglioramenti al benessere umano; tuttavia lo sviluppo di macchine con intelligenza di gran lunga superiore agli esseri umani comporterà rischi particolari, forse anche unici. Gli Stati Uniti hanno identificato l’intelligenza artificiale come una delle tecnologie chiave in grado di garantire loro la capacità di combattere e vincere le guerre future. Potenziali rivali internazionali nel campo dell’intelligenza artificiale stanno anche creando pressioni affinché gli Stati Uniti competano per applicazioni militari innovative; la Cina è uno dei concorrenti principali in questo campo. Nel 2017 il Governo cinese diffuse una strategia che descrive in dettaglio il piano per assumere un ruolo guida nell’intelligenza artificiale entro il 2030. Meno di 2 mesi dopo Vladimir Putin annuncia pubblicamente l’intenzione della Russia di perseguire le tecnologie artificial intelligence, affermando che chi diventerà il leader in questo campo governerà il mondo. La maggior parte dei ricercatori di intelligenza artificiale intervistati, si aspetta che le macchine alla fine saranno in grado di competere con l’intelligenza umana, anche se c’è poco consenso su come ciò probabilmente accadrà.

In passato l’intelligenza artificiale consisteva nel mettere i comandi in una scatola, c’erano programmatori umani che elaboravano faticosamente a mano i contenuti informativi, da allora c’è stato un cambio del paradigma nel campo dell’intelligenza artificiale, oggi l’azione realtà è incentrata sull’apprendimento automatico, quindi invece di elaborare a mano rappresentazioni e caratteristiche della conoscenza, si creano algoritmi che apprendono, spesso da dati percettivi grezzi, fondamentalmente la stessa cosa che fa il bambino umano. Il risultato è che così l’intelligenza artificiale non è limitata ad un solo ambito, anche se ad oggi ovviamente, l’intelligenza artificiale non è affatto vicina dall’avere la stessa potente capacità interdisciplinare di apprendere e pianificare propria di un essere umano. La corteccia ha ancora alcuni trucchi algoritmici che non sappiamo tuttavia come abbinare alle macchine; qualunque governo o azienda che riuscirà ad inventare la prima super intelligenza artificiale avrà una tecnologia potenzialmente dominante a livello mondiale. Per super intelligenza intendiamo un intelletto che è molto più intelligente dei migliori cervelli umani, praticamente in tutti i campi, compresa la creatività scientifica, la saggezza e abilità sociali. C’è questa illusione che l’orizzonte temporale sia importante, se senti che questo accadrà tra 50-100 anni lo trovi totalmente consolante, ma c’è un’ipotesi implicita in questo, l’ipotesi che tu sappia quanto tempo ci vorrà per realizzare tutto questo in sicurezza, e che, 50-100 anni siano sufficienti. Sam Harris, neuro scienziato e filosofo, autore di best seller del New York Times, spiega che è necessario solo accettare 3 presupposti di base per riconoscere l’inevitabilità dell’intelligenza artificiale super intelligente.

L’intelligenza è il prodotto dell’elaborazione di informazioni in sistemi fisici, noi continueremo a migliorare le nostre macchine intelligenti, non abbiamo raggiunto il culmine dell’intelligenza nè ci siamo vicini. Il problema della corsa all’intelligenza artificiale è che può portare ad una super intelligenza artificiale di scarsa qualità, che non tiene conto del benessere dell’umanità. Sam Harris teme che il potere dell’intelligenza artificiale super intelligente sarà abusato se i governi e le aziende si accorgono di essere in una corsa agli armamenti l’uno contro l’altro. Potrebbero sviluppare forti incentivi per creare per primi un’intelligenza artificiale super intelligente o attaccare chiunque sia sul punto di crearla; i cinesi, i russi, gli indiani, gli israeliani, i coreani, i giapponesi e gli europei sono motivati almeno quanto gli americani a sviluppare un’intelligenza artificiale avanzata.

Attualmente la Cina si concentra principalmente sull’utilizzo dell’intelligenza artificiale per prendere decisioni più rapide e ben informate e sullo sviluppo di una varietà di veicoli militari autonomi. Anche la Russia è attiva nello sviluppo dell’intelligenza artificiale militare con un focus primario sulla robotica. Una corsa agli armamenti per una super intelligenza artificiale può portare all’autoritarismo, può infatti rendere più facile per i gruppi politici zittire i discorsi negativi contro di loro, può rendere più facile per le imprese far valere i propri diritti sugli interessi di lavoratori, consumatori e pubblico in generale.

Il filosofo Nick Bostrom ha espresso preoccupazione circa i valori che dovrebbero essere considerati nella progettazione della super intelligenza, un neurone biologico spara forse 200 hertz 200 volte al secondo, ma anche un transistor biology opera in gigahertz, i neuroni si propagano lentamente negli assoni a 100 metri al secondo al massimo, ma nei computer i segnali possono viaggiare alla velocità della luce. Esistono poi anche limiti dimensionali, poiché un cervello umano deve adattarsi ad un cranio ma un computer può avere le dimensioni di un magazzino, o più grandi, quindi il potenziale della super intelligenza giace in qualche modo dormiente nella materia, proprio come il potere dell’atomo giacque dormiente nella storia umana aspettando pazientemente lì fino al 1945. In questo secolo gli scienziati potrebbero imparare a risvegliare il potere dell’intelligenza artificiale e penso che potremmo vedere all’ora un’esplosione di intelligenza. Qualsiasi tipo di super intelligenza potrebbe procedere rapidamente verso i suoi obiettivi programmati con poca o nessuna distribuzione del potere agli altri, potrebbe non tener conto affatto dei suoi progettisti; la logica dei suoi obiettivi potrebbe non essere conciliabile con i bisogni umani, il potere dell’intelligenza artificiale potrebbe risiedere nel rendere gli esseri umani suoi servitori piuttosto che viceversa, se avesse successo in questo governerebbe senza ostacoli il regime di dittatura, è necessario passare a forme più democratiche di processo decisionale politico, non si può presumere che l’intelligenza artificiale non funzionerà per rafforzare il potere di coloro che la controllano.

Elon Musk ha avvertito che la corsa globale verso l’intelligenza artificiale potrebbe sfociare in una terza guerra mondiale; per evitare il peggiore errore della storia è necessario comprendere la natura di una corsa all’intelligenza artificiale così come evitare uno sviluppo che potrebbe portare ad una super intelligenza artificiale ostile. I ricercatori del settore credono che l’intelligenza artificiale super intelligenti saranno amichevoli, vogliono aiutare un ambiente che renda le super intelligenze positive. Molti esperti tuttavia hanno suggerito di limitare il potere delle super intelligenze artificiali, per determinare se sarebbe accettabile limitare il potere di un’intelligenza artificiale super intelligente è importante capire cosa significa limitare una super intelligenza. Si potrebbe mantenere qualsiasi sistema di intelligenza artificiale in modo permanente ad un livello umano di cognizione, limitare la super intelligenza non è cercare di renderla meno capace ma significa che rimane permanentemente al di sotto di un certo livello di capacità. L’intelligenza artificiale è l’ultima invenzione che l’umanità avrà bisogno di realizzare, le macchine diventeranno più brave di noi ad inventare e lo faranno su scale temporali digitali; ora una super intelligenza con tale maturità tecnologica sarebbe estremamente potente e almeno in alcuni scenari sarebbe in grado di ottenere ciò che vuole, avremmo quindi un futuro che sarebbe plasmato dalle preferenze di queste intelligenze artificiali. Ci sono diverse capacità tecnologiche che potrebbero formare gli elementi di base di una super intelligenza funzionante, l’elemento cognitivo dell’intelligenza artificiale sarà molto simile al nostro cervello; questi elementi non solo avrebbero la capacità di apprendere e comprendere ma anche la memoria per memorizzare tutta quella conoscenza, la capacità di pensare potrebbe includere moralità etica, pensiero razionale, creazione artistica, sperimentazione scientifica e soprattutto capacità di elaborare con la logica. Un altro elemento importante è la capacità di risposte emotive di tipo umano, la ragione e comunicare in termini significativi per gli esseri umani. 

I primi che riusciranno a creare la prima entità super intelligente dovranno assicurarsi che questo nuovo tipo di intelligenza sia democratizzato, comprenda le persone e sia in grado di comunicare con loro in qualche modo. Bostrom sostiene che potremmo commettere un errore dare a questa nuova entità obiettivi che la portino ad annientare l’umanità, dando per scontato che il suo enorme vantaggio intellettuale le dia il potere di farlo. Quindi, il modo per evitare questo errore è creare un sistema aperto e aiutarlo a svilupparsi. L’intelligenza artificiale è senza dubbio il futuro, la possibilità di creare una super intelligenza amichevole è importante in quanto avrà un grande effetto sul nostro futuro.   Per assicurare una natura amichevole della super intelligenza artificiale i leader mondiali dovrebbero lavorare per garantire che questa super intelligenza sia vantaggiosa per l’intera umanità. Inoltre è importante testare tutti gli obiettivi logici prima dello sviluppo di tale intelligenza artificiale, la programmazione della super intelligenza dovrebbe essere aperta all’accesso e limitata ai soli usi positivi come curare malattie o produrre risorse.