La macchina corre. L’uomo sa di non saperla fermare.
Le dimissioni di un ricercatore di Anthropic riaprono la questione che Silicon Valley non può più liquidare come paura del futuro: fino a dove siamo disposti a spingerci pur di arrivare primi?
Il problema non è avere paura dell’intelligenza artificiale. È consegnare il futuro dell’umanità a una corsa industriale nella quale chi conosce meglio i rischi ammette di non avere ancora tutte le risposte, ma continua ad accelerare.
Forse abbiamo trascorso troppo tempo a chiederci quanto diventeranno intelligenti le macchine e troppo poco a domandarci quanto saremo intelligenti noi nel decidere che cosa farne. La vicenda di Jacob Coxon, il ricercatore che dopo aver lavorato prima in OpenAI e poi in Anthropic ha lasciato l’azienda manifestando pubblicamente le proprie preoccupazioni sui rischi legati allo sviluppo dell’intelligenza artificiale avanzata, riporta questa domanda fuori dai convegni per specialisti e la consegna direttamente alla società.
Coxon parla di rischi enormi e arriva a evocare la possibilità che sistemi futuri, capaci di migliorarsi e di raggiungere livelli di autonomia oggi difficili da prevedere, possano rappresentare entro la fine del decennio una minaccia persino per la sopravvivenza dell’umanità. Una previsione simile va maneggiata con molta cautela, perché trasformare un rischio ipotizzato in una profezia sarebbe il modo peggiore per affrontare un tema già sufficientemente complesso. Nessuno possiede oggi gli elementi per affermare che l’intelligenza artificiale condurrà l’umanità verso la catastrofe, così come nessuno dovrebbe utilizzare scenari estremi per alimentare paure che finirebbero per impedirci di comprendere la straordinaria portata positiva di questa tecnologia.
Eppure sarebbe altrettanto superficiale archiviare le parole di Coxon come l’allarme isolato di un ricercatore particolarmente pessimista, soprattutto perché preoccupazioni analoghe vengono espresse da persone che lavorano proprio sulla sicurezza e sull’allineamento dei sistemi più avanzati. Il fatto interessante, dunque, non consiste nel tentare di stabilire oggi se una macchina potrà davvero diventare una minaccia esistenziale per l’uomo, ma nel prendere sul serio la contraddizione che sta emergendo dentro la stessa industria dell’intelligenza artificiale: mentre aumentano le capacità dei sistemi, coloro che meglio li conoscono riconoscono apertamente che molte questioni decisive sulla loro controllabilità rimangono irrisolte.
Nonostante questo, la corsa continua e probabilmente continuerà ad accelerare, perché ormai l’intelligenza artificiale non è soltanto una straordinaria avventura scientifica, ma uno dei terreni sui quali si stanno ridefinendo potere economico, leadership tecnologica e rapporti geopolitici. Nessuna grande azienda vuole concedere un vantaggio ai concorrenti e nessuna potenza mondiale sembra disposta a rallentare mentre teme che un’altra possa approfittarne. È il vecchio dilemma della competizione applicato, questa volta, a una tecnologia della quale non siamo ancora in grado di misurare fino in fondo le conseguenze.
Proprio questo dovrebbe preoccuparci più delle immagini fantascientifiche di macchine che un giorno decidono di ribellarsi ai loro creatori. La macchina, almeno oggi, non ha deciso alcuna corsa e non possiede un mercato da conquistare, azionisti da soddisfare o un avversario geopolitico da battere. Siamo stati noi a costruire intorno ad essa un sistema nel quale rallentare può significare perdere miliardi, influenza e capacità strategica, fino al punto che persino la prudenza rischia di essere considerata uno svantaggio competitivo.
È una situazione che conosciamo bene, perché accompagna da sempre il rapporto dell’uomo con la propria potenza. Ogni grande salto scientifico ci ha permesso di fare qualcosa che prima sembrava impossibile e, insieme alla possibilità, avrebbe dovuto consegnarci una domanda altrettanto grande sulla responsabilità. Non sempre, però, siamo riusciti a porcela in tempo. Abbiamo spesso considerato il limite come il contrario del progresso, quasi che fermarsi a valutare le conseguenze di ciò che siamo capaci di realizzare significasse avere paura del futuro.
Il limite, invece, appartiene pienamente all’intelligenza umana, perché riconoscere che non tutto ciò che possiamo fare debba necessariamente essere fatto non significa rinunciare alla conoscenza, ma assumersi la responsabilità della conoscenza acquisita. Una società tecnologicamente avanzata non dovrebbe essere quella che procede semplicemente più velocemente delle altre, ma quella che possiede gli strumenti culturali, politici ed etici per comprendere dove sta andando e per decidere democraticamente quali confini non intende oltrepassare.
È proprio su questo terreno che la politica appare drammaticamente in ritardo. L’intelligenza artificiale cambia nel giro di mesi, mentre le istituzioni continuano spesso a ragionare con tempi, categorie e procedure costruiti per un mondo che aveva tutt’altra velocità. Nel frattempo, poche grandi aziende concentrano capacità di calcolo, conoscenze, dati e risorse economiche tali da poter incidere profondamente sul modo in cui lavoreremo, studieremo, comunicheremo, ci informeremo e prenderemo decisioni. Pensare che tutto questo possa essere regolato soltanto dal mercato significa rinunciare in partenza a una parte essenziale della responsabilità pubblica.
Non si tratta di demonizzare le aziende tecnologiche né, tantomeno, di combattere l’intelligenza artificiale. Sarebbe una posizione culturalmente povera e probabilmente anche inutile, perché questa tecnologia è già entrata nelle nostre vite e può rappresentare una delle più formidabili opportunità che l’uomo abbia avuto a disposizione. Può accelerare la ricerca scientifica, sostenere la medicina, abbattere barriere linguistiche, offrire nuovi strumenti alle persone con disabilità, trasformare l’educazione, rendere accessibili conoscenze prima riservate a pochi e liberarci da attività ripetitive che hanno occupato per secoli una parte enorme del lavoro umano.
La questione, allora, non può essere ridotta alla scelta tra l’uomo e la macchina, perché una simile contrapposizione appartiene a un mondo che non esiste più. Dobbiamo piuttosto decidere quale posto assegnare alla macchina dentro il mondo dell’uomo e, soprattutto, impedire che una decisione di questa portata venga presa quasi esclusivamente da chi possiede la tecnologia, il capitale necessario per svilupparla o la forza geopolitica per utilizzarla.
È qui che l’intelligenza artificiale finisce per porci una domanda che non riguarda affatto l’informatica, ma l’idea stessa che abbiamo dell’essere umano. Se continuiamo a misurare l’uomo attraverso la produttività, la velocità di elaborazione, la capacità di accumulare informazioni e l’efficienza con cui risolve problemi, prima o poi saremo inevitabilmente costretti ad ammettere che una macchina può superarci in molti di questi campi. In alcuni casi lo sta già facendo e non c’è nulla di scandaloso, perché abbiamo sempre costruito strumenti capaci di fare meglio di noi ciò per cui erano stati progettati.
Il problema nasce quando confondiamo ciò che l’uomo sa fare con ciò che l’uomo è.
Una persona non vale perché produce più velocemente di un’altra, possiede più informazioni o riesce a elaborarle in meno tempo. Se fosse questo il criterio, un bambino, un anziano non autosufficiente o una persona con una grave disabilità avrebbero un valore minore di chi si trova nel pieno delle proprie capacità produttive. Eppure sappiamo che non è così, o almeno dovrebbe saperlo una civiltà che continua a definirsi umana.
Forse proprio l’intelligenza artificiale, mentre ci supera progressivamente in alcune prestazioni che abbiamo a lungo considerato caratteristiche distintive della nostra superiorità, può costringerci a recuperare ciò che abbiamo trascurato. L’uomo è relazione, coscienza, responsabilità, fragilità, capacità di attribuire significato alle cose e di riconoscere nell’altro qualcuno che non può essere ridotto a un insieme di dati. È capace di cura e di gratuità, può scegliere contro il proprio interesse, può assumersi il peso di un’altra vita e può perfino scoprire che ciò che non produce nulla possiede un valore infinito.
Per questo le dimissioni di Jacob Coxon meritano qualcosa di più di un titolo sull’apocalisse prossima ventura. Non dimostrano che l’intelligenza artificiale distruggerà l’umanità e non autorizzano nessuno a trasformare ipotesi e probabilità in certezze, ma ci ricordano che persino dentro i luoghi nei quali questa tecnologia viene costruita esistono uomini e donne che chiedono di interrogarsi sulla velocità della corsa e sulle condizioni necessarie perché rimanga sotto il controllo umano.
Possiamo continuare a sviluppare macchine sempre più potenti e probabilmente lo faremo, perché la curiosità, la conoscenza e la capacità di superare i propri limiti appartengono alla storia dell’uomo. Dovremo però imparare che esiste una differenza enorme tra il superamento di un limite tecnico e la cancellazione di ogni limite etico, e che il progresso smette di essere tale quando non siamo più noi a scegliere la direzione nella quale procedere.
Alla fine, quindi, la domanda decisiva non sarà quanto intelligente riuscirà a diventare l’intelligenza artificiale, ma se l’uomo saprà essere abbastanza saggio da non consegnarle, per interesse, paura di perdere una competizione o semplice incapacità di fermarsi, ciò che dovrebbe continuare a spettare soltanto a lui: la responsabilità del proprio futuro.