Intervista a Eric So (MIT Sloan) sull’IA e il pensiero umano

Per le aziende, l’IA promette una combinazione irresistibile: meno sforzo, maggiore produttività e decisioni più rapide. Ma cosa succede quando eliminiamo proprio la pratica che ci rende bravi nel nostro lavoro? Nel suo nuovo libro, The Collision: What AI Does to Us, il professore del MIT Sloan Eric So sostiene un’adozione più consapevole dell’IA, capace di aumentare le prestazioni senza indebolire l’esperienza umana.

• Molte aziende stanno adottando l’IA per velocizzare il lavoro. Ma più veloce significa sempre migliore?

  

  L’IA ci rende più veloci in molte attività. Ci dà accesso a strumenti avanzati che sfruttano le conoscenze accumulate dall’umanità e accelerano l’ottenimento di risultati preliminari. In The Collision sostengo che l’intelligenza artificiale non sta cambiando solo ciò che possiamo fare, ma anche il nostro modo di pensare. Ottenere risultati più rapidamente non significa necessariamente che ne usciamo vincitori, né a livello individuale né collettivo.

  Esiste una forte tentazione di procedere più velocemente e produrre di più in meno tempo. Tuttavia, dobbiamo considerare anche il costo di delegare sempre più il nostro pensiero in nome della velocità. L’IA può renderci più veloci, ma che ci renda anche più intelligenti dipende da come la utilizziamo.

• Perché noi esseri umani siamo tentati di delegare il nostro pensiero all’IA?

  Nel libro introduco il concetto di “gravità dell’IA”: la tendenza a dipendere sempre più dall’intelligenza artificiale. Questa attrazione nasce da diverse forze che agiscono insieme, tra cui la biologia. Sebbene il cervello umano rappresenti solo circa il 2% del peso corporeo, consuma oltre il 20% dell’energia che spendiamo a riposo. Poiché pensare richiede uno sforzo considerevole, il nostro cervello ha sviluppato l’istinto di risparmiare energia ogni volta che può. L’IA risponde a questa esigenza: ci permette di ottenere molte cose con uno sforzo mentale minimo.

  Esiste anche una pressione sociale ed economica. Nelle organizzazioni attuali, non si valuta solo ciò che produciamo, ma anche le nostre prestazioni rispetto a quelle degli altri. Se pensiamo che un collega utilizzi l’IA per lavorare di più e più velocemente, sentiremo la pressione di fare lo stesso. Il timore di rimanere indietro ci spinge a ricorrere ancora di più all’IA.

  Quando queste forze si combinano con l’aumento della produttività che l’IA offre nel breve periodo, resisterle può sembrare poco realistico o persino ingenuo. Questa è la “gravità dell’IA”: una combinazione di pressioni biologiche, sociali ed economiche che ci spinge a utilizzarla, anche quando pensare con la nostra testa potrebbe esserci più utile nel lungo periodo.

• In cosa consiste la “trappola della comodità” dell’IA?

  La “trappola della comodità” si riferisce ai sistemi tecnologici che ci semplificano il lavoro. Questa facilità agisce come un’esca e come un vincolo: ci attrae, ma può anche limitarci. Quando la tecnologia lavora al posto nostro, smettiamo di esercitare determinate abilità. Come accade per i muscoli, le capacità che non alleniamo finiscono per indebolirsi. Meno siamo abituati a lavorare senza l’IA, più dipendiamo da essa. Si crea così una spirale sempre più difficile da interrompere, nella quale perdiamo la capacità di agire senza l’aiuto dell’IA.

  

• Come possono le aziende evitare di cadere in questa trappola?

  Un passaggio fondamentale consiste nello smettere di valutare i dipendenti solo in base a quanto utilizzano l’IA. Spingere i team a usarla sempre di più, o misurarne l’utilizzo come se fosse un indicatore delle prestazioni, non è un buon modo per valutarne il rendimento. Se vogliamo preservare a lungo termine le capacità cognitive delle persone, dobbiamo assicurarci che continuino a esercitare le abilità che le mantengono vive.

  Il secondo passo consiste nel progettare interfacce che favoriscano il pensiero. Se un sistema di IA offre subito una risposta, è facile rimanere condizionati da quella prima proposta, anche se è errata o se saremmo arrivati da soli a una conclusione migliore. Piccole decisioni di progettazione possono fare una grande differenza nel preservare il coinvolgimento degli utenti. I migliori sistemi di IA fanno sì che le persone continuino a pensare: migliorano le prestazioni senza eliminare lo sforzo umano necessario per sviluppare il senso critico.

  Infine, le aziende dovrebbero individuare le proprie “capacità cognitive distintive”: le competenze essenziali che apportano valore al loro lavoro. Per un medico, potrebbe trattarsi della capacità di formulare una diagnosi; per un avvocato, della strutturazione delle argomentazioni; e per un insegnante, della capacità di trasferire concetti tra ambiti diversi. Queste abilità devono essere protette. Non dovremmo delegare all’IA le attività che ci aiutano a mantenerle e perfezionarle.

• In uno dei casi analizzati descrive un esperimento in cui l’automazione parziale ha aiutato i lavoratori di una fabbrica a sviluppare le proprie competenze nel controllo qualità. Cosa possono imparare le organizzazioni da questa esperienza?

  

  Lo studio ha analizzato persone incaricate del controllo qualità delle racchette da neve. I ricercatori volevano capire come i diversi livelli di automazione influenzassero sia le prestazioni sia il coinvolgimento cognitivo. Quando il sistema completamente automatizzato prendeva le decisioni e le persone si limitavano a eseguirle, imparavano meno. Inoltre, una volta rimossa l’automazione, individuavano peggio i difetti rispetto a chi si era formato con un sistema parzialmente automatizzato o senza automazione.

  Il risultato più promettente è stato ottenuto quando il sistema forniva suggerimenti, ma le persone conservavano la responsabilità della decisione finale. Una volta rimossa l’automazione, questi partecipanti individuavano i difetti altrettanto bene di chi si era formato esclusivamente in modo manuale. Affermavano inoltre di avere maggiore autonomia e ritenevano che il loro lavoro avesse più significato rispetto al gruppo formato con l’automazione completa. E, nella pratica, dimostravano un coinvolgimento maggiore nell’attività.

  La conclusione è che il modo in cui progettiamo gli strumenti di supporto basati sull’IA è importante. Mantenere le persone attivamente coinvolte nel processo decisionale durante la formazione può aiutarle a sviluppare competenze essenziali e a continuare a essere in grado di agire quando i sistemi si guastano. Anche la pratica intenzionale senza IA può contribuire a conservare queste competenze, ma la lezione principale dell’esperimento è che dobbiamo preservare il giudizio umano mentre utilizziamo l’IA.

• L’IA valorizza il talento o maschera le carenze?

  Uno dei motivi per cui l’IA è così attraente è che permette alle persone meno esperte di produrre lavori che sembrano realizzati da professionisti esperti. Questo può essere utile, ma comporta anche dei rischi. Nella vita reale, il risultato generato raramente è l’ultimo passaggio. I professionisti devono ancora presentare un’idea, difenderla davanti a un consiglio o convincere altre persone a sostenerla. Le ricerche mostrano che, quando l’IA viene utilizzata semplicemente per generare risultati, le persone possono avere difficoltà con il passaggio successivo perché non hanno lavorato abbastanza sulle idee per farle proprie.

  Nel caso dei professionisti esperti, la situazione può essere diversa. I dirigenti senior di solito sanno come e quando applicare l’IA, comprendono le sfumature del proprio ambito e sono in grado di distinguere tra risultati validi e risultati scadenti. In questo senso, l’IA può amplificare il talento. Ma può anche nascondere le carenze, soprattutto quando il risultato fa apparire qualcuno più capace di quanto sia in realtà. Tutto dipende da ciò che vogliamo misurare e ottimizzare.

  L’IA può renderci più veloci, ma che ci renda anche più intelligenti dipende da come la utilizziamo

• Come possono i dirigenti fidarsi dell’IA in modo equilibrato?

  L’IA è uno strumento molto utile, ma può anche commettere errori. Fidarsi troppo di essa può creare dipendenza; fidarsi troppo poco impedisce di sfruttarne il potenziale. Uno dei rischi principali è il bias della prima impressione. Quando le aziende introducono un nuovo strumento di IA, di solito mostrano i risultati migliori: le dimostrazioni più impressionanti, i casi d’uso di maggior successo e tutto ciò che il sistema è in grado di fare. Raramente mostrano dove fallisce o in cosa sbaglia. Questo genera un eccesso di fiducia. Per utilizzarla correttamente, è necessario conoscerne sia le capacità sia i limiti e sapere quando è opportuno restare vigili.

  Bilanciare la fiducia nell’IA diventa ancora più importante man mano che i sistemi migliorano. Quanto più sembrano capaci, tanto meno sentiamo il bisogno di impegnarci mentalmente. Se pensiamo che l’IA completerà il compito alla perfezione, smettiamo di dedicarle risorse mentali per verificarla e possiamo finire per limitarci a trasferire il risultato senza aggiungere altro.

  Pertanto, i dirigenti dovrebbero mostrare ai dipendenti tanto i successi quanto gli errori, incoraggiarli a conservare le conoscenze necessarie per valutare i risultati e riservare del tempo per lavorare senza IA. In questo modo, i team possono verificare che cosa sono ancora in grado di fare da soli.

• Come possiamo sfruttare tutto il potenziale dell’IA senza compromettere la nostra intelligenza?

  

  Nel libro propongo quattro principi per riuscirci. Il primo consiste nel valorizzare lo sforzo. Spesso lo consideriamo qualcosa di negativo da evitare, ma è essenziale per sviluppare le nostre capacità, acquisire esperienza e padroneggiare una disciplina. Così come riconosciamo l’importanza dell’esercizio per mantenere il corpo in forma, nell’era dell’IA dobbiamo capire che affrontare i problemi da soli ci aiuta anche a migliorare. Lo sforzo non è qualcosa da evitare, ma una parte fondamentale del nostro sviluppo.

  In secondo luogo, dobbiamo valorizzare chi siamo senza l’IA. Questo implica distinguere tra ciò che possiamo ottenere con il suo aiuto e ciò che siamo capaci di fare da soli. Gran parte della vita quotidiana continua a svolgersi al di fuori dell’ambito digitale, quindi dobbiamo assicurarci di essere in grado di cavarcela autonomamente quando la tecnologia non è disponibile.

  In terzo luogo, dobbiamo trattare l’IA come un allenatore cognitivo. Può agire come un tutor efficace che amplia le nostre conoscenze. La sfida consiste nell’utilizzarla come compagna di pensiero, non come una semplice macchina che fornisce risposte, affinché ci aiuti a rafforzare la nostra capacità di ragionamento invece di sostituirla.

  Infine, dobbiamo reinvestire il nostro surplus cognitivo. Dobbiamo dedicare il tempo e l’energia mentale che l’IA ci fa risparmiare a continuare a imparare e ad affrontare sfide più ambiziose, invece di limitarci a produrre di più dello stesso.

• Quale regola dovrebbe seguire ogni azienda che fa leva sull’IA?

  Se dovessi dare alle aziende un solo consiglio, direi di ripensare l’uso dell’IA. Non considerarla un modo per svolgere le stesse attività un po’ più rapidamente, ma uno strumento per ampliare ciò che siamo in grado di fare. Nel corso della storia, le tecnologie più trasformative non si sono limitate a migliorare l’efficienza delle attività esistenti: ci hanno permesso di ottenere risultati che prima sembravano impossibili. L’IA ha lo stesso potenziale.

  L’intelligenza artificiale può farci risparmiare tempo ed eliminare le attività di routine. Ma la cosa importante è che cosa fanno le aziende con il tempo guadagnato. Troppo spesso, l’IA viene utilizzata per produrre di più dello stesso, semplicemente più velocemente. La vera opportunità consiste nello sfruttarla per superare i nostri limiti, puntare più in alto ed esplorare nuovi orizzonti che, prima dell’era dell’IA, non avremmo nemmeno potuto immaginare.