AI & Data Strategy
Offriamo alle aziende nuove opportunità di mercato tramite l'uso di tecnologie all'avanguardia e processi di analisi dei dati basati su lA.
Un recente video su TikTok ha catturato la mia attenzione: il celebre cantante Robbie Williams, seduto tranquillamente su una panchina, osservava indisturbato i passanti. Questa scena, apparentemente banale, mi ha riportato alla mente un esperimento sociale condotto nel 2007, che offre preziose riflessioni sul management moderno.
L'esperimento "Pearls Before Breakfast", ideato dal giornalista Gene Weingarten del Washington Post, pose una domanda provocatoria: in un contesto ordinario, le persone riconoscerebbero il talento? Per rispondere, Weingarten orchestrò un'audace dimostrazione con il rinomato violinista Joshua Bell.
Il 12 gennaio 2007, alle 7:51 del mattino, Bell si posizionò all'ingresso della stazione metropolitana L'Enfant Plaza di Washington D.C. Vestito in modo casual, con jeans e cappellino da baseball, il celebre musicista iniziò a suonare brani classici del suo repertorio più complesso su uno Stradivari del 1713, del valore di 3,5 milioni di dollari. La location non era casuale: L'Enfant Plaza è frequentata principalmente da manager di medio livello diretti verso il cuore della capitale federale.
Il risultato fu sconcertante: dei 1.097 passanti, solo sette si fermarono per più di un minuto. La maggior parte passò oltre senza un'occhiata, frettolosa e distratta. Bell raccolse appena $32,17, di cui $20 da un'unica persona che lo riconobbe. Un esito sorprendente, considerando che la sera precedente lo stesso Bell aveva suonato in un teatro di Boston con biglietti da $100.
Ritengo questo esperimento illuminante su aspetti del management moderno che reputo cruciali, offrendo cinque lezioni fondamentali che ho fatto mie e che condivido con chi mi legge:
L'esperimento di Bell ci ricorda che il vero talento manageriale risiede nella capacità di riconoscere l'eccellenza, indipendentemente dal contesto. In un'epoca in cui i manager rischiano di diventare meri esecutori, queste lezioni mi invitano a riscoprire il ruolo di guida e mentore.
La competenza manageriale è la sintesi di formazione ed esperienza, e il suo scopo ultimo è far crescere le persone. Riconoscere la "musica" nel rumore quotidiano, apprezzare il talento nelle sue forme più inaspettate, e coltivare un ambiente che valorizzi l'eccellenza sono competenze cruciali per il manager moderno.
Mentre riflettiamo su queste lezioni, ricordiamoci che la vera arte del management sta nel creare un'armonia dalle diverse note del talento umano, trasformando il luogo di lavoro in una sinfonia di crescita e innovazione nella quale il genio collettivo possa sempre manifestarsi indisturbato.
PS: Grazie all'articolo con il quale Weingarten descrisse questo esperimento, gli fu attribuito il Premio Pulitzer nel 2008.
Fonte articolo: Linkedin Article di Vincenzo Gioia
La martellata del meccanico e l’intelligenza artificiale generativa
Le Intelligenze Artificiali (IA) mi hanno da sempre attratto per il fascino di cui erano ammantate grazie ai film di Hollywood. 2001 Odissea nello spazio, Ex Machina sono film che vedo e rivedo scoprendo sempre nuovi spunti di riflessione. Negli ultimi anni, alla narrativa cinematografica si è sommato il contributo professionale del quale ho beneficiato grazie ai colleghi con i quali ho avuto la fortuna di lavorare e con il quale oggi ho una visione strutturata (almeno penso che lo sia) delle capacità tecnologiche e delle ricadute nel quotidiano professionale e personale delle persone.
Gli spunti di riflessione che si sono susseguiti nel tempo sono stati appuntati nei miei articoli con l’intento di generare un confronto che non si fermi allo stato dell’arte della ricerca che richiede anni per comprendere la natura di quanto sta accadendo attraverso l’uso delle IA.
Per personale comodità, riepilogo il percorso tracciato dagli articoli che ho scritto.
Qualche tempo fa, in questo articolo, ho appuntato le mie riflessioni sul concetto di intelligenza. L’ho fatto perché penso che l’intelligenza sia una creatura sconosciuta malgrado se ne parli tutti i giorni. Tra le intelligenze che popolano il nostro mondo e delle quali parlo nell’articolo ci sono anche le neonate intelligenze artificiali (IA) che stanno diventando uno strumento sempre più diffuso tanto in ambito professionale quanto in ambito consumer per le notevoli capacità generative e la semplicità con la quale è possibile interagire con loro.
La storia ci ha insegnato che, come ogni grande strumento, anche l’intelligenza artificiale porta con sé nuovi ed inattesi problemi che, come scritto in questo articolo, nel caso delle IA, i problemi maggiori sono legati alla presenza di bias che reputo inevitabili ed esistenti anche laddove se ne esclude la presenza. L’inaspettata natura dei problemi delle IA, come esposto in questo articolo scritto a quattro mani con l’amico Remco Foppen, si sta manifestando anche sotto forma di allucinazioni che, lungi dall’essere esclusiva prerogativa umana, è diventata il cruccio di chi opera con i sistemi LLM di ultima generazione perché, come accade con gli uomini, anche le allucinazioni artificiali sono sempre più coerenti con la realtà e, quindi, difficili da identificare.
Malgrado i limiti che mostrano le IA, trovo questi sistemi indiscutibilmente utili anche laddove si intravedono ampie zone grigie legate al fatto che sono ancora poco chiari limiti, opportunità, rischi e benefici. Qualunque sia l’uso che se ne fa, le IA stanno già modificando il nostro modo di essere e di pensare tanto che, come scritto in questo articolo, non escludo il manifestarsi del loro effetto anche sui meccanismi che governano i processi creativi. Il blocco dello scrittore è facilmente aggirabile se si ricorre ad una IA e, a quanti lamentano l’assenza di originalità, rispondo dicendo che, come in ogni creazione, l’ispirazione non è mai l’opera finale.
Questo articolo nasce da una battuta fatta da un collega al termine di una riunione di progetto che, con tono perentorio, disse:
“Mi raccomando, non usate ChatGPT per scrivere i documenti di progetto perché esistono dei sistemi in grado di rivelarlo e ci facciamo una pessima figura con il cliente”.
Questa battuta mi fece immediatamente tornare la mente ai tempi dell’esame di matematica generale il cui Prof titolare di cattedra ci vietava l’uso delle calcolatrici. Da giovane universitario mi chiesi cosa fosse più importante tra il ragionamento che porta al calcolo ed il calcolo stesso. Oggi come allora mi chiedo cosa sia più importante tra il meccanismo che porta all'elaborato e l'elaborato.
L’uso di strumenti di supporto alla produttività è da sempre visto con diffidenza. Per quanto bizzarro, le critiche all’innovazione prescindono dalla natura dell’innovazione tanto che c'è stato un tempo in cui ad essere criticata fu la persino la scrittura che Platone, nel Fedro, definì causa di deterioramento della memoria. Non è stato riservato trattamento migliore alla calcolatrice il cui uso era osteggiato perché riduce la capacità di eseguire a mente calcoli, anche molto complessi. Oggi nessuno di noi potrebbe fare a meno della scrittura e l’uso della calcolatrice non solo è stato accettato, ma incentivato dal ministero della pubblica istruzione che già da decenni ne consente l’uso nelle prove di matematica del liceo scientifico e tecnologico.
Il cambiamento che si innesca al diffondersi di ogni nuova tecnologia è inarrestabile. Lo è stato per la scrittura, lo è stato per la fotografia e lo è stato per la calcolatrice a scapito del regolo calcolatore. Per quanto ci si lamenti, il cambiamento diventerà quotidianità. Questo ciclo evolutivo ci impone riflessioni e su ciò che siamo, su come ci percepiamo e su cosa desideriamo essere.
Le IA hanno prodotto molti impatti sulla natura umana ed uno di questi lo desidero annotare in questo articolo. Parlo di un aspetto che non avevo ancora preso in considerazione malgrado sia legato alla capacità di elaborare un concetto, un’idea. Non esito a considerare questo aspetto il carburante di ogni analisi. Sto parlando della capacità, per nulla innata, di porre domande strutturate in modo tale da indirizzare l’interlocutore verso una risposta sintetica e chiara.
Una domanda ben formulata è un potente strumento grazie al quale si può guidare un intero processo di analisi permettendo di concentrare l’attenzione su ciò che è veramente importante: definire l’obiettivo dell’analisi e determinare quali dati sono necessari. Una domanda ben posta può aiutare ad identificare eventuali limitazioni o sfide che potrebbero sorgere durante l’analisi, risolvere problemi complessi e costruire relazioni. Una domanda mal costruita determina una pericolosa trappola i cui effetti possono allontanarci dalla nostra esplorazione facendoci finire col farci confermare ciò che già sappiamo.
La relazione esistente tra la capacità di porsi domande ben strutturate e l’uso di una IA è rappresentata dal fatto che le IA operano solo se viene somministrata loro una richiesta/domanda e la qualità dell’elaborato prodotto da una IA è direttamente legata alla qualità della domanda formulata. In modo analogo a quanto accade con gli uomini, una domanda formulata in modo sbagliato può risultare fuorviante anche per un sistema IA le cui fragilità possono emergere attraverso la formulazione di domande che si avvalgono di specifici costrutti logici. Una domanda strutturata in modo corretto consente di attivare una IA su compiti per i quali non è stata direttamente addestrata ad operare ma per i quali è in grado di formulare risposte attendibili perché basate su dati verificati (almeno si spera che lo siano).
Il prompt engineering è il campo di studi nel quale si cerca di individuare la tecnica migliore per scegliere i formati, le frasi, le parole e i simboli più appropriati nella formulazione delle domande che guidano una IA generativa a produrre risultati pertinenti e di alta qualità. La relazione che lega la qualità della domanda alla pertinenza della risposta è centrale in ogni ambito degli studi filosofici così come risulta esserlo per una corretta interazione con una IA.
L'importanza della prompt engineering mi induce a pensare che, anche in tempi nei quali la conoscenza può essere raggiunta attraverso intelligenze sovrumane (così sono definite le intelligenze posteriori alla “mossa 37”), il valore della conoscenza resta legato al disavanzo fisso tra domande e risposte. Avere più domande che risposte significa avere la chiave della conoscenza dal momento che l’operatività efficace delle IA, così come accade per quella del cervello umano, è strettamente legata alla capacità di porre le domande giuste.
Proseguendo il mio ragionamento e focalizzandomi sulla questione relativa alla originalità dell'elaborato, mi chiedo in che modo cambierebbe la tua opinione sulla qualità di questo testo se ti dicessi che è stato generato con il supporto di una IA. Mi spiego meglio ricorrendo al noto aneddoto della martellata del meccanico. Un tizio, dopo avere interpellato numerosi meccanici e speso molti soldi, si reca da un meccanico al quale chiede di eliminare il fastidioso cigolio che affligge il motore della sua auto. L'anziano meccanico, dopo avere ascoltato per qualche secondo il disgraziato suono, prende un vecchio martello e, con colpo deciso, risolve il problema. Per la martellata chiede 500 euro. Al cliente che non intendeva pagare quella cifra per un colpo di martello, il meccanico rispose chiedendo se il cliente sarebbe stato capace di fare lo stesso. Il resto del ragionamento lo lascio a te che mi leggi. In pratica, semmai avessi usato una IA per generare questo testo, il suo ruolo strumentale nel percorso creativo/produttivo non sarebbe dissimile da quello assunto dal martello nelle mani dell’anziano meccanico. In ragione di ciò, piuttosto che chiedermi se per l’esecuzione di una attività è stata o meno usata una IA, preferisco chiedermi quale grado di padronanza dello strumento si è avuto nel suo impiego.
Penso che l’uso delle IA sia al pari dell’uso della scrittura, della calcolatrice e del martello del meccanico. Il loro valore funzionale è legato alla capacità di farne buon uso. Così come nessuno mi chiederebbe se ho usato o meno la calcolatrice nello svolgimento dei miei test di radiotecnica, spero che un giorno non mi si chiederà più se ho usato o meno una IA nel processo di stesura dei miei elaborati perché considero queste critiche il frutto di banali frustrazioni neo-feudali che albergano di nelle pleistoceniche menti di personaggi che vogliono sapere che si è “faticato” invece di concentrarsi sulla qualità del lavoro prodotto.
Agli gli irriducibili dell’originalità dell’elaborato, i capi ultrà della “è frutto del mio sudore”, le vergini scandalizzate del “qui non copia nessuno” dichiaro che ho lasciato ad altri e senza rimpianto la loro sponda culturale a favore del ruolo di quello che ti dice che Babbo Natale non esiste. Signore e Signori, la gran parte dei professionisti che ho conosciuto negli ultimi 20 anni in giro per le decine di aziende nelle quali ho lavorato produce documenti attingendo “copiosamente” a quanto già prodotto per e/o da altri. Fatevene una ragione, il mondo si regge su 3 semplici tasti della tastiera CTRL, C e V.
Chiarita la mia posizione in merito all’uso delle IA ed al loro ruolo funzionale, resta da capire come queste impattano sulla capacità di formulare domande adeguate alle aspettative che si nutrono sull’elaborato atteso. Le potenzialità offerte dalle IA generative porteranno le persone a trovare il modo per impiegarle in contesti sempre più ampi della vita quotidiana e lavorativa. Ciò indurrà a sviluppare una capacità sempre maggiore di formulare domande strutturate la cui natura non può che derivare da uno sforzo di analisi ed astrazione. In sostanza, per quanto vi possa dare fastidio, in futuro nessuno scriverà pensando di farlo senza il supporto di una IA perché, oltre alla condivisione di quanto si pensa, un testo ha lo scopo di divulgare un contenuto a fini culturali.
Fonte articolo: Linkedin Article di Vincenzo Gioia
Ho deciso di scrivere questo articolo per mettere ordine tra le riflessioni e le deduzioni che ho maturato negli ultimi mesi relativamente al concetto di bias. Il bisogno di fare ordine è nato dalla confusione che si è generata in me nel momento in cui ho notato che il termine bias è diventato parte del linguaggio quotidiano assumendo, talvolta, accezioni per me ambigue.
Scrivendo questo articolo non nutro alcuna certezza o verità assoluta. Anzi, lo scrivo per appuntare quello che penso relativamente ai bias e lo faccio, come sempre, pubblicamente perché confido che possa trasformarsi in un’utile opportunità di confronto con chi ha la pazienza per leggere le mie riflessioni.
Prima di iniziare questa lettura, rilassati e ripeti con me:
Senza explainability l’artificial intelligence è inutile e pericolosa
In questo articolo parlo di bias e, come sempre, preferisco cominciare dalla definizione di bias alla quale faccio riferimento nelle mie riflessioni.
I bias sono la manifestazione di distorsioni sistematiche del giudizio frutto di euristiche cognitive delle quali abbiamo perso il controllo, ovvero scorciatoie mentali che usiamo per semplificare il processo decisionale che sono state spinte sino ad un tale livello di banalizzazione della realtà da perdere il contatto con la stessa realtà dalla quale si generano impattando negativamente sul modello decisionale adottato da qualsiasi agente intelligente biologico o artificiale (Kahneman & Egan, 2011).
I bias possono influenzare ogni modello decisionale in modo da renderlo inefficace. Anche laddove si pensa di avere approntato un modello decisionale basato su euristiche prive di bias, gli studi di Tversky dimostrano che questi assumono un ruolo fondamentale nell’analisi della realtà producendo conseguenze che non sono necessariamente rilevabili o rilevabili nel breve periodo.
La consapevolezza del ruolo strutturale e strutturante assunto dai bias nei processi decisionali basati su euristiche li rende paradossalmente un “falso problema” dei processi stessi. Un modello euristico basato su bias ammissibili e funzionali allo scopo del modello non rende il modello stesso privo di bias. Un processo decisionale nel quale non ci sono distorsioni pericolose, macroscopiche della realtà mi induce a pensare che i bias presenti nel modello sono invisibili alla nostra analisi ma efficaci nel condizionare il processo decisionale. Una costellazione ben orchestrata di bias assume nel processo decisionale la stessa meccanica dei piccoli piombi con i quali si equilibrano le ruote delle nostre autovetture: ad una determinata soglia manifestano un potente condizionamento del sistema. L’esistenza di questo processo di condizionamento fu testimoniato Alexander Nix, CEO di Cambridge Analytica, nel suo intervento “From Mad Men to Math Men” esposto alla conferenza Online Marketing Rockstars tenutasi ad Amburgo nel 2017. La forza potenzialmente cataclismica di questo condizionamento è stata testata attraverso i condizionamenti psicometrici che Cambridge Analytica ha attuato durante le elezioni politiche in Trinidad e Tobago del 2010 a favore dello United National Congress (UNC) attraverso la campagna “Do So”.
L’analisi di un modello decisionale non deve quindi soffermarsi sulla semplice individuazione della presenza di bias ovvi quali i bias razziali o di genere ma deve essere in grado di comprendere quanto la modalità di somministrazione dei singoli risultati dell’analisi compiuta è in grado di generare micro-condizionamenti strategici simili a quelli prodotti da AlphaGo con la mossa “U-37”.
La consapevolezza che il i bias non sono il vero problema di un modello decisionale mi è data anche dal fatto che i bias non sono la causa di una anomalia ma solo e sempre una mera conseguenza di quest’ultima. Per essere chiari, un bias sta all’anomalia come l’influenza sta all’infezione: è solo un sintomo.
Affermare che un sistema decisionale è affetto da bias è per me una ovvietà essendo l’intero processo decisionale basato quasi sempre su euristiche. Allo stesso tempo, parlare di bias è anche una ammissione di inadeguatezza. L’inadeguatezza è determinata dal fatto che curare un bias è l’equivalente di un trattamento sintomatico causato dalla incapacità di comprendere l’origine dell’anomalia e/o di correggere l’anomalia stessa.
I sistemi di intelligenza artificiale non sono esenti da bias perché, anche tali sistemi operano attraverso processi di clusterizzazione ovvero processi di astrazione che si basano su bias ammissibili e funzionali all’analisi.
In questo articolo espongo con approccio “passo-passo” il percorso logico che mi ha portato alle mie conclusioni, sinteticamente esposte già in questa introduzione con l’obiettivo di condividere con chi mi legge la consapevolezza che mitigare il rischio generato da dinamiche cognitive che si manifestano sotto forma di bias non esclude la presenza di bias il cui impatto è altrettanto grave ma non immediatamente riscontrabile dalla nostra capacità di valutazione.
Sono sempre stato affascinato dai meccanismi con i quali la mente analizza il mondo e le relazioni umane. Ho letteralmente divorato la serie TV “Brain Games” targata National Geographic ed il saggio scritto da Sergio Della Sala e Michaela Dewar dal titolo “Mai fidarsi della mente” che, attraverso esperimenti al limite della magia, ci mostrano quanto sconosciuto sia, tutt'oggi, il cervello umano e quanto i meccanismi che lo governano nel quotidiano sforzo di analisi ed adattamento siano legati ad errori, ad illusioni del pensiero, ad incoerenze dei processi mentali, ad imperfezioni della memoria che portano a sviluppare vere e proprie scorciatoie decisionali.
Le scorciatoie decisionali sono la strategia adottata dal nostro cervello per risparmiare energia. Esse si manifestano tutte le volte che ci troviamo di fronte a sfide, problemi e decisioni da prendere per i quali si preferisce adottare un approccio “euristico” ovvero un approccio che fa uso di generalizzazioni, regole empiriche e assunzioni.
L’approccio euristico è un modello decisionale che si basa su un insieme di strategie, tecniche e processi creativi che ci aiutano a trovare soluzioni in modo più rapido e semplice. Con questo approccio le decisioni vengono prese considerando un numero limitato di alternative, con una consapevolezza parziale delle conseguenze di ciascuna di queste. Questo processo è guidato da "euristiche", che sono regole pratiche utilizzate per risolvere problemi o fare determinati tipi di calcolo e basate sulla consapevolezza che l'informazione disponibile non è mai perfetta e che le abilità umane sono limitate e fallibili. Come dice lo psichiatra Mauro Maldonato: “Diversamente dal calcolo formale, l'euristica è una soluzione immediata".
Le strategie, le tecniche e i processi creativi che compongono l’approccio euristico sono distorsioni utili della realtà. Queste distorsioni semplificano l’analisi dei fatti e mirano a fornire una visione soggettiva basata sulla consapevolezza che siamo in grado di riconoscere solo un numero limitato di alternative e siamo consci soltanto di alcune delle conseguenze di ciascuna alternativa. Nella maggior parte dei casi, queste distorsioni ci permettono di interpretare e, laddove possibile, prevedere la realtà in modo rapido ed efficace.
I processi di semplificazione della realtà sono basati su schemi e su categorie con le quali si organizza la conoscenza che utilizziamo nei processi di percezione, memoria e pensiero.
Gli schemi e le categorie che utilizziamo per organizzare la nostra conoscenza descrivono persone, oggetti ed eventi attraverso i soli dettagli caratterizzanti, comuni o più frequenti escludendo tutto ciò che possa essere ricondotto ad una specifica manifestazione fenomenica.
Gli schemi di conoscenza sono basati su associazioni che sono immediatamente disponibili alla nostra consapevolezza e rappresentano ciò che è più comune o considerato tipico. Per capirci, quando parlo della bellezza dei cani nessuno pensa alla bellezza del Bracco Italiano o dello Spinone Italiano perché tutti pensano all’immagine generica e soggettiva del cane che ci si è costruiti negli anni.
Gli schemi di conoscenza sono fondamentali per una corretta classificazione del mondo che richiede necessariamente l’attuazione di un processo di astrazione con il quale si crea un insieme di elementi non identici seppur appartenenti alla stessa categoria fenomenica.
I processi di astrazione sono fondamentali per una semplificazione dei processi di comprensione ed adattamento. Possiamo dire che sono alla base dei meccanismi che governano sopravvivenza ed evoluzione.
Senza un processo di astrazione saremmo incapaci di prendere decisioni perché ogni fenomeno produrrebbe un elemento a sé stante non accomunabile con altri simili. Si svilupperebbe la "sindrome da dipendenza ambientale" (Lhermitte, 1986) che rende incapaci di inibire azioni stimolate da ogni singolo input. In una condizione simile non esisterebbero le conifere o la singola specie di cui sono composte (es: pino silvestre, larice, abete, peccio) ma solo il singolo albero differente da un altro per la caratteristica assunta da ogni singola foglia.
Malgrado l’importanza dei processi di astrazione è condivisa da tutti, va ricordato che nelle astrazioni le eccezioni o la diversità non vengono prese in considerazione. Per questo motivo quando si parla degli africani non si pensa alla popolazione africana di pelle bianca, seppur esistente.
Questa tendenza degli schemi alla generalizzazione ed alla esclusione delle eccezioni porta a un pregiudizio nel momento in cui non disponiamo di informazioni sufficienti su ciò di cui stiamo parlando.
I processi di semplificazione che troviamo alla base del modello euristico presentano un difetto importante: il limite al quale si spingono è costituito solo dal buon senso di chi li applica. Per questo motivo, in alcuni casi, il processo euristico si spinge oltre la sola semplificazione della realtà e genera vere e proprie banalizzazioni dalle quali nascono preconcetti che, pur potendo essere derivati dalla realtà, non conservano più alcun legame oggettivo con la stessa.
La banalizzazione della realtà induce a sviluppare preconcetti che si riverberano nei processi decisionali attraverso inevitabili errori di valutazione che possono essere più o meno gravi. Tali errori, a prescindere dalla loro natura, sono genericamente chiamati “bias cognitivi” o più semplicemente “bias”.
I bias cognitivi sono, errori sistematici del pensiero che, inducendoci a deviare dalla logica o dalla razionalità, influenzano il modo in cui percepiamo la realtà, prendiamo le decisioni ed il modo in cui formuliamo i nostri giudizi.
La differenza che passa tra bias ed euristiche è, quindi, rappresentata dal fatto che le euristiche sono scorciatoie comode e rapide strettamente legate alla realtà e che portano a veloci conclusioni. I bias cognitivi sono anch’essi scorciatoie ma si manifestano attraverso pregiudizi che hanno perso ogni legame con la realtà e che si acquisiscono, nella maggior parte dei casi, senza spirito critico o giudizio.
Non è facile capire in quale punto un processo di semplificazione si trasforma in una banalizzazione dalla quale nasce un bias cognitivo. Ritengo che sia impossibile fissare una sorta di soglia che consenta di comprendere di essere in presenza di un processo di semplificazione del quale si è perso il controllo tanto da poterlo dichiarare disfunzionale al processo decisionale. Per questo motivo, forse, ci si accorge dell’esistenza di un bias sempre, per così dire, a fatto compiuto quando il processo decisionale ha manifestato i propri effetti nell’ambiente e sulle persone.
Un mondo di unicità assolute nel quale non è possibile creare gruppi attraverso processi di astrazione è un mondo nel quale è impossibile ogni forma di vita intelligente. Per quanto possa sembrare irragionevole, organizzare la conoscenza per schemi e da questi per astrazioni è comune a tutti gli agenti intelligenti o teleologici anche di natura aliena (non umana). Per il mio cane gli uccelli sono tali a prescindere che rientrino nelle specie per le quali è stato selezionato ed addestrato a cacciare. Si potrebbe obiettare che il mio cane rincorre tutto quello che si muove in preda al solo istinto predatorio. Tuttavia la sua ritrosia a predare oggetti a lui sconosciuti è comune a tutti gli altri cani. Rammento ancora il modo in cui si è comportato quando ha visto, per la prima volta nella sua vita, un palloncino rotolare sul pavimento perché mosso dal vento e di come si è comportato nei successivi incontri con questa fenomenologia ambientale.
Le astrazioni non mancano nemmeno nelle intelligenze vegetali che attuano schemi di clusterizzazione nei processi di apprendimento e adattamento. Una testimonianza di tale capacità ci è data da Stefano Mancuso attraverso le sue osservazioni in merito ai riscontri raccolti dal naturalista e botanico francese Lamarck (1744-1829) relativamente ai comportamenti che la mimosa pudica, così chiamata perché chiude le sue foglie non appena viene sfiorata, mette in atto nel presumibile tentativo di difesa dagli erbivori.
Un aspetto specifico è, a mio parere, assunto dai sistemi di Intelligenza Artificiale (IA) che, pur non essendo forme di vita, operano come agenti teleologici e lo fanno attuando processi di astrazione e classificazione non dissimili da quelli prodotti da altre specie viventi. Come rilevato da Nello Cristianini, tutte le volte che un sistema IA attua una classificazione lo fa con un proprio costrutto teorico basato su una propria forma di intelligenza.
Non è possibile sapere quali sono le caratteristiche degli schemi di conoscenza che una IA adotta per distinguere un cane da un gatto o per classificare il mondo. Semmai lo potessimo scoprire, scopriremmo che non ha nulla a che vedere con i nostri criteri basati su dati sensoriali umani. Non mi stupirei di trovare in una IA una classificazione simile a quella proposta da Jorge Luis Borges in cui il mondo animale si divide in:
La questione dei bias che si manifestano nei sistemi IA è molto più complessa se si considera il fatto che le correlazioni statistiche che sono utilizzare nei processi di astrazione sono spesso, se non sempre, definite su dati che, oltre ad essere naturalmente affetti da bias, potrebbero celare legami statistici a correlazione debole non evidenti all’uomo ed in grado di generare effetti negativi sul processo di analisi e decisione. Per capire l’importanza delle correlazioni deboli e della loro pericolosità, riporto una bella definizione prodotta dal team di Ammagamma che, a mio parere, sul tema fa scuola e divulgata David Bevilacqua: “le [correlazioni deboli sono] relazioni più flebili tra le variabili che influenzano un fenomeno [e sono] di difficile lettura e interpretazione. La nostra mente non è in grado di coglierle, a differenza delle correlazioni forti, ma dotandosi di un modello matematico è possibile individuarle [ed usarle a nostro vantaggio]”. La consapevolezza dell’importanza che le correlazioni deboli assumono nei processi di astrazione generati da una IA viene anche dagli studi condotti da James Pennebaker che dimostrano la fattibilità di una segmentazione psicometrica di un utente attraverso la sola struttura linguistica adottata nell’esposizione delle proprie opinioni. Grazie ai suoi studi ed alle correlazioni deboli, Facebook può clusterizzare gruppi di persone a partire dai soli like espressi sulle immagini e sui post pubblici degli utenti.
Riconoscere l’esistenza dei processi di astrazione in ogni agente intelligente consente di comprendere che i bias possono essere presenti in ogni processo euristico a prescindere dalla natura dell’agente che lo pone in essere. Inoltre, trovo la provocazione di Borges, un utile strumento a comprendere che i nostri principî di classificazione e di ordinamento del mondo sono tutt'altro che ovvi e naturali essendo possibile ipotizzare infiniti altri modi di organizzare gli oggetti della nostra esperienza come, per esempio, quello paradossale che ho riportato sopra.
A questo punto del mio ragionamento è bene che faccia un breve riepilogo di quanto ho tentato di esporre fin qui.
Punto 1 - I processi euristici si basano su semplificazioni della realtà che, anche se funzionali al raggiungimento del risultato, sono la matrice dalla quale nascono i bias.
Punto 2 - I bias, essendo legati ai processi di semplificazione, non sono il frutto di un determinato livello di astrazione ma, piuttosto, il frutto di un limite determinato solo dal livello di inaffidabilità che il nostro buon senso trova ammissibile nei nostri processi cognitivi e decisionali. Nei termini esposti, il bias è presente in ogni processo euristico e tutte le volte che ci si discosta dal dato oggettivo.
Punto 3 - I processi di semplificazione sono necessari per attuare i processi di astrazione che ci consentono di comprendere il mondo a prescindere da specifiche manifestazioni fenomeniche. Ho anche riscontrato questa capacità di astrazione in agenti dotati di intelligenza aliena alla nostra.
Il bias, inteso come forma deviata dei meccanismi di semplificazione ed astrazione, è presente in ogni processo euristico perché è attraverso proprio all’adozione di uno o più scorciatoie che si può eludere l’adozione di un approccio logico-scientifico che è sempre molto dispendioso in termini di risorse di calcolo e tempo di acquisizione e verifica dei dati.
La presenza di bias in tutti i processi euristici è dimostrata anche dall’esperimento fatto dalla psicologa Emily Pronin che, nel 2002, ha descritto il “bias blind spot” come la naturale inclinazione della logica umana di considerare noi stessi sempre più obiettivi di chiunque altro. Un’altra dimostrazione del legame bias-euristiche ci viene dallo psicologo Paolo Legrenzi e il neurologo Carlo Umiltà che, nel libro "Molti inconsci per un cervello", scrivono:
Dato l'enorme flusso di informazioni, noi tendiamo a selezionare quelle che già conosciamo, quelle con cui siamo d'accordo, quelle che possiamo assimilare meglio grazie alla presenza di schemi e categorie mentali che ci sono familiari e che sono già consolidate. Inoltre, noi siamo inclini a condividere queste informazioni con chi la pensa come noi e con chi sappiamo che potrà apprezzare perché la pensa come noi. Queste nuove forme di vita danno luogo a una sorta di inconscio collettivo che si traduce nella radicalizzazione delle opinioni della persone. I singoli sono confortati dalla condivisione di una corrente di opinioni che è semplice, chiara, e che richiede bassi sforzi cognitivi e attentivi
Il ruolo dei bias nei processi cognitivi ha portato ad una attenta classificazione degli stessi che, in assenza di proposte tassonomiche o di modelli di riferimento, negli anni ha generato un elenco di oltre 150 voci ripartite in quattro macro-aree.
Con una lista tanto ampia di voci, trovo ovvio considerare i bias come parte inscindibile delle euristiche, malgrado in alcuni casi ne diventino l’elemento che mostra la fallacità di alcuni processi di semplificazione/astrazione.
L’idea che i processi euristici siano basati su bias più o meno efficaci non piace a nessuno perché testimonia che ogni scelta è sempre sbagliata o, se si preferisce, giusta sino a prova contraria. Questo scenario, tuttavia, non è deprecabile quanto sembra dal momento che è proprio grazie ai bias che è possibile accelerare i processi di analisi, migliorare il rilevamento dei fattori critici di scelta in situazioni mutevoli o incerte e giungere ad un modello decisionale più snello. Questo è dovuto al fatto che il bias è strettamente legato agli schemi ed alle categorie con le quali si organizza la conoscenza che è alla base dei processi di percezione, memoria e pensiero.
Le euristiche si basano necessariamente su bias anche se, nella gran parte delle circostanze, tali bias non manifestano effetti dannosi sul contesto o sull’oggetto delle nostre decisioni. In una simile condizione, per quanto la cosa non piaccia, non serve più chiederci se una decisione è presa sulla scorta di un modello i cui meccanismi manifestano o meno dei bias. Piuttosto serve chiedersi quale sia la rilevanza assunta dai bias certamente presenti nel processo decisionale in essere. In sostanza, dal momento che le scelte sono sempre basate su errori di valutazione, concentriamoci sulla distinzione tra errori gravi ed errori poco irrilevanti i cui effetti sono, tuttavia, solo apparentemente a basso impatto.
La visione del bias come problema che spiega l’anomalia palesata a valle di un processo decisionale è fuorviante perché trasforma i bias da effetto di una anomalia in causa dell’anomalia. I bias sono sempre il sintomo di un problema che affligge il modello decisionale e, per questo motivo, non esistono se non come manifestazione distorta di un processo cognitivo. Per essere più chiaro, non penso sia corretto dire che l’anomalia riscontrata in un processo decisionale sia riconducibile ad un bias o sia prodotta da un bias. Innanzi ad una anomalia si dovrebbe dire che il problema dalla quale si genera si manifesta sotto forma di uno o più bias.
L’interpretazione dei bias come manifestazione sintomatica di un problema cognitivo impone alcune riflessioni. La prima è rappresentata dal fatto che la correzione dell’anomalia non passa dalla correzione dei bias attraverso i quali si manifesta l’anomalia (sarebbe come abbassare la febbre invece di curare l’infezione). La seconda è rappresentata dal fatto che l’anomalia che riscontriamo attraverso uno o più bias non è detto che non ne abbia prodotto altri di eguale importanza ma non ancora individuati.
Un bias inteso come effetto e non come causa impone l’adozione di un approccio completamente diverso da quello attualmente adottato per l’analisi dell’efficienza dei sistemi IA in cui si deve essere necessariamente in grado di individuare quale processo di astrazione ha generato l’anomalia che identifichiamo come bias. Per compiere una simile analisi delle cause, si deve conoscere nel dettaglio i parametri che concorrono alla generazione della decisione e, ancora di più, si deve conoscere quale combinazione di “segnali deboli” genera la specifica impronta statistica che ha generato l’anomalia. Ad oggi, non esiste alcun modo per essere certi del modello che ha generato la risposta.
La presenza dei bias non è, quindi, utile a spiegare qualcosa dal momento che i bias sono presenti in ogni processo euristico e sono presenti tanto nei processi di analisi i cui esiti sono conformi alle aspettative quanto in quelli che non producono i risultati attesi.
Dire che un sistema decisionale è affetto da bias significa sapere perché si è generato il bias, perché non lo si è evitato, perché correggendo l’anomalia non se ne generi uno differente in una rincorsa alla complessità tipica dei primi service pack della Microsoft degli anni ‘90.
Ma se il bias è invece una peculiarità del modello decisionale? Un modello decisionale è sempre focalizzato su un set contenuto di dati. Ciò significa che, anche se non ci fossero fenomeni di discriminazione estremi, ci troveremmo comunque in un contesto nel quale non è possibile escludere che non si sia in presenza di un bias degno della famosa mossa “U-37” di AlphaGo i cui effetti si mostrano come un veleno in un tempo ed in una modalità tale da rendere impossibile comprendere l’origine del male ed individuare una cura adeguata.
Senza un sistema decisionale ad attenzione selettiva, saremmo alla mercé degli stimoli ambientali, anche se irrilevanti o incoerenti con ciò che stiamo facendo. Potremmo pensare che sia possibile farci supportare da una IA nel processo di lettura dei dati ma, anche in questo caso, nessuno potrebbe escludere che l’agente adottato a nostro supporto non cada esso stesso vittima della complessità del mondo sviluppando l’equivalente tecnologico della "sindrome da dipendenza ambientale" (Lhermitte, 1986) che rende incapaci di inibire azioni stimolate da ogni singolo input.
Fonte articolo: Linkedin Article di Vincenzo Gioia
“Mi sono inoltrato nel sangue fino a tal punto che, se non dovessi spingermi oltre a guado, il tornare indietro mi sarebbe tanto pericoloso quanto l’andare avanti” (Macbeth, III, 4 di William Shakespeare)
Mi ha sempre affascinato il modo in cui Shakespeare riassume con queste poche parole la condizione di Macbeth nel suo personale percorso verso l’ignoto. Non importa come sia cominciato il suo cammino, quello che conta è la chiara percezione del cosiddetto “punto di non ritorno”. L’eleganza di questa frase recitata da Macbeth nel terzo atto dell’opera Shakespeariana cela una condizione che può palesarsi come conseguenza di ogni azione importante della nostra vita privata e professionale.
La condizione che descrive Shakespeare è anche nota come “Effetto Macbeth”, sintetizza una percezione delle cose che non lascia opportunità di scelta e si basa sulla obnubilata convinzione che, proseguendo il cammino, si troverà una visione chiara delle cose o una soluzione allo stato in cui ci si trova. Questo effetto si presenta in molti casi della vita privata e professionale, laddove le nostre scelte cominciano da frasi tipo: “Non costa nulla provare”, “Tanto rischio poco” oppure dalla più spavalda forma del “Se l’ha fatto lui posso farlo tranquillamente anche io”. Nella vita professionale, l’effetto Macbeth si presenta spesso accompagnato da una sorta di mistica industriale a base di aforismi d’effetto scritti sulle pareti degli uffici: il poster di Steve Jobs con la frase motivatrice sta a questo universo come la foto di Marilyn Monroe sta al salone della parrucchiera sotto casa.
L’effetto Macbeth deriva da un approccio alle cose che ci porta a sviluppare una propensione al rischio molto alta, tanto da trascurare ogni forma di controllo e misurazione dei risultati correnti e di quelli attesi. Per sua natura l’effetto Macbeth è legato ai percorsi di esplorazione dell’ignoto che si declinano agevolmente nei processi di innovazione, di ricerca e sviluppo, di invenzione. Chiunque, una volta intrapresa una strada della quale non si è adeguatamente analizzato il rischio e/o la durata, può trovarsi nella stessa posizione di Macbeth.
La storia industriale ha numerosi fallimenti legati alla convinzione che non si possa tornare indietro, che non ci siano vie di fuga salvo il proseguire. Un esempio molto interessante è rappresentato dal progetto del Concorde, l’aereo supersonico prodotto dal consorzio anglofrancese formato da British Aerospace e Aérospatiale. Il Concorde è stato uno dei più ambiziosi progetti di innovazione della storia dell’aeronautica che, iniziato alla fine degli anni cinquanta, vede il decollo del primo prototipo nel marzo 1969. Si deve attendere il 4 novembre 1970 per vedere il velivolo raggiungere per la prima volta Mach 2, diventando il secondo aereo commerciale a volare a tale velocità, dopo il sovietico Tupolev Tu-144. Queste informazioni storiche sono molto importanti perché fanno capire il contesto nel quale nacquero le decisioni che portarono al primo volo del 1976 e quelle che ne determinarono il rovinoso fallimento nell’ottobre del 2003. Tuttavia, per quanto tutti pensino che la causa della sua dismissione sia dovuta al disastroso evento del luglio del 2000, la verità è che il suo abbandono fu determinato dal deficit dovuto agli impressionanti consumi, gli insostenibili costi di manutenzione, un numero esiguo di passeggeri (a causa del prezzo del volo molto elevato) e scelte di marketing spesso discutibili. Si deve attendere il tragico incidente di Parigi per vedere la chiusura del progetto Concorde perché per anni il governo francese e britannico hanno colmato il disavanzo di bilancio malgrado le evidenze finanziarie a causa della perniciosa tendenza umana ad insistere in un progetto senza tenere conto dei vantaggi futuri, ma piuttosto valutando solo gli sforzi già compiuti e gli investiti già erogati.
L’analisi dei vantaggi futuri è descritta in economia dal concetto di “costo opportunità” con il quale si va a definire il valore futuro delle proprie scelte in ragione al costo che si deve sostenere rinunciando ad un’opportunità che ci viene concessa. In sostanza, è il sacrificio che dobbiamo compiere per effettuare una scelta. Tuttavia, nel processo di analisi degli investimenti da compiere intervengono valutazioni che tendono a dare maggiore peso ai cosiddetti “Costi Irrecuperabili”. Per meglio spiegare questa dinamica, immaginiamo di essere a capo di un progetto di ricerca e sviluppo il cui esito è tutto da verificare ed abbiamo 100.000 euro da investire nel progetto. Ora, immaginiamo queste due situazioni: nella prima ho già investito 500.000 euro e posso chiudere il progetto investendo questi 100.000 euro che ho a disposizione; nella seconda non ho ancora iniziato il progetto e posso investire i miei 100.000 euro per dare inizio a delle attività il cui esito è tutto da verificare. Come agiresti? Sono certo che sei incline ad investire solo nel primo scenario: quello in cui, a parità di incertezza, tieni conto di quello che hai già fatto. Ma se ci si pensa, qualunque risposta tu possa dare o ipotizzare non è corretta ma nemmeno sbagliata dal momento che ad essere sbagliata è la domanda che ho posto: “Come agiresti?”. Sapendo che il risultato finale è incerto, la scelta di investire o meno non cambia a prescindere dal fatto che siano stati o meno investiti soldi sul progetto. In ragione di ciò, la domanda che avrei dovuto porre è: “qual è il costo opportunità allo stato attuale del progetto?”. Solo la risposta a questa domanda avrebbe costituito la base logica sulla quale effettuare la nostra scelta.
L’errata valutazione dei costi irrecuperabili è dovuta ad una distorsione cognitiva nota come “Fallacia dei costi irrecuperabili” (in inglese “Sunk Cost Effect”) che, nel caso del Concorde, si è manifestata in conseguenza dei pesanti investimenti sostenuti dai governi francese e britannico che indussero ad ulteriori investimenti anche quando era ormai chiaro che il progetto Concorde non sarebbe stato certamente sostenibile dal punto di vista finanziario. Il bias che è dietro la fallacia dei costi irrecuperabili riguarda il comportamento paradossale per cui quando abbiamo dedicato tanto impegno, tempo e/o soldi in un progetto che sta andando male — tanto da trovarci di fronte ad una perdita irrecuperabile — invece di abbandonare il progetto e limitare le perdite, tendiamo a continuare ad investire anche se questo non farà altro che aumentare le nostre perdite. A questo punto della lettura starai forse pensando che quello di cui sto scrivendo accade solo in determinate condizioni. Starai pensando che non è possibile che capiti a te. Forse hai ragione, ma prima di proseguire permettimi di fare un secondo esempio del fenomeno di cui sto scrivendo. Immagina di essere in un ristorante a menù fisso: prima di iniziare a mangiare sai già quante e quali portate riceverai e quanto pagherai per tutto a prescindere che tu mangerai o meno tutte le portate. Sei alla tua ultima portata e ti resta da mangiare solo il dolce ma sei pieno quasi a scoppiare. Cosa fai? Ordini oppure rinunci al dolce che hai comunque pagato? Io penso che ordini e lasci nel piatto perché spinto dall’idea che hai comunque pagato per quella portata. Questo comportamento dimostra che nemmeno la scelta di quell'ultimo sorbetto al limone è esente dalla fallacia dei costi irrecuperabili. Persino in amore si presenta questo fenomeno tanto che spinge le persone a tenere in piedi relazioni infelici, che non soddisfano, che deludono solo perché lasciare il partner comporterebbe buttar via i migliori anni della propria vita. Anche in questo caso, di fatto, si sta sostenendo un costo (non recuperabile) del tempo dedicato durante il periodo trascorso insieme.
Per conferire una dimensione accademica a quanto fin qui scritto, si può fare riferimento agli studi condotti da Daniel Friedman (University of California-Santa Cruz — UCSC) nel 2007 e descritti nella pubblicazione “Searching for the sunk cost fallacy” con la quale descrive i meccanismi psicologici alla base di cattive decisioni rispetto ai costi irrecuperabili. Secondo Friedman le cattive decisioni sono riconducibili al meccanismo della “dissonanza cognitiva” che ci porta ad una continua auto-giustificazione. In sostanza, le persone che hanno investito le proprie risorse in un’attività non remunerativa “modificano” le proprie convinzioni sulla redditività dell’investimento, al fine di evitare la spiacevole consapevolezza di aver commesso un errore. Tuttavia, la dissonanza cognitiva si manifesta in ogni persona in modo differente. Gli individui ansiosi sono più sensibili alle pressioni insite nei percorsi a forte incertezza sui risultati attesi e, quindi, situazioni tipiche dei costi irrecuperabili. In questi contesti gli ansiosi sono inclini a proseguire l’investimento pur consapevoli dell’insuccesso quasi certo laddove, invece, i soggetti tendenzialmente depressivi hanno maggiori probabilità di smettere di investire perché l’effetto dei costi irrecuperabili è alimentato da aspettative future irrealisticamente positive.
I comportamenti che gli individui tengono in presenza dell’effetto Macbeth dimostrano chiaramente che la percezione distorta dei costi irrecuperabili produce onerose ricadute sia in termini di denaro sia in termini di tempo e lavoro. Tuttavia esiste una forma di incancrenita dell’effetto Macbeth che conferma, laddove ci fosse un dubbio, il fatto che i problemi viaggiano sempre in compagnia: parliamo di quello che è chiamato “Effetto Escalation”. Quando un progetto di qualsiasi tipo comincia ad andare male, il bias dei costi irrecuperabili spinge irrazionalmente alcuni soggetti a fare ancora più investimenti nel progetto. Ciò determina una perdita ulteriore ancor più difficile da ignorare e giustificare che, a sua volta, incoraggia un ulteriore esborso di denaro. Questa spirale crescente di investimenti è anche nota come “Effetto Vietnam” perché è chiaramente spiegata dalla condizione prodottasi nella guerra statunitense del Vietnam. Secondo l’analisi fatta dall’allora Segretario di Stato George Ball e riportata nel memorandum inviato al presidente Jhonson il 1 luglio 1965, dal momento in cui i soldati inizieranno a combattere e a morire, diventerà impossibile ritirarsi per la paura che questi soldati siano morti invano. Per tale ragione sarà necessario inviare altri uomini sul campo che moriranno a loro volta. A quel punto il ritiro diventerà impossibile senza il raggiungimento degli obiettivi dichiarati oppure l’umiliazione del paese. Anche l’effetto escalation non è lontano dalla nostra vita quotidiana. Nelle relazioni con il partner spesso si arriva a matrimoni che necessitano di un figlio per poter esistere.
Il mio cammino professionale mi ha consentito e talvolta imposto di assistere da punti di osservazione privilegiati alle conseguenze dell’Effetto Macbeth e del conseguente Effetto Escalation. Gli insegnamenti che ne ho tratto si riassumono in un cammino ad investimenti crescenti che chiamo “roadmap della follia”. Questo cammino è comune ai progetti che ho analizzato per la stesura di questo articolo e si dipana negli step di seguito riportati:
La fine di questa roadmap la lascio decidere a te che mi stai leggendo. Non è detto che la fine sia tragica ma, di certo, non sarà piacevole visto il percorso descritto. Tuttavia, la mia esperienza su due differenti prodotti legati a due aziende oggi fallite (un sistema operativo in cloud ed una piattaforma di procurement) mi ha indotto a prestare grande attenzione all’effetto Macbeth perché anche nella vita reale il sipario può calare.
Fonte articolo: Linkedin Article di Vincenzo Gioia
Da qualche anno contribuisco a sviluppare soluzioni in ambito AI avvalendomi della competenza di un ristretto e preparato gruppo di colleghi e di un Think Tank, con il quale mi piace condividere i dubbi e le perplessità che maturo addentrandomi in questo ambito tecnologico. Negli ultimi tempi le mie riflessioni sono accompagnate da una sensazione di incompiutezza che stamattina sono riuscito a mettere a fuoco dopo essermi imbattuto nell’opera di Robert Silvers intitolata “Barack Obama, 2009”.
In questo fotomosaico su alluminio che possiamo apprezzare nel dettaglio cliccando qui, l’artista raffigura l’ex presidente USA attraverso una tecnica con la quale, come in un mosaico, tante piccole foto sono combinate per dare vita ad un’unica grande immagine. L’opera di Silvers raffigura la visione che l’artista ha di Barack Obama attraverso le pagine sulle quali sono riportati gli articoli che parlano di lui e della sua presidenza. La caratteristica sostanziale della tecnica del fotomosaico è data dal fatto che, a differenza del mosaico, ogni tessera è un'immagine a sé stante. Ciò crea un effetto affascinante che si sviluppa su due livelli e che impone all’osservatore di porsi su differenti piani di osservazione tutti indispensabili per la comprensione di quanto è rappresentato. Ciò si ribalta nell’opera di Silvers nella possibilità data all’osservatore di costruirsi una propria immagine del personaggio Obama leggendo ogni singolo articolo oppure guardare l’immagine complessiva che emerge dall’insieme grafico di tutti gli articoli e rappresenta l’immagine soggettiva che l’artista si è costruito sul personaggio attraverso tali articoli.
Come nel fotomosaico di Silvers, anche nell’universo AI ho la sensazione che le singole componenti tecnologiche siano solo singole immagini di una tecnologia più ampia e complessa che vada vista da una differente prospettiva utile a farci comprendere cosa sia realmente una AI.
Fonte articolo: Linkedin Article di Vincenzo Gioia
Cosa accadrebbe se il problema generato dalle AI non fosse legato solo ad aspetti di privacy, ai bias, agli aspetti etici o alla perdita di lavoro ma fosse rappresentato dall'impatto che tale tecnologia ha o potrebbe avere sul modello attraverso il quale il nostro cervello genera nuove idee?
Le AI generative sono di grande aiuto per chi svolge lavori di concetto. I giornalisti, gli scrittori, gli sceneggiatori, i pubblicitari e, non ultimi, gli artisti si sono certamente trovati, prima o poi nella loro vita, alle prese con quello che è noto come "blocco dello scrittore" o "sindrome della pagina bianca". In questi casi l'AI può essere un utile strumento per lo sblocco delle idee e talvolta anche per la riduzione dei tempi di esecuzione dei task. Tuttavia, le interazioni che abbiamo con il mondo esterno non sono semplici processi di input-elaborazione-output a causa della natura adattiva del cervello. Tale natura, come dimostrato dalla neuroscienza, si manifesta attraverso una plasticità che consente di modificare le interconnessioni esistenti tra i neuroni al fine di definire nuove risposte agli stimoli e nuovi modelli di interpretazione dell'ambiente esterno. Tale capacità di adattamento si accompagna anche a fenomeni di condizionamento che sono utili espedienti per la semplificazione computazionale e la risposta automatica a specifici eventi. Alla base del delle risposte che si generano attraverso un "metodo" operativo c'è anche il condizionamento.
Il metodo è alla base dei percorsi di generazione di nuove idee. Nessun creativo opera senza metodo tanto che l'improvvisazione musicale si basa proprio sull'applicazione di un metodo il cui fine è trasformare il caos in creazione. Ma cosa accade ad un cervello adattivo esposto per un tempo prolungato ad una AI generativa? Siamo certi che, durante l'esposizione non si producano fenomeni di condizionamento che impattano sul modello di generazione dei pensieri alterando la naturale capacità creativa?
Si potrebbe obiettare che nessuna creatura animale o vegetale è isolata dagli stimoli esterni, che l'adattamento è di per se anche condizionamento e che la creatività è sempre figlia dell'ambiente nel quale si manifesta. Tuttavia gli stimoli naturali derivanti dall'interazione con il mondo reale sono sempre generati da un ambiente che è, naturalmente, in continuo mutamento. A sua volta, nessuna organizzazione umana, animale o vegetale è statica essendo esposta, a sua volta, a stimoli esterni.
Chiarisco che l'intelligenza e la creatività non sono parole per le quali sono state prodotte definizioni uniche. Anzi, la gran parte delle definizioni contengono un grave bias derivato dalla interpretazione antropocentrica delle stesse tanto che, come dimostrato da Stefano Mancuso (professore all'Università di Firenze e direttore del Laboratorio internazionale di neurobiologia vegetale), il primo limite di tutte le definizioni siamo proprio noi. La domanda quindi mi nasce spontanea: se non riusciamo a percepire la vera essenza delle parole che usiamo, come possiamo pensare di governare gli effetti che le AI generative hanno sulla natura descritta da tali parole?
La nostra incapacità a definire in modo universale ed univoco le parole intelligenza e creatività si complica nel momento in cui si tenta almeno di individuare l'intelligenza e la creatività attraverso test che sono intrinsecamente imperfetti perché costruiti per la misura che tali capacità manifestano nell'uomo nel processo di elaborazione di idee diverse e significative.
Il fatto che i test per misurare l'intelligeza e la creatività fossero imperfetti non era un grosso problema finché le IA non sono diventate capaci di superare il 91% degli esseri umani nella variazione del test sugli usi alternativi per la creatività e supera il 99% delle persone nei test Torrance del pensiero creativo. A tal proposito si veda quanto pubblicato da Erik Guzik, professore assistente di management clinico presso l'Università del Montana.
Uno dei problemi che ritengo, quindi, annidarsi nella relazione uomo-AI generativa potrebbe essere rappresentato anche dal processo di condizionamento indotto da una tecnologia le cui risposte sono legate ad una rappresentazione, per così dire, "sintetica" dell'universo prodotta attraverso elaborazioni che non si basano mai sulla libera esposizione dell'AI agli stimoli esterni (dati, immagini, etc.) ma solo a ciò che i ricercatori intendono somministrare per il loro addestramento.
Se la mia ipotesi è corretta, il problema generato da un qualsiasi bias può risultare più semplice da correggere rispetto alla profondità alla quale si manifestano gli effetti prodotti sul nostro modo di pensare e creare.
Fonte articolo: Linkedin Article di Vincenzo Gioia
Noi siamo quello che pensiamo e pensiamo attraverso quello che siamo. (V.G.)
A cosa serve definirsi intelligenti se non siamo in grado di definire cosa sia l'intelligenza? Non mi credete, vero? Provate a chiedere alla persona che avete accanto cosa pensa che sia l'intelligenza. Non soffermatevi sulla mera definizione: potete anche limitarvi all’idea che ha l'interlocutore a riguardo. Ora confrontate la sua idea con la vostra. Questo banale esperimento mi ha permesso di intuire (capire e cosa ben più complessa) in quale universo sconosciuto ci addentriamo quando maneggiamo questo termine senza la dovuta cautela.
In questo articolo cerco di mettere in ordine le mie idee per capire la natura di questo concetto con il fine ultimo di aprire la mia mente a nuove modalità di percezione del contesto sociale e lavorativo con la speranza di riuscire a contribuire attivamente alla creazione di nuove forme di generazione del pensiero. Non aspettatevi, quindi, una nuova definizione del concetto di Intelligenza (non sarei capace di produrla) né l'elenco di tutte le definizioni possibili sul tema (sono troppe).
Definiamo il concetto - La prima cosa da fare quando si ragiona di qualcosa è sempre quella di partire da una definizione del termine del quale si discute. Cercando e scartabellando, ho capito che sul concetto di intelligenza sono state prodotte talmente tante definizioni da poter affermare che “esistono tante definizioni di intelligenza quanti sono i ricercatori cui è chiesto di definirla” (cit. Stefano Mancuso). Tuttavia, nel mare di definizioni disponibili si potrebbe scegliere quella secondo cui “L’intelligenza è l’abilità di risolvere problemi” il che lega il concetto alla relazione problema-soluzione che non è sufficiente a rappresentare tutti i comportamenti intelligenti. Possiamo, allora, adottare la definizione che lega l’intelligenza a “l’abilità di comportarsi in modo efficace in situazioni nuove” il che rende più ampio il perimetro legato al concetto di intelligenza e non la vincola alla sola soluzione di problemi.
Una mera questione accademica? - La questione relativa a cosa sia l’intelligenza non è "de lana caprina" perché, se non decidiamo cosa o chi sia e non sia intelligente, non possiamo riconoscere intelligenze differenti dalla nostra. La mancata comprensione delle forme di intelligenza che ci circondano impedisce ogni forma di sfruttamento/valorizzazione delle risorse naturalmente presenti in ogni agente portatore di intelligenza differente o divergente dalla nostra.
I limiti delle attuali definizioni - In una corsa alla comprensione della nostra natura, tendiamo a legare l’intelligenza a quello che sappiamo fare presupponendo che siano tali caratteristiche a stabilire la misura dell’intelligenza. In ragione di ciò, affermiamo che l’intelligenza è saper comunicare attraverso un linguaggio basato su regole sociali e sintassi, per poi scoprire che in natura non siamo i soli a farlo. L’intelligenza è saper usare degli strumenti per uno scopo, per poi scoprire che in natura non siamo i soli a farlo. In ultimo, pensiamo che l’intelligenza è sapersi esprimere attraverso l’arte, per poi scoprire che in natura non siamo i soli a farlo tanto che il senso artistico è alla base di molti processi di accoppiamento.
Il primato e la sostanza - Molti ritengono che l’intelligenza si sostanzi nel livello di complessità alla quale possiamo spingere le nostre manifestazioni. Per farla semplice, il mio gatto è intelligente ma la sua intelligenza è, per così dire, “diversamente intelligente” dal momento che non è in grado di usare un trapano a rotopercussione. Una tale posizione è, dal mio punto di vista, assolutamente incomprensibile dal momento che reputo l’intelligenza una manifestazione assoluta e non relativa. Se così non fosse avremmo molte difficoltà a gestire il connubio tra il nostro concetto di intelligenza e la disabilità intellettiva. Ma spero che nel 2023 non ci siano cretini che pensano che una persona affetta da disabilità intellettiva non sia intelligente a causa del fatto che ha difficoltà a fare o non sente il bisogno di fare cose che a noi risultano ragionevoli e/o agevoli da fare. La questione su cosa sia l’intelligenza è quindi per me fondamentale.
L’antropocentrismo delle definizioni - L’antropocentrismo presente nelle definizioni che diamo del concetto di intelligenza è segnato da una percezione delle cose che è profondamente legata alla nostra fisicità. Questo è tanto vero da portarci ad affermare - spesso con razionali privi di logica e/o fondamento - che l’intelligenza è legata alla presenza di un cervello, per poi capitolare nei nostri ragionamenti innanzi alle intelligenze di sciame che si manifestano anche in soggetti privi di un cervello per come lo intendiamo noi (su come lo intendiamo noi andrebbe scritto un articolo a parte). Le definizioni che generiamo per descrivere il mondo che ci circonda e noi stessi sono talmente legate a ciò che siamo che non ci accorgiamo del bias umano che le condiziona. Anzi, lo consideriamo naturale al punto tale che la definizione che danno del creato i credenti e dell’universo gli agnostici è costruita a partire da quello che siamo noi.
Siamo noi la misura di ciò che esiste e la dimensione nella quale decliniamo le cose.
Carl Sagan e la gatta di Nello Cristianini - Per capire i limiti determinati dalla natura antropocentrica delle definizioni che produciamo sul concetto di intelligenza, mi piace condividere la storia della gatta di Nello Cristianiani - professore universitario di intelligenza artificiale - e del “messaggio dall’umanità” che Carl Sagan ha voluto che fosse inviato a bordo delle sonde Pioneer lanciate dalla NASA tra il 1972 ed il 1973. Per chi non lo ricordasse, il messaggio creato da Sagan è scritto su una placca di metallo sulla quale è riportata la sagoma di due corpi umani, la mappa del sistema solare ed il diagramma di un atomo di idrogeno. Il messaggio è stato formulato partendo dall’assunto che, qualunque alieno intercetterà il messaggio, lo saprà leggere perché evolutosi in un universo soggetto alle stesse leggi fisiche che ci governano. Per verificare la veridicità di questi principi, Nello Cristianini ha mostrato il messaggio alla sua gatta che, pur essendosi evoluta nel nostro stesso universo ed essere soggetta alle stesse leggi fisiche che ci governano, non sembra avere ancora decodificato il messaggio. Forse manco l’ha notato.
Il “test della gatta di Cristianini” - Il test fatto da Nello Cristianini non è declassabile a semplice goliardata provocatoria dal momento che, senza scomodare ET, sul nostro stesso pianeta sono da sempre presenti intelligenze aliene alla nostra che, pur essendosi evolute parallelamente a noi, non presentano le nostre stesse caratteristiche fisiche.
Le intelligenze aliene - Il messaggio di Sagan, a mio parere, è inviato ad intelligenze come la nostra e non ad intelligenze veramente aliene alla nostra perché, l’ammissione dell’esistenza di intelligenze aliene - non parlo degli omini verdi ma di qualcosa di non umano - oltre che imporci il riconoscimento di intelligenze differenti dalla nostra, ci impone di accettare l’ipotesi che alcune di queste o tutte queste intelligenze possano essere pari o superiori alla nostra. Una simile ipotesi mette inevitabilmente in discussione la nostra posizione nell'universo e nel modo in cui stiamo cercando di governarlo. Per questo motivo, la definizione del termine Intelligenza rappresenta non solo uno sforzo di sintesi ma un processo di accettazione del ruolo che l’intelligenza umana assume tra le intelligenze disponibili nel perimetro della definizione scelta. Inoltre, a causa dei limiti determinati dal nostro linguaggio e dalla natura delle interazioni che abbiamo con il mondo esterno, percepiamo solo una minima parte del concetto di intelligenza e, spesso, la usiamo più come strumento di distinzione che di aggregazione.
L’illusione dell'intelligenza universale - Innanzi allo smarrimento che segue la scoperta di altre intelligenze, l’uomo si trincera dietro il mito dell’intelligenza universale in grado di manifestare abilità mentali che in natura non esistono. Il problema dell’idea di superiorità umana è che non è in alcun modo collegata agli strumenti attraverso i quali si manifesta la nostra intelligenza. Infatti, se analizzate singolarmente, le nostre abilità sono paragonabili a quelle di molte altre specie animali e vegetali e, spesso, il bilancio di chi sa fare di più e meglio non è a nostro favore.
Il nostro maggior limite siamo noi - Non possiamo scappare dalla nostra natura o sperare di individuare una definizione di intelligenza adeguata alla natura complessa di questo concetto. L’antropocentrismo linguistico è talmente radicato da essere palesemente ravvisabile anche nel modo in cui organizziamo le nostre strutture sociali e produttive affinché rispecchino il modello attraverso il quale il nostro corpo interagisce con il mondo. Un vertice che emette ordini che si trasformano in azioni multiple coordinate e finalizzate ad un obiettivo. Parliamo di Capo quando vogliamo indicare un vertice gerarchico (es: “il mio capo è un fenomeno” riferendoci ad una persona e non alla nostra testa!). Tuttavia una visione così centralizzata dell’intelligenza è presente solo in una trascurabile percentuale di esseri viventi tanto che in molte specie esiste una intelligenza di sciame in grado di generare notevoli traguardi intellettivi (si vedano le termiti, le formiche, etc.).
Cretini su Marte - Pensare che gli alieni siano intelligenti quanto la gatta di Cristianini è folle. Viaggiano con le astronavi, hanno il raggio traente e parlano vulcaniano: com'è possono essere intelligenti alla stregua di un gatto? Ma la questione non è se sono intelligenti tanto quanto, ma perché dovrebbero esserlo più di quanto non sia necessario per la loro vita. Provo a spiegarmi. Tu che stai leggendo questo articolo sei quasi certamente cretino, perché dotato di una intelligenza che non è in grado di farti comportare in modo efficace nelle relazioni interne ad una colonia di esseri che vivono su un pianeta diverso dal tuo. Mi sembra ovvio che questa affermazione è priva di senso. Ma la logica che c’è dietro la applichiamo tutte le volte che valutiamo una intelligenza non umana attraverso criteri, logiche e preconcetti umani.
Intelligenze tra le intelligenze - Un cane non va su Marte, la gatta di Cristianini non risolve equazioni. Ciononostante, non possiamo non riconoscere intelligenze in ognuno di questi agenti. Possiamo parlare di Intelligenze animali, intelligenze vegetali ed intelligenza umana ma lo facciamo a titolo puramente dialogico non essendoci alcun elemento oggettivo in grado di definire una scala di valore il cui punto più alto è rappresentato dall’intelligenza umana.
Intelligenze teleologiche - Associare una manifestazione di intelligenza all’abilità di comportarsi in modo efficace in situazioni nuove significa riconoscere che l’intelligenza è sempre funzionale al raggiungimento di un obiettivo ovvero che l’intelligenza è “teleologica”. In questi termini il concetto di intelligenza si amplia al punto tale che si può affermare che riflessi, pianificazione, ragionamento, apprendimento sono gli strumenti e/o espedienti attraverso i quali un agente è in grado di perseguire i propri obiettivi in un ambiente variabile manifestando un comportamento intelligente e funzionale alla sopravvivenza della specie.
L’ipercubo dell’intelligenza - Tali strumenti e/o espedienti attraverso i quali si manifesta l’intelligenza sono anche le dimensioni attraverso le quali la possiamo individuare. Per capirci meglio, possiamo immaginare l’intelligenza come una sfera sospesa in aria in una stanza vuota la cui posizione può essere definita solo ricorrendo alla posizione che essa assume su ognuna delle 3 dimensioni spaziali (x; y; z). Con questo approccio, l’intelligenza di un calamaro si posizionerà in una porzione di spazio nella quale l’intelligenza umana non si può collocare perché, ad esempio, il nostro linguaggio non prevede una comunicazione basata sui colori della pelle. Tantomeno è possibile stabilire che una dimensione prevalga su un altra essendo queste di identica importanza. Stabilire il primato di una dimensione sull’altra sarebbe come stabilire che un atleta è in forma per uno specifico aspetto della sua preparazione agonistica e sappiamo tutti che, prima di avere buone gambe, un atleta ha buona testa.
Le intelligenze cretine non esistono - Non riesco a capire per quale ragione riteniamo che le intelligenze presenti sul nostro pianeta siano paragonabili o, in qualche modo, classificabili per importanza o potere computazionale. L’intelligenza umana non è superiore a quella di altre specie dal momento che il valore di queste intelligenze non è relativo ma sempre assoluto. Per farla facile, è come paragonare pere e mele al banco dell’intelligenza. Se così non fosse dovremmo chiederci come è possibile che una specie dotata di una “intelligenza cretina”, come pensiamo che sia l’intelligenza vegetale, sia riuscita ad adattarsi ed evolversi sino a colonizzare il pianeta terra con una percentuale di presenza che è pari al 97,3% della massa totale della materia vivente. Per essere cretine, le piante sembrano molto più brave di noi ad affrontare problemi nuovi sviluppando soluzioni efficaci alla sopravvivenza.
Gli alieni sono sempre stati qui - Quando cerchiamo intelligenze differenti dalle nostre non serve scrutare il cielo notturno, basta guardare sulla terra le numerose specie che ci circondano e che hanno ampiamente dimostrato di essere intelligenti anche se noi non abbiamo la capacità di riconoscere tale intelligenza. Gli studi di Stefano Mancuso dimostrano chiaramente la natura complessa che si cela dietro il concetto di intelligenza tanto da riuscire a dimostrare sia la presenza di intelligenza tra i vegetali sia la capacità di computazione di dati molto più ampi e complessi di quelli acquisiti attraverso i nostri corpi.
L’importanza di capire di cosa parliamo - Capire quale sia il perimetro dell’universo intelligente ci permette, dunque, di individuare gli agenti che lo popolano e le modalità attraverso le quali questi agenti manifestano comportamenti intelligenti e proprietà emergenti. Comprendere in quali innumerevoli modi si possono creare le condizioni per il manifestarsi di proprietà emergenti significa generare modelli di interazione in grado di attivare quello che Linda Hill, Greg Brandeau, Emily Truelove e Kent Lineback chiamano "Genio collettivo".
Le proprietà emergenti ed il genio collettivo - Il genio collettivo è un concetto affascinante che si riferisce alla capacità di un gruppo di individui di collaborare e produrre risultati che superano le capacità di qualsiasi singolo membro manifestando una qualità che è definita come proprietà emergente. Le proprietà emergenti sono fenomeni che emergono inaspettatamente in un sistema complesso e non possono essere spiegate attraverso la semplice somma delle capacità individuali dei membri del gruppo. In altre parole, l’intero è più della somma delle sue parti. Il genio collettivo può essere visto come una proprietà emergente in quanto i risultati prodotti da un gruppo di individui, un team di ricerca scientifica, una comunità online o una squadra sportiva possono superare le capacità di qualsiasi singolo membro.
Fattori Che Contribuiscono al Genio Collettivo - Come indicato dagli studi condotti da Linda Hill, Greg Brandeau, Emily Truelove e Kent Lineback, ci sono vari fattori che possono contribuire al genio collettivo. Questi includono la diversità delle competenze e delle conoscenze all’interno del gruppo, la comunicazione efficace tra i membri del gruppo e un ambiente che promuove la collaborazione e l’apprendimento reciproco. La diversità delle competenze e delle conoscenze può portare a una maggiore creatività e innovazione. La comunicazione efficace aiuta a garantire che tutte le idee e le informazioni siano condivise tra i membri del gruppo senza mai confondere il valore dell’idea con quello della persona che l’ha generata. Un ambiente collaborativo promuove l’apprendimento reciproco e permette ai membri del gruppo di costruire sulle idee degli altri.
Per quanto ritengo di avere capito, non siamo capaci di riconoscere intelligenze diverse dalla nostra e non ci interessano le intelligenze diverse dalla nostra perché non interagiscono con noi nel modo che desideriamo o troviamo coerente con la nostra natura. Siamo talmente concentrati su noi stessi che non siamo capaci di guardare altrove da noi malgrado ci sforziamo di costruire intelligenze artificiali differenti dalle nostre. Tuttavia, è ineluttabile il fatto che tutte le cose viventi esibiscono comportamenti teleologici ed autonomi e li pongono in essere attraverso continue manifestazioni di volontà costruite sulla base di obiettivi innati ed informazioni sensoriali.
Le intelligenze aliene alla nostra hanno la capacità, identica alla nostra, di prosperare in un ambiente mutevole sul quale non hanno alcun controllo ed attraverso decisioni, piani strategici, ragionamenti ed apprendimento. Per queste ragioni dobbiamo accettare il fatto che le intelligenze aliene possono essere fonte di grande ispirazione nel processo di generazione di nuove idee e nuovi schemi di organizzazione sociale.
Fonte articolo: Linkedin Article di Vincenzo Gioia
