Ginevra l'esperta di IA - Puntata 3

Credevo che la nostra Ginevra, ventiduenne esperta di intelligenza artificiale e ormai punto di riferimento tecnologico del gruppo delle pancine, avesse raggiunto l’apice della propria carriera quando una signora le aveva chiesto di fabbricare la fotografia di un tradimento mai avvenuto. Mi ero dovuto ricredere quando un’altra aveva richiesto la clonazione della voce del marito per inviargli, a sua insaputa, una falsa confessione di infedeltà da far arrivare alla nuova compagna. Eppure, anche questa volta, mi ero dimostrato una persona con un’immaginazione terribilmente limitata, incapace di comprendere le infinite possibilità offerte dall’incontro tra la tecnologia contemporanea e le menti più illuminate della comunità pancinesca.

Dovremmo ormai aver imparato che, quando una pancina si rivolge a Ginevra, raramente ha bisogno di qualcosa che non potrebbe ottenere con una normale applicazione. Non si tratta di restaurare una vecchia fotografia, migliorare l’immagine del proprio matrimonio o creare un biglietto di auguri. Qui l’intelligenza artificiale viene considerata una sorta di sportello universale al quale sottoporre questioni sentimentali, familiari, spirituali e, all’occorrenza, problemi che una persona ragionevole affiderebbe a uno psicologo, a un avvocato o direttamente alla propria coscienza.

La cosa interessante è che queste richieste vengono quasi sempre formulate con una naturalezza disarmante. Non c’è esitazione, non c’è la percezione di stare oltrepassando un limite e soprattutto non sembra esserci alcuna distinzione tra ciò che è tecnicamente possibile e ciò che sarebbe umanamente accettabile fare. Se un programma permette di produrre un risultato, allora quel risultato diventa automaticamente un'opzione da prendere in considerazione. Il ragionamento morale viene sostituito da quello commerciale, con l'unica incognita rappresentata dal prezzo della ricarica.

Questa volta, però, siamo davanti a qualcosa che merita una riflessione più seria, perché il dolore di una persona non è una materia prima sulla quale sperimentare liberamente. Il lutto può modificare profondamente il rapporto con gli altri, con le proprie convinzioni e con la religione, e non esiste alcun obbligo morale di continuare a essere la stessa persona che si era prima di una tragedia. Una persona può perdere la fede, ritrovarla, cambiare idea più volte oppure non voler più mettere piede in una chiesa. Nessuna di queste scelte autorizza qualcun altro a intervenire sulla sua percezione della realtà.

E invece, nel meraviglioso universo delle pancine, persino l'elaborazione del lutto rischia di diventare una questione da risolvere attraverso una consulenza informatica.

A questo punto vi lascio alla nuova richiesta indirizzata a Ginevra, perché non credo esista un'introduzione capace di preparare adeguatamente a ciò che state per leggere.

La prima cosa che mi colpisce, dopo aver letto tutto, è la straordinaria capacità della protagonista di considerare un problema personale ciò che appartiene interamente alla vita di un'altra persona. Il dolore altrui diventa un inconveniente nella propria quotidianità, qualcosa che interferisce con abitudini consolidate e che, pertanto, deve essere corretto. Non viene presa in considerazione l'ipotesi che un'amicizia possa cambiare, che una persona possa avere bisogno di isolarsi o che la fede religiosa non sia un appuntamento al quale si debba continuare a partecipare per non deludere le proprie conoscenze.

Ancora più sorprendente è il modo in cui una tragedia viene trasformata in uno strumento per ottenere il risultato desiderato. Siamo davanti a un ragionamento che capovolge completamente il significato dell'affetto e della solidarietà. Anziché chiedersi come stare vicino a una persona che soffre, ci si domanda come utilizzare quella sofferenza per modificarne il comportamento. L'amore per il prossimo viene interpretato come il diritto di decidere che cosa sia meglio per lui, anche contro la sua volontà e anche a costo di ingannarlo.

Il paradosso religioso, poi, è talmente evidente da risultare quasi imbarazzante. Per riportare qualcuno alla fede si pensa di ricorrere a un artificio, come se Dio avesse bisogno di un ufficio marketing e di una campagna promozionale realizzata con strumenti informatici. Evidentemente, quando la persuasione spirituale tradizionale non funziona, si può sempre valutare una collaborazione con il settore effetti speciali.

Ma la parte più inquietante rimane l'assoluta assenza di consapevolezza del possibile danno. Un'esperienza del genere potrebbe provocare paura, confusione, un dolore rinnovato e conseguenze emotive imprevedibili. Non sappiamo come reagirebbe la persona coinvolta, e proprio questa impossibilità di prevederlo dovrebbe essere sufficiente per escludere qualsiasi iniziativa del genere.

Invece ci si preoccupa soprattutto di non essere scoperti.

E credo che questa differenza dica già moltissimo, ma ora veniamo ai commenti.

Continua a leggere…