DILEMMA DEL CARRELLO

C'è un tram che dovrà passare o per il primo binario pestando 5 persone, o per il secondo
pestandone una; e vi è un deviatorio per cui possiamo prendere noi la scelta della direzione
che prenderà il tram; cosa sceglieremo? O lasceremo la decisione al caso?

-variante dell’uomo grasso: per fermare il tram occorre buttare sulle rotaie un uomo grasso

(che si significherebbe sicuramente commettere un omicidio)

In entrambi i casi abbiamo a che fare con scelte morali, eppure discutibili.

-ulteriore differenza è la nostra reazione se scopriamo che l’uomo grasso è un criminale o se i

5 sono dei criminali e l’altra persona è una nota persona per bene. Queste cose influenzano la
nostra decisione? . Si tratta di un dilemma tra due diverse concezioni di bene

• Dovete combattere per affermare un principio giusto (il diritto all’autodifesa, il diritto
all’indipendenza) e per contrastare un’azione eticamente sbagliata (l’aggressione, per di più
del più forte contro il più debole)?

• O dovete arrendervi in modo che nessun civile venga ucciso?

SEZIONE 1
CARATTERI FONDAMENTALI DELL’ETICA

PRIME CONCLUSIONI: NATURA DELL’AZIONE

si può agire per impulso e quindi non è un agire razionale e non è nemmeno un agire etico per
definizione
-per agire invece in maniera razionale allora abbiamo bisogno di raccogliere una serie di
informazioni; se non si ha tempo per decidere si é giustificati
Possiamo ora trarre queste prime conclusioni:

1. L’etica è fatta di DECISIONI (chi salvo?) = l’etica è fatta di decisioni razionali e di motivazioni
(importantissime)

2. L’etica è fatta di MOTIVAZIONI (perché lo salvo?) = (motivazione può essere anche che la
vita sia sacra, anche quella di un criminale). Le motivazioni sono diverse e anche conflittuali.
-non c’è un senso dell’agire e un'etica, ma sono tante, vi é una pluralità di motivazioni
l’etica ha più risposte diverse e anche conflittuali

3. L’etica si occupa delle CONSEGUENZE delle azioni= Si può agire giustificando l’azione in
base alla sua conseguenza

Decisione e motivazione sono gli elementi fondamentali dell’agire.

Tuttavia, è solo considerando i fini e le conseguenze che un agire si può definire etico (non
tutte le motivazioni sono etiche!).
SOGGETTO MORALE

l’etica è fatta di decisioni vuol dire che c’è qualcuno che decide: questi è il soggetto morale.

Dobbiamo però chiederci: chi è il soggetto morale? Dobbiamo chiedercelo perché

ovviamente non basta affermare una cosa perché la cosa esista, e anche perché l’esistenza
del soggetto morale è stata più volte messa in discussione=la tendenza al giorno d’oggi
è ampliare il mondo dei soggetti morali. Altre tendenze negano completamente l’esistenza
del soggetto morale. Esempi
[Link] marxismo= soggetto morale non esiste, essere umano é convinto di agire secondo una
legge morale ed etica ma è un'illusione ma in realtà le relazioni umani sono dettate da calcoli
economici, quindi, non esiste l'etica. Per questo dobbiamo domandarci chi è un soggetto
umano
[Link]=Anche nel totalarismo di destra nega l’esistenza del sogg. morale
= esistono differenze di tipo biologico, razze che stanno
sopra rispetto ad altri, mentre nell’etica tutti stanno allo stesso piano
3. Riduzionismo scientifico= nega anche questo il soggetto morale =esempio: credi di
comportamenti in modo etico ma in realtà tutto questo é dovuto al funzionamento del
cervello
Il comportamento etico viene spiegato esclusivamente dal punto di vista scientifico
Inoltre, oggi la domanda sul soggetto morale è radicalmente mutata:

- il chi, ad esempio, può includere anche gli animali, che per molti godono dello stesso status
morale degli esseri umani;

- Ma poi, il soggetto deve essere per forza un chi? Ossia, un essere vivente?

- Alcune correnti dell’etica dell’IA sostengono infatti che possa benissimo essere un che cosa:
si parla infatti di macchine autonome e intelligenti.

Prima caratteristica del soggetto morale: l’Agency = cioè la capacità di agire che deve avere
ogni soggetto morale

In questo senso, allora, non solo l’uomo è soggetto morale, ma anche le istituzioni, gli
animali e le macchine (Gli animali magari non sono soggetti morali ma la riflessione etica
invece deve occuparsene perché comunque hanno la agency)
Prima conclusione: Tutto ciò che può agire è degno di considerazione morale (è degno cioè di
un’analisi eticamente orientata):

• anzitutto, per le possibili conseguenze del suo agire (es. rischi, vantaggi...) • ...e in sé, per
una sua intrinseca dignità.

Seconda caratteristica è la coscienza morale. Che sembra essere prerogativa solo umana
L’uomo agisce sempre in maniera etica in quanto possiede coscienza morale (ci rende diversi
perché ci sono delle gerarchie di valori)
L’animale può comportarsi come se abbia coscienza morale ma può non che ce l’ha sempre
-Se questo è vero, allora vale la seconda conclusione: Nella considerazione etica esistono
gerarchie di valore (=non tutti gli agenti sono sullo stesso piano).

COSCIENZA E COSCIENZA MORALE non possono essere la stessa cosa

Iniziamo intanto ad indagare l’umano, riservandoci poi di vedere se le sue caratteristiche
siano condivise anche da altri attori.

Cos’è la coscienza morale? Non è solo coscienza, ossia percezione consapevole (Percezione
di sé e dell’ambiente
Coscienza è capacità di tematizzare se stessi, è percezione consapevole). Sono due
caratteristiche che si ritrovano anche in animali e macchine. Non implica necessariamente
un che di etico (come appunto negli animali).

Caratteristiche che distinguono la coscienza morale: la libertà

Libertà ha due significati fondamentali: LIBERTA’ DA E LIBERTA’ DI

Libertà da= sono libero cioè posso fare x cioè significa che non subisco delle restrizioni, sono
libero da esse. È una libertà che si predica evidentemente di tutti i soggetti capaci di agire, sae
agiscono vuol dire che vincono le restrizioni al loro agire

Esempi

Una macchina può calcolare x…

• perché ha sufficiente capacità di calcolo

• perché è alimentata da una fonte di energia sufficiente e costante

• perché possiede capacità di memoria in grado di far fronte ad un’improvvisa interruzione di

energia e non perdere il lavoro svolto fino ad allora…

→ Nessuna di queste costrizioni ostacola, cioè, l’agire della macchina.

Libertà di= senso forte di libertà, è un tipo di libertà qualitativamente diversa, costitutiva
dell’essere umano non ci può essere tolta. È lo scegliete di agire, ossia avere l’intenzione di
fare qualcosa, si può limitare ma non togliere.

Una macchina può essere programmata per mandarvi l’SMS della buonanotte. O può
apprenderlo. Ma ha davvero l’intenzione di mandarvelo? Il fatto di inviarlo è conseguenza di
un suo giudizio morale o di valore (=‘devo mandare l’SMS perché è una cosa buona’)? Questo
fa sì che sia molto difficile (o almeno dubbio) dire che una macchina sia libera in questo
secondo senso. Idem per l’animale. (Ancora più difficile per un’istituzione.)

Avere l’intenzione di fare qualcosa è alla base dell’agire umano e quindi dell’agire etico

Ricapitolando

1. Tutto ciò che può agire è degno di considerazione morale.

2. Tuttavia, non è detto che tutto ciò che può agire sia un soggetto morale. Pertanto, nella
considerazione etica esistono gerarchie di valore, quindi esistono soggetti morali pienamente
tali, ossia dotati di coscienza morale, e soggetti morali parzialmente tali, o che fanno
problema.
Quindi caratteristiche certe del soggetto morale (chiunque egli/esso sia) sono:

• Agency

• Coscienza, cioè libertà (di) / intenzionalità / capacità di giudizio morale (= giudizio di valore)

Altra caratteristica del soggetto morale è il VALORE. Ciò che muove l’intenzione è il
GIUDIZIO DI VALORE= motiva l’azione verso un certo oggetto del desiderio

I giudizi di valore mutano/sono dinamici. Il giudizio di valore inclina la nostra intenzione in una
direzione o un’altra. L’intenzione nasce in maniera abbastanza generica, ci si pensa e si
formula un giudizio di valore. Il giudizio di valore può essere definito anche giudizio pratico
perché riguarda l’agire ed è diverso dal giudizio teoretico.

GIUDIZIO TEORETICO E PRATICO

Il giudizio teoretico è la capacità di sapersi situati in un determinato ambiente/contesto, lo

formuliamo costantemente perché ci dice quale sia l’esperienza che stiamo formando in quel
momento, giudizio costante sul mondo e che esprime i fatti. Sono giudizi che giudicano in
primo luogo del vero o del falso, se qualcosa è o non lo è, e in secondo luogo cercano di
descriverla.

Abbiamo bisogno di entrambi i giudizi, il pratico da un senso diverso al nostro agire, da un

senso.

Il giudizio di valore ha caratteristiche soggettive: ciò che mi è utile, che mi sembra buono o
nobile ecc., che rende la mia vita migliore, la potenzia. Del resto, deve essere così perché si è
detto che il giudizio di valore inclina l’intenzione—che è sempre la mia.

Si può anche dire che, attraverso il giudizio di valore, io in qualche modo mi approprio della
realtà che ho di fronte, la faccio mia in un modo che non è semplicemente usarla. Diviene
appunto un valore, e non più soltanto un fatto. Il giudizio di valore è proprio ciò che apre per
noi una dimensione diversa da quella del puro fatto (distinzione tra coscienza e coscienza
morale). Il giudizio di valore ci fa umani

La coscienza= capacità di tematizzare se stessi

Solo il valore costituisce ciò per cui vale la pena di vivere, ossia la motivazione dell’agire,
incoraggiando ad affrontare i rischi e dando senso al lavoro e alla vita umana.

Non tutti i giudizi di valore sono giudizi etici (es “l’acqua è buona”)

All’interno dei giudizi di valore dobbiamo dunque distinguere i giudizi che sono invece
eticamente orientati.

La dimensione del valore però non pare essere puramente umana = concetti come vantaggio
o piacere sono associabili anche agli animali
L’ANALISI DEI FINI E DELLE CONSEGUENZE

Vanno introdotti ulteriori elementi nel giudizio del valore, cioè l’analisi dei fini e delle
conseguenze. Il valore inteso finora è soggettivo ed è relativistico (vale per ora per quel
momento ma poi?). In questo modo non è possibile costruire delle norme di comportamento
universali, cioè valide sempre e per tutti.

In ogni situazione occorre porsi la domanda quale criterio etico applicare, vedere se quel
giudizio di valore corrisponde a dei valori etici, e se è un giudizio buono e giusto. Solo se
soddisfa i requisiti etici il giudizio di valore diviene autenticamente morale, quindi
potenzialmente può diventare una norma etica. Ed è solo in questo senso che la dimensione
del valore, essenziale per l’etica, sembra essere esclusivamente umana (è una competenza di
specie).

CONSEGUENZE E RESPONSABILITA’

Esistono diversi criteri per stabilire se un giudizio di valore sia anche morale (eticamente
accettabile): ce ne occuperemo nella terza sezione. Per ora basti dire che:

1. Nella valutazione di tipo etico, occorre dare spazio ai fini delle azioni (perché lo faccio?) e
alle loro conseguenze (ad es., un’azione giusta potrebbe avere conseguenze devastanti).

2. Proprio perché le conseguenze delle azioni possono essere ambigue, occorre tener conto
della responsabilità verso di esse, senza differenza tra responsabilità previste e presunte.

Già da questo si capisce la differenza che intercorre tra un giudizio di valore semplice, come
«l’acqua è buona», ed un giudizio di valore eticamente valido, come «gli esseri viventi vanno
rispettati», «non bisogna uccidere», «occorre vivere secondo giustizia».

RICAPITOLANDO

Caratteristiche del soggetto morale:

1. Capacità di agire (agency – prerogativa non esclusivamente umana)

2. Coscienza morale, e cioè:

2.1 libertà di / intenzione

2.2 capacità di formulare giudizi di valore (o pratici) (anche questa prerogativa che potrebbe
non essere esclusivamente umana)

2.2.1 capacità di formulare giudizi di valore eticamente orientati (=rispondenti a criteri etici) e
rispondenti all’analisi dei fini e delle conseguenze.

Tutto questo dev’essere inteso come un tutt’uno, la struttura dell’agire etico.

VERSO UN’ETICA RAZIONALE

L’analisi morale (ossia il giudizio morale di valore su) di un’azione (cioè includente i suoi fini e
le sue conseguenze) è stato il passo decisivo verso un’etica finalmente razionale, cioè
un’etica che cerca di limitare il più possibile relativismo (relativistiche=legate a un certo
luogo) e soggettivismo insiti nei giudizi di valore per loro stessa natura.

Ad esempio, tutte le culture dicono di salvare la vita umana. Però:

1. Per culture sviluppate, urbanizzate conta più salvare un bambino perché sviluppano una
sensibilità per i soggetti deboli e vulnerabili;

2. Per culture tradizionali (nomadi o coltivatori), conta invece salvare un adulto (perché ad es.
può fare altri bambini).

3. In realtà, fino agli anni 1950 anche da noi i bambini non venivano battezzati fino a qualche
mese di vita. Era considerato del tutto normale perderli.

Le norme morali dovrebbero essere il più possibile universali= cioè valide per tutti e in
qualsiasi situazione

Il grande compito di un’etica razionale è evitare ad ogni costo che fattori individuali e variabili
influenzino a tal punto ciò che un gruppo umano considera una «vita etica», da far coincidere
quest’ultima con le norme e le tradizioni di quel gruppo. Un pericolo ben rappresentato dal
detto “paese che vai, usanza che trovi”. Questo pericolo è dato dal fatto che i fattori
individuali e variabili riflettono la condizione in cui nasciamo e ci troviamo a vivere (fattori
climatici, sociali, culturali, religiosi ecc.), e ne sono enormemente influenzati. Tali fattori, se
da un lato creano un’identità, esercitano anche un pesante condizionamento, la cui enorme
pressione può farci perdere di vista il nostro scopo, che è vivere una vita etica in cui i giudizi
morali di valore sono determinati unicamente secondo ragione.

Come applicare il fatto che il valore della vita umano sia importante che però si sviluppa in
modo diverso da cultura a cultura (alcune diranno che tra un adulto e un bambino va salvato il
bambino, ma in culture diverse come nelle popolazioni nomadi conta di più la vita di un
adulto)

L’analisi razionale si domanda se le leggi sono razionalmente fondate o no.

Il tentativo è utilizzare solo la ragione umana, quando troviamo delle norme morali che non
sono razionalmente fondate dobbiamo andare contro (es. Per le vecchie norme che hanno un
grande potere di condizionamento)

Questo non significa che tali fattori (cioè le forme di condizionamento verso antiche leggi) non
contino nulla (hanno dei lati positivi):

• Anzitutto, essi svolgono una funzione unificatrice e stabilizzatrice all’interno di un

determinato gruppo umano, e allo stesso tempo gli permettono di distinguersi da tutti gli altri
(sono un fattore decisivo nella nascita della diversità culturale).

• In secondo luogo, spesso queste strutture morali di tipo non razionale sono vecchie di
secoli o addirittura millenni, e di solito sono perfettamente adattate al rispetto dell’ambiente,
in cui l’essere umano si inserisce in modo armonioso e da cui però sostanzialmente non si
differenzia (in altre parole, non c’è civiltà). Le norme tradizionali danno il vantaggio identitario
(però sono un problema in quanto non costruite su narrazioni e non su ragionamento)

• Tuttavia, proprio per questo l’etica razionale deve combattere principalmente contro di essi
per potersi imporre.

Le norme etiche non razionali non ci mettono però al riparo dalle ingiustizie e dall’arbitrarietà

Nonostante i loro possibili lati positivi, infatti, essi non ci possono bastare, perché non sono
strutture morali razionalmente fondate, dunque non ci mettono al riparo dall’arbitrarietà e
dall’ingiustizia verso i deboli (come dimostra l’esempio dei bambini). Un’etica razionale si
sforza, a partire da premesse razionali e unicamente attraverso argomentazioni, di fornire
diversi orientamenti (a seconda delle diverse sensibilità) circa i comportamenti da tenere in
generale e soprattutto in situazioni a carattere dilemmatico. Grosso problema del rispetto
delle altre culture.

ETICA E IL SUO COMPITO

Definiamo ETICO ogni comportamento umano che è governato da dei principi, o che segue
degli orientamenti, i quali sono: razionalmente fondati, validi per il maggior numero di azioni e
le decisioni (quando non tutte), e validi per tutti i singoli indipendentemente dagli attributi che
li caratterizzano (cultura – religione – orientamento sessuale – razza – usi e costumi di
appartenenza). Anzi, l’etica DEVE prescindere da tali attributi.

Etica= la strada che si percorre. La morale= il mezzo con cui percorrere la strada

SEZIONE SECONDA

PROBLEMA DELLA DECISIONE= l’essere umano, per essere realmente un agente morale, sia
sempre razionale. Questa tesi, sostenuta per molti secoli dalla riflessione etica (da Aristotele
a Kant), è stata potentemente contestata (fino a negare la possibilità stessa che esista
un’etica) da una serie di pensosi signori tedeschi e da un gioviale gentiluomo inglese.

Marx=L’essere umano è il prodotto delle strutture economiche

Nietzsche= essere umano è il prodotto della volontà di potenza

Freud= La coscienza è il prodotto dell’attività dell’inconscio

Wittgenstein= la coscienza è un atto linguistico

Darwin=Siamo prodotto dell’evoluzione, la razionalità è uno strumento biologico che

abbiamo costruito per la sopravvivenza

È evidente che l’essere umano sia molto condizionato dalla prima (dal fatto stesso di avere un
corpo, per non parlare del clima, all’origine della stessa differenza tra culture) e dalle seconde
(povertà, istruzione ecc.).

DANIEL KAHNEMAN= ha mostrato, in maniera scientifica e rigorosa, che uno dei fondamenti
sui quali poggia – o poggiava in parte – la teoria economica, in base al quale le scelte umane
deriverebbero da ragionamenti perfettamente razionali, sostenuti da giudizi e calcoli precisi
nell’espletamento dei propri interessi, è inesatta.

LA PROPENSIONE ALLA CERTEZZA

L’essere umano è più complesso.

Solitamente, consideriamo «logica» o «sensata» qualsiasi scelta compiuta (in campo

socioeconomico – ma vale anche per la scienza...) dall’individuo nel pieno delle proprie
facoltà.

In realtà, questa per Kahneman è una propensione alla certezza, o, più propriamente,
un’illusione di certezza, che si manifesta in diversi casi e molteplici modi, ed è però causata
da bias specifici.

L’opera di Kahneman è fondamentale per comprendere il bias (ne è una vera e propria teoria),
ed è di grande importanza quando parliamo di sistemi automatici capaci di decidere
autonomamente.

S1 E S2

Questo non significa che siamo irrazionali ma che non siamo perfettamente razionali
(illusione della certezza)

Per Kahneman, infatti, noi usiamo due sistemi di pensiero (chiamati S1= pensiero veloce e
S2= pensiero lento):

• il primo, rapido ed «automatico», è attivo e reattivo, monitora costantemente l’ambiente ed

agisce in risposta a stimoli ed impressioni sensoriali, con poco o nessuno sforzo ed in
assenza di controllo volontario;

• il secondo, lento e «seriale», opera vigilando pigramente sulle attività del primo,
intervenendo quando le condizioni lo richiedano, ovvero risulti necessario focalizzare
l’attenzione su un problema, elaborarne gli elementi e formulare delle scelte (finendo,
spesso, per essere «ingannato» dai rimandi e dalle sensazioni indotti dal pensiero rapido).

S1 E S2 E L’ORIGINE DEL BIAS

S2 lo chiamo in causa per le questioni importanti, elabora i dati, ci da l’illusione di aver preso
una decisione razionale, spesso e volentieri però S2 finisce per convalidare la scelta di S1

L’essere umano è convinto di essere sostanzialmente il S2, quando in realtà il ruolo

preponderante lo gioca il S1;

S1 è l’insieme delle «impressioni e sensazioni che originano spontaneamente e sono le fonti

principali delle convinzioni esplicite e delle scelte deliberate del sistema 2»; «Le operazioni
automatiche del sistema 1 generano modelli di idee sorprendentemente complessi, ma solo
il sistema 2, più lento, è in grado di elaborare pensieri in una serie ordinata di stadi»;
il problema, però, è che a volte lo fa erroneamente (parlando di S2), più di quanto dimostri di
credere (perché influenzato da S1)

Esempio= l’illusione geometrica di Muller-Lyer

Secondo Kahneman, le distorsioni cognitive, o bias, funzionano allo stesso modo, perché non
riusciamo a contenerne la forza ‘corruttiva’: influenzando il pensiero «razionale», ne
plasmano le credenze, sicché risulta problematico smantellarle in un secondo momento,
anche dopo aver individuato la causa distorsiva.

Il risultato è una «sorta di coazione a ripetere», che determina una «propensione per la
certezza» a discapito di un atteggiamento scettico molto più adatto al mondo che ci circonda,
che è essenzialmente incerto

S1 ci da delle certezze (sbagliate) in un mondo che non ne ha (mondo completamente

incerto)

Teoria della catastrofe= ordine e caos sono due facce della stessa medaglia, due possibili
stati della realtà, dipende dal sistema che stiamo considerando, se conosco il sistema avrò
una variabile di ordine altrimenti caos.

S2 richiede tanta energia e si trova ad operare in un contesto mondo difficile, e molto spesso
sbaglia

BIAS= è una DISTORSIONE COGNITIVA

BIAS E RUOLO DEL CONTESTO

Anche il contesto gioca la sua parte: ambiguo, rumoroso, carico di stimoli (a volte fittizi o
illusori), trasmette informazioni che, passando dal ‘filtro’ del pensiero associativo,
pervengono al sistema riflessivo-analitico, che non le processa come se rispecchiassero la
parzialità dei dati di cui dispone, ma la totalità delle parti che compongono la situazione
originaria – secondo lo schema del «WYSIATI», tra i principali bias a fondamento
dell’«eccessiva sicurezza», per cui “quanto si vede, è tutto quel che c’è” (What You See Is All
There Is)= ci concentriamo sui primi elementi che abbiamo davanti e non cerchiamo di
ampliare prendendo in considerazione tutti i dati intorno. Anche questa è considerata una
distorsione, data dal contesto

La predisposizione mentale inerente allo WYSIATI – ovvero la tendenza a considerare solo gli
elementi a disposizione, e non quelli che compongono l’intero panorama del quadro in analisi
– comporta una serie di bias nell’ambito della formazione dei giudizi e decisionale, alimentati
a loro volta da distorsioni cognitive di carattere generale; tra questi, Kahneman descrive il
«bias di credenza», quello «di conferma» e l’ «effetto alone».

Il contesto è pieno di dati non filtrati

PERCHÉ L’ETICA È NECESSARIA

Questo non vuol dire che si debba abbandonare la speranza di un'etica ma capire che il
mondo è più ambiguo e imprevedibile di come lo pensiamo e capire come ‘funzioniamo’ nel
prendere le decisioni (e che spesso funzioniamo male!) semmai ci aiuta a decidere meglio.

Si tratta solo di aggiornare l’etica ad un modello meno teorico e più sperimentale

Una teoria etica deve essere valida sempre in tutte le situazioni, fornendo una risposta agli
esseri umani in qualsiasi situazione, oggi come oggi però nessuna teoria etica ha questa
predisposizione. Allo stesso problema potremmo trovare più risposte valide (razionalmente
fondate). Inoltre, oggi ogni teoria etica tendenzialmente vede ogni situazione come qualcosa
di assestante.

L’etica comunque serve ed è importante, è quella capacità critica che tende a domandarsi in
ogni situazione se corretto, di fronte alle scoperte scientifiche e tecnologiche ci poniamo la
domanda “cos’è progresso?”, in quanto, come ogni cosa umana, è ambiguo.

COS’È LA BIOETICA

BIOETICA= termine coniato dall’oncologo americano di origine olandese Van Rasselaer

Potter. Nelle sue intenzioni, doveva essere una scienza nuova, capace di coniugare
conoscenze biologiche e valori umani. La bioetica è un'analisi critica applicata ai progressi e
scoperte scientifiche e biologiche. Questo perché anche un uso ‘buono’ delle nuove
tecnologie può avere effetti sconvolgenti.

LO SVILUPPO DELLE ETICHE APPLICATE

Secondo lo studioso Warren T. Reich (*), tre sono state le aree in cui si è storicamente
sviluppata la bioetica:

• La sperimentazione sui soggetti umani (nazismo, Tuskegee);

• L’uso sociale della medicina;

• L’impiego dell’alta tecnologia nella pratica medica (nascita dei comitati etici).

• Si sono poi aggiunte le biotecnologie e adesso l’etica dell’IA (VGA, droni ecc)

PERCHÉ L’ETICA SERVE

È chiaro che è possibile denunciare degli abusi o i rischi di certe conseguenze solo se tengo
fermi dei valori fondamentali (ad es., la pari dignità di tutti gli esseri umani). L’impiego della
tecnologia (medicina, biotech, IA) ci pone di fronte a vari problemi, come ad es. la giustizia
(distribuire i vantaggi, cosa fare in caso di scarsità delle risorse ecc.) senza contare il tema
ecologico.
La NEUTRALITÀ È IMPOSSIBILE

Ogni essere umano, in quanto soggetto morale, opera attraverso il giudizio teoretico e il
giudizio pratico.

Si muove quindi sempre tra il piano dell’osservazione del mondo (quello delle scienze
empiriche) e quello della riflessione etica, tra il piano dei dati sperimentali e quello dei valori:
pertanto, non esiste una neutralità della scienza o dello scienziato.

Non esiste la neutralità nella scienza.

È un pregiudizio positivo molto comune pensare che gli algoritmi, e la matematica in

generale, siano neutrali e producano risultati oggettivi, garantendo così la neutralità e
l’imparzialità delle decisioni.

Infatti un modello matematico è sempre una rappresentazione della realtà e proprio per
questo può essere esposto a errori.

Nella costruzione di un modello è normale fare assunzioni e compiere delle scelte che
semplificano la realtà rappresentata.

La neutralità è dunque un ideale astratto e neppure augurabile che ci sia. Occorre infatti saper
prendere posizione, e del resto nella ricerca scientifica si è continuamente investiti dalla
domanda «cosa fare o no?»

L’AMBIENTE MORALE

Ogni uomo di scienza opera in un dato ambiente sociale e culturale, il quale ha i suoi ‘valori’,
cioè le sue prospettive sull’uomo e le sue certezze.

Ogni ambiente sociale e culturale è sempre intriso di moralità, cioè di implicite valutazioni su
ciò che si debba fare e ciò che si debba evitare, su ciò che è giusto o sbagliato ecc.

Motivo per cui si parla di AMBIENTE MORALE (tutti cresciamo e stiamo in un ambiente
morale)

L’a. m. non costituisce un problema e non viene mai messo in discussione, fino a quando non
viene messo in crisi da eventi improvvisi o di rottura, che fanno sorgere la domanda perché
esistano, o perché si seguano, certe regole.

Le certezze sono l’insieme di ciò che viene creduto, ossia ciò verso cui vi è un consenso:
infatti in genere si trova conforto per le proprie certezze nel fatto che sono tali anche per gli
altri.

L’ETICA APPLICATA ALLA SCIENZA

L’etica applicata alla scienza è, dunque, la coscienza critica che indaga sia i criteri
dell’agire che l’insieme dei comportamenti che l’uomo attua, in coerenza con l’etica, cioè i
criteri generali dell’agire, e in coerenza con l’ambiente morale in cui è cresciuto, cioè le
certezze della società. È la verifica della consistenza e della legittimità morali delle prassi
scientifiche.

I 4 PRINCIPI DELLA BIOETICA

1. Principio di beneficienza= Bisogna fare il bene, agire verso questo

2. Principio di non- maleficienza= non bisogna fare il male (perché fare il bene non vuol
dire rispettare questo principio, es. La cura che uccide come effetto collaterale)
3. Principio di autonomia
4. Principio di giustizia
5. Per l’etica dell’IA oltre questi vi è anche il principio di spiegabilità

LA BIOETICA: ETICA E SCIENZE

Per capire bene il rapporto tra scienze e etica è fondamentale chiarire il tema della libertà
della ricerca.

La domanda etica non va contro la libertà della ricerca. Anzi, quanto più le nuove scoperte
propongono nuovi problemi etici, tanto più essa diventa importante.

A loro volta, le nuove scoperte tecniche e scientifiche non rendono superfluo interrogarsi in
modo etico, perché esse aprono nuove possibilità e nuovi rischi: e solo dove si aprono le
possibilità io mi posso domandare in che modo agire.

La tecnoscienza, a sua volta, non è soltanto un ‘fare’, o un mestiere (sì che allora la bioetica
potrebbe essere solo una deontologia), ma è un agire, cioè è un’impresa che segue un certo
progetto sull’uomo, sul suo ambiente, e sull’ambiente in generale e cioè il pianeta stesso.

La tecnica dunque finisce sempre per modificare la vita. In questo senso, allora, la
tecnoscienza è sempre anche un agire culturale.

È, pertanto, indispensabile che la scoperta dei dati (i ‘fatti’) sia sempre accompagnata da una
riflessione sul loro senso, includendo ovviamente in ciò anche il senso morale (motivazione
ecc.).

La prima spetta alla scienza, la seconda richiede competenze diverse. Che debbano esserci
entrambe è scritto nella natura stessa dell’agire.

SEZIONE TERZA

CRITERI ETICI FONDAMENTALI

I DUE ATTEGGIAMENTI FONDAMENTALI NELLE ETICHE APPLICATE E IN BIOETICA

Abbiamo detto che se un giudizio di valore risponde a un valore etico allora è razionalmente
fondato. Ma sappiamo anche che i criteri sono più di uno. Abbiamo infatti due grandi famiglie
di criteri etici:

1. Etiche assiologie
2. Etiche consequenzialiste
ETICHE ASSIOLOGICHE

Le etiche assiologiche (dal greco áxion=degno) pensano che esistano dei principi morali che
siano costitutivi dell’essere umano in quanto tali (fanno parte della struttura dell’essere
umano quindi quando l’essere umano non segue questi principi allora diventa disumano).
Non seguirli significa tradire il disegno che Dio aveva concepito per l’essere umano, cioè
tradire l’essenza stessa, il nostro senso autentico (questa concezione esiste dall’antichità, si
pensava per secoli siano criteri eterni).

Oggi le etiche assiologiche affermano che questi principi immutabili sono pochi. Un esempio
è il principio “NON UCCIDERE” (Violarlo diventi disumano. Le etiche assiologiche credono
che l’agire umano debba ricercare: il bene e il giusto, senza i quali ai loro occhi non c’è etica
e non c’è umanità. Tipica etica assiologica è l’etica del dovere (sono dei comandamenti)

Etiche assiologie sono molto radicate in tutta l’Europa, sono un po’ rigide

-altro grande paradigma= ETICHE CONSEQUENZIALISTE

Credono che non vi siano dei valori morali a priori

Un valore morale (o una norma morale) è tale solo in base alle conseguenze che produce.

Quindi il valore di un'azione è giudicato esclusivamente in base alle conseguenze che l’azione
produce, so giudicare che un azione è cattiva o buona in base a se la conseguenza è buona o
cattiva.

In questo contesto l’ultima parola ce l’ha l’individuo (non come l’etica precedente), decido io
in base ai miei criteri.

Non esiste in linea di principio alcuna norma morale giusta e buona a priori.

È simile all’utilitarismo, da cui discende, che afferma che l’unico principio dell’agire è la
ricerca del massimo vantaggio per il maggior numero di individui («the greatest happiness for
the greatest number»: «la felicità del maggior numero»).

Dunque, rispetto alle etiche assiologiche, le etiche consequenzialiste lasciano all’individuo

una molto maggiore libertà di giudizio, e conseguentemente di azione.

La scelta del criterio per cui una cosa diviene vantaggio o danno è, infatti, lasciata al singolo:
essa può cambiare nel tempo e a seconda delle situazioni (sono super flessibili), laddove quei
pochi valori che le etiche assiologiche (molto rigide) considerano irrinunciabili sono ai loro
occhi irrinunciabili (‘eterni’).

PRO E CONTRO

Entrambe le prospettive possono avere conseguenze problematiche:

• Le EA sono indubbiamente rigide, e non ammettono sbagli. Sembrano perciò poco adatte ai
limiti dell’essere umano e all’incertezza che caratterizza il mondo.

• Le EC giustificano sempre il sacrificio di pochi per la salvezza del maggior numero, e non si
chiedono mai in base a quale criterio quei pochi dovrebbero essere salvati. Possono essere
brutali, proprio per il concetto del vantaggio

• Inoltre, la scelta dei criteri in base a cui si valuta se le conseguenze sono ‘buone’ è sempre
soggettiva.

• EA ed EC sono conflittuali e irriducibili, ed esprimono due atteggiamenti opposti verso la

vita: la supremazia della dignità della vita sulla qualità della vita.

Le EA difendono il concetto di dignità della vita (rigido) invece quelle EC diffondo la qualità
della vita (questa può cambiare).

DIGNITÀ E QUALITÀ DELLA VITA

Questo può confondere, ci si chiede quale delle due prospettive è meglio seguire. Nella
ricerca scientifica la domanda “che fare, perché fare” viene posta quotidianamente

Es. come devo considerare il rapporto tra umani e macchine che mostrano un sempre
maggiore grado di autonomia? Sono forse anch’esse persone?

Oppure: quando si decide di modificare il genoma umano, si sta modificando qualcosa o

qualcuno? Per qualcuno è giusto farlo perché non è un essere umano per altre è sbagliato
perché si tratta di bambino in potenza che diventerà poi adulto.

La risposta cambia a seconda della prospettiva che assumo; e il significato (o il concetto) di

persona è un classico esempio di conflitto tra etiche assiologiche e consequenzialiste.

La posizione dell’evoluzionismo estremo è che l’uomo è un qualcosa= siamo macchine di

sopravvivenza, molecole DNA, strumenti inventati con lo scopo di multiplicarsi

(Darwin stesso lo disse nel suo testo il gene egoista)

Quindi non esiste una dignità nella vita secondo questo principio.

I DUE SENSI DI “PERSONA”

Concetto di PERSONA= abbiamo due possibilità:

-persona che indica un qualcuno= quindi indica un soggetto (è sinonimo di umano), designa
una sostanza che è unicamente e specificamente umana, designando la differenza che esiste
tra l’essere umano e ogni altro vivente. Questo è il senso di persona per le etiche assiologiche

-persona che indica un qualcosa, la persona è una proprietà oggettiva, è un

attribuito/caratteristica. Questo è il senso di persona invece per le etiche consequenzialiste
LA PERSONA COME ATTRIBUTO=allora “l’umano è persona” ma è attributo e in quanto tale
può essere criticato, poiché può essere un attributo anche dell’animale ma anche delle
macchine. Inoltre gli attributi vanno e vengono, iniziano e finiscono a seconda delle situazioni.

Per le EC io non nasco persona, invece per le EA nasco persona sin dall’inizio. Ad es. dal
punto di vista di un EC un polipo è visto molto più persona rispetto a un bambino nato
ritardato (ha molte meno capacità cognitive)

-a proposito dell’etica animale: come afferma ad esempio Peter Singer, anche i primati e le
balene sono pienamente persone. E a proposito dell’IA: Luciano Floridi afferma che anche le
macchine sono soggetti morali, cioè persone; il che naturalmente pone enormi problemi,
giacché, se sono persone sono moralmente e giuridicamente responsabili e godono di pieni
diritti. Nel caso invece che ‘persona’ designi una sostanza unicamente e propriamente
umana, allora questa sostanza è un valore e la sua dignità diviene intoccabile. Questo però
può limitare notevolmente la ricerca.

NATURALE E ARTIFICIALE

Il conflitto tra dignitosa e qualità della vita si può vedere anche come conflitto tra naturale e
artificiale. Il primo non può essere attribuito ai non viventi, e ciò che è naturale è moralmente
superiore e come tale va difeso

Tutto ciò che è artificiale (=prodotto della cultura), in questa prospettiva, è a un livello
differente, ma non è che non sia degno di considerazione morale. L’artificiale oggi può
dominare/ricreare la natura.

Natura può avere più significati:

- La struttura biochimica che caratterizza gli organismi viventi;

- L’essenza o la specificità ontologica del singolo vivente;

- L’ambiente che ospita i viventi.

Cultura può voler dire:

- L’insieme delle strutture inventate dall’uomo che gli permettono di determinare la propria
specificità (es. sepoltura dei morti, cottura dei cibi, le macchine= del tutto inutili alla nostra
sopravvivenza).

-Anche la cultura, come si è visto, è una forma, molto peculiare, di ambiente.

DOMANDE

[Link] natura biologica deve essere considerata come qualcosa di eticamente normativo? =NO

3. Si può distinguere con precisione tra ciò che è naturale e ciò che è artificiale?= es. Riuscire
a dire che un vaccino è naturale o artificiale non è facile (è artificiale ma è fatto con prodotti
naturali). Quindi non sempre è facile distinguere naturale e artificiale
4. Ammettendo che solo alcuni tratti del mondo naturale possano essere cambiati (potenziati
ecc.), perché quelli e non altri?

ETICA DELLE MACCHINE E DELL’IA

RAGIONI PER PROGRAMMARE MACCHINE MORALMENTE ABILI

A oggi, non ci sono ragioni filosofiche e morali forti per sviluppare macchine/robot
moralmente abili (van Wynsberghe & Robbins 2019).

Esempi di ragioni forti (eticamente forti):

- Gli umani sono divenuti incapaci di decisioni morali e le macchine ci aiutano a prenderle (o
le prendono per noi, come ‘amministratori di sostegno’); possibilità (invero assai reale) di un
circolo vizioso.

- Avere macchine moralmente autonome nella nostra vita ci aiuta ad essere persone migliori.
(Come quando seguiamo l’esempio di qualcuno)

Le ragioni invece sono tutte contingenti:

■ Curiosità intellettuale

■ Urgenza storica

■ Profitto

UMANI E DECISIONI ETICHE

Gli umani prendono decisioni etiche perché sono soggetti morali.

Possiedono inoltre altre caratteristiche che concorrono a questa capacità:

1. Sentimenti ed emozioni (influenzano il processo decisionale)

2. Cultura (l’animale produce significato e non può fare a meno di produrne)

3. Corpo (fattore decisivo), il che a sua volta implica:

■ Percezione

■ Incorporazione (il ‘sentirsi corpo’; Sartre: «Il mio corpo è sensibilità diffusa»).

■ Capacità di provare piacere e dolore (ognuno di noi reagisce in base all’intensità dei propri
stimoli)

-Una macchina ‘antropomorfa’ capace di decidere eticamente dovrebbe tradurre tutto questo
in dati da elaborare.

COSCIENZA E COSCIENZA MORALE

Tuttavia, l’essere un soggetto morale è anche la caratteristica in assoluto più difficile da

‘copiare’:
■ problema del common sense (in italiano meglio tradurlo con buon senso=insieme di
conoscenze anche morali che sono evidenti e che è scorretto negare) come sviluppo
‘automatico’ delle competenze etiche di un bambino di 7 anni di contro alle macchine più
sofisticate (il bambino è in grado di formarsi la nozione di soggetto moralmente sensibile)

La strategia, perciò, tende inevitabilmente a tentare di tradurre le azioni morali in calcoli,

perché la razionalità (intesa come capacità computazionale) sembra la caratteristica più
‘facile’ e ’alla mano’ da imitare/tradurre in linguaggio simbolico. Ecco allora l’insistenza su:

-Capacità di auto-apprendimento delle macchine;

-Macchine che imitano il funzionamento del cervello (reti ‘neurali’), e di ritorno ci aiutano a
capirne il funzionamento

■Si insiste quindi su una condizione teoretica, intorno a cui si struttura il tema della
‘consapevolezza’ della macchina.
■ ‘Consapevolezza’ a sua volta intesa in questi termini: «sei consapevole se sei in grado di
operare x» (=operare distinzioni e valutazioni, ma utilizzando operatori logici).

-Ma questo significa mettere totalmente in ombra la coscienza morale (e il giudizio pratico) e
puntare tutto sulla semplice coscienza (giudizio teoretico), anteponendo il semplice soggetto
agente al vero e proprio soggetto morale.

-autonomo= consapevole

Consapevolezza e coscienza qui vuol dire capacità di calcolo/operativa (capaci di compiere

distinzioni e valutazioni)

Per essere un soggetto occorre avere certe caratteristiche cognitive ma queste non spiegano
tutto il mostro essere soggetto morale (sono necessarie ma non sufficienti)

…….

COSCIENZA E COSCIENZA MORALE (DI NUOVO)

Nessuno cade nell’errore di interpretare la poesia in senso letterale perché sappiamo che sta
usando il linguaggio in un contesto diverso, usa delle metafore

Non è vero che sempre un unico registro logico

Usiamo spesso un linguaggio metaforico (esula dal registro linguistico ordinario)e questo
linguaggio non può essere capito da una macchina, impazzisce perché sono concetti
filosofici
Il dibattito dice che siccome non siamo capaci di costruire il soggetto morale puntiamo a
costruire soggetto agente (per le macchine) però in realtà anche sul fatto che le macchine
siano soggetti agenti non si è del tutto convinti.

DIBATTITI SULL’AGENCY

■ Approccio liberale di Floridi & Sanders (2004): tutto ciò che è capace di produrre
informazioni significative è agente morale. Non c’è bisogno delle caratteristiche
tradizionalmente riferite agli AM. Agire è agire in modo moralmente significativo.

■ All’opposto, Johnson & Miller (2008) affermano che gli agenti artificiali non hanno
responsabilità. Questa risiede solo nei programmatori/costruttori.

■ Suchman (2007), partendo da un’ottica femminista, nega che i valori, e le cornici morali in
cui accadono (incluso il concetto di responsabilità), siano entità astoriche (cioè come se
fossero delle cose date una volta per tutte, eterni) cui gli AM si conformano passivamente:
essi invece vengono costantemente rinegoziati dagli AM in seno alla società (per lei ê
possibile considerare un giorno le magghine come soggetti morali/agenti)

■ Marino & Tamburrini (2006) si concentrano sul dilemma del ML: dato che più una macchina
impara, più si allontana dalla programmazione iniziale, questo solleva i
programmatori/costruttori dalla loro responsabilità? (Responsabilità della macchina o degli
operatori?)

■ Véliz (2021) parla degli algoritmi non come AM ma come «zombi morali».

■ Per Chiodi (2020 e 2021) lo sviluppo di tecnologie che non sono intelligenti né autonome ci
serve come capro espiatorio della nostra volontà di non essere più responsabili nel nome
della tecno- anarchia che caratterizza la nostra epoca.

OTTICA CONSEQUENZIALISTA ESTREMA, AGENCY E SOGGETTO MORALE

Alcuni autori ignorano del tutto il problema dell’agire morale. Le macchine agiscono e
decidono (se sono in grado di portare a casa dei risultati), e per alcuni autori (Welsh 2018)
questo basta per affermare che essa siano soggetti morali.

Ma il punto non è capire se la macchina ha o no capacità decisionale, ma se ha capacità

decisionale in senso morale.

Facciamo un esempio:

Un autentico agente morale (moral agent) è capace appunto di agire moralmente ad es.
mostrando rispetto per i pazienti morali (moral patients), degni di rispetto morale anche se
non sono responsabili delle loro azioni (bambini, animali, disabili).
ELEMENTI NECESSARI PER AVERE UNA MACCHINA MORALMENTE AUTONOMA

Ammettiamo pure che l’approccio ‘calcolante’ sia realizzabile (per assurdo). Sia che si tratti di
programmare eticamente una macchina, sia che questa impari da sola ad apprendere le
competenze etiche (come facciamo noi umani), occorrerà:

■ Decidere quali aspetti del mondo abbiano una significanza morale (es. i moral patients: che
però il common sense del bambino di 7 anni sa benissimo essere tali).

■ Stabilire una procedura che ci permetta di decidere quali azioni siano giuste o sbagliate, e in
quali situazioni.

■ Per far questo, occorre rifarsi a una teoria morale che permetta di distinguere le azioni
giuste da quelle sbagliate.

■ Infine, tutti questi elementi devono essere tradotti in proposizioni regolate da rapporti di
inferenza logica.

TRADURRE IN SIMBOLI IL VALORE DI UNA VITA

Quest’ ultima condizione ovviamente è la più difficile ma anche quella che solleva le maggiori
obiezioni: come è possibile rappresentare in termini simbolici il giudizio di valore che sta
dietro un conflitto tra priorità (doveri morali)?

■ Approccio consequenzialista sembra più portato. Si potrebbe creare una scala di valori e
rendere misurabili le conseguenze delle varie opzioni (Jeremy Bentham, 1789: «calcolo
filosofico» capace di tradurre tutto ciò che costituisce valore nell’orizzonte umano in un’unica
misura, funzionale al raggiungimento della «felicità del maggio numero»).

■ Alle conseguenze moralmente più rilevanti verrebbe assegnato un valore maggiore in modo
da indirizzare il comportamento della macchina.

■ Tuttavia, non è affatto immune da errori.

FIDUCIA E VULNERABILITÀ

Il tema della fiducia (o della dependable AI) è di fondamentale importanza perché va a

investire un aspetto importantissimo dell’umano che è la vulnerabilità (deriva dal latino
vulnus= ferita. Possiamo essere feriti. Se mi fido di qualcuno è perché penso che non mi
ferirà)

La vulnerabilità si lega a due caratteristiche fondamentali:

■ La possibilità di ricevere un danno;

■ La condizione di incertezza che avvolge la vita umana (ma la vita in generale, infatti gli
animali stessi sono molto guardinghi)

Fiducia e vulnerabilità vanno a braccetto

Fiducia è «The attitude that will help an agent achieve an individual’s goals in a situation beset
by uncertainty and vulnerability» (Lee & See 2004)

DIFFERENZA TRA UMANI E MACCHINE

Umani= Sappiamo che, quando ci relazioniamo ad un altro umano, ci rendiamo vulnerabili

alle sue decisioni.

Gli umani interagiscono, e così facendo creano aspettative in merito a comportamenti,

norme, valori (es. pilota d’aereo).

Per umani e macchine= I fattori culturali sono determinanti nel determinare l’accettazione o
meno di robot e IA (Haring et al. 2014 a e b) e se le persone seguiranno o meno le
raccomandazioni di un robot (Wang et al. 2010). Grosso problema della tendenza a
umanizzare l’IA.

Macchine= «Chi» decide?

La macchina interagisce?
Nella macchina, il comportamento pregresso non offre una simile garanzia che la macchina
agirà nel nostro interesse.

Per affidarmi alla macchina devo prima fidarmi della macchina

ELEMENTI FUNZIONALI DELLA FIDUCIA

La fiducia si compone di due tipi di elementi: funzionali e propriamente etici. I primi sono
necessari ma non sufficienti, i secondi sono necessari e sufficienti.

Una varietà di fattori, noti come elementi funzionali (Lee & See 2004) sono molto importanti
nel generare fiducia. Essi sono (Hancock et al. 2011):

■ Il poter dipendere da un sistema (reliability)

■ Basso numero di falsi allarmi

■ Trasparenza

■ Capacità di compiere operazioni complesse.

■ Da ultimi, fattori come pericolosità o capacità di ferire/uccidere.

Come si vede, sono tutti fattori inerenti alla performance e all’affidabilità funzionale, non
hanno caratteristiche propriamente etiche.

ELEMENTI ETICI DELLA FIDUCIA

Oltre agli elementi funzionali, la fiducia si costruisce essenzialmente su elementi etici, in altre
parole su un comportamento retto.
Floridi et al. (2018) hanno immaginato cinque principi che ricalcano fedelmente quelli della
bioetica, più uno nuovo: Non- maleficienza, Beneficienza, Autonomia, Giustizia e Spiegabilità
(explicability).

Per la maggioranza degli autori, però, le conseguenze negative legate all’uso improprio dell’IA
ricadono essenzialmente nell’autonomia, sono cioè possibili conseguenze dell’autonomia
decisionale della macchina.

NON-MALEFICIENZA

«L’IA non deve arrecare danno alle persone», gli effetti collaterali vanno tenuti conto,
monitorati e devono essere proporzionali al beneficio (il danno non deve superare il
beneficio). I rischi che si possono correre sono molteplici:

1. Rischio reputazionale

2. Rischio economico-legale.

3. Rischio ambientale (ne tratteremo in seguito, a parte).

4. Rischio sociale (ne tratteremo parlando dell’autonomia).

5. Rischio politico (evidenza il problema del controllo, necessità di politiche dell’IA: ne

tratteremo parlando della legislazione/regolamentazione dell’IA).

RISCHI

RISCHIO REPUTAZIONALE= sistemi con bias possono danneggiare la reputazione. Esempi

tipici: riconoscimento facciale, approvazione prestiti, Cambridge Analytica.

(Es. Passando per strada scoppia una bomba e allora potrei essere tra i sospettati visto dalle
telecamere quando in realtà non è così)

RISCHIO ECONOMICO/LEGALE: se un sistema ha troppo successo, diviene un monopolio,

generando danni economici e la richiesta di interventi legislativi. Rischia anche di creare un
pericolo politico (problema del controllo).

BENEFICIENZA

Al contrario del principio della non-maleficienza, il principio della beneficienza non si limita a
non causare danno agli altri, ma ricerca attivamente il loro vantaggio (lett. «fare il bene», sott.
«il bene altrui»: beneficienza positiva).

Un modo di considerare questo «fare il bene altrui» è il concetto di utilità: calcolare

correttamente il rapporto costi/benefici in modo che gli altri traggano il maggior vantaggio. «I
benefici devono essere sempre superiori ai potenziali danni»

ESEMPI

■ Ridurre/escludere gli incidenti nei veicoli a guida autonoma.

■ Supporto robotico nella cura in una società che invecchia.

■ Uso della telemedicina nelle aree remote.

■ Reti elettriche intelligenti (smart grid) per migliorare la sostenibilità ecologica.

■ Applicazioni ambientali: monitorare l’ecosistema (es. rimboschimento, ripopolamento,

ricostituzione) e preservare la biodiversità / proteggere specie minacciate.

■ Migliorare l’educazione (es. apprendimento individualizzato o supporto per studenti a

distanza).

AUTONOMIA= riguarda la relazione che abbiamo con la macchina

L’autonomia nell’etica delle macchine comprende due diversi piani di riflessione:

■ L’autonomia umana: IA aiuta a sviluppare la nostra autonomia o la limita?= entrambi

■ L’autonomia delle macchine, di cui abbiamo già discusso i problemi principali (Sono o no
eticamente autonome? Come programmarle per esserlo?).

Oltre a questi due problemi, vi è poi quello dei limiti.

ALTRE CONSIDERAZIONI

Interagendo con la macchina, ‘autonomia’ acquisisce un significato più ampio, e cioè:

■ L’IA e le macchine devono rispettare gli scopi, i valori e i desideri dei soggetti umani;

■ ‘autonomia’ può anche significare che la macchina può idealmente operare senza bisogno
dell’intervento umano.

Più nello specifico:

■ I sistemi non devono aiutare gli umani a perseguire scopi immorali o illegali (ma che
significa ‘immorale’?).

■ I sistemi non dovrebbero essere impiegati per causare danno agli altri: es. è lecito
progettare sistemi che causino male fisico a persone che lo desiderano, come un robot
eutanasico? (È il caso opposto del sex robot.)

■ Tuttavia, vi sono casi in cui dei robot sono stati usati per uccidere dei criminali, come a
Dallas (Thielmann 2016).

AUTONOMIA

Storicamente, in bioetica il principio del «rispetto dell’autonomia» ha un significato più

complesso di quanto a prima vista non potrebbe apparire dal significato della parola.

Rispettare agenti autonomi significa:

■ rispettare il loro diritto ad avere opinioni,

■ rispettare il loro diritto di fare delle scelte e intraprendere delle azioni sulla base dei loro
valori e delle loro credenze.

-«Diritto» qui indica uno status ontologico, cioè un attributo senza il quale il soggetto morale
non è pensabile come tale (vedi concetto di persona).

Non si tratta di avere un’attitudine rispettosa, ma di agire rispettosamente, ad es.:

■ rinforzare o mantenere negli altri un’attitudine autonoma (aiutarti nella tua autonomia,
eliminando gli ostacoli che limitano l’autonomia)

■ eliminare gli ostacoli che possano minare o limitare tale attitudine autonomia (es. bias,
razzismo, disuguaglianze, preconcetti ecc.).

A questo punto, la questione diviene capire cosa sia l’autonomia negli esseri umani e nelle
macchine.

KANT

■ «L’autonomia della volontà è l’unico principio di tutte le leggi morali e dei doveri che loro
corrispondono» [1].

■ La «volontà di ogni essere razionale»

è una «volontà universalmente legislatrice» [2] che opera come «causalità libera» [3].

AUTONOMIA PER LA DEFINIZIONE KANTIANA= capacità di decidere eticamente = darsi da soli

delle regole morali.

Per avere questa capacità occorre essere dotati di:

■ Volontà

■ Razionalità

-Impossibile moralità senza volontà e razionalità.

Sebbene Kant NON sia antropocentrico (parla genericamente di esseri razionali), si tratta di
capire se c’è o no somiglianza con l’approccio bottom- up tipico del ML, in cui le macchine
apprendono dall’esperienza (≠ Kant) le regole per inferire nuova conoscenza

FLORIDI= afferma che le macchine siano agenti morali

Ogni essere è un insieme di informazioni

COSA SIGNIFICA DECIDERE PER LE MACCHINE

Il problema è che il ‘decidere’ delle macchine è una cosa un po’ diversa.

L’assunto fondamentale (decisivo) è che è sempre possibile classificare i dati / soggetti in

determinate categorie.

La classificazione degli item (oggetti, immagini ecc.) funziona così:

■ Si tratta di compiere un’inferenza induttiva (è uno dei tanti modi che gli esseri umani usano
per ragionare, invece nel caso delle macchine è l’unico modo) cioè...

■ ...da un insieme di esempi già classificati le macchine inferiscono una regola di decisione
sulla base della quale possono assegnare nuovi item alla classe corretta.

■ La regola di decisione è un test diagnostico (la macchina elabora una probabilità) in grado di
dire se una determinata condizione o pattern (delle caratteristiche che ricorrono) sia presente
oppure no in un determinato set di dati.

■ I pattern diventano modelli per decisioni future.

Questa struttura ha portato uno shift totale, dalla programmazione ai dati (prima era il
programmatore che fa sì che la macchina esegua ciò che le dice di fare. Poi con l’intelligenza
artificiale si è lasciato il via libera al potere delle macchine, la programmazione è diventata
uno step iniziale e poi la macchina continua da sola, in base a una serie di dati la macchina
decide come proseguire, il problema centrale però diventa la qualità dei dati) = problema dei
dati

2006: Fei-Fei Li scopre synoset (set di sinonimi, cioè la capacità di descrivere lo stesso item
usando termini diversi). Nasce Image Net. Usandolo, nel 2012, AlexNet mostra per la prima
volta le potenzialità delle reti neurali.

Quindi nel deep learning possiamo distinguere due modi diversi di classificazione:

1. riconoscimento di immagini: servono dati precisi, ossia immagini accuratamente

classificate (labelling) (va riconosciuto il tag corretto)

(Attività spesso data in outsourcing)

2. LLM: qui non serve il labelling. La macchina non deve predire quale termine descriva
meglio l’item, ma cosa sia un dato termine estrapolato da un testo, sulla base delle
parole vicine (cancella porzioni di testo e in base alle parole rimaste deve indovinate
quali parole sono corrette, sempre su base statistica)
-training tipo: il programma sbianchetta porzioni di testo, cerca di indovinare, e da un
voto alle risposte (self-supervised training)
FOTO GRAFICO (Hitting the date wall)
-bisogno di enormi quantità di testo (come Books3)
Se non ci stanno più testi di qualità, o utilizzo testi scadenti e allora la macchina
potrebbe cadere in errore, oppure mi fermo) si creano conflitti!
Si tratta di inferenza induttiva

LIMITI E PROBLEMI NELL’ATTIVITÀ DECISIONALE DELLE MACCHINE

-Primo problema= per l’algoritmo non fa alcuna differenza se ad essere classificate siano
delle email o delle persone
Ciò che conta, infatti, è che vi sia un numero sufficiente di esempi per poter addestrare
l’algoritmo, e che questi siano rappresentativi della popolazione su cui dovrà decidere.

Questo vale per tutta una serie di casi, come le raccomandazioni fornite da YouTube sul
prossimo video da vedere:

■ YouTube raccoglie milioni di dati eterogenei con cui ‘descrive’ gli utenti. (=Mappa gli utenti
cercando di trovare dei pattern)

■ I dati possono essere i video precedentemente guardati, la provenienza geografica, l’età, il

genere.

■ L’algoritmo mappa gli utenti in rapporto ai video sfruttando un principio di similarità (chi ha
visto un dato video tenderà a vederlo anche in futuro).

Meccanismi simili sono impiegati per:

■ Valutare le prestazioni degli insegnanti (IMPACT).

■ Selezionare il personale, ad es. eseguendo un pre-screening di cv: HireVue fornisce

piattaforme per video interviste dove i candidati vengono valutati anche analizzando la
comunicazione non verbale come le espressioni del viso o il modo di costruire le frasi.

■ Giustizia predittiva: sistemi che calcolano il rischio di una recidiva. Caso tipico: decidere se
rilasciare o meno su cauzione un soggetto (si calcola la probabilità che scappi o commetta un
altro crimine).

■ Sistemi COMPAS (USA), OxRec e HART (Europa).

In generale, gli algoritmi sono impiegati in tutte quelle situazioni dove le decisioni si basano su
una previsione, e danno il massimo rendimento, superando di gran lunga le capacità umane,
laddove:

■ l’evento o categoria da prevedere sia ben definito e misurabile;

■ l’ambito applicativo sia circoscritto (es. compiti molto specifici come le segmentazione di
immagini o il riconoscimento di oggetti presenti sulla scena);

■ siano addestrati su insiemi di dati ben definiti.

A oggi, l’uso dell’algoritmo solitamente non sovrasta, né determina in modo diretto, la
decisione umana.

LIMITE DELL’INTERFERENZA INDUTTIVA

Le assunzioni di natura statistica all’origine dell’apprendimento automatico possono essere

all’origine di problemi etici e sociali a causa di tre limiti:
1. Se gli esempi non sono rappresentativi della popolazione di interesse (es. l’insieme degli
studenti che frequentano un corso) c’è il rischio di individuare correlazioni poco significative o
fuorvianti, limitate a un sottogruppo della popolazione. Questo può originare risultati
discriminatori.

2. Il campione rappresentativo ideale è formato dall’ipotesi che gli esempi siano generati in
modo identico e indipendente. In realtà spesso ciò non succede per due ragioni:

■ Ci possono essere variazioni nel processo di raccolta dei dati (che non sono omogenei).

■ I dati devono essere puri!. Ci possono essere interdipendenze tra gli esempi (es. i risultati di
un test scolastico sono dati impiegabili solo se gli studenti non hanno copiato).

3. L’etichetta non ha una natura deterministica, ossia può essere associata a un item anche
per motivi casuali («rumore»: es. una diagnosi sbagliata, un’email classificata erroneamente
come spam...).

■ Un esempio potrebbe essere assegnato a più di un’etichetta; dunque, potrebbe essere

classificato in modi diversi ma ugualmente plausibili. Le correlazioni individuate sono infatti
di natura statistica, e non riflettono un eventuale rapporto causale tra attributi ed etichette.

■ Ad es., se utilizzo l’altezza come dato predittivo del sesso, un’altezza media di 1,70 m
potrebbe essere tranquillamente etichettata sia come ‘maschio’ che ‘ femmina’, perché
l’altezza non cattura necessariamente (non stabilisce cioè un rapporto causale tra) nessuno
di questi due concetti.

OVERFITTING

Overfitting o sovradattamento= La macchina da risultati buoni in fase di di addestramento,

quando invece applico nella realtà trovo migliaia di dati e interpretazioni più complicate il
livello di performance cala. Quindi si verifica quando il modello risulta accurato solo con gli
esempi utilizzati in fase di training, mentre le sue performance degradano nella fase di test o
in applicazioni successive. In questo caso il modello si è adattato eccessivamente agli
esempi e non è quindi in grado di generalizzare, trovando delle regole.

PERCHÉ PERMETTE CHE GLI ALGORITMI PRENDANO DECISIONI MORALI?

Il ragionamento di fondo è il seguente:

■ se lo scopo dell’applicazione è estremamente circoscritto,

■ e se è possibile risalire alle informazioni sulla base delle quali di solito noi prendiamo
decisioni a carattere morale (ad es., in molti casi la legislazione vigente riflette o diviene uno
standard morale),

■ allora è possibile per un’IA prendere decisioni morali molto specifiche.

Vi sono già applicazioni dell’IA che hanno chiare conseguenze morali. Ad es., in alcuni Paesi,
l’affidabilità creditizia è già giudicata ricorrendo ad algoritmi.
Vantaggi:

■ Velocità del procedimento.

■ Decisione presa su mole potenzialmente enorme di dati (à più razionale).

Svantaggi:

■ Ogni persona è una rete di relazioni, i dati perciò danneggiano tutti.

EFFETTI NEGATIVI DELL’USO DEGLI ALGORITMI

L’uso sempre più massiccio di algoritmi per prendere decisioni sugli individui determina
situazioni di evidente problematicità etica:

■ Non solo il pericolo di diffusione dei dati (privacy), ma soprattutto

■ i pericoli legati all’elaborazione dei dati (la macchina può creare delle correlazioni sbagliate,
eticamente scorretti): giustizia, legalità, tutela dei diritti.

Esistono poi due tipologie di possibili effetti negativi dell’impiego di algoritmi:

■ Effetti negativi che ricadono su soggetti terzi.

■ Effetti negativi nell’interazione diretta tra un sistema di apprendimento automatico e

l’utente (direttamente su noi)

EFFETTI NEGATIVI SU TERZI = OPACITÀ

Il primo tema è la trasparenza. Essa è importante a monte e a valle:

■ a monte= Permette di tenere traccia dei processi che hanno portato ad una determinata
scelta (tracciabilità dei processi, devo sapere come è stata programmata la macchina)

■a valle= È importante soprattutto per coloro che subiscono gli effetti di una scelta, perché
possono contestarla, richiedere verifica di imparzialità ecc (come la macchina è arrivata a
una determinata decisione)

Il GDPR della UE parla appunto di un «right to information» (in origine si chiamava proprio
«right to explanation»= diritto più rigido in quanto legato alla spiegazione) = diritto di essere
informati

Purtroppo a questa richiesta si oppongono due elementi di opacità:

1. Opacità estrinseca:

■ non tutti i dati possono essere rivelati (dati sensibili);

■ se l’algoritmo è proprietario, la richiesta si scontra col segreto industriale delle aziende;

■ spesso le tre figure fondamentali, e cioè lo sviluppatore dell’algoritmo, il suo il distributore e

il proprietario dei dati, non coincidono tra loro à difficoltà/impossibilità di coordinamento;
■ inoltre, l’utilizzatore dell’algoritmo può avere dovere professionali che gli impongono
l’opacità (es. poliziotto, medico...).

2. Opacità intrinseca (=dell’algoritmo): anche se fosse possibile accedere al codice sorgente,

non è detto sia possibile comprendere la logica che ha portato a un determinato output.

Il modo in cui l’algoritmo elabora la propria risposta o decisione non corrisponde

necessariamente ad un ragionamento umano.

-Tutto ciò fa sì che l’attribuzione di responsabilità in caso di output scorretto sia difficilissima
perché il sistema di decisione è frammentato ed opaco.

EFFETTI NEGATIVI su terzi dell’uso di algoritmi: DISCRIMINAZIONE

Spesso un output ingiusto è dovuto ai limiti degli assunti (esempi usati per addestramenti
differenti dall’insieme dei dati su cui l’algoritmo andrà a operare, o poco rappresentativi della
popolazione oggetto di analisi).

Se nella composizione del campione vi sono sbilanciamenti (ad es., algoritmo apprende su
dati sanitari: prevalenza di maschi bianchi), è molto probabile che l’algoritmo sia meno
accurato applicato sulla parte di popolazione meno rappresentata.

Se lo sbilanciamento è legato a elementi sensibili della persona, come appunto il

genere o l’etnia, gli effetti possono sfociare in vera discriminazione sociale.

Studi (Buolamwini & Gebru 2018) hanno dimostrato come le prestazioni degradino
significativamente in presenza di elementi come genere e colore della pelle.

……

L’ECCESSIVA FIDUCIA O SOLUZIONISMO

■ Un altro problema è il rischio dell’eccessiva fiducia riposta nelle capacità dell’algoritmo e

nella soluzione da esso suggerita (soluzionismo)= è una delegalizazzione, una cessione di
responsabilità

■ L’esempio celebre (Cabetza 2021) è il deterioramento delle capacità diagnostiche del

medico quando la diagnosi è sistematicamente demandata alla macchina. (Più deleghiamo
le macchine a fare al posto nostro ogni cosa, più disimpariamo a farle. Si perdono le skill, le
proprie capacità)

■ Non si tratta di un effetto ricercato, ma quasi sempre indiretto.

CONCLUSIONI SU FIDUCIA E AFFIDABILITÀ

Le persone avranno fiducia nell’IA e la considereranno affidabile:

■ se porterà loro vantaggi (beneficienza) cioè farà il loro bene

■ se non danneggerà loro o i loro interessi (non-maleficienza)

■ se non comprometterà la loro autonomia, deve rispettarla

NB: ciò non significa che le macchine non debbano mai dire di no: una macchina moralmente
capace, ad es., rifiuterà di compiere azioni immorali... (fattibile se utilizziamo dei dati buoni)

■ ...se agirà in modo ‘giusto’: il che per ora è parzialmente possibile se gli scopi e gli ambiti
applicativi sono ben delineati e molto ristretti, e...

■ ...se potrà spiegare perché fa ciò che fa (grosso problema perché bisogna rinuncia alle IA
più potenti)

SEZIONI TERZA

APPLICAZIONI dell’IA NEL CAMPO MEDICO

Possibili ambiti della medicina digitale

■ Assistenza agli anziani (robot da compagnia).

■ Assistenza nella riabilitazione (esoscheletri)

■ Robot chirurgo (settore più sviluppato) (es. robot Da Vinci).

■ Robot per consegne di materiale pericoloso usato in sanità.

■ Telemedicina (comprese operazioni a distanza) (es. robot Da Vinci).

■ Nudging (uso di algoritmi, anche attraverso robot, per spingere le persone ad adottare certi
comportamenti, ad es. robot che fungono da allenatori per perdere peso, chiedendo alle
persone cosa mangino e invitandole a mangiare sano: Kidd & Breazeal 2007).

MEDICINA DIGITALE: PRINCIPALI AREE PROBLEMATICHE

La MD presenta quattro aree problematiche principali:

1. La circolazione di enormi quantità di dati sanitari, generati tanto in ambito clinico quanto
attraverso i wearable (orologi e occhiali. Misurano costantemente dati sanitari in tempo reale
costantemente aggiornati)

2. Questioni relative all’automazione:

- dei processi di presa in carico (è giusto delegare a un robot un'operazione chirurgica tanto
delicata e quindi in cui viene messa a rischio una vita umana? )

- e delle decisioni di natura diagnostica, prognostica e terapeutica.

3. Implicazioni della medicina digitale (MD) nell’ambito della relazione medico-paziente.

4. Inoltre, la MD muta il modo di guardare alla salute umana (empowerment) e le

responsabilità individuali, professionali e collettive che la sua tutela comporta.

MUTAMENTI ANTROPOLOGI
Tutti sappiamo che le interazioni digitali sono ormai centrali. Ma quello che è ormai
altrettanto importante sono le tracce che tali interazioni lasciano.

In altre parole, le tracce sono ciò che può rivelare i nostri gusti, le preferenze di ogni tipo, e
naturalmente lo stato della nostra salute.

Inoltre, questi dati sono ormai in numero enorme (si parla di big data).

Tutto questo porta a quella che Klaus Schwab (2016), presidente del World Economic Forum,
chiama la quarta rivoluzione industriale (la prima rivoluzione è stato il telaio meccanico, la
seconda le macchine a vapore, la terza l’elettronica e la quarta l’era digitale), che però non si
limita alla diffusione di macchine e dispositivi connessi, ma si caratterizza per l’integrazione o
fusione del mondo fisico, del mondo digitale e del mondo biologico.

Gli algoritmi accedono alla biologia grazie ai big data biomedici (es. il genoma mappato) e
grazie ai processi di fenotipizzazione permessi dai wearable. Quindi questo permette di
passare dal genotipo (il genoma umano, che poi si attiva in ognuno in modo diverso) al
fenotipo= questo potrebbe permettere di avere delle cure personalizzate

MEDICINA DIGITALE

Un primo aspetto da chiarire è cosa sia la medicina digitale.

Secondo la FDA (Vayena et al. 2018), la digital health racchiude numerosi paradigmi sanitari e
cioè:

■ La mobile health (riguarda la sorveglianza, il monitoraggio): i dispositivi mobili e le

applicazioni ad essi legate,

■ L’informatica medica,

■ La telemedicina,

■ La medicina personalizzata.

Ciò che caratterizza realtà tanto diverse è il flusso costante dei dati:

È un circolo

Il tutto parte dai pazienti, Il dispositivo registra i dati, vanno in mano ai professionisti della
salute che gli elaborano (=le macchine), e l’insieme delle diagnosi viene registrato dai sistemi
sanitari

Vi è quasi sempre una compresenza di umani e macchina

DIGITAL HEALTH E DIGITAL MEDICINE

Digital health= Applicazioni legate ai dispositivi personali, come smartphone e altri oggetti
connessi, concepite principalmente per un mercato consumer.

Digital medicine= Riguarda più propriamente tecnologie e prodotti digitali che vengono
sottoposti a rigorosi processi di validazione clinica e che hanno un impatto diretto sulla
pratica clinica (diagnosi, prevenzione, monitoraggio e trattamento delle malattie).

LE CINQUE MACROAREE DI APPLICAZIONE DELL’IA ALLA SALUTE

Questa divisione ha il merito di suddividere in maniera chiara almeno cinque macroaree di

applicazione dell’IA alla salute, ciascuna con un suo tema etico ‘forte’ caratteristico, e cioè:

1. Monitoraggio della salute (il tema della privacy),

2. Diagnosi delle malattie (il tema delle discriminazioni),

3. Uso di macchine (inclusi robot: 3a) sia per la prognosi che per il trattamento (tema
dell’opacità/spiegabilità e del mutamento di senso della medicina),

4. Applicazioni legate alla salute pubblica (es. app di tracciamento come Immuni),

5. Applicazioni per il benessere psicologico e psichiatrico.

MONITORAGGIO DELLA SALUTE

Il monitoraggio della salute attraverso i wearable inaugura la linea di ricerca sul fenotipo
digitale, ossia la quantificazione continua del fenotipo individuale attraverso la raccolta di
dati raccolti da dispositivi digitali attraverso accelerometri, strumenti di geolocalizzazione e
l’analisi dell’interazione tra dispositivo e utente.

La costruzione del FD ha scopo predittivo: oggi ad es. è possibile predire con buona esattezza
il declino delle funzioni cognitive dovuto ai prodromi della demenza (Dagum 2018).
Lo scopo è di creare dei biomarcatori digitali, con riferimento ad alcune costanti o pattern
nell’interazione tra utente e dispositivo (nel nostro es. della demenza, il telefono può rilevare
la velocità di scrittura, gli errori commessi, i tempi di reazione...).

Oltre alle funzioni di monitoraggio, vi sono quelle di stimolo all’attività fisica (con app o
allenatori virtuali) o all’interazione sociale (proposte culturali o piattaforme di
comunicazione).

Citiamo l’accordo tra Fitbit e il National Institute of Health americano per sviluppare la
medicina di precisione su base individuale, adattando sempre più le pratiche diagnostiche e i
trattamenti alle specifiche caratteristiche di ogni individuo.

Lo scopo ideale di queste linee di ricerca è unire tre tipologie di dati:

- Dati fenotipici (strettamente individuali),

- Dati genomici,

- Dati relativi a determinanti socioeconomici e ambientali della salute.

TEMI ETICI LEGATI AL MONITORAGGIO: LA PRIVACY

Il monitoraggio della salute (ma in parte anche la diagnostica) si basa sulla raccolta di enormi
quantità di dati personali, il che pone due difficoltà:

1. Occorre informare le persone, altrimenti l’autonomia degli individui sarebbe violata e

limitata.

2. Le persone devono poi poter esercitare in prima persona il controllo delle informazioni che
le riguardano.

-Un punto importante: questo controllo è giustificato dal fatto che tali informazioni la
riguardano e non semplicemente le appartengono, sono cioè un suo elemento costitutivo
essenziale – in altre parole, un diritto.

Questo implica che l’autorità pubblica abbia un duplice obbligo nei confronti dei dati
personali:

1. L’autorità pubblica non può scavalcare le prerogative individuali in merito all’acceso ai dati
perché ciò violerebbe la privacy delle persone (es. caso FBI-Apple con dati che aiutavano a
risolvere il caso);

2. L’autorità pubblica ha obblighi di giustizia derivanti dalla privacy (ossia devono proteggere le
persone dalle violazioni non autorizzate della privacy).

Tali violazioni sono non solo giuridicamente, ma anche eticamente rilevanti, e per questo
esiste il consenso informato (fondamentale in ambito medico)

-Se nell’ambito sanitario il CI presenta standard di raccolta dati molto elevati, non è così per
app e wearable.
AMBITO DIAGNOSTICO

Nella medicina digitale, l’ambito diagnostico è di gran lunga quello più promettente. Gli
algoritmi si rivelano infatti incredibilmente efficaci nell’analisi di immagini cliniche e
radiologiche (imaging: Hosny et al. 2018), spesso con accuratezza pari o superiore rispetto a
medici esperti. Ad es., è possibile diagnosticare il diabete a partire da immagini del fondo
oculare dei pazienti (Gulshan et al. 2016), oppure (esperimento condotto a Stanford)
riconoscere la presenza di carcinomi e melanomi in un’immagine clinica (Esteva et al. 2017).
Vantaggi di automatizzare i processi diagnostici:

■ Accrescerne l’accuratezza

■ Ridurre il carico di lavoro degli specialisti

■ Potenzialmente allargare la platea di chi usufruisce delle campagne di prevenzione.

Temi etici legati all’ambito diagnostico: LA DISCRIMINAZIONE

■ Come detto, i dati sono per la maggior parte adulti bianchi europei o nordamericani
(Redwood & Gill 2013), quindi la diagnosi non si applica ugualmente bene a tutti i soggetti
(quindi non rappresentano la stra grande parte della popolazione, non ci sono dati sufficienti
per persone nere). Dunque le diagnosi sono corrette solo per quella parte della popolazione, i
dati sono sballati

■ Nell’ambito dell’oncologia, i modelli preclinici (le linee cellulari), i campioni nelle biobanche
e i dati genomici NON riflettono le reali proporzioni tra i diversi gruppi etnici nella popolazione
umana (Guerrero et al. 2018).

■ In questo modo, colpendo i gruppi già più penalizzati, il sistema acuisce le disparità e,
attraverso l’apprendimento, rischia di sistematizzarle (ad es., ricordiamo che la schizofrenia è
molto più a rischio di diagnosi nella popolazione di colore).

USO DI ALGORITMI E MACCHINE APPLICATI A PROGNOSI E/O TRATTAMENTO

Oltre alla diagnosi, gli algoritmi possono essere usati anche per la prognosi. Analizzando la
storia clinica di un paziente e i dati relativi ad una specifica condizione patologica (ad es. il
cancro), essi possono infatti elaborare importanti previsioni attendibili sul decorso della
malattia. Esempi:

■ Un es. è quello dell’algoritmo citato nello studio di Elfiky et al. (2018), in grado di predire il
rischio di mortalità a breve termine (entro 30 gg.) per i pazienti oncologici che iniziano un
nuovo ciclo di chemioterapia.

■ Approccio analogo è stato utilizzato nel 2020 per stimare il rischio di mortalità a breve
termine dei pazienti con CoViD-19, analizzando una pluralità di parametri clinici (Zhu et al.
2020) o di sintomi legati all’infezione da SARS-CoV-2 (Pourhomayoun & Shakibi 2021), questo
serve a capire su quale paziente concentrarsi meglio, se uno è ad altissimo rischio di
mortalità allora è meglio prendersi cura di uno che abbia meno rischio per salvarlo in tempo.
ROBOT CHIRURGICI (RC) AD AUTONOMIA CRESCENTE

I due ultimi temi trattati (diagnosi e prognosi) si legano ad un aspetto particolare che è quello
del robot (medico o chirurgo), il quale va anche oltre, potendo, in teoria, occuparsi anche del
trattamento della malattia.). Il pericolo dei robot è quello della sostituzione dell’umano.

Il problema fondamentale è quello del controllo umano della macchina: come si esercita e fin
dove debba spingersi. Un rapporto della NGO Article 63 riferito al problema delle armi
autonome individua il fondamentale concetto del controllo umano significativo (CUS), che
deve essere imposto a ogni sistema automatico che decida della vita umana (armi, robot
chirurgo e VGA). Si tratta di un concetto molto pratico.

I vantaggi del concetto di CUS (controllo umano significativo) sono due:

- È facile da afferrare anche se non si hanno competenze tecniche avanzate, il che è

importante politicamente, possono essere coinvolti anche i cittadini in questa discussione
molto pratica.

- Lascia da parte il problema della definizione (‘cos’è un’arma autonoma / un robot chirurgo
ecc.?’) per concentrarsi sul tema etico-pratico (‘ quale controllo umano si deve esercitare su
ogni sistema d’arma / robot chirurgo ecc.’?).

- In questo modo lasciamo da parte le discussioni su cosa sia ‘autonomia’, sulla differenza tra
‘autonomo’ e ‘automatico’ ecc.

Alcune line guida per stabilire un CUS sui robot chirurgo sono:

■ Rispetto dei principi fondamentali della bioetica medica, cui si conformano anche i codici
deontologici (che vanno concretamente a regolamentare la prassi medica);

■ Mantenimento della catena delle responsabilità (se il robot chirurgo sbaglia la

responsabilità c’è comunque ed è del medico);

■ Rispetto della dignità degli esseri umani (per i robot non c’è una gerarchia di importanza,
non c’è differenza). Per garantire tutto questo, potrebbe essere necessario (ma forse non
sufficiente) garantire all’essere umano un ruolo fondamentale nel controllo in tre step:

1. Il controllo umano deve intervenire come sistema ausiliario di sicurezza (fail-safe).

2. Il controllo umano deve funzionare come catalizzatore di responsabilità (l’ultima parola

deve essere dell’umano, ma se questo è vero non potremmo mai avere delle macchine
completamente automatiche).

3. Il controllo umano deve garantire il rispetto della dignità degli esseri umani sottoposti a
rischi anche potenzialmente mortali.

In merito alla seconda e alla terza condizione, è importante ribadire che un sistema di IA può
causare danni a causa di errori percettivi o di valutazione nei quali gli esseri umani
normalmente non incorrono, o che essi possono facilmente individuare utilizzando indizi
contestuali difficilmente accessibili alla macchina.

In merito alla prima condizione, essa è nota anche come «condizione Petrov», dall’episodio
che vide il colonnello Stanislav Petrov protagonista di un incidente il 26 settembre 1983.

Petrov notò che la macchina segnava che sarebbero stati lanciati dei missili sull’Unione
Sovietica e Petrov aveva 13 min prima che l’attacco inizi, Petrov non ha preso la decisione di
attaccare e fu una fortuna perché in realtà era un falso allarme, la macchina sbagliava.

LA CONDIZIONE PETROV

È interessante analizzare le ragioni che spinsero Petrov a considerare il segnale un falso

allarme:

■ Non gli tornava che un attacco nucleare impiegasse così pochi missili;

■ I radar a terra non avevano fornito alcuna conferma dell’evento;

■ La sua formazione era scientifica (lui era un biologo, uno scienziato abituato a dubitare)
prima ancora che militare (che invece agirebbe subito senza domande o aspettare conferme),
e questo gli dava sufficienti competenze per non accettare passivamente il responso della
macchina come dato incontrovertibile;

■ Non nutriva una fiducia cieca nel nuovo sistema di segnalazione appena installato.

Lezioni da apprendere da questo:

Un controllore umano deve quindi essere messo nella condizione:

- di esprimere un giudizio ponderato anche in termini etici sulle operazioni che il sistema sta
compiendo o si accinge a compiere;

- di poter intervenire in tempo utile se le cose non vanno nel verso giusto.

Per far ciò, deve

- acquisire familiarità coi limiti del sistema che sta impiegando, con le cause note di
malfunzionamento e le possibili fonti di interferenza;

- essere addestrato a non sovrastimare le capacità dei sistemi automatici (bias del
soluzionismo o «pregiudizio da automazione», causa di notevoli incidenti).

Esistono poi ulteriori difficoltà legate al già citato aspetto di opacità di certe IA:

■ La difficoltà di interpretare le informazioni che inducono la macchina a compiere una

determinata azione.

■ La difficoltà di ottenere dalla macchina delle spiegazioni in modo da formarsi un giudizio

ponderato sulla bontà delle sue proposte e del suo operato.
Xplainable AI

Per ovviare ai problemi di opacità intrinseca propri al DL, da poco è nata la XAI, o Xplainable
AI, che ha appunto l’obiettivo di dotare i sistemi di DL di fornire spiegazioni sulle loro decisioni
e azioni (Müller et al. 2019), senza far perdere al sistema in capacità di calcolo. In assenza
delle caratteristiche di interpretabilità e spiegabilità, l’IA applicata ad ambiti come quello
della robotica medica sono un puro azzardo etico. Riprenderemo questo tema alla fine della
sezione dedicata ai RC

RC AD AUTONOMIA CRESCENTE

Per precisare quale livello di CUS si possa esercitare su un RC, occorre anzitutto considerare
quali azioni il robot possa svolgere in autonomia dall’umano. È stata così introdotta una
gerarchia di sei livelli di autonomia in funzione dei compiti che i RC svolgono o svolgeranno,
anche in condizioni ad oggi del tutto ipotetiche (Yang et al. 2017). 1. Al livello più basso L0
abbiamo i RC senza autonomia, che si limitano ad eseguir i comandi dell’operatore umano,
attenuando i tremori della mano e conferendo maggiore precisione al gesto chirurgico. 2. Al
livello successivo L1 abbiamo i RC che possono condizionare o correggere l’azione del
chirurgo.

3 Al livello L2 i sistemi robotici eseguono in autonomia una procedura intraoperatoria

prescelta dal chirurgo.

4 Al livello L3 i sistemi generano strategie operatorie (e stima in tempo realtà difficoltà,

complicazioni, ecc) da sottoporre all’approvazione del chirurgo. A partire da qui, si parla di
ipotesi futuribili di cui ad oggi non è possibile affermare la realizzabilità.

5 Al livello L4 i sistemi in grado di effettuare per intero un intervento chirurgico sotto

supervisione umana…

6 …o senza (L5 )= la macchina fa tutto da sola, senza supervisione umana, è il massimo

estremo.

I sistemi di livello 0 vengono impiegati come dispositivi tele -operati completamente asserviti
al controllo umano. L’esempio più famoso è il robot “da Vinci”, di cui uno dei centri di ricerca
europei è proprio al DIMI di Verona (Prof. Paolo Fiorini) . A questo livello non si verificano
problemi etici.

Diverso il discorso già a partire dai robot con autonomia di tipo L1 -L3 .

■ I robot L1 possono impedire allo strumento chirurgico di entrare in certe parti del corpo (la
macchina po' impedire di commettere determinati errori, calcolando con precisione ad
esempio la lunghezza del taglio), correggendo o impedendo in modo fisso il gesto della mano
del chirurgo. Tali vincoli, noti come virtual fixtures, rendono questi sistemi già non del tutto
asserviti all’umano.

■ Per assicurarsi il CUS il chirurgo deve quindi godere di privilegi di controllo di ordine
superiore per praticare una manovra di override.
■ A livello L2 , il RC esegue una procedura intraoperatoria e ne supervisiona lo svolgimento. Il
chirurgo qui monitora l’azione della macchina e deve poterla interrompere o correggere. ■ Qui
abbiamo due tipologie di RC, RoboDoc e STAR

RoboDoc

RoboDoc (insieme all’assistente complementare OrthoDoc) è un sistema L2 per la chirurgia

ortopedica. Può eseguire il taglio di un osso (che è fisso e questo fornisce un vantaggio poiché
non si muove)sotto supervision (Netravali, Börger & Bargar 2016). È un sistema che ha già
raggiunto il max livello di maturità tecnologica nella scala TRL (Technical Readiness Level)

STAR

STAR (Smart Tissue Autonomous Robot) opera invece con tessuti molli, il che lo rende più
interessante, ma anche molto più problematico in quanto questi sono molli, reagiscono.
Sebbene la prima operazione risalga a gennaio 2022, ad oggi non ha ancora ottenuto
l’autorizzazione alla commercializzazione. Le strutture molli si deformano continuamente
sotto l’azione della pressione sanguigna e della respirazione, rendendo l’azione del RC molto
più difficile perché costantemente adattiva. Qui il controllo è molto più importante perché, al
variare dell’ambiente, devono variare le azioni di risposta.

Star è sufficientemente avanzato da adattarsi, propone le strategie da eseguire

-Al livello L3 , il chirurgo deve scegliere tra strategie di chirurgia intraoperatoria proposte da
RC. Questo livello è oggi già raggiunto dal sistema STAR per quanto riguarda le strategie di
esecuzione delle operazioni di sutura. Altri sistemi sono in grado di proporre virtual fixtures o
traiettorie ottimali di controllo in modo flessibile, cioè interagendo con l’ambiente in tempo
reale.

→ Questo livello diventerà sempre più problematico a causa dei sistemi di DL (=problemi di
interpretabilità). Se infatti oggi le tecniche sono apprese da dati relativi a modalità di
intervento umane, cosa avverrà se i RC ne svilupperanno di proprie, che seguono linguaggi e
processi sub-simbolici, addestrando altri sistemi a loro volta?

→ Un altro grandissimo problema è costituito dalla presenza di finestre temporali ristrette ( il

chirurgo non ha tempo per sapere se la decisione presa dalla macchina se è corretta, non ha
tempo sufficiente per valutare).

CONCLUSIONI

■ Lo sviluppo dei RC sotto l’impulso dato dall’IA mostra che si sta passando da applicazioni di
base ad applicazioni ad elevata specializzazione, un tempo prerogativa solo umana.

■ Questo naturalmente cambia in modo radicale anche il modo e il senso di fare medicina,
che diviene sempre più una condivisione del lavoro tra chirurgo e RC.

■ Ad oggi, è indispensabile l’esercizio di un CUS da parte del chirurgo, per rispettare i principi
di beneficienza e nonmaleficienza (Amoroso & Tamburrini 2019)
Per valutare correttamente in cosa debba consistere tale CUS, occorre tener conto di tre
elementi:

■ il cosa dell’autonomia della macchina (=quali funzioni siano effettivamente svolte dal RC in
autonomia e a quale livello di quest’ultima),

■ Il suo dove (=quale sia l’ambiente di lavoro in cui tale autonomia va concretamente a
realizzarsi)

■ e il suo come (=quali siano le capacità, ad es. di apprendimento, che il sistema mette
effettivamente in campo, come mette in pratica questo sistema) = è il punto più decisivo

TEMI ETICI LEGATI ALLA PROGNOSI E AL TRATTAMENTO: SPIEGABILITA’/OPACITA’ E IL

NUOVO SENSO DELLA MEDICINA

Riguardo a quest’ultimo aspetto (il come, cioè le capacità di apprendimento della macchina),
ritornano i temi della natura non-spiegabile e non-deterministica dell’IA. La capacità della
macchina di stabilire inferenze puramente statistiche (e per nulla causali) riesce a superare
l’impossibilità per noi di costruire modelli in presenza di un numero di dati che la mente
umana non riesce neppure a rappresentarsi.

Ad es., qual è il ruolo che l’espressione di un numero molto elevato di geni svolge
nell’efficacia o meno di un determinato farmaco?

Il numero delle variabili qui in gioco è talmente elevato da rendere impossibile per la mente
umana creare – o anche solo rappresentarsi – un modello matematico capace di spiegare in
termini causali la relazione.

L’algoritmo invece può sostituire la mancanza di un modello di partenza e apprendere

direttamente dai dati quali correlazioni statistiche si verifichino tra le numerosissime variabili
in campo.

→ L’algoritmo non sa perché i parametri che ha imparato a rilevare siano importanti, cioè, nel
nostro esempio, non spiega perché ad un determinato profilo epigenetico corrisponda un
determinato esito clinico.

→ Come sappiamo, nemmeno il programmatore sa spiegare quali regole la macchina abbia

appreso per giungere alle sue conclusioni, cioè su quale caratteristica essa si basi per
formulare le proprie previsioni o classificazioni (fenomeno noto come scatole nere, la
macchina è opaca, una scatola nera)

Ora, questo genera un enorme problema, perché il fatto che l’algoritmo possa venire a capo
della complessità dei dati e pervenire ad una decisione clinica non dipende dal suo
conoscere i meccanismi biologici che effettivamente legano determinati profili di espressione
genica alla maggiore o minore efficacia di un farmaco.
Questo però segna la nascita di una nuova medicina, fondata interamente sulla previsione e
la classificazione, anziché sulla spiegazione di un fenomeno clinico (Wilkinson et al. 2020). In
teoria, allo stesso stimolo può dare risposte diverse, perché è non-deterministico.

Ma un medico che si affida a un algoritmo opaco si affida ad uno strumento in merito al cui
funzionamento non è possibile fornire alcuna spiegazione causale. Questo sembra violare il
fondamentale dovere del medico di agire sempre e comunque in scienza e coscienza, cioè
sapendo ciò che fa e avendo buone ragioni per farlo.

Occorre inoltre considerare altre due questioni:

1. Il consenso= Anzitutto occorre stabilire se il medico abbia obblighi di trasparenza verso il

paziente (il medico deve informare il paziente): se usa un algoritmo opaco, deve dirgli che sta
usando uno strumento (diagnostico e soprattutto terapeutico) di cui è impossibile spiegare il
funzionamento?

2. In secondo luogo, in presenza di una black box, come si determina la responsabilità di tipo
sanitario in presenza di errori terapeutici? È cioè un’aggravante in caso di errori? Di chi è la
responsabilità

APPLICAZIONI PER LA SALUTE PSICOLOGICA E PSICHIATRICA: ROBOT DA COMPAGNIA

Ci sono dei fattori culturali che rendono più accettabile che una macchina possa farci
compagnia (nei cartoni fu per prima introdotto questo aspetto)

Ci si domanda se sia etico approfittare ad esempio della fragilità umana nell’umanizzare

Il primo uso di una macchina per supporto psicologico e psichiatrico:

1)ELIZA= nacque come una presa in giro, come una satira, la pretesa di considerare le
macchine come agenti intelligenti; quindi, nacque proprio per mostrare che le macchine non
possiedono una vera conoscenza.

La seduta psicoterapeutica è una situazione in cui un paziente può rispondere ad

un’affermazione con una domanda (es. «Parlami di un film che ti piace» «Ti piace il cinema?»).
Lo script più noto di ELIZA è DOCTOR, che emula l’analisi di tipo Rogers, in cui è il paziente a
condurre la conversazione e il terapista spesso ripete le sue parole.

Outcome (risultato): le persone chiedono di stare sole a parlare con ELIZA.

2) PARRY (diminutivo per indicare il pappagallo) = programma che simula il linguaggio di una
persona con schizofrenia paranoide per educare gli studenti, e che andava riconosciuto da
quest’ultimi.

Outcome: Gli psichiatri non sono in grado di distinguere tra le trascrizioni dei discorsi di veri
malati e quelli di Parry.

-interessante anche l’app fondante da Alison Darcy chiamata Woebot= questa app
interagisce con l’utente fornendoli assistenza:
-ad esempio, Maria, infermiera in un hospice con problemi di ansietà e depressione, chiede a
Woebot circa i suoi pensieri ricorrenti e ossessivi:

«It sounds like you might be ruminating (ruminare)”, risponde l’app, e definisce il concetto:
«Rumination means circling back to the same negative thoughts over and over (ruminare vuol
dire girare sempre intorno ai discorsi negativi)». “Does that sound right?” (è così che ti senti?”,
chiede. E poi: “Would you like to try a breathing technique (ti piacerebbe provare delle
tecniche di respiro)?”

■ Il fatto di aver trovato Woebot così utile ha poi spinto Maria a rivolgersi a un terapista in
carne e ossa. Quindi in questo caso l’app è progettata bene, la macchina non ha la pretesa di
sostituire al medico o all’umano

■ Altre app sono Happify, che incoraggia a “rompere i vecchi schemi [patterns]”, e Replika,
un “A.I. companion” che è “always on your side,” svolgendo le funzioni di amico, guida
[mentor], o anche partner romantico.

■ John Pestian (Children’s Hospital Medical Center, Cincinnati) ha nutrito un programma IA

coi testi delle note lasciate dai suicidi. Il programma è molto abile nel riconoscere un
linguaggio autenticamente suicida.

È poi passato all’analisi delle registrazioni delle voci di pazienti suicidi o che hanno tentato il
suicidio, per istruire il programma a riconoscere i pattern: non solo le parole, ma i suoni.
Nell’85% dei casi, il programma giunge alle stesse conclusioni dei medici più esperti.

SEZIONE QUARTA

L’IA E IL FUTURO DEL LAVORO

Quello del rapporto tra IA e mondo del lavoro è un tema che solleva interrogativi angosciati:

■ Quale sarà l’impatto dell’IA sulla quantità, la qualità e la remunerazione del lavoro?

■ Avrà effetti sulla disoccupazione tecnologica? Se sì, temporanei o permanenti?

■ Quale sarà il contributo al benessere della società?

Non sono domande nuove: si sono riproposte ad ogni rivoluzione industriale (telaio
meccanico, macchina a vapore, elettricità / catena di montaggio...).

Tuttavia, l’IA e le macchine autonome introducono indubbiamente elementi di novità:

■ I compiti svolti da queste macchine richiedono capacità di giudizio, aprendo così un terreno
nuovo nel rapporto con l’umano, che diventa di collaborazione ma anche di competizione.

■ Entrambe non sono limitate ai compiti manuali (Anders), ma si spostano sul piano
cognitivo.

I grandi pionieri dell’IA come Alan Turing e Norbert Wiener avevano riflettuto su questi temi già
alla fine degli anni 1940 (agli anni in cui furono realizzati i primi calcolatori). Wiener disse che
oggi la macchina non ci sostituisce sul piano dell’energia ma ci sostituisce nei compiti
intellettivi

TURING, PATRONI E SERVI DELLA MACCHINA

Turing ebbe un ruolo fondamentale nella decifrazione del codice Enigma.

Nel 1936 creò la macchina universale che prende il suo nome. Nel 1945 presentò ACE
(Automatic Computer Engine), il primo modello di calcolatore general purpose. L’anno dopo
entrò in funzione negli USA il primo calcolatore general purpose, l’Universal Automatic
Computer 1 (UnivAC 1).

Nel 1947, in una conferenza alla London Mathematical Society, Turing toccò anche il tema del
lavoro, affermando che ACE avrebbe avuto bisogno di due tipologie di addetti. ‘padroni’ e ‘
servitori’.

■ Padroni: matematici (=informatici) incaricati di trovare «le regole di istruzione della

macchina» in modo che siano «sempre più complesse»

■ Servi: fanno il lavoro manuale, incaricati di trascrivere i programmi inventati dai padroni su
schede perforate e caricarle nella macchina, oltre che di raccogliere i dati in output.

Presto i ‘servi’ sarebbero divenuti inutili, sostituiti dalla macchina stessa (perché sono gesti
meccanici, automatizzati), in grado di caricare e leggere direttamente le istruzioni create dai
‘padroni’.

Ma anche «I padroni sono destinati anch’essi ad essere sostituiti. Quando una tecnica sarà
divenuta di routine, sarà possibile predisporre un sistema di tavole di istruzione che
permetteranno al calcolatore di eseguirla da solo» disse Turing. Lui già immaginò macchine in
grado di istruirsi da sole

Se poi la macchina avesse accesso ad un’intera libreria di programmi, i padroni

diventerebbero totalmente inutili da far immaginare a Turing una loro ribellione, una reazione
corporativa che potrebbe spingersi al sabotaggio della macchina stessa (ipotizza una rivolta
sociale, in quanto aveva in mente ciò che successe nel 1831)

-tentativo di evitare o contrastare il trasferimento alla macchina di compiti intellettuali relativi

alla produzione e gestione di ciò che oggi chiamiamo software.

Oggi sappiamo che Turing aveva ragione a metà:

■ È vero che le funzioni dei primi programmatori sono state trasferite alla macchina,

■ Ma la reazione corporativa non c’è stata.

à Varie funzioni svolte da tecnici e ingegneri informatici sono sparite nel tempo, ma sono state
sostituite da lavori nuovi sorti grazie allo sviluppo stesso di macchine più sofisticate.

à Si è applicato, parrebbe, il modello di «distruzione creativa» teorizzato dall’economista

austriaco Joseph Schumpeter.
WIENER

Norbert Wiener esaminò più in dettaglio le implicazioni delle macchine intelligenti sul lavoro
umano.

Il 13 agosto 1949 scrisse una lettera a Walter Reuther, presidente del sindacato americano
dell’industria automobilistica UAW, in cui parla della «minaccia assai pressante della
sostituzione di massa della manodopera con macchine, non a livello di energia, bensì di
giudizio» L’anno dopo, nel libro The Human Use of the Human Being, affermò:

«La macchina è ugualmente applicabile a un lavoro di carattere direttivo come al lavoro più
pesante e meno qualificato»

In particolare, Wiener vedeva due pericoli:

■ una disoccupazione industriale senza precedenti di causa tecnologica;

■ il peggioramento delle condizioni di lavoro dovute alla competizione con la macchina.

Le regole le detta la macchina su un ideale produttivo della macchina e il problema è reale,

nella competizione, è l’umano che si deve adeguare ai ritmi produttivi della macchina che
sono schiavisti perché vanno oltre i limiti umani=la seconda potenzialmente non soffre delle
limitazioni umane (stanchezza ecc.), per questo si traduce in una vera e propria schiavitù
dell’uomo che rincorre la produttività della macchina:

«[La macchina automatica] rappresenta il preciso equivalente economico del lavoro

schiavistico» disse Wiener

PROSPETTIVE PIÙ RECENTI: FREY & OSBORNE

Naturalmente, le cose sono cambiate dal 1950. Nel 2013 uscì un saggio importante di Carl
Benedikt Frey e Michael Osborne, The Future of Employment: How Susceptible Are Jobs to
Computerization (Frey & Osborne 2013).

■ Già nel 2013, il 50% delle attività lavorative negli USA era a rischio di sostituzione da parte di
sistemi informatici o robotici.

■ Le attività più in pericolo erano quelle impiegatizie o caratterizzate dallo svolgimento di

compiti cognitivi di routine. (Sono passati almeno 10 anni, infatti, in realtà non è così, è una
visione che è stata sorpassata)

-Questo conduce ad una polarizzazione (sociale e anche politica) tra occupazioni manuali o a
basso contenuto cognitivo, a basso reddito, e occupazioni ad elevato contenuto cognitivo ad
alto reddito, più difficilmente replicabili da macchine.

OSCE 2019, THE FUTURE OF WORK

Più ottimista la visione del rapporto OSCE del 2019, The Future of Work, che parla di un
«circolo virtuoso dell’automazione»
■ Nel giro di 15-20 anni, il 14% delle occupazioni potrebbe sparire a causa
dell’automazione...mentre un altro 30% subirà una trasformazione radicale. Sorgeranno
inoltre nuovi lavori, ma tendenzialmente precari e a reddito più basso.

■ Tuttavia, vi saranno «effetti a cascata» dell’automazione, ma su di un tempo più lungo: la

riduzione dei prezzi delle merci prodotte da sistemi automatizzati porterà ad un incremento
dei redditi reali. Questo: genererà nuova domanda di beni e servizi che a sua volta stimolerà
nuove attività economiche e genererà nuova occupazione, lasciando però indietro coloro che
non sono riusciti ad agganciare questo ‘treno’.

IA: BOOMER O DOOMER?

Il 17 novembre 2023, Sam Altman, co-fondatore e capo di OpenAI, fu improvvisamente

licenziato dal consiglio di amministrazione con l’accusa di spingere troppo sull’espansione di
applicazioni commerciali senza tener conto dei possibili rischi, violando la mission
dell’azienda (nata nel 2015 come entità no-profit) di lavorare per il bene dell’umanità.

Due giorni dopo, parte dei dipendenti e alcuni investitori chiesero il reintegro di Altman, ma il
giorno dopo Satya Nadella, capo di Microsoft, annunciò la sua assunzione in una società del
gruppo nuova di zecca.

Il balletto di nomine e accuse mostra la netta separazione tra doomers, convinti che l’IA
ponga un rischio esistenziale per l’umanità se non sarà strettamente regolata, e boomers,
che la ritengono una forza capace di turboaccelerare il progresso.

Da chi vince può dipendere il futuro dell’IA.

Maggio 2023: Sam Altman testimonia al Congresso USA invitando a regolamentare l’IA perché
potrebbe «causare un danno significativo al mondo».

Pochi giorni più tardi, 350 tra ricercatori nel campo dell’IA e amministratori di società ad essa
legate (tra cui OpenAI, Anthropic e Google) firmano la dichiarazione (di una sola frase) che
afferma che l’IA reca la minaccia di un possibile «rischio di estinzione» per l’umanità allo
stesso livello della guerra nucleare o di pandemie.

«Mitigating the risk of extinction from AI should be a global priority alongside other societal-
scale risks such as pandemics and nuclear war».

Perché il rischio sarebbe così grande? Consideriamo le diverse posizioni di Yoshua Bengio
(secondo firmatario) e Yusuf Harari, la prima più politica e mainstream, la seconda più
intellettuale e sottile.

YOSHUA BENGIO

Secondo Yoshua Bengio cervello è una macchina biologica, quindi in linea di principio è
ipotizzabile costruire una macchina altrettanto intelligente.
Come affermato da Bengio, Geoff Hinton (primo firmatario di SafeAI) e Yann LeCun una volta
compresi i meccanismi dell’intelligenza umana sarà possibile costruire una IA superumana
che ci sorpasserà nella maggior parte dei task.

Le macchine impiegano tempi ridotti per leggere e filtrare quantità di testo per cui gli umani
impiegherebbero decine di migliaia di vite e i programmi sono immortali, e possono essere
salvati e copiati (e diffusi). Stima l’arrivo di IA superumane tra 5 e 20 anni (OpenAI dice 10).

I rischi possono essere di varia natura. Organizzazioni terroristiche o Stati canaglia possono
usare le capacità dell’IA, specialmente se IA così potenti diventassero dei tool pubblicamente
disponibili (es. open-source) per:

■ trovare nuovi materiali per sintetizzare sostanze per armi biologiche (o trovare spiegazioni
su come fare);

■ operare cyber attacchi

■ usare le capacità audio-videopercrearefilmatiiper-realistici capaci di manipolare l’opinione

pubblica e orientare il consenso e il voto.

Un altro rischio è che l’IA sviluppi una sua versione della tendenza tipicamente umana
all’autoconservazione. Ciò potrebbe accadere:

■ per addestramento (a partire da modelli e dati umani) a imitare gli umani, che mostrano
appunto tale tendenza;

■ per istruzioni impartite dagli umani di ricercare il potere (l’autoconservazione sarebbe un

effetto collaterale);

■ qualcuno che intenzionalmente costruisce e addestra un’IA con tale istinto.

Per impedire questi scenari, occorre agire rapidamente su tre fronti:

1. Legislazione nazionale e internazionale (ONU) che proibisca lo sviluppo di IA con

caratteristiche pericolose. Occorre usare lo stesso livello di rigore applicato alla ricerca
farmaceutica, nucleare e dell’aviazione usando audit terzi e indipendenti.

2. Accelerare la ricerca nel campo dei sistemi di salvaguardia: programmi, protocolli e

modalità di governance.

3. Mettere in campo delle contromisure contro le rogue AI.

■ Si potrebbe ad es. adattare il modello RLHF (Reinforcement Learning from Human

Feedback): gli umani danno un feedback se la risposta ad un comando era appropriata. Il
modello è poi aggiornato sulla base di quel feedback. La speranza è quella di evitare simili
output inappropriati quando in futuro si daranno comandi simili. Problemi:

a) gli umani spesso non si accordano su cosa sia una ‘risposta appropriata’;
b) proprio questo modello ha reso ChatGPT così abile nell’imitare il linguaggio umano,
scatenando la corsa all’IA;

c) i sistemi potrebbero imparare ad imitare i feedback, così prevenendoli e neutralizzandoli.

■ Queste ricerche dovrebbero essere internazionali per permettere che tali misure siano
applicate in tutto il mondo e ovunque ve ne fosse il bisogno.

■ Dovrebbe essere imposto che tali ricerche hanno scopo pacifico e non devono portare ad
una corsa agli armamenti.

■ Tale ricerca deve essere fatta da organizzazioni sovranazionali e indipendenti per evitare
strumentalizzazioni. Non deve essere affidata a singoli Stati o enti for profit.

HARARI

La tesi base da cui parte Harari è che l’IA abbia hackerato il sistema operativo della civiltà
umana. Il pericolo per Harari viene dalla capacità di manipolare o generar linguaggio.
Questo è importante perché la cultura umana è fatta di linguaggio, siamo animali che
producono senso e per far ciò serve il linguaggio. L’intera civiltà umana è fatta di artefatti
culturali riconducibili al linguaggio: le religioni e le divinità, il denaro, i diritti umani non sono
inscritti nel DNA. L’esempio che fa Harari è del denaro.

Harari si domanda= Che cosa succederebbe se un’IA diventasse migliore degli esseri umani a
raccontare storie, comporre melodie, disegnare immagini, scrivere leggi?

Immaginiamo ad esempio la capacità di creare un culto politico-messianico, come qAnon, le

cui ‘rivelazioni’ venivano letteralmente venerate dagli ‘adepti’. Finora i testi erano scritti da
umani e diffusi viralmente dai bot: e se la cosa si rovesciasse?

Potremmo essere i primi ad assistere alla nascita di una religione i cui testi non sono stati
scritti da umani. Le religioni hanno sempre affermato che la paternità dei testi sacri è non
umana: presto ciò potrebbe divenire realtà.

Ci spaventiamo all’idea di studenti che usano l’IA per svolgere i loro temi. Ma potremmo
presto trovarci a discutere di aborto, Ucraina o Gaza, cambiamento climatico con entità che
pensiamo umane ma sono in realtà IA.

Ma mentre possiamo spendere ore a discutere per far cambiare idea a un nostro simile,
questo è inutile con un’IA – mentre essa è in grado di influenzarci profondamente. La struttura
dialogico-comunicativa su cui si costruisce la civiltà salta.