Luiss

Libera Università Internazionale

degli Studi Sociali Guido Carli

Macchine intelligenti e diritto

Controllo

Prof. Giuseppe D’Acquisto

A.A: 2024/2025
Il problema: può l’uomo esercitare un controllo su caso di macchine molto
complesse?

In situazioni complesse, il controllo dell’uomo nei confronti di macchine intelligenti e capaci di assumere decisioni e
formulare giudizi in autonomia non si risolve sostituendo l’uomo alla macchina “quando ci accorgiamo che le cose non
vanno bene”. Il paradigma dell’autonomia decisionale della macchina potrebbe infatti rendere difficile, se non
impossibile, per l’uomo accorgersi di quando le cose stanno per andare male in modo da intervenire.

Se delego alla macchina intelligente una decisione mi interessa l’output della decisione, e se la delega è piena non
intervengo/non posso intervenire sulle fasi intermedie.

“If we use, to achieve our purposes, a mechanical agency with whose operation we cannot interfere effectively… we
had better be quite sure that the purpose put into the machine is the purpose which we really desire” Norbert
Wiener – 1960

2
 L’allineamento dei valori e il dialogo tra uomo e macchina

Il controllo di una macchina autonoma riguarda la capacità dell’uomo di fare in modo che questa non
travalichi il proprio ruolo subordinato, anche se dotata di maggiore intelligenza, e che sappia “non
prendere alla lettera” i comandi dell’uomo (in qualsiasi modo questi siano espressi) se vi sono ragioni
superiori o vincoli contestuali che suggeriscono di astenersi dall’eseguirli.
Il primo passo di questo percorso di avvicinamento tra uomo e macchina è rappresentato da un
allineamento tra i valori dell’uomo e le capacità di una macchina intelligente e autonoma di andare
oltre la semplice esecuzione di un comando.

3
Macchine moderatamente intelligenti e machine super-intelligenti

Processo lento!

Processo «fluido»
4
Diversi gradi di allineamento: allineamento per comandi espliciti

Non c’è consapevolezza del

contesto, e ciò potrebbe
determinare rischi per
l’utilizzatore della macchina e
per terzi (si parla di «effetto re
Mida»).

Allineamento per
comandi espliciti
(«fermati!»)

5
Diversi gradi di allineamento: allineamento per obiettivi (o comandi impliciti)

Serve una interazione

continua con l’ambiente e
una astrazione/gerarchia di
concetti che possono
essere tradotte in azioni da
parte della macchina Allineamento per
comandi impliciti
(«ho fame/sono stanco»)

6
Gerarchia di concetti: tutto deve diventare misurabile

Ho fame/sono
stanco

Vuoi qualità o Ha fretta o hai

Dove sei? Dove vuoi andare?
risparmio? tempo?

Il prossimo tavolo
Vuoi andare in Vediamo qualche
C’è traffico è libero tra un’ora,
citta o al mare? recensione?
ti va bene?

Quanta benzina Sei solo o in

hai? compagnia?

7
 L’allineamento dei valori come processo di learning

L’uomo potrebbe persino non esplicitare i propri obiettivi, ma lasciare cha la macchina li apprenda attraverso l’osservazione

Questo allineamento tra valori dell’uomo e capacità della macchina è un processo di learning che richiede

• un “precettore” (l’uomo) che abbia necessità di soddisfare degli obiettivi (non sempre del tutto noti: effetto «Re Mida»)

• un “apprendista” (la macchina) che abbia la capacità di soddisfarli

• un protocollo di comunicazione tra uomo e macchina per tradurre in modo oggettivo queste necessità in metriche e in
azioni concrete tra quelle consentite alla macchina

• un certo tempo per affinare questa approssimazione tra concetti astratti (sono stanco e voglio fermarmi a cenare) e
azioni concrete (aziono il freno, l’acceleratore e il volante per portare il passeggero al punto in cui quel desiderio può
essere soddisfatto)

• una tolleranza individuale e sociale al costo dell’errore

8
L’allineamento dei valori come processo di learning

Primi 5 punti di ChatGPT (generici, per stereotipi)

• Ha ragione lei
• Prometti che cambierai e che laverai i piatti
• Portala fuori ogni tanto
• Regalale cioccolatini/fiori
• Proponi di andare al cinema

9
L’allineamento dei valori come processo di learning
Primi 3 consigli di ChatGPT (specifici)
• Ti ha parlato di quel ristorante la scorsa
settimana, portala lì stasera. Ho già
prenotato
• Ti sto mandando il fioraio con un mazzo di
rose. Tra 5 minuti è lì. Prendi tempo
• Ti ha regalato quella sciarpa il mese scorso
e non te la sei mai messa (lo so perché l’ho
comprata io per lei!). Mettila più spesso
d’ora in avanti

10
 Come realizzare concretamente questo processo di learning?

La progettazione e il controllo di una macchina intelligente e autonoma

presuppongono un diverso paradigma di progettazione in cui gli
obiettivi non sono esplicitati subito (anche perché potrebbero non
essere del tutto noti). La macchina osserva il comportamento
dell’uomo desumendone le preferenze, o «valori morali», e
individuandone gli obiettivi.

Ogni comportamento dell’uomo rivela delle preferenze. L’apprendi-

mento della macchina consiste nell’estrarre dall’osservazione di questi
comportamenti delle preferenze oggettive e misurabili e nell’individuare
una certa funzione-obiettivo, che rappresenti queste preferenze in un
linguaggio logico-matematico, massimizzandola a beneficio dell’uomo.

11
Modelli per il controllo di una macchina super-intelligente

• Inverse Reinforcement Learning (IRL)

• Collaborative Inverse Reinforcement Learning
(CIRL), ossia come si può «spegnere» una
macchina super-intelligente?

12
Reinforcement learning

Nel paradigma del Reinforcement Learning l’agente

conosce l’ambiente, ha a disposizione delle mosse
(ad esempio N-S-E-O), conosce i benefici immediati
per ogni azione, prevede quelli futuri (legge di
Bellman) e determina una policy

Si passa da un insieme di «valori» a una «volontà»(o

traiettoria) attraverso un’astrazione dell’ambiente

13
Inverse Reinforcement Learning

Nel paradigma del reinforcement learning inverso abbiamo un

«esperto morale» (l’uomo) che manifesta dei comportamenti
(o traiettorie) che sottintendono verosimilmente delle
preferenze decodificabili da parte di un agente

Si passa da una «volontà» a un insieme di «valori morali» che

hanno determinato quella condotta umana

Quei valori possono essere impiegati dall’agente per riprodurre

la razionalità dell’uomo

14
 Inverse Reinforcement Learning: un esempio (molto semplificato)

1 percorso

Quale è l’atteggiamento dell’uomo rivelato verosimilmente da una

sua traiettoria? (in realtà il discorso vale per qualsiasi situazione o
3 percorsi stato dell’uomo, non soltanto per uno spostamento)

3 percorsi • se da una certa località transita la maggior parte dei percorsi e io

Alternative
oggettive ci passo, allora sono indifferente o moderatamente positivo
4 percorsi
• se da una certa località transita la minor parte dei percorsi e io ci
passo, allora sono molto positivo
3 percorsi
• se da una certa località transita la maggior parte dei percorsi e io
non ci passo, allora sono molto negativo
3 percorsi
1 percorso • se da una certa località transita la minor parte dei percorsi e io
non ci passo, allora sono indifferente o moderatamente negativo

Scelte misurabili

15
Inverse Reinforcement Learning: un esempio (molto semplificato)

1 percorso

Quale è l’atteggiamento dell’uomo rivelato verosimilmente dalla

traiettoria? (in realtà il discorso vale per qualsiasi situazione o stato
3 percorsi dell’uomo, non soltanto per uno spostamento)

3 percorsi • se da una certa località transita la maggior parte dei percorsi e io

ci passo, allora sono indifferente o moderatamente positivo
4 percorsi
• se da una certa località transita la minor parte dei percorsi e io ci
passo, allora sono molto positivo
3 percorsi
• se da una certa località transita la maggior parte dei percorsi e io
non ci passo, allora sono molto negativo
3 percorsi
1 percorso • se da una certa località transita la minor parte dei percorsi e io
non ci passo, allora sono indifferente o moderatamente negativo

16
Inverse Reinforcement Learning: un esempio (molto semplificato)

L’agente impara a comprendere che c’è un ordinamento di

preferenze per l’uomo tra le opzioni a lui disponibili, ovvero un
insieme di “valori ispiratori” che può essere richiamato in altre
circostanze.

Se dunque si cambia la disposizione degli oggetti nello spazio,

la macchina potrà riconfigurare “intelligentemente” il
percorso (in modo da massimizzare la somma delle preferenze
e/o da attraversare la zona a maggiore preferenza), mostrando
in questo modo una capacità di astrazione

17
 Il problema dello spegnimento della macchina

Quando non riusciamo a ottenere il raggiungimento di un nostro obiettivo dalla macchina, resta sempre
l’opzione estrema di controllo rappresentata dallo spegnimento della macchina. Anche in questo caso, per
macchine sufficientemente semplici, basterà disabilitare l’alimentazione per raggiungere questo obiettivo.
Il tema che si vuole qui affrontare riguarda invece lo spegnimento di macchine più complesse, progettate per
raggiungere un obiettivo in autonomia, nel momento in cui le mutate condizioni ambientali rendono il
raggiungimento di quell’obiettivo inutile, o persino dannoso, e si vuole indurre la macchina ad accorgersi del
cambiamento e a rinunciare al raggiungimento di quell’obiettivo.

18
 Collaborative inverse reinforcement learning

Prima mossa

A W
Il problema dello spegnimento può essere formalizzato come una
sorta di gioco interattivo tra uomo e macchina, in cui entrambi
cooperano per il raggiungimento di un obiettivo che è nel solo
interesse dell’uomo.
Seconda mossa
La macchina non conosce inizialmente l’obiettivo dell’uomo e fa
un’inferenza (basata su osservazioni pregresse di specifici S S
comportamenti individuali, o sul comportamento di un campione) p+ p–
p+ p–

+1 –1 +1 0

19
 Collaborative inverse reinforcement learning

Prima mossa
Avremo dunque che in qualsiasi caso il reward atteso per l’uomo
sarà sempre maggiore se la macchina sceglie l’opzione WAIT (che
implica l’intervento dell’uomo), poiché sarà sempre p+ ≥ p+ - p- A W

Ciò significa che la macchina (che deve massimizzare il beneficio

dell’uomo) preferirà sempre razionalmente rivolgersi/lasciare un
margine d’intervento all’uomo per avere conferma della propria Seconda mossa
condotta prima di agire in autonomia, e questo atto di deferenza
(reso possibile dall’incertezza sugli obiettivi) consentirà all’uomo
di esercitare in ogni momento un dominio sulla macchina e persino S S
spegnerla, anche se questa sarà più intelligente di lui e autonoma. p+ p–
p+ p–

+1 –1 +1 0

20
Conclusioni (e uno sguardo al futuro)

Maximum
Benefits benefit

Explicit Implicit
commands commands
(King Midas (zero privacy
effect) zero freedom)

Zero data transfer Full data transfer

Acceptable level of privacy

21