XXIX JORNADAS NACIONALES DE DERECHO CIVIL DE 2024
UNIVERSIDAD AUSTRAL
CONCURSO N° 2
DESFRAGMENTACIÓN JURÍDICA Y PRIVADA EN LA ERA DIGITAL
Nox
La presente monografía explora el impacto de la Inteligencia Artificial (IA) en
la sociedad y el derecho. Define la IA y sus tipos, destacando su autonomía creciente y
el impacto en la identidad humana. Aborda los daños derivados de la IA y la
complejidad de la responsabilidad civil, proponiendo la adaptación del Código Civil y
Comercial y la creación de una regulación específica para la IA. Reflexiona sobre la
necesidad de equilibrar los avances tecnológicos con la preservación de los valores
humanos.
I. LA INTELIGENCIA ARTIFICIAL
1. INTRODUCCIÓN
a) Concepto
Para comenzar a abordar el tema de la Inteligencia Artificial (IA) me gustaría
hacer una breve reflexión sobre el profundo impacto que está causando en la sociedad.
Esta “Herramienta” (poniéndola entre comillas porque cada día presenciamos mas su
“Autonomía” con respecto a la forma en que ejercemos el control sobre ellas) no solo
transformando la manera en que interactuamos dentro de la cotidianidad, sino que,
también impactando en nuestra propia identidad, alterando nuestra comprensión de lo
que significa ser humanos.
Para entender la IA, Google nos brinda una definición corta pero precisa
diciendo lo siguiente:
“La inteligencia artificial es un campo de la ciencia relacionado con la
creación de computadoras y máquinas que pueden razonar, aprender y actuar de una
2 XXIX JORNADAS NACIONALES DE DERECHO CIVIL
manera que normalmente requeriría inteligencia humana o que involucra datos cuya
escala excede lo que los humanos pueden analizar”.
Entonces podría entenderse que su principal meta “no son tanto los programas
o el propio ordenador sino la conducta inteligente y, en particular, la conducta
humana”1.
b) Tipos de IA
Para hablar de su tipo podemos separarlas y clasificarlas dependiendo su
funcionalidad y capacidad:
Según su capacidad
Genérica o básica: Ésta estaría limitada solo para tareas específicas, no
pudiéndose desviar más allá de su objetivo personal, servir de apoyo. No tienen
conciencia ni compresión como tal, solo se programan a preguntas específicas como
“¿Qué hora es? ¿Cuál será el clima hoy? ¿Qué hay en mi calendario? Tal es el caso de
Siri o Alexa.
Integral: Ésta puede comprender, asimilar y adaptarse a la necesidad de cada
persona en general, no esta sujeta a una limitación como tal, sino que puede abarcar
una totalidad indefinida de temas, siempre y cuando no viole los términos y
condiciones impuestos, esto no quiere decir que no haya formas de saltárselos, ya se ha
visto numerosas veces como lograron que se pueda expresar “libremente”.
Según su funcionalidad
1
P. J. Hayes, Some comments on Sir James Lighthill’s Report on Artificial Intelligence AISB
(Artificial Intelligence and Simulation of Behaviour), Study Group European Newsletter 14, 40 (1973).
XXIX JORNADAS NACIONALES DE DERECHO CIVIL 3
Mas allá de que se ha presenciado como puede abarcar incontables temas,
también se ha visto como se aplica a objetivos determinados, tales como sistemas de
sugerencias (videos de YouTube en base a tus preferencias personales) o la publicidad
personalizada (en base a tus búsquedas recientes) incluso han salido a la luz
situaciones donde se demostraba que capturaba la voz del micrófono para ajustar estas
mismas.
c) Las máquinas y su naturaleza
¿Cómo afecta la inteligencia artificial a la identidad humana y la forma en que
nosotros nos percibimos frente a los demás?
William Gibson en su novela “Neuromante” de 1984, hace referencia a un
universo en el que la tecnología no solo facilita el día a día de las personas, sino que la
estaría, por así decir, definiendo, ejerciendo un control etéreo pero absoluto. Esto nos
lleva a decir ¿hasta que extremo podemos y/o debemos cederle nuestra autonomía a la
tecnología?
En 1950 se publica un ensayo llamado “Computing Machinery and
Intelligence” escrito por Alan Turing. Que comienza con la pregunta ¿pueden pensar
las maquinas? Respecto a la prueba, esta constaba de un test de caracterización basado
en la capacidad de “imitar o replicar” el comportamiento humano, en resumen, era
convencer a una persona de que ésta no era una máquina, sino, otra persona.
Anterior a esto, en 1936, el filósofo Alfred Ayer en su libro “Lenguaje, Verdad
y Lógica” propuso una forma de distinción entre una persona consciente y una
maquina inconsciente, mencionaba el hecho de poder distinguirlas en base a fallos en
pruebas empíricas por medio de las cuales se determina la presencia o ausencia de la
consciencia de estas mismas.2
2
Ayer, A. J. (1936). Lenguaje, verdad y lógica.
4 XXIX JORNADAS NACIONALES DE DERECHO CIVIL
2. DAÑOS DERIVADOS DE LA INTELIGENCIA ARTIFICIAL
a) derecho de daños
El derecho de daños esta referida a la rama del derecho que se ocupa de la
reparación de los daños causados a una persona o sus bienes. Enmarcándolo dentro del
contexto de la IA empiezan a brotar nuevas inquietudes con respecto a la
responsabilidad civil que ésta acarrea. Tales son los casos como por ejemplo el
ocurrido el 19 de marzo de 2018, en Estados Unidos, donde un automóvil autónomo
atropelló y causó la muerte de una persona.3
b) Impacto en la responsabilidad civil
La llegada de las nuevas tecnologías nos ha obligados a replantearnos cómo
entendemos la responsabilidad civil. Tradicionalmente, cuando ocurre un daño, la
responsabilidad recae en la persona que lo ha causado. Pero con la IA, la cuestión se
vuelve más compleja: ¿debería el desarrollador del sistema ser responsable, o el
usuario que lo emplea, o incluso la máquina misma? Esto está comprendido en un
nuevo nivel de dificultad, ya que estos sistemas, al operar de manera autónoma,
dificultan la atribución de culpa.4
“El problema con la responsabilidad civil derivada de utilizar un sistema de
IA, como el presente caso, está en que tanto los creadores, desarrolladores,
distribuidores y propietarios podrían exonerarse de responsabilidad al probar la
3
BBC News Mundo. (2019, noviembre 21). Autos sin conductor de Uber: la distracción
humana que fue la "causa inmediata" de un fatal accidente en Arizona. BBC News Mundo.
4
Highton, C. (2020). Los daños derivados de la inteligencia artificial y del impacto de las
nuevas tecnologías. Ciudad Autónoma de Buenos Aires: Tutora, Dra. Sandra Laura Dell Osa.
XXIX JORNADAS NACIONALES DE DERECHO CIVIL 5
ausencia de culpa respecto de las acciones u omisiones que ejecute este tipo de IA, que
no pueden llegar a ser comprendidos.”5
c) Responsabilidad objetiva
A fines del siglo XIX y principios del XX han surgido doctrinas que integraban
la responsabilidad objetiva, comenzando por el derecho laborar y expandiéndose hacia
lo civil. Ésta estaría volviendo a cobrar relevancia en la sociedad moderna, donde los
daños causados por la IA pueden no estar ligados directamente con la culpa del
operador, dado que operarían sin intervención humana directa puesto que el
ordenamiento jurídico se encuentro moldeado bajo la premisa de que toda decisión es
tomada por un ser humano.
Como señala Morales Cáceres, "la naturaleza propia de la IA hace que los
hechos dañosos deriven de una voluntad no humana".
II. MARCO JURÍDICO Y ADAPTABILIDAD A LA NORMA
3. PROPUESTA DE REFORMAS
a) Adaptación del Código Civil y Comercial
Como ya he mencionado, el planteo de la IA en el derecho indica una
evolución profunda dentro de ordenamiento jurídico, por tanto, es fundamental una
adaptación adecuada para lograr llenar las lagunas legales que estos temas representan.
Esto, por mi parte, implicaría que los desarrolladores sean responsables de los daños
causados por su sistema, independientemente de la culpa. Siguiendo el principio de
responsabilidad objetiva, quien crea un daño, debe asumir las consecuencias de éste,
sin necesidad de probar culpa o negligencia.
5
Morales Cáceres, A. (2021). El impacto de la inteligencia artificial en el derecho (p. 56).
6 XXIX JORNADAS NACIONALES DE DERECHO CIVIL
b) Regulación del uso de inteligencia artificial
Dada la naturaleza crítica de ciertas aplicaciones, como las que se utilizan en
salud, justicia y seguridad, es esencial establecer una agencia reguladora con la
autoridad necesaria para supervisar y evaluar los cambios constantes en los algoritmos.
Además, es crucial implementar regulaciones que garanticen que el uso de la
inteligencia artificial se adhiera a los principios de protección de datos, tales como la
finalidad, la proporcionalidad y el consentimiento informado. Esto aseguraría que los
derechos de cada persona se mantengan intactos. También sería beneficioso considerar
la creación de mecanismos de auditoría y control que permitan una supervisión
efectiva de estos sistemas.
c) Nuevo ámbito de aplicación de la ley de protección de datos
Para abordar con exactitud esta “nueva era” es de importancia adaptar la
legislación a las realidades emergentes, tal que la integridad de cada individuo quede
resguardada bajo la protección de la ley.
Por mi parte siento que habría que reanalizar la ley 25.326 (protección de
datos) y adecuarla a los nuevos paradigmas de la sociedad, por ejemplo, sobre el
artículo 38 se buscará ampliar la descripción de los requisitos de la demanda para
incluir detalles sobre sistemas de IA.
En síntesis, lograr de alguna forma que los derechos de los individuos no se
vean vulnerados a causa de un entorno cada vez más digitalizado
4. CONSIDERACIONES FINALES
a) implicaciones para el futuro del derecho
Es más que seguro que veamos una evolución en la jurisprudencia y en la
legislación en el ámbito de la tecnología, teniendo un enfoque paulatino en la ética y la
responsabilidad de los sistemas autónomos. Los tribunales deberán adaptarse para
XXIX JORNADAS NACIONALES DE DERECHO CIVIL 7
manejar casos completos que involucren dicha IA, y las leyes a su vez, deberán
evolucionar con ella para cubrir las futuras lagunas en el derecho.
b) Impacto en la práctica profesional
Tanto los profesionales del derecho como demás áreas deberán de adaptarse a
los cambios producidos, lo que incluiría la necesidad de capacitación ante las nuevas
tecnologías y en nuevas áreas especializadas con relación a las IA.
“El uso de sistemas de inteligencia artificial puede reducir significativamente
el tiempo necesario para procesar información y tomar una decisión en el sistema
judicial. Sin embargo, ¿puede la decisión de un tribunal confiar solamente en una
decisión tomada por un sistema automatizado? ¿Debería un juez tomar la decisión
final? Generalmente, los algoritmos de inteligencia artificial toman decisiones
basadas en casos anteriores. Puede suceder que en casos anteriores hayan existido
sentencias incorrectas, por ejemplo, casos de discriminación.”6
c) La máquina y el hombre
A medida que los sistemas de inteligencia artificial se vuelven cada vez más
sofisticados y omnipresentes, me encuentro reflexionando sobre la rapidez con la que
estos cambios están transformando nuestra sociedad. La omnipresencia de estas
máquinas plantea interrogantes sobre nuestra propia autonomía y la manera en que
confiamos decisiones en entidades que carecen de conciencia.
¿hasta qué punto es seguro confiar nuestra autonomía a sistemas que, a pesar
de su aparente sofisticación, no poseen conciencia ni entendimiento genuino? Es cada
vez más común ver cómo estas máquinas influyen en decisiones que afectan nuestras
6
IA Aplicada en Sentencias Judiciales. (s. f.).
[Link]
digitales/escenarios/inteligencia-artificial-aplicada-en-sentencias-judiciales/
8 XXIX JORNADAS NACIONALES DE DERECHO CIVIL
vidas diarias. Sin embargo, esta tendencia nos obliga a cuestionar si estamos
dispuestos a ceder nuestro juicio y control a seres sin consciencia.
III. CONCLUSIONES
Al reflexionar sobre el impacto de la inteligencia artificial en nuestra sociedad,
resulta evidente que nos encontramos en una encrucijada crucial. La IA está
redefiniendo no solo cómo interactuamos con la tecnología, sino también nuestra
comprensión de la propia condición humana. A medida que estas máquinas se vuelven
más integradas en nuestras vidas, desde los sistemas de recomendación hasta la toma
de decisiones autónomas, es fundamental cuestionar hasta qué punto debemos permitir
que influyan en nuestro día a día.
El desafío principal radica en encontrar un equilibrio entre aprovechar los
avances tecnológicos y preservar los valores humanos esenciales. El desarrollo de la
inteligencia artificial no debería suceder sin una consideración cuidadosa de las
implicaciones éticas y sociales. La creación de marcos legales que aborden las lagunas
actuales es imperativa para proteger tanto los derechos individuales como el bienestar
colectivo. Como se ha visto en los ejemplos de responsabilidad civil y los daños
causados por la IA, el derecho enfrenta dificultades al adaptar sus conceptos
tradicionales a una realidad donde las máquinas operan con creciente autonomía. La
necesidad de una regulación eficaz y de principios éticos claros se vuelve cada vez más
urgente para evitar que los avances tecnológicos avancen a expensas de nuestra
humanidad.
En última instancia, la clave estará en cómo logramos integrar la inteligencia
artificial en nuestras estructuras sociales y legales sin perder de vista lo que nos hace
humanos. Solo a través de un enfoque reflexivo y regulado podremos asegurar que
estos avances se utilicen para el bien común y no para socavar los valores
fundamentales que sostienen nuestra sociedad.