UNIVERSIDAD DE PANAMÁ

CENTRO REGIONAL UNIVERSITARIO DE COLÓN

FACULTAD DE INFORMÁTICA ELECTRÓNICA Y COMUNICACIÓN

Maestría en TIC Deontología en el uso de las TIC

(MTIC-702)

Estudiante:

Darío Esquina 3- 108-992

Facilitador: Abdy Martínez

TEMA:

INTELIGENCIA ARTIFICIAL

Fecha de Entrega: 03 de agosto de 2019

Tabla de contenido
INTRODUCCIÓN ................................................................................................................................... 4
1. Utilidad y/o aplicabilidad ............................................................................................................ 5
A. Aplicaciones comerciales de la inteligencia artificial .............................................................. 5
B. El último hit musical del momento ......................................................................................... 7
C. El chef con más recetas del mundo......................................................................................... 7
D. Autos sin conductor ................................................................................................................ 8
E. El adivino que lo sabrá antes que tú ....................................................................................... 8
F. Fotografías que se convierten en compras ............................................................................. 9
G. El inversionista más sabio ..................................................................................................... 10
H. Un mundo mejor ................................................................................................................... 10
I. Un doctor sobrehumano ....................................................................................................... 11
J. ¿Vida fuera de la Tierra? ....................................................................................................... 12
K. El Gurú de marketing............................................................................................................. 12
L. El mago de las ventas y del servicio al cliente ....................................................................... 14
1. ¿Qué hay en cuanto a servicio al cliente? ......................................................................... 15
2. Un lenguaje no humano… ................................................................................................. 16
M. El mejor vuelo… ................................................................................................................. 16
N. A cargo de tu contabilidad y finanzas ................................................................................... 17
2. Características ........................................................................................................................... 18
A. Redes neuronales dentro de la IA ......................................................................................... 18
3. Impacto ético............................................................................................................................. 22
A. Primer comentario ético ....................................................................................................... 22
B. Segundo comentario ético .................................................................................................... 22
C. Tercer comentario ético: Hacia Una ética empresarial......................................................... 24
D. Cuarto Comentario ético: Roboética a principios para el siglo XXI ....................................... 25
E. Quinto comentario ético: Inteligencia Artificial vacía de memoria y de ética ..................... 26
1. La guerra comercial por la IA............................................................................................. 27
2. Peligrosa concentración de poder..................................................................................... 28
3. La fuerza de la empatía humana ....................................................................................... 28
4. La resistencia ..................................................................................................................... 29
F. Sexto comentario ético: ¿Quién dicta la ética en la inteligencia artificial? .......................... 30
 1. ¿Es suficiente la autorregulación? .................................................................................... 32
G. Séptimo comentario ético: El rápido avance de la Inteligencia Artificial hace necesario un
código legal y ético ....................................................................................................................... 34
CONCLUSIÓN ..................................................................................................................................... 37
INFOGRAFÍA....................................................................................................................................... 38
 INTRODUCCIÓN

Para quienes no estén demasiado introducidos en el tema, les parecerá que

la Inteligencia Artificial es terreno de la ciencia ficción, sin embargo, desde que IBM
Deep Blue jugó aquella partida de ajedrez con Kasparov, allá por mediados de los
noventa, lo cierto es que esta, está en el día a día de nuestras vidas. La realidad es
que la Inteligencia artificial de ahora en adelante (IA), toma decisiones más rápida
y eficientemente que los seres humanos, y está determinando el futuro de sectores.

Vivimos en una sociedad que se caracteriza por la abundancia y movimiento

de datos, tanto personales como de comportamiento, generados a través de los
medios sociales, el Internet de las Cosas, la navegación online o la información
generada como consumidores en las diferentes marcas. El tratamiento de toda esta
cantidad de datos se antoja imposible si no es a través de máquinas, siendo la
Inteligencia Artificial de un valor fundamental para poder extraer conclusiones y
hacer de estos datos, insights válidos para la toma de decisiones.

El propósito último de la inteligencia artificial, lograr que una máquina posea

una inteligencia de tipo general similar a la humana, es uno de los objetivos más
ambiciosos que se ha planteado la ciencia. Por su dificultad, es equiparable a otros
grandes retos científicos, como explicar el origen de la vida o del universo, o conocer
la estructura de la materia. El principal problema al que se enfrenta la inteligencia
artificial es la adquisición de conocimientos de sentido común. Este constituye el
requisito fundamental para que las máquinas actuales sustituyan la inteligencia
artificial especializada por una de tipo general.

El presente trabajo se realizara todas estas consideraciones considerando la

ética inmersa en estos aspectos.
 1. Utilidad y/o aplicabilidad

La IA tiene áreas de aplicación. En efecto, estos procesos de la IA se aplican en los

sistemas reales en una gran variedad de ramas y problemas:

 Gestión y control: análisis inteligente, fijación de objetivos.

 Fabricación: diseño, planificación, programación, monitorización, control,
gestión de proyectos, robótica simplificada y visión computarizada.
 Educación: adiestramiento práctico, exámenes y diagnóstico.
 Ingeniería: diseño, control y análisis.
 Equipamiento: diseño, diagnóstico, adiestramiento, mantenimiento,
configuración, monitorización y ventas.
 Cartografía: interpretación de fotograf ías, diseño, resolución de problemas
cartográficos.
 Profesiones: abogacía, medicina, contabilidad, geología, química.
 Software: enseñanza, especificación, diseño, verificación, mantenimiento.
 Sistemas de armamento: guerra electrónica, identificación de objetivos,
control adaptativo, proceso de imágenes, proceso de señales.
 Proceso de datos: educación, interfase en lenguaje natural, acceso
inteligente a datos y gestores de bases de datos, análisis inteligente de datos.
 Finanzas: planificación, análisis, consultoría.
 Marketing: planificación, análisis, consultoría.

A. Aplicaciones comerciales de la inteligencia artificial

Pero también la IA tiene numerosas aplicaciones comerciales en el mundo de hoy.

 Configuración: selección de distribución de los componentes de un sistema

de computación.
 Diagnosis: hardware informático, redes de ordenadores, equipos mecánicos,
problemas médicos, averías telefónicas, instrumentación electrónica,
circuitos electrónicos, averías automovilísticas.
  Interpretación y análisis: datos geológicos para prospección petrolífera,
compuestos químicos, análisis de señales, problemas matemáticos
complejos, evaluación de amenazas militares, análisis de circuitos
electrónicos, datos biológicos (coronarios, cerebrales y respiratorios),
información de radar, sonar e infrarrojos.
 Monitorización: equipos, monitorización de procesos, fabricación y gestión de
procesos científicos, amenazas militares, funciones vitales de pacientes
hospitalizados, datos financieros en tiras de papel perforado por
teleimpresora, informes industriales y gubernamentales.
 Planificación: gestión de activo y pasivo, gestión de cartera, análisis de
créditos y préstamos, contratos, programación de trabajos de taller, gestión
de proyectos, planificación de experimentos, producción de tarjetas de
circuito impreso.
 Interfaces inteligentes: hardware (fiscal) de instrumentación, programas de
computadora, bases de datos múltiples, paneles de control.
 Sistemas de lenguaje natural: interfaces con bases de datos en lenguaje
natural, gestión de impuestos (ayudas para contabilidad), consultoría en
temas legales, planificación de fincas, consultoría de sistemas bancarios.
 Sistemas de diseño: integración de microcircuitos en muy alta escala, síntesis
de circuitos electrónicos, plantas químicas, edificios, puentes y presas,
sistemas de transporte.
 Sistemas de visión computarizada: selección de piezas y componentes,
ensamblado, control de calidad.
 Desarrollo de software: programación automática.

Las aplicaciones de la inteligencia artificial más sorprendentes y que nunca te

hubieras imaginado ya es sabido que algunas de las aplicaciones que usas a diario
utilizan Inteligencia Artificial, como Netflix, Spotify, Siri, entre otras. Y quizá también
habías oído sobre los robots que juegan ajedrez, poker y otros juegos de mesa
mejor que cualquier ser humano.
Cada día surgen nuevos usos y aplicaciones de la Inteligencia Artificial (IA) que nos
acercan a un futuro sin precedentes. Un futuro que ni nos hubiéramos imaginado.

B. El último hit musical del momento

¿Alguna vez te imaginaste que la inteligencia artificial pudiera contribuir a crear hits
musicales?

El sencillo “Not Easy” de X Ambassadors, Elle King y Wiz Khalifa alcanzó el número
4 en el ranking de iTunes Hot Tracks. Seguramente te estarás preguntando ¿y en
qué momento tuvo lugar la IA?

Pues precisamente, el sencillo estuvo basado en hallazgos obtenidos a través de

Big Data. La inteligencia artificial buscó millones de conversaciones, titulares de
periódicos y discursos que derivaron en el principal tema de la canción: heartbreak
(corazones rotos).

Después de que definieron en tema, los algoritmos de machine learning

programados para generar música encontraron diversos elementos musicales que
les dieron ideas sobre cómo debería sonar esta pieza.

C. El chef con más recetas del mundo

Si el punto anterior te asombró, ahora imagina que la próxima vez que cocines,
tendrás a tu lado a un chef virtual que te irá guiando paso a paso para preparar ese
deleite culinario que creías imposible.

La inteligencia artificial de “Chef Watson” te ayudará a crear una receta con base en
los ingredientes que tengas disponibles o que se te antojen. Sus algoritmos verán
qué platillos se pueden preparar con esos ingredientes y te brindarán múltiples
opciones para que tú elijas el platillo que deseas, así como las instrucciones para
prepararlo.

D. Autos sin conductor

¿Ya habías escuchado sobre los autos que se manejan solos guiados por
tecnologías de inteligencia artificial y aprendizaje automático?

Tesla fue una de las primeras marcas automotrices que lanzó un vehículo que se
manejaba solo. Audi, Cadillac y Volvo ya están desarrollando sus propios modelos
también.

Pero eso no es todo. Uber ya realizó la primera entrega de 50,000 cervezas a través
de un camión que se condujo solo.

E. El adivino que lo sabrá antes que tú

Pronto, la IA podría llegar a saber más de lo que te imaginabas sobre las personas.
¿Quieres algunos ejemplos en los que ha detectado cuestiones que nosotros los
humanos quizá hubiéramos pasado por alto? ¡Aquí te van 3!

La IA puede adivinar de forma asertiva si las personas son heterosexuales u

homosexuales tomando como base las fotografías de sus caras. Un estudio de
la Universidad de Stanford encontró que un algoritmo podría distinguir
correctamente en un 81% de los casos a los hombres que eran gays, de los que no
lo eran; y en caso de las mujeres, acertó en esta misma cuestión en un 74%.

Pero eso no es todo. Facebook está usando bots de Inteligencia artificial que
pueden salvar la vida de las personas con riesgo de cometer suicidio. Tal como lo
explica un artículo de Fast Company, la compañía anunció un proyecto piloto en
Estados Unidos en el que utilizaron IA para identificar proactivamente publicaciones
de Facebook que podrían ser indicio de un interno de suicidio. La tecnología de IA
de Facebook identificó más de 100 casos que requerían intervención.

¿Cómo es posible que cosas como estas se puedan anticipar o predecir con tal
grado de certidumbre?

Incluso, si piensas renunciar a tu trabajo actual, la IA puede saberlo antes que el

área de Recursos Humanos. IBM tiene una soluciónque utiliza análisis predictivo
para identificar problemas de retención de personal. Este programa puede dar con
los factores en común que hacen que el personal desista. Y esto deriva en la
generación de un puntaje de calidad para cada empleado, basado en la probabilidad
proyectada de que abandone la compañía pronto.

F. Fotografías que se convierten en compras

¿Cuántas veces has visto algún objeto que te gusta y tomas una foto para después
buscar algo parecido o igual en las tiendas?

Ahora ya no tendrás que complicarte. El gigante del e-commerce, Amazon, ya

incorporó la funcionalidad de búsqueda visual en su aplicación móvil. Sólo toma una
foto del objeto que deseas y te mostrará algo muy similar o idéntico. ¡La posibilidad
de comprarlo instantáneamente ya está en tus manos!
Gracias a la IA, se eliminará la brecha entre esos “momentos de inspiración” y la
eventual compra, haciendo que la transición entre ver un producto y comprarlo se
dé sin complicación alguna.

G. El inversionista más sabio

En el 2009, Ira Sages de la revista Businessweek retó al Director de la compañía
Quid AI, Bob Goodson, a programar una computadora para elegir 50 compañías de
las que nadie había oído en ese momento y que estarían destinadas a convertirse
en las startups más exitosas.

Casi 8 años después, la revista revisó la lista para ver qué tan asertivas habían sido
las predicciones de “Goodson y su máquina”. Los resultados incluso sorprendieron
al creador: Evernote, Spotify, Etsy, Zynga, Palantir, Cloudera, OPOWER – y la lista
sigue… 20% de las compañías que eligió la computadora han alcanzado la
valuación del billón de dólares. ¿Confiarías en un inversionista así?

H. Un mundo mejor
IA, pensando que es el próximo Terminator y preguntándose: ¿Nos dejará sin
trabajo? ¿Y luego qué?
Deberías de explorar también todas las cosas positivas que puede hacer por
nosotros, los humanos.

¿Cómo cuáles? Como salvar al ecosistema y evitar los efectos adversos que
amenazan la vida humana o animal.

Un artículo extensivo publicado por The Guardian ilustra numerosas maneras en

que la IA puede ayudarnos a prevenir daños futuros y entender mejor cómo abordar
las necesidades de desarrollo mientras nos enfocamos en la sustentabilidad.

El artículo habla sobre cómo compañías como Microsoft ya están usando la IA para
examinar patrones de uso de tierra a través de mapas de terrenos. El entendimiento
profundo de estos patrones permite tomar mejores decisiones sobre el uso del suelo
e implementar las técnicas de conservación apropiadas. Los científicos podrán usar
la información obtenida para preservar la biodiversidad y el ecosistema. EarthCube
es justamente uno de estos proyectos.

I. Un doctor sobrehumano
La IA no sólo será capaz de salvar ciertas regiones del ecosistema como lo
comentamos en el caso anterior, sino también vidas humanas…

A través de IA y deep learning los médicos están pudiendo diagnosticar

oportunamente el cáncer, antes de que sea demasiado tarde. La startup china,
Infervision, está utilizando deep learning y tecnologías de reconocimiento de
imágenes (como la que usa Facebook para reconocer la caras) para diagnosticar
posibles signos de cáncer de pulmón a través de las radiografías.
La pregunta ahora es: ¿la IA sólo será capaz de diagnosticar el cáncer o también
podrá combatirlo?

Algunos investigadores argumentan que la cura para el cáncer asistida por

inteligencia artificial está a menos de una década.

J. ¿Vida fuera de la Tierra?

Pregúntaselo a la inteligencia artificial.

La NASA ya está usando la IA para buscar vida fuera de la Tierra y será un elemento
clave para “Mars 2020“, la misión donde investigarán con mayor profundidad El
Planeta Rojo.

Los dispositivos que enviarán, mejor conocidos como “rovers”, serán capaces de
explorar con mayor detalle el terreno y mostrar las propiedades de los elementos
existentes en el planeta para determinar con mayor certeza las posibilidades de
vida.

K. El Gurú de marketing
La IA se está convirtiendo en la mano derecha de los mercadólogos y vendedores
alrededor del mundo.

Y si te estás preguntado qué tipo de cosas puede hacer… este artículo en específico
irá recapitulando con lujo de detalle cada aplicación posible en el ámbito exclusivo
del marketing digital y ventas. Así que te recomendamos también darle una leída
porque implementar la IA en tu compañía, traerá muchos más beneficios de los que
crees. Será una revolución para bien.

¡Pero veamos en resumen algunos ejemplos asombrosos!

A través de IA y machine learning, se puede encontrar a la audiencia más redituable

para cualquier anuncio. Esto quiere decir que los algoritmos inteligentes son
capaces de aprender, detectar y predecir qué tipo de usuarios son más propensos
a convertirse en clientes al menor costo por adquisición.

Un software que aplica IA a la publicidad digital es Adext. A través de deep, transfer

y machine learning, maneja, optimiza y actualiza en automático el presupuesto de
tu campaña digital en más de 20 grupos demográficos distintos por anuncio y
alrededor de múltiples plataformas. En promedio, su IA avanzada ha logrado
incrementar la eficiencia de los anuncios en un 522%.

En lo que al marketing de contenidos respecta, cada vez están surgiendo más

herramientas inteligentes que facilitan –e incluso llevan a cabo–, la labor de
desarrollar contenidos. De hecho, hace ya algunos años, Gartner predijo que para
el 2018, 20% del contenido estaría generado por máquinas. Ya estamos en el 2018,
así que puede que ya hayas leído publicaciones de redes sociales y artículos
escritos por la inteligencia artificial.

¡Es más! Organizaciones como BBC, CBS, New York Times, Forbes, Associated
Press y Reuters ya están usando de forma diaria la IA para desarrollar y presentar
publicaciones noticiosas a su público. Y si aún estás algo escéptico al respecto, tan
sólo checa algunas herramientas como Hemingway
App, Articoolo, Wordsmith, Quill y Wibbitz.
Este tipo de avances también se hacen tangibles en el e-mail marketing, donde la
IA puede personalizar los correos basados en las preferencias y conductas de los
usuarios para lograr una mayor interacción que pueda traducirse en una venta.
Compañías como Phrasee y Persado incluso determinan que asuntos de correo,
texto para el cuerpo de correo, llamadas a la acción (calls-to-action) y horarios de
envío contribuirán a que el usuario realice la acción deseada.

Y si lo anterior te ha sorprendido, espérate a que te cuente que incluso, la IA puede

diseñar tu página web desde cero, como lo hace Grid. Lo único que tendrás que
hacer es darle el texto, las imágenes y las llamadas a la acción. La app se encargará
del resto y hará que tu sitio web tenga una apariencia profesional y sea 100%
funcional.

L. El mago de las ventas y del servicio al cliente

Ya vimos cómo la IA está revolucionando el marketing… Pero las ventas no se
quedan atrás.

¿Cuál es el mejor precio para un producto o servicio? A través de aprendizaje

automático, se pueden correlacionar tendencias de precio con tendencias de venta
a través de un algoritmo, alineando otros factores como el manejo de la categoría y
los niveles de inventario. El establecimiento de precios dinámicos impulsado por IA
se traducirá en mayores márgenes de ganancia para las empresas.

Por otro lado, la IA se está convirtiendo en un gran aliado para los vendedores, ya
que existen plataformas de IA que monitorean los hábitos de los representantes de
venta y les hacen recomendaciones para mejorar su desempeño.
Estos CRMs inteligentes les permiten tener una mayor visibilidad de todos los
elementos involucrados en el proceso de ventas y encontrar oportunidades de venta
que de otra forma no hubieran considerado. Por ejemplo, pueden darse cuenta de
que los emails en frío son 20% más efectivos los martes, o que hacer una llamada
de seguimiento 10 minutos después de un registro online se traduce en más
conversiones.

1. ¿Qué hay en cuanto a servicio al cliente?

Para muchas empresas que ofrecen un servicio de suscripción mensual (como
Netflix, Spotify, gimancios, etc.), atraer clientes es tan sólo la mitad del proceso.
Retenerlos es otra historia. El análisis predictivo puede utilizarse para saber qué
clientes están por darse de baja, y esto permite contactarlos a tiempo para
ofrecerles incentivos y una atención especializada para que cambien de opinión.

En este mismo campo, los chatbots han sido de suma utilidad, ya que permiten
responder de forma rápida y eficaz las principales preocupaciones, dudas o
inconvenientes de los clientes. Los chatbots más avanzados ya tienen la habilidad
de responder preguntas abiertas aprovechando el procesamiento del lenguaje
natural y el aprendizaje automático para responder de forma más humana ante
estas solicitudes.

Incluso, marcas como Sephora y H&M utilizan chatbots que fungen como asesores
de venta y ¿qué crees?, son extremadamente útiles para los usuarios.

Sephora, por ejemplo, permite a los usuarios “probarse” los productos cosméticos
(como labial, sombras para ojos, iluminadores, etc.) sobre una fotografía propia que
comparten con el bot. Su tecnología de inteligencia artificial puede identificar las
características faciales y usar realidad aumentadas para aplicar estas pruebas de
maquillaje.

Por otro lado, H&M ayuda a los usuarios que visitan su e-commerce a encontrar
exactamente lo que buscan, haciéndoles sugerencias sobre lo que les puede gustar
o quedar mejor según sus preferencias.

2. Un lenguaje no humano…
Recientemente, Facebook utilizó machine learning para entrenar a sus chatbots
para conversar y negociar entre sí, es decir de chatbot a chatbot. Y todo indica que
los bots son muy buenos haciendo tratos… De hecho, la situación llegó a un punto
donde los bots se comunicaban solos utilizando su propio lenguaje. Curioso, ¿no?

M. El mejor vuelo…
La industria de viajes es notoriamente competitiva. Los precios de los vuelos pueden
cambiar de un minuto a otro. ¿Cómo saber cuál es el mejor momento para comprar
un vuelo?

A veces es mejor reservar el vuelo con antelación, y otras, esperarte a que esté muy
cercana la fecha de salida para que los encuentres más baratos.

Aquí hay una gran oportunidad que la aplicación Hopper vio antes que nadie: a
través de analíticos predictivos impulsados por inteligencia artificial, la app es capaz
de predecir los patrones de precios y alertar a los viajeros sobre los momentos más
baratos para comprar los vuelos a sus destinos. Monitorea billones de precios cada
día y, basado en el historial de datos para cada ruta, puede anticipar cómo se
desarrollará la tendencia de precios. Así que podrás configurar notificaciones que
te recuerden agendar tu vuelo justo cuando los precios estén más bajos. ¡Una
maravilla! ¿no?

N. A cargo de tu contabilidad y finanzas

Si no estudiaste algo relacionado con estas dos áreas de estudio, seguramente
representan un dolor de cabeza. ¿Por que no automatizar tu sistema de contabilidad
y tus reportes financieros?

Una de las herramientas que aplica IA a estas cuestiones es Smacc. Sólo tendrías
que subir tus recibos, la plataforma los transformará a un formato legible para
computadoras, los encriptará y después los colocará en tu cuenta. También
aprenderá a monitorear facturas, ventas y costos, así como su liquidez.
 2. Características
Una de sus características es que incluye varios campos de desarrollo, como la
robótica, la comprensión y traducción de lenguajes, el reconocimiento y aprendizaje
de palabras de máquinas o los variados sistemas computacionales expertos, que
son los encargados de reproducir el comportamiento humano en una sección del
conocimiento.

Tales tareas reducen costos y riesgos en la manipulación humana en áreas

peligrosas, mejoran el desempeño del personal inexperto y el control de calidad en
el área comercial.

A. Redes neuronales dentro de la IA

Las redes neuronales son programas de la IA capaces de simular algunas de las
funciones de aprendizaje del ser humano. Una red neuronal obtiene experiencia
analizando automática y sistemáticamente los datos para determinar reglas de
comportamiento; con base en ellas, puede realizar predicciones sobre nuevos
casos.

Estas técnicas se aplican a problemas de clasificación y series de tiempo e

identifican conexiones con cosas que otras técnicas no pueden, porque utilizan
relaciones lineales y no lineales.

La inteligencia artificial (IA) disparará la productividad, hará el mundo más eficiente

y seguro, alargará la esperanza de vida, servirá para predecir el futuro, prevenir
catástrofes e incluso para combatir el cambio climático. Las empresas que
desarrollan esta nueva era basada en algoritmos y big data la presentan como el
santo grial y pasan de puntillas por los evidentes peligros que también acarrea.
Porque, según diferentes estudios y analistas, entre el 14% y el 40% de los puestos
de trabajo actuales corre el riesgo de desaparecer debido al efecto combinado de
estos sistemas y la robótica.

“El ser humano se verá obligado a formarse continuamente para no quedar

obsoleto”, avanza Robin Li, consejero delegado de Baidu. Pero existe un escenario
en el que ni siquiera esa formación continua sería suficiente para garantizar los
puestos de trabajo: el de la singularidad tecnológica. Aunque todavía es un concepto
más apropiado para historias de ciencia ficción, esta hipótesis dibuja un futuro en el
que los avances tecnológicos desembocan en una superinteligencia que supera con
creces la del ser humano. Y no faltan científicos que la consideran una posibilidad
menos remota de lo que muchos otros quieren creer.

¿Podría el futuro superar a la ficción? Sobre todo en China, el país que se ha

propuesto liderar el desarrollo de la inteligencia artificial: ya es el que más invierte
en el sector, el que más instituciones públicas tiene investigando y el que más
patentes registra: un 57% del total, frente al 13% de EE UU y el 7% de la Unión
Europea, según el informe de 2018 Artificial Intelligence, a European Perspective,
de la Comisión Europea. Y cuenta con 17 de las 20 instituciones de investigación
más relevantes en el ámbito de la IA, de acuerdo con un estudio de la Organización
Mundial de la Propiedad Intelectual. “Aunque me gustaría que EE UU ganase la
carrera de la IA, si tuviese que apostar lo haría por China”, afirma Thomas H.
Davenport, autor de La ventaja de la IA. “China tiene muchas ventajas: un Gobierno
determinado, una fuente inagotable de dinero, un creciente número de científicos
inteligentes y una enorme población que adora lo digital”, argumenta.

También es el país con menos barreras éticas y legales. Eso permite que los
científicos se adentren en terrenos que otros países consideran pantanosos.
“Siempre hemos pensado que la inteligencia humana era imposible copiarla y ahora
sabemos que algún día podremos comprenderla lo suficientemente bien como para
replicarla. Eso supone que no es irremplazable”, asegura Wu Shuang, científico jefe
de Yitu, una de las empresas de IA más punteras de China y doctor en Física por la
University of Southern California. “Todavía estamos en la fase de dotar a las
máquinas de capacidad de percepción y lejos de pasar a las de razonamiento y
toma de decisiones. Pero estoy convencido de que las máquinas terminarán
adquiriendo sentido común y de que serán capaces de tomar decisiones cotidianas
mejor que los humanos”, apostilla Wu, especializado en aprendizaje automático y
redes neuronales profundas.
Wu se rasca la cabeza después de 50 minutos de entrevista y reconoce que no
tiene tan claro que el ser humano vaya a salir bien parado de la nueva etapa en la
que se adentra. Y no es el único. “Siempre hemos querido creer que el ser humano
es el centro del universo. Luego nos hemos dado cuenta de que vivimos en un
pequeño planeta de un sistema solar que ni siquiera está en el centro de la galaxia”,
enumera. “También pensamos que tenemos un intelecto superior, creativo y capaz
de razonar. Todavía no sabemos exactamente cómo funciona, pero creo que
terminaremos por entender todos sus mecanismos. Eso nos ayudará a mejorar,
pero también demostrará que puede existir una inteligencia superior”.

Chen Haibo es de una opinión similar. El consejero delegado de DeepBlue, otra

gran empresa china del sector, cree que ni siquiera la imaginación será siempre un
coto privado del Homo sapiens. “La tecnología ha avanzado en dos siglos más que
nosotros en miles de años. No veo por qué va a dejar de hacerlo, así que es
inevitable que las máquinas terminen superando nuestra inteligencia”, apunta.

Para Nirmal, los sistemas de Inteligencia Artificial han de cumplir cinco principios
básicos para ser útiles y fluidos. Así, han de poder gestionarse, ser resilientes,
presentar un buen rendimiento, ser medibles y poder aprender de manera continua.

Para que un sistema de Inteligencia Artificial pueda gestionarse, y que pueda

realizar un trabajo duradero, necesita contar con una infraestructura meditada,
duradera y transparente. Por eso, es básico que para desarrollarlo se identifiquen
los canales de transmisión de datos y se eliminen los errores producidos por la
pérdida de datos o por información corrompida. También es necesario integrar
herramientas de administración de datos y sistemas de control de versiones para
modelos.

Un sistema de Inteligencia Artificial es resiliente, cuando está desarrollado para

realizar el equivalente en ciencia de datos a las pruebas de regresión cada poco
tiempo. Esto es útil para corregir los fallos de sincronización de los modelos de
Inteligencia Artificial, que pueden aparecer con más o menos rapidez. De esta
manera, el sistema, que permite a sus creadores y a personal encargado de su
optimización y mantenimiento establecer umbrales de precisión y alertas
automáticas. Con esto podrás saber si hay que prestar atención a un modelo y
optimizarlo, y cuándo hacerlo.

En cuanto a la necesidad de que los sistemas de Inteligencia Artificial cuenten con

buen rendimiento, es vital para que puedan gestionar la enorme cantidad de
transacciones que deberán realizar. La mayoría de las operaciones que hay que
desarrollar requieren una potencia de computación muy intensa, y la mayoría han
de realizarse en milisegundos. Por más que se ejecuten en ordenadores de gran
potencia y con una buena cantidad de memoria RAM, los modelos de Inteligencia
Artificial han de desarrollarse pensando en que deben ser ágiles y fiables,
independientemente de si se ejecutan en equipos físicos, en una nube o en varias.

Por otra parte, los sistemas de Inteligencia Artificial deben ofrecer sistemas para
medir y cuantificar su rendimiento, de cara a poder presentar resultados a los
encargados de proporcionar financiación para que sigan en funcionamiento,
además de seguir desarrollándolos y mejorándolos. Y han de ser capaces de
aprender continuamente, ya que los datos no son siempre los mismos. Tampoco lo
son los entornos en los que se utilizan, por lo que deben estar adaptándose de forma
continua.
 3. Impacto ético
A. Primer comentario ético
La ética en la inteligencia artificial es una rama de la ética dirigida a la existencia de
robots inteligentes o cualquier otro ente que posea inteligencia artificial. La
posibilidad de crear máquinas pensantes plantea una serie de cuestiones éticas que
abarcan diferentes puntos, tanto que las máquinas no lastimen a seres humanos o
seres vivos en general, como el estatus moral propio de la máquina.

Por lo general está dividido en roboética, la preocupación por el comportamiento

moral de los seres humanos a medida que diseñan, construyen, usan y tratan a
seres de inteligencia artificial, y la ética de las máquinas, que es la preocupación
por el comportamiento moral de los agentes morales artificiales (en inglés AMAs).

Los pensadores en la actualidad están preocupados por el desarrollo de conciencia

en la inteligencia artificial, aunque no necesariamente están enfocados a lo
importante, debemos entender que desarrollar conciencia en robots no es lo mismo
que darles las funciones para realizar acciones contraproducentes. La parte
delicada es de qué forma se va a incluir la ética en la inteligencia artificial.

Tomemos de ejemplo un robot programado para producir a toda costa clips de

papel, esto podría llevarlo a buscar el control del mundo para obtener los recursos
para cumplir su meta, en realidad el robot no es malvado solamente que su sistema
no está programado para funcionar con éticas complejas o simplemente básicas por
lo que lleva al último fin su función.

B. Segundo comentario ético

No se trata de ciencia ficción. Desde hace décadas, son muchos los científicos que
vaticinan una explosión de inteligencia artificial en algún momento del siglo XXI.
Esta inteligencia artificial podría llegar a ser algo único, algo enormemente poderoso
que podría imponerse a la inteligencia humana. ¿Es el momento de establecer
criterios éticos sólidos?

En 1985, Judith Jarvis Johnson puso de manifiesto en la revista The Yale Law
Journal (la publicación de la Facultad de Derecho de Yale) algunas preguntas que
llevaban rondando desde principios del siglo XX en el conocimiento humano. Este
reconocido jurista expuso la complejidad que supondría para una inteligencia
artificial encontrar la solución de un dilema humano complejo. Imaginemos que una
persona conduce un coche sin frenos; ante él se bifurca el camino en dos: en el
camino de la izquierda hay cinco personas, en el de la derecha sólo hay una. ¿Es
lícito matar a una persona para salvar a otras cinco? Vamos con la segunda parte
del dilema: un joven acude a una clínica para un chequeo rutinario; en esa clínica
hay cinco pacientes esperando trasplantes de órganos. Para poder vivir, dos de
ellos necesitan un pulmón, otros dos necesitan sendos riñones y el quinto requiere
un corazón. Curiosamente el joven que ha ido a hacerse el chequeo tiene el mismo
grupo sanguíneo que ellos, lo que le convierte en el donante idóneo. Repetimos la
pregunta: ¿Es lícito matar a una persona para salvar a otras cinco?

Un ser humano tendría que despejar las incógnitas de la ecuación atendiendo

criterios éticos. En cualquiera de los casos, cuantitativamente hablamos de matar a
una persona para salvar a otras cinco. No obstante, casi todo el todo el mundo
estaría de acuerdo en que es preferible atropellar a esa persona para salvar a las
otras cinco. Hay muchos factores puramente humanos que podrían justificar esta
decisión, como la ausencia de contacto físico (no es lo mismo matar a un
desconocido que a alguien que tratamos y conocemos personalmente). Sin
embargo, es difícil que una máquina pueda calibrar este tipo de decisiones, por eso
es tan importante que la inteligencia artificial pueda estar dotada de una ética, o
código de valores, que condicione, a nuestra imagen y semejanza, la esencia de
sus actos.

Siguiendo este razonamiento, hay teóricos que se postulan en creencias

catastrofistas. Es el caso del filósofo Nick Bostrom, que sostiene que una
inteligencia artificial avanzada podría tener la capacidad de provocar la extinción
humana, ya que sus planes pueden no implicar tendencias motivacionales
humanas. No obstante, Bostrom también plantea la situación contraria en la que
una super inteligencia podría ayudarnos a resolver problemas tediosos y constantes
en la humanidad, tales como la pobreza, la enfermedad o la destrucción del planeta.
 C. Tercer comentario ético: Hacia Una ética empresarial
La infinita complejidad de un sistema de valores humanos hace que la inteligencia
artificial no encuentre motivaciones amigables en formas de proceder humanas. No
obstante, es la ética la que sostiene la mayoría de organizaciones. El común
entender y la aceptación de nuestros esquemas culturales, implica el
funcionamiento de complejos recovecos y motivaciones de la psique humana. Al
incorporar la Inteligencia Artificial a los procesos de las organizaciones, es
importante dotar a esta nueva tecnología de valores y principios. Y, dentro de las
organizaciones, son los desarrolladores de esta tecnología las personas que
realmente han de trabajar siendo conscientes de las implicaciones morales y éticas
que conlleva su trabajo.

La problemática planteada se está materializando en la Asociación sobre

Inteligencia Artificial, creada por Elon Musk y Sam Altman, en la que se invita a los
principales líderes tecnológicos para poder identificar dilemas éticos y prejuicios. Su
objetivo primordial es establecer unas reglas de juego, basadas en un marco de
comportamiento moral, donde la Inteligencia Artificial pueda desarrollarse en
representación de la humanidad.

Según un informe realizado por SAS en el año 2017, el 92% de las empresas
considera prioritario capacitar a sus tecnólogos en ética, y el 63% cuenta con
comités en este tipo de asuntos para revisar el buen uso de la inteligencia artificial.
Se trata, pues, de un tema necesario y de solución posible. Por ello, algunas
compañías están comenzando a formar a las personas que a su vez están formando
a las máquinas. Es, al fin y al cabo, una inclusión de la ética en los algoritmos que
rigen la inteligencia artificial. Por ejemplo, la concesión de un préstamo no debe
realizarse atendiendo criterios de sexo, edad o religión. Es importante que el
machine learning se nutra de principios universales de respeto, libertad e igualdad.
La cultura es uno de los vehículos de nuestra supervivencia: es básico que
continuemos formando e informando atendiendo a unos principios básicos.
 D. Cuarto Comentario ético: Roboética a principios para el siglo XXI
Hoy en día, la humanidad está inmersa en una revolución tecnológica sin
precedentes. La preocupación ética por la creación de nuevos tipos de inteligencia
requiere de un exquisito criterio moral de las personas que diseñan estas nuevas
formas de tecnología. El algoritmo ha de ser capaz de discernir y reconocer fallos
cuando se centran en acciones sociales con repercusión que antes realizaba un ser
humano. El concepto es claro: el código no puede dañar a personas o a empresas.

Fruto de esta preocupación, el Parlamento Europeo realizó un informe sobre

robótica en 2017 llamado Código Ético de Conducta y, recientemente (diciembre de
2018), ha publicado el primer borrador de la Guía Ética para el uso responsable de
la Inteligencia Artificial. 52 expertos han escudriñado y exprimido los rincones de la
problemática, centrándose en el ser humano siempre bajo la luz de la defensa de
los derechos fundamentales.

Son estándares morales dirigidos a humanos, a los creadores de tecnología. Los

principios son los siguientes:

 Se debe asegurar que la IA está centrada en el ser humano.

 Se debe prestar atención a los grupos vulnerables, como los menores de
edad o las personas con discapacidades.
 Debe respetar los derechos fundamentales y la regulación aplicable.
 Debe ser técnicamente robusta y fiable.
 Debe funcionar con transparencia.
 No debe restringir la libertad humana.

Las grandes organizaciones, empresas y gobiernos están centrándose en los

problemas que pueden surgir en el tema de la ética de la inteligencia artificial para
trazar consideraciones, prácticas y marcos comunes de cara al futuro. Es importante
alcanzar un acuerdo donde se pueda conceptualizar y, sobre todo, regular las
prácticas derivadas. Al fin y al cabo, la tecnología es un paso más de nuestra
evolución… Y su código de ceros y unos debe ser un reflejo de nuestros genes.
 E. Quinto comentario ético: Inteligencia Artificial vacía de memoria y de
ética
Los Gobiernos, que hasta ahora han sido reactivos, deben ser proactivos y regular
todo esto mucho más rápido", asegura un experto.

Una barrera adicional está también en la capacidad de aprendizaje de la IA y en el

olvido catastrófico que sufre. Como dice López de Mántaras, “sistemas como
DeepMind tienen un aprendizaje que no es incremental ni relaciona un conocimiento
nuevo con los que tenía antes. Si le enseñas a jugar al ajedrez, lo hace. Pero si lo
reprogramas para hacer otra tarea, se olvida de jugar. De momento, no sabemos
cómo lograr que una máquina aprenda más a lo largo de toda su vida, como hace
una persona”.

Dorronsoro subraya también los dilemas éticos que la inteligencia artificial tiene que
resolver antes de poder dar el salto hacia la superinteligencia. El primero, asegura,
llegará con los vehículos autónomos. “Tendrán que reaccionar ante los imprevistos
y, por lo tanto, tendrán que tomar decisiones que tienen una vertiente ética. Porque
no habrá tiempo para que el coche envíe un mensaje con el dilema que se plantea
a un centro de control en el que seres humanos decidan qué hacer. ¿Atropello a la
señora o tiro el coche por el barranco?”.

A López de Mántaras le preocupan las armas autónomas. De hecho, fue uno de los
primeros firmantes de una petición para prohibirlas. No solo los drones de los
ejércitos, también los diferentes robocops que se están desarrollando. “Distinguir
entre una persona que lleva un arma encima pero que tiene actitud de rendirse y
otra que amenaza con ella es muy difícil. Lo mismo que determinar si un herido
armado está en el suelo pidiendo ayuda y no en actitud agresiva. Hay muchos
ejemplos de que la inteligencia artificial en armas autónomas no es fiable y no se
debe usar”. Por si fuese poco, López de Mántaras esgrime un argumento moral: “Es
indigno delegar en una máquina la decisión de matar”.

La programación de esos sistemas puede sentar algunos precedentes importantes.

“No vamos a dotar de juicio a las máquinas, pero sí dotaremos de ética a los
algoritmos, que no dejan de ser recetas mecánicas. Y luego habrá que ver cómo se
gestionan jurídicamente sus consecuencias”, apunta Dorronsoro. Solo cuando se
haya dado respuesta a estos interrogantes se podrá concebir un nuevo paso hacia
lo que ahora es ciencia ficción: dotar a las máquinas de sentimientos. “No podemos
decir que nunca sucederá. Pero eso haría a la humanidad completamente obsoleta,
porque serían capaces de hacerlo todo: desde la investigación científica hasta el
arte. Sería el poshumanismo”, apostilla López de Mántaras.

1. La guerra comercial por la IA

Además, Subirana señala otra barrera derivada de la estructura que ha creado el
sistema capitalista: “En el caso de que se llegase a la superinteligencia, no habría
una sola: habría varias lideradas por diferentes empresas y se podrían llegar a dar
luchas entre algoritmos para ver quién gana”. El científico del MIT saca su iPhone
para una demostración sencilla: le pide a Siri que ponga una canción en Spotify y el
sistema de IA se niega porque Apple bloquea este servicio; le dice ‘Ok, Google’, y
Siri se ríe de él. Literalmente.

Al fin y al cabo, los algoritmos responden a intereses comerciales que crean muros
para separar unos de otros. El interés público es lo de menos cuando las
inteligencias artificiales tienen logotipo. “Debería iniciarse un diálogo social
transparente y más activo para debatir sobre su funcionamiento. Y los Gobiernos,
que hasta ahora han sido reactivos, deben ser proactivos y regular todo esto mucho
más rápido”. Todos los entrevistados para este reportaje coinciden en la necesidad
de regular la inteligencia artificial para poner coto a los desmanes de las grandes
corporaciones antes de que sea demasiado tarde.

Independientemente de que se termine alcanzando la singularidad tecnológica o no,

ninguno de ellos duda de que la inteligencia artificial vaya a tener un profundo efecto
en la sociedad. Y afirman que estamos todavía en la infancia de esta tecnología y
no tenemos claro qué buscamos. Deberíamos centrarnos en utilizarla "para resolver
los problemas sociales existentes y no solo para el beneficio económico”, advierte
Yang Xueshan, profesor de la Peking University y exviceministro de Industria y
Tecnologías de la Información de China.

2. Peligrosa concentración de poder

“Tenemos que desarrollar la IA de forma que sirva a nuestros intereses y se
preocupe de nosotros”, apunta Abbeel. El problema está en que, en un mundo
polarizado, ese nosotros no engloba a toda la humanidad sino a pequeños grupos
de poder. Así, Dorronsoro señala la amenaza que supone la concentración de poder
en un pequeño número de gigantes tecnológicos “como Google, Facebook, o
Netflix”. Chen y Wu destacan la disrupción que la suma de inteligencia artificial y
robótica va a provocar en el mercado laboral. Y López de Mántaras añade que
puede ahondar en la creciente desigualdad económica “propiciada por un
neoliberalismo que ha destrozado la clase media”.

Subirana, por otro lado, muestra su preocupación por el peligro creciente que
suponen los piratas informáticos en un mundo hiperconectado y regido por
algoritmos manipulables. “Pueden explotar las vulnerabilidades de los sistemas con
consecuencias mucho más graves, porque no existe la protección al 100%”, analiza.
“¿Qué pasaría si, por ejemplo, se ponen en marcha de forma simultánea un millón
de microondas y se producen miles de incendios en los que mueren cientos de
personas?”, se pregunta.

Además, en opinión de Brian Subirana, el rastro de datos que dejamos —

biométricos, de GPS, email, compras online— en poder de las multinacionales
también se puede utilizar para explotar las debilidades de los individuos, de los que
se puede saber casi todo. “Por ejemplo, se le pueden ofrecer bebidas a quien sufre
de alcoholismo cuando el algoritmo determina su momento más vulnerable. Y
Amazon ya está haciendo perfiles de los clientes escuchando todo lo que sucede
en sus casas”, señala el científico del MIT.

3. La fuerza de la empatía humana

A pesar de que la mayoría de los escenarios parecen apocalípticos, todos los
científicos entrevistados subrayan que no son pesimistas en cuanto al futuro. Al
contrario, consideran que la IA será un poderoso motor de desarrollo. “El buen
camino es el de los cobots, sistemas de IA que nos permitirán hacer mejor nuestro
trabajo”, sentencia López de Mántaras.

El investigador del CSIC vuelve al terreno médico para poner un ejemplo. “Los
sistemas de diagnóstico mejoran sustancialmente la eficiencia de los médicos. Pero
el médico es insustituible porque la máquina carece de empatía. El contacto humano
de quien te pone la mano en el hombro y te dice que te va a curar no lo puede
reproducir, aún, un robot. Y tiene un efecto placebo brutal. De momento, todo lo que
requiera socializar está fuera del alcance de las máquinas”.

Yitu es una de las empresas que desarrollan algoritmos de IA y sistemas de

reconocimiento de imagen para diagnósticos médicos, pero Wu también les augura
un buen porvenir a los doctores. “Se les da una herramienta muy poderosa para
hacer mejor su trabajo”. Destaca la mejora que suponen en el mundo en vías de
desarrollo, donde la demanda de servicios sanitarios crece más rápido que la
capacidad para formar nuevos doctores. “En radiología tampoco hay suficientes
profesionales, así que nuestros sistemas —capaces de hacer un diagnóstico a partir
de pruebas visuales como escáneres o resonancias magnéticas— suplen esa
carencia porque permiten a los especialistas existentes hacer más rápido su labor:
pueden examinar 50 escáneres al día en vez de 10”.

Chen Haibo también es optimista. “Puede que los chips lleguen a sobrepasar la
imaginación humana, pero debemos trabajar para que el futuro no sea mutuamente
excluyente. Tenemos que centrar nuestros esfuerzos en aprender a convivir con
máquinas que pueden superarnos en diferentes habilidades”, señala el fundador de
Yitu. “No hay que tener miedo, porque ya lo hemos hecho antes. Pasamos de una
era en la que casi toda la humanidad trabajaba en el campo a otra en la que se
empleaba en las fábricas. Y de ahí, a una sociedad de servicios”, añade.

4. La resistencia
López de Mántaras prefiere mirar a Suecia, donde se experimentó con una
reducción de la jornada laboral a 30 horas semanales, para apuntalar su
tranquilidad. “La automatización lleva mucho tiempo destruyendo empleo. No hay
más que pensar en los cajeros automáticos. Aun así, las sociedades más
automatizadas no son las que más paro tienen”. Eso sí, el científico también señala
que todo dependerá del modelo de IA que predomine. “Europa debe ser la
resistencia”.

Científicos de la talla de Stephen Hawking y empresarios como Elon Musk han

advertido de que un modelo equivocado podría representar la mayor amenaza para
la humanidad. Aunque Hawking reconoció que la IA más rudimentaria, la que existe
en la actualidad, es muy práctica, señaló que desarrollarla más allá podría
desembocar en la singularidad tecnológica. “Podría terminar rediseñándose a sí
misma. Los humanos, incapaces de desarrollarse biológicamente a la misma
velocidad, serían sustituidos”. Sin embargo, todos los entrevistados para este
reportaje confían en que no se alcance ese punto. Dorronsoro incluso dice entre
risas que esa posibilidad le importa lo mismo que la superpoblación de Marte:
“¿Puede suceder? Pues sí, pero no es una preocupación inmediata”.

F. Sexto comentario ético: ¿Quién dicta la ética en la inteligencia

artificial?
Las máquinas cada vez tienen más autonomía para tomar decisiones y esto plantea
nuevos retos éticos y jurídicos. La Comisión Europea trabaja en un documento de
principios sobre inteligencia artificial. ¿Es suficiente la autorregulación ética o hay
que establecer normas de obligado cumplimiento? Hemos puesto a dos expertos a
debatir sobre esta cuestión.

La inteligencia artificial (IA) está cada vez más presente en nuestras vidas. Muchos
de los mensajes o anuncios que nos llegan a través del email, de las redes sociales
o del whatsapp no son enviados por personas sino por algoritmos. Si hacemos un
solicitud para acceder a un puesto de trabajo, ingresar en una universidad o tener
mesa en un restaurante es posible que no sea un ser humano el que gestione
nuestra petición sino un algoritmo. Y esto es solo el principio: en un futuro muy
cercano veremos coches autónomos, robots que hacen nuestro trabajo y toda una
serie de avances basados en la IA.
¿Cuáles son los principales problemas que todo ello plantea desde el punto de vista
ético? “El aspecto fundamental tiene que ver con evitar que la robótica y la
inteligencia artificial acaben siendo una vía para hacer a las personas menos
humanas y más pasivas, con una autonomía reducida, con una dependencia
creciente y una pérdida de la capacidad de iniciativa con una eventual situación de
subordinación irreversible que pueda expropiar nuestra libertad y la humanidad
misma”. Así se expresa Moisés Barrio, letrado del Consejo de Estado, profesor de
Derecho de Internet y experto en ciberderecho.

A este respecto, Richard Benjamins, embajador de IA y Big Data de Telefónica,

distingue entre decisiones poco relevantes y aquellas que tienen un impacto en la
vida de las personas. “No es lo mismo que Spotify te recomiende una canción que
hacer un diagnóstico a un paciente”. En este sentido, Benjamins cree que en las
decisiones que tienen impacto en la vida de las personas la última palabra debe ser
la de un ser humano. “La máquina puede dar muchas sugerencias y en muchos
casos serán acertadas porque la IA aplicada a ámbitos muy concretos tiene un
rendimiento altísimo, pero la responsabilidad de tomar la decisión debe ser de la
persona”.

Desde 2016, grandes compañías como Google, Facebook, Deutsche Telekom y

Orange han elaborado códigos éticos relativos a la IA y al Big Data. En esta línea,
Telefónica ha elaborado un documento de principios donde establece que la IA debe
ser justa, transparente y explicable; tener como prioridad a las personas, así como
garantizar la privacidad y la seguridad desde el diseño.

“La IA y el Big Data son tecnologías transversales, transformadoras y tienen un

impacto positivo en muchas áreas distintas. Traen muchas oportunidades pero
también entrañan riesgos y ante eso conviene recordar cuáles son nuestros valores
y normas al respecto”, afirma Benjamins, quien señala que "estos principios van
dirigidos a toda la compañía, como medida de sensibilización, pero sobre todo están
enfocados a los desarrolladores, los gestores de producto, que deciden si se lanzan
al mercado o no, y también al departamento de compras, porque adquirimos
muchos productos a terceros".
De los “efectos secundarios no deseables” que podrían acarrear estas teconologías,
el directivo de Telefónica destaca dos: la discriminación en el tratamiento de datos
y la falta de transparencia: “Si las decisiones de los algoritmos impactan en la vida
de las personas es muy importante que puedan explicar por qué las toman. Si yo
solicito plaza en un colegio para mi hijo y la decisión de admitirlo depende de un
algoritmo, como padre, pediré que me expliquen esa decisión”.

1. ¿Es suficiente la autorregulación?

El letrado del Consejo de Estado y experto en ciberderecho valora “la actitud
proactiva” que están adoptando las compañías tecnológicas pero advierte del riesgo
que supone dejar en manos de estas empresas de manera exclusiva el desarrollo
ético y jurídico de la IA. Por eso está convencido de que deberían promulgarse
normas internacionales, bajo el liderazgo de la ONU, o en su defecto, al nivel de las
instituciones de la Unión Europea.

M. Barrio: "Es necesario crear una rama jurídica nueva: el Derecho de los Robots y
de la Inteligencia Artificial"

De hecho, la Comisión Europea hace tiempo que se ha puesto manos a la obra y

está a punto de aprobar la versión definitiva de un documento sobre los principios
éticos que deben regir cualquier desarrollo de IA. Para elaborar este trabajo, el
Ejecutivo comunitario ha seleccionado a 52 expertos independientes procedentes
del ámbito académico, el empresarial y la sociedad civil. El pasado diciembre vio la
luz un primer borrador que enumera cinco principios éticos que deben guiar la IA:
contribuir al bien común, no causar daño, respetar la autonomía del ser humano, y
cumplir los criterios de justicia y transparencia.

“Lo que ha elaborado la Comisión Europea es una guía y no tiene ninguna intención
de transformarla en una norma. Son simplemente recomendaciones que las
organizaciones deben tener en cuenta cuando utilizan estas tecnologías”, matiza el
embajador de IA y Big Data de Telefónica.

Benjamins cree que aún no es posible pasar de la ética a las leyes en relación con
tecnologías tan disruptuivas: “Cómo funcionan los algoritmos, cómo toman las
decisiones, la transparencia, el sesgo, la discriminación.... todo eso es muy nuevo
todavía; es muy pronto para fijar normas porque nadie sabe qué es exactamente lo
que hay que regular”.

Por este motivo, el directivo de Telefónica se muestra partidario de seguir por el

camino de la autorregulación ética: “Lo que hace la CE con sus recomendaciones y
lo que hacemos nosotros con los principios es propiciar una serie de cuestiones que
hay que tener en cuenta como desarrollador, como comprador o como gestor de
producto. Esto tiene que llevar a que cada persona asuma una responsabilidad”.

Pero, a juicio de Barrio, estas iniciativas son insuficientes y hay que pasar de la ética
a la ley: “Las normas éticas sólo vinculan en el foro interno y su incumplimiento
supone pecado, y quizás condena eterna, pero nada más. Son las normas jurídicas
las que llevan aparejadas, en caso de incumplimiento, sanciones, multas e incluso
penas de prisión”. Por ello, este letrado defiende la necesidad de crear una rama
jurídica nueva: el Derecho de los Robots y de la Inteligencia Artificial, como en su
momento se hizo con el Derecho del Trabajo o el Derecho del Medio Ambiente.

Barrio reconoce la dificultad de legislar sobre aspectos tan complejos y novedosos,

pero piensa que se puede conseguir si se constituyen equipos interdisciplinares que
integren a científicos, investigadores, sociólogos, filósofos y juristas.
 G. Séptimo comentario ético: El rápido avance de la Inteligencia Artificial
hace necesario un código legal y ético
A lo largo de la historia de la tecnología, uno de los debates más comunes se centra
en el peligro que las máquinas pueden suponer para la humanidad. Aunque esta
idea se asocia con un futuro muy lejano, científicos y empresarios están empezando
a recalcar la necesidad de determinar las responsabilidades morales, legales y
éticas que se derivan del uso de los robots.

Ryan Calo, catedrático de Derecho en la Universidad de Washington, explica que la

gente suele hablar de los robots como si fueran una tecnología del futuro, cuando
lo cierto es que conviven con el ser humano desde hace algunas décadas. En un
artículo titulado Los robots en la legislación de EEUU, Calo estudió nueve casos
penales relacionados con robots ocurridos en las últimas seis décadas. El profesor
descubrió que gran parte de las sentencias se basaban en una visión pobre y
obsoleta de la tecnología, ya que los jueces ven a los robots como simples
herramientas programables o máquinas sin criterio. Pero ésta es una idea
anticuada, si se tienen en cuenta las tendencias de la robótica, en la que se investiga
el 'comportamiento emergente', por el que los robots son entrenados para responder
a situaciones en tiempo real, sin necesidad de haber sido programados con
anterioridad.

Sin embargo, trazar una línea divisoria clara entre humanos y robots es algo
complicado, sobre todo en un sector que evoluciona rápidamente. Las últimas
tecnologías están difuminando los límites entre persona e instrumento, confiriendo
un estado en el que los robots se considerarían agentes directos de sus acciones.
Por tanto, si bien los robots no podrían ser acusados de tener la intención de
cometer un crimen, sí que son 'responsables' de sus acciones en el sentido legal
del término.
Las dudas acerca de las responsabilidades de los robots se acrecientan por la
relación directa entre las máquinas y las personas. Henny

Admoni, profesor en el Instituto de Robótica de la Universidad Carnegie Mellon,

afirma que antes los robots no tenían una participación tan directa en la vida de los
humanos, ya que solían funcionar en entornos industriales. Pero esta tendencia está
cambiando gracias a la llegada de los asistentes virtuales, drones y robots
domésticos. "En el sentido moral y legal, los robots son máquinas que han sido
programadas y diseñadas por humanos. La noción de ética se ha incorporado
recientemente al debate, debido a la independencia con la que empiezan a trabajar
los robots", añade Admoni.

David Hanson, fundador de Hanson Robotics, con sede en Hong-Kong, explica que
los sistemas de inteligencia artificial pueden entender la comunicación verbal. Sin
embargo, todavía necesitan aprender la comunicación no-verbal como los gestos
faciales o corporales y comprender el comportamiento humano o las distintas
culturas y valores. Hanson cree que este objetivo podría alcanzarse si los robots
conviven con humanos y aprenden nuevos conceptos por exposición, a través de
algoritmos de inteligencia inspirados en la biología. Así, los robots serían capaces
de entender las consecuencias de sus acciones y "desarrollar pensamientos
morales", concluye Hanson.

Po otra parte, a la hora de imponer responsabilidades a los robots, es importante

distinguir entre consciencia y cognición. Así lo cree Murray Shanahan, investigador
en Google DeepMind y añade: "considero que no es el momento para hablar sobre
los derechos de los robots aunque coincido con los que creen que, algún día, los
robots tendrán una conciencia".

A pesar de que son pocos los políticos que han mostrado interés por este debate,
ya se han empezado a plantear algunas medidas legales. Este año, miembros del
Parlamento Europeo aprobaron una resolución en la que pedían a la Comisión
Europea que estableciera una comisión de expertos en robótica e inteligencia
artificial para poder ampliar las leyes europeas en este campo. Esta resolución se
centraba, especialmente, en temas relacionados con la seguridad y privacidad;
incluso, se consideraba la posibilidad de reconocer cierta "personalidad electrónica"
a los robots.

Respecto a las compañías, algunos empresarios han expresado su interés por

profundizar en este tema. Uno de ellos es Elon Musk, fundador de Tesla, que
respaldó una petición para prohibir el desarrollo de sistemas de armamento
autónomos letales. Musk ha señalado que se necesita una regulación más amplia
en el sector de la robótica: "nadie quiere ser controlado, pero aquello que pueda
suponer un peligro para la población, como la inteligencia artificial, debe estar bajo
una regulación".
 CONCLUSIÓN

Es verdad es que la tecnología y sobre todo la rama de Inteligencia Artificial

avanza a pasos agigantados.

Y, si me lo preguntas, yo Darío Esquina no soy partidario de un futuro fatalista

como el que pintan las películas de ciencia-ficción donde el humano queda
rezagado a causa de la IA, pero sí estoy muy consciente que el reto estará en
encontrar cómo el ser humano puede aliarse con la inteligencia artificial para liberar
todo su potencial estratégico y creativo. Y, haciendo esto, permitiremos que la IA
encargarse de todas esas tareas donde, sin duda, puede llegar a ser mejor que el
humano. El avance en la investigación de las redes neuronales va ganando terreno
a una velocidad espectacular. Se espera que en poco tiempo, imitando el
funcionamiento de nuestro cerebro, las computadoras ya no tendrán un gran
procesador, sino miles (y más adelante millones) de pequeños procesadores
totalmente interconectados entre sí.

Ya se trabaja en las redes neuronales, que intentan ser la copia electrónica

del funcionamiento de un cerebro. Actualmente usamos redes pequeñas, pues
cuando éstas son muy complejas, se pierde el control y ya no sabemos exactamente
qué está ocurriendo ahí dentro. Las redes neuronales están conectadas entre sí de
manera que la información no se almacena en un solo lugar, sino que está repartida,
y cada neurona puede activar o inhibir el funcionamiento de las otras. Esto quiere
decir que si la computadora recibe un golpe que destruya una parte de la red, ésta
puede seguir funcionando. Pero lo que se busca es reproducir la capacidad de
aprender. Los niños de hoy viven en un mundo que, por lo menos en parte, la
ciencia ficción imaginó hace 50 años. Se han hecho cuantiosas predicciones de lo
que la aplicación de las técnicas de IA traería en el futuro; algunas podrían ser
realidad en poco tiempo y otras parecen francamente especulativas.
 INFOGRAFÍA

1. [Link]
2. [Link]
[Link]/?utm_source=inread&utm_medium=icon&utm_campaign=
adchoices
3. [Link]
tm
4. [Link]
donde-nos-lleva
5. [Link]
[Link]
6. [Link]
tendencias-18/
7. [Link]
8. [Link]
nos-lleva/
9. [Link]
[Link]