- La IA es una herramienta inspiradora que permite vivir nuevas experiencias,
oportunidades y logros. Por ejemplo, la IA se utiliza
para ayudar a los automóviles autoconducidos a detectar peatones en una carretera
muy transitada y predecir la presencia y gravedad de una enfermedad. Sin embargo,
el hecho de que la IA sea
beneficiosa no es un hecho. Como usuario consciente de los sesgos potenciales de la
IA
y sus limitaciones, puedes ayudar a garantizar resultados responsables en lugar de
perjudiciales. Los modelos de IA se entrenan
con datos creados por humanos, por lo que se componen de valores
y están sujetos a sesgos. A veces también pueden
producir resultados inexactos. Dado que un modelo de IA
se entrena con un conjunto de datos para reconocer patrones y realizar tareas, el
modelo es tan bueno
como los datos que recibe. El resultado de la IA
puede verse afectado tanto por el sesgo sistémico como por el sesgo de los datos.
Exploremos ahora cada uno de ellos. En primer lugar, el sesgo sistémico es una
tendencia mantenida por las instituciones que favorece o perjudica
determinados resultados o grupos. El sesgo sistémico existe
dentro de los sistemas sociales como sanidad, derecho
educación, política, etc. Aunque las personas que diseñan y entrenan un modelo de
IA piensan
que están utilizando datos de alta calidad, los datos ya pueden estar sesgados
porque los seres humanos están influenciados
por sesgos sistémicos. El sesgo de los datos es una circunstancia
en la que los errores o perjuicios sistémicos conducen a información
injusta o inexacta, dando lugar a resultados sesgados. Tal vez estés desarrollando
una presentación de trabajo, le pides a un generador de imágenes de IA
que cree una foto de un director general. Todas las imágenes generadas
parecen ser hombres blancos. Basándonos en este resultado, se podría suponer que
todos los directores generales son hombres blancos. Obviamente, estos datos están
sesgados. Aun así, cuanto más se entrena un modelo de IA con imágenes de hombres
blancos como directores generales, más probable es que estos modelos generen
resultados igualmente sesgados. Por lo tanto, cuanto más representativos sean los
datos de una mayor variedad de personas, más integrador será el resultado de la
generación de imágenes. Al igual que los modelos de IA reflejan los sesgos de los
datos utilizados para entrenarlos, también reflejan los valores
de las personas que los diseñan. En otras palabras, los modelos de IA están
cargados de valores. Por ejemplo, puede que un ingeniero de IA quiera ayudar a
crear formas más sustentables
de generar energía. El ingeniero podría utilizar la IA para construir una
herramienta que permite a los proveedores de energía aumentar su uso
de recursos renovables. En este caso, la herramienta de IA
se creó a partir de la idea de que la sociedad puede y debe
aprovechar al máximo la energía solar y las fuentes de energía eólica, que es un
reflejo de
los valores del ingeniero. Este enfoque significa que la herramienta de IA no es
intrínsecamente neutral desde el punto de vista de los valores. Otras personas
pueden tener valores diferentes sobre la generación de energía
que no se reflejan en esta herramienta de IA concreta. Como la mayoría de los
aspectos de la tecnología emergente, la IA no es un sistema perfecto. En la
actualidad, ofrece tanto
oportunidades y retos, por lo que su uso responsable
requiere un pensamiento crítico y la comprensión de
cómo los datos pueden estar sesgados.