Mi Reflexión: IA, Seguridad y el Futuro que Puedo Imaginar
En este trabajo, me propongo explorar cómo las herramientas de
Inteligencia Artificial (IA), a pesar de su promesa de eficiencia en
campos como la seguridad, encierran complejidades y sesgos que es
crucial reconocer. Basándome en los textos que él estudió,
desentrañaré las implicaciones de estas innovaciones y me atreveré a
imaginar futuros distintos.
1. El Reconocimiento Facial: Un Reflejo de Mis Propios
Prejuicios Sociales
Elegí analizar el Sistema de Reconocimiento Facial (SRF) que
utiliza la Policía de la Provincia de Córdoba, una tecnología que, a
primera vista, promete ser una solución imparcial para identificar
personas. Sin embargo, al aplicar la perspectiva de Matteo Pasquinelli
y Vladan Joler en "El Nooscopio de manifiesto: La inteligencia artificial
como instrumento de extractivismo del conocimiento" (sf), se llegó a
comprender cómo este sistema, en realidad, puede amplificar sesgos
y prejuicios que ya existen en nuestra sociedad, afectando
directamente la vida de las personas.
El primer sesgo que reconozco es el "sesgo histórico del mundo"
(Pasquinelli y Joler, sf). Esto significa que el SRF no es una tecnología
que emerge de un vacío, sino que ha sido concebida y desarrollada en
un contexto global dominado por ciertas potencias y grandes
corporaciones. Cuando veo en mi trabajo como oficial de la Policía de
Córdoba, implementar esta herramienta, entiendo que no es solo una
simple adquisición de software; es la incorporación de una visión de la
seguridad forjada en realidades ajenas, que quizás no encaje
perfectamente con las complejidades sociales de nuestra provincia.
Percibo un tipo de extractivismo: mi propia información biométrica, mi
identidad, se convierte en un "recurso" valioso para el control. Es
preocupante cómo el conocimiento, que debería ser un bien colectivo,
se transforma en una mercancía y una herramienta de poder
(Pasquinelli y Joler, sf).
Luego, el "sesgo de los datos de entrenamiento" me resulta el
más impactante por sus implicaciones humanas (Pasquinelli y Joler,
sf). El SRF "aprende" a reconocer rostros a partir de vastas bases de
datos. Si estas bases reflejan las desigualdades históricas –por
ejemplo, si los registros policiales contienen una sobrerrepresentación
de ciertos grupos sociales–, el algoritmo, sin intención, internalizará y
amplificará esos patrones. Como señala "El Nooscopio", la "daticación
de la sociedad" (Pasquinelli y Joler, sf) no es neutral. Sé que los
estudios han demostrado que estos sistemas tienen más errores con
mujeres o personas de piel oscura. Esto me hace pensar que una
persona inocente de un grupo subrepresentado podría tener más
riesgos de ser identificada erróneamente como "sospechosa", o que
un delincuente de un grupo "no modelo" podría pasar desapercibido.
Entendiendo que la IA, lejos de ser justa, automatiza y escala las
injusticias humanas, generando desconfianza y afectado a
comunidades ya vulnerables.
Finalmente, el "sesgo algorítmico" (Pasquinelli y Joler, sf) me obliga
a recordar que el SRF no "piensa" como un humano; es un "no
automatapensante" que simplemente compara patrones estadísticos.
No hay una comprensión real de la persona detrás del rostro. Cuando
el SRF "coincide" con una imagen, esa "verdad" es puramente
estadística. Me preocupa que, si el sistema es propenso a errores
debido a los sesgos anteriores, esa "verdad estadística" pueda
traducirse en una condena social o legal injusta para un individuo
real. La reducción de la complejidad humana a meros patrones, sin
considerar el contexto o la intención, puede llevar a decisiones
deshumanizadas y tener consecuencias devastadoras para la libertad
y la dignidad.
En definitiva, mi análisis me lleva a la conclusión de que el Sistema
de Reconocimiento Facial no es solo una herramienta técnica; es un
espejo que refleja nuestras desigualdades y un amplificador de
prejuicios. Creo firmemente que para construir una sociedad más
justa, debo ser crítico con estas tecnologías y comprender su impacto
humano más allá de su supuesta eficiencia.
2. Mi Visión del Futuro: IA, Seguridad y el Lugar del
Capitalismo
Al reflexionar sobre el futuro de la Inteligencia Artificial en la
seguridad, me inspiro en el "Manifiesto por una Política
Aceleracionista" de Alex Williams y Nick Srnicek (sf). No busco
imaginar un futuro distópico de control, sino cómo podríamos liberar
el potencial de la IA de las limitaciones del capitalismo para construir
una sociedad verdaderamente liberada.
En el presente, mi percepción es que la IA en la seguridad es, para el
aceleracionismo, una extensión del control capitalista. Sistemas como
el reconocimiento facial profundizan la vigilancia y la disciplina social,
manteniendo el statu quo en lugar de abordar las raíces de la
inseguridad (Williams y Srnicek, sf, punto 1). Siento que esta
aplicación de la IA automatiza la exclusión y desvía nuestra atención
de los problemas estructurales, concentrando, además, el poder en
grandes corporaciones tecnológicas (Williams y Srnicek, sf, punto 6).
Me parece que estamos utilizando la IA no para la emancipación, sino
para la eficiencia dentro de un sistema que, para los aceleracionistas,
ya agotó sus posibilidades de progreso.
Sin embargo, el Manifiesto es profundamente tecnófilo y me invita a
una visión de reapropiación radical. En un futuro postcapitalista, las
tecnologías de IA en seguridad no serán eliminadas, sino
reorientadas hacia fines emancipatorios . Imagino la IA
transformándose en una "infraestructura habilitada" (Williams y
Srnicek, sf, punto 16) que no busque castigar, sino prevenir la
inseguridad al garantizar el bienestar colectivo. Pienso en una IA que
gestione de manera óptima la distribución de recursos, abordando las
causas profundas del malestar social. En esta visión, la "seguridad"
no sería la ausencia de crimen vigilada, sino el resultado de una
sociedad que satisface equitativamente las necesidades de todos.
En este futuro que concibo, el capitalismo, tal como lo conocemos, no
debería ocupar ningún lugar . Para mí, es el sistema que frena el
verdadero potencial liberador de la tecnología. Considero que la IA,
despojada de las lógicas de ganancia y control, podría "liberar las
fuerzas productivas" para generar una "abundancia material"
(Williams y Srnicek, sf, punto 6) sin precedentes. Esto implicaría la
automatización de tareas tediosas –incluidas las de "seguridad"– no
para generar desempleo, sino para liberar tiempo humano para la
creatividad, el ocio y una participación democrática radical. Las
decisiones sobre la IA, sus algoritmos y sus usos serán transparentes
y bajo control colectivo (Williams y Srnicek, sf, punto 14), no de élites
o corporaciones. En última instancia, la IA sería, en mi visión, la
herramienta para desmercantilizar la vida, garantizando bienes
fundamentales para todos y eliminando las bases materiales de la
desigualdad que el capitalismo perpetúa. La seguridad, en este
horizonte, sería una consecuencia natural de la justicia social y la
abundancia, no de la represión.
Referencias bibliográficas
Pasquinelli, M. y Joler, V. (sf). El Nooscopio de manifiesto: La
inteligencia artificial como instrumento de extractivismo del
conocimiento . [Texto proporcionado en imágenes].
Williams, A. y Srnicek, N. (sf). Manifiesto por una Política
Aceleracionista . [Texto proporcionado en imágenes].