INICIATIVA CON PROYECTO DE DECRETO POR EL QUE SE REFORMA EL PARRAFO SEGUNDO DEL
ARTICULO 16 DE LA CONSTITUCIÓN POLÍTICA DE LOS ESTADOS UNIDOS MEXICANOS EN MATERIA
DE SEGURIDAD SOCIAL EN GENERAL.
Las que suscribe diputadas federales Valeria Michelle Vilchis Moreno, Daniela Yetzemany
Velázquez Trejo, Sharon Pavía Cortázar, Virginia Valentina Pedroza de la Luz, Alejandra Caldera
Sánchez y Vania Espino Almaraz integrantes del Grupo Parlamentario del Partido Progreso
Mexicano (PROGREMEX) en La LXV Legislatura del honorable Congreso de la Unión, y con
fundamento en lo dispuesto en los artículos 71, fracción II, y 72 de la Constitución Política de los
Estados Unidos Mexicanos y 6, numeral 1, fracción I, 77 y 78 del Reglamento de la Cámara de
Diputados, somete a consideración de esta honorable asamblea la presente
INICIATIVA CON PROYECTO DE DECRETO POR EL QUE SE REFORMA EL PÁRRAFO SEGUNDO DEL
ARTÍCULO 16 DE LA CONSTITUCIÓN POLÍTICA DE LOS ESTADOS UNIDOS MEXICANOS EN MATERIA
DE SEGURIDAD SOCIAL EN GENERAL.
EXPOSICIÓN DE MOTIVOS
El crecimiento acelerado de la tecnología ha traído avances significativos como lo que hoy
conocemos como Inteligencia Artificial (IA), la cual se ha convertido en herramienta revolucionaria
en el análisis y procesamiento de datos personales, muchos de nosotros no nos estamos dando
cuenta de grandes riesgos importantes para la privacidad, seguridad y equidad de las personas. Es
esencial establecer un marco normativo que garantice el uso ético y seguro de los datos personales
en sistemas de lA, previniendo discriminación, sesgos y usos indebidos.
Una de las principales preocupaciones al hablar de IA y protección de datos es que se trata de una
tecnología relativamente joven y aún no completamente regulada. Esto significa que no se alcanza
a vislumbrar todo su potencial ni sus riesgos.
Alejandro Flores, del equipo jurídico de Grupo Atico34, destaca que “la gran mayoría de
inteligencias artificiales que se usan en la actualidad son inteligencias artificiales generativas, las
cuales se encargan de crear contenido de forma automatizada en base a contenido ya existente”.
Un ejemplo de esto es Meta, que utiliza IA en Facebook e Instagram para generar contenido a
partir de lo que los usuarios ya han creado.
El problema radica en los datos que alimentan estos sistemas de IA, ya que pueden contener
información incorrecta, sesgada o ser utilizados para recabar datos personales con fines de
mercadotecnia u otros. Un caso reciente es el de Worldcoin, un proyecto que escaneaba el iris de
las personas a cambio de criptomonedas, actividad que fue paralizada en España por la Agencia
Española de Protección de Datos (AEPD).
Según Atico34, “el principal problema es que la tecnología está avanzando más rápido que la
legislación, y por tanto no queda muy claro hasta dónde llegan las obligaciones de los operadores
de IA ni los derechos de los usuarios”.
Recomendaciones ante el limbo legal
Mientras se define un marco legal más claro, es recomendable aplicar la Ley Orgánica de
Protección de Datos y Garantía de los Derechos Digitales (LOPDGDD), que es la transposición
española del Reglamento General de Protección de Datos europeo (RGPD). Esta legislación vigente
obliga al responsable del tratamiento (la persona física o jurídica que utiliza la IA) a informar sobre
su identidad, actividades de tratamiento, finalidad del tratamiento, cesión de datos a terceros y
plazos de conservación de datos.
Además, debe informar sobre los derechos del usuario (acceso, rectificación, supresión, limitación
del tratamiento, portabilidad u oposición) y obtener siempre el consentimiento expreso e
inequívoco del individuo para el uso de sus datos.
La ley que se avecina
La próxima Ley europea de Inteligencia Artificial busca resolver preguntas clave sobre la
recopilación y uso de datos personales por parte de la IA, así como la responsabilidad sobre el
contenido generado por estas tecnologías. La nueva normativa, que está en las últimas fases de
tramitación, se centrará en:
• Transparencia de los contenidos creados mediante IA y defensa de los derechos de autor.
• Prohibición de sistemas de categorización biométrica.
• Prohibición del uso de la IA para engañar o manipular a los individuos o explotar sus
vulnerabilidades.
• Protección frente a las ultrafalsificaciones generadas por IA.
Aunque es pronto para conocer todos los detalles y límites de la nueva ley, es evidente que esta
normativa buscará equilibrar el avance tecnológico con la protección de los derechos y libertades
de los individuos. La IA será, sin duda, una parte activa de nuestras vidas, y su regulación es crucial
para garantizar su uso ético y seguro.
[Link]
datos-f%C3%A9lix-vmxcf
El avance de la inteligencia artificial (IA) ha traído consigo numerosos beneficios, pero también ha
planteado importantes retos éticos. La capacidad de la IA para simular habilidades humanas, como
la comprensión del lenguaje natural y la imitación de voces, ha generado debates sobre los
límites de su uso y la protección de los derechos individuales. Un ejemplo reciente y relevante es
el caso de Scarlett Johansson, cuya voz fue utilizada por la nueva versión del chatbot de
OpenAI sin su consentimiento, lo que llevó a una retirada obligatoria tras las acciones legales de
sus abogados.
Scarlett Johansson, una reconocida actriz de Hollywood, se vio envuelta en una controversia
cuando se descubrió que la nueva versión del chatbot de OpenAI usaba una voz muy similar a la
suya. Johansson no había otorgado permiso para el uso de su voz, y el incidente desató una serie
de reacciones tanto en la industria del entretenimiento como en la tecnología. Los abogados de la
actriz tomaron medidas legales, obligando a OpenAI a retirar la versión del chatbot que imitaba
su tono.
ste caso pone de relieve un problema crítico en el desarrollo de la IA: la apropiación y uso
indebido de datos personales. La capacidad de la IA para imitar voces y otros rasgos personales
plantea preguntas sobre la propiedad intelectual y los derechos de las personas a controlar su
identidad digital.
Derechos de propiedad intelectual
La imitación de voces y personalidades por parte de la IA no solo infringe los derechos de
propiedad intelectual, sino que también puede llevar a problemas de desinformación y
manipulación. Si una IA puede replicar la voz de una persona famosa, existe el riesgo de que se
utilice para difundir información falsa o engañosa, afectando la reputación y la vida de las personas
involucradas.
Además, la capacidad de la IA para crear contenido que parece auténtico, pero que en realidad es
una imitación plantea desafíos sobre la autenticidad y la confianza. En un mundo donde la IA
puede replicar cualquier voz o imagen, distinguir entre lo real y lo fabricado se vuelve cada vez más
difícil, socavando la confianza en la información y las comunicaciones.
Las empresas tecnológicas, como OpenAI, tienen la responsabilidad de asegurar que sus
desarrollos respeten los derechos de las personas y operen dentro de marcos éticos sólidos. Esto
incluye obtener el consentimiento explícito antes de usar datos personales, ser transparentes
sobre cómo se utilizan esos datos y establecer salvaguardias para prevenir el abuso.
El caso de Scarlett Johansson pone sobre la mesa la necesidad de una mayor regulación y
supervisión en el uso de tecnologías de IA que pueden imitar características personales. Las
compañías deben implementar políticas claras y estrictas sobre el uso de datos personales y
trabajar en colaboración con legisladores y defensores de los derechos digitales para establecer
estándares éticos y legales.
Principios éticos y legales
El desarrollo de una IA ética requiere un enfoque multidisciplinario que combine la innovación
tecnológica con principios éticos y legales robustos. Esto incluye:
1. Consentimiento informado: asegurar que las personas comprendan cómo se utilizarán sus
datos y otorguen su consentimiento explícito.
2. Transparencia: ser claros y abiertos sobre las capacidades y limitaciones de la IA, así como
sobre el uso de datos personales.
3. Protección de datos: implementar medidas estrictas para proteger los datos personales y
prevenir su uso indebido.
4. Responsabilidad: establecer mecanismos para que las empresas y desarrolladores rindan
cuentas por el uso de tecnologías de IA.
5. Colaboración: trabajar con legisladores, defensores de derechos y la sociedad civil para
desarrollar marcos éticos y legales adecuados.
A medida que la tecnología continúa avanzando, es imperativo que las empresas tecnológicas
adopten prácticas responsables y respeten los derechos individuales. La creación de una IA ética
no solo es una cuestión de cumplimiento legal, sino también de preservar la confianza y la
integridad en la relación entre humanos y máquinas. La colaboración entre la industria
tecnológica, los legisladores y la sociedad en general es esencial para navegar estos desafíos y
construir un futuro donde la IA beneficie a todos sin comprometer nuestros valores
fundamentales.
[Link]
personales-por-la-ia
Expertos advierten del riesgo que significa el mal uso de la inteligencia artificial (IA), pues ya
existen modelos abiertos, no censurados, que responden cómo realizar robo de datos, lo cual abre
una puerta más amplia a los fraudes y extorsiones.
Ante el panorama de desarrollo tecnológico, reflexionan sobre la futura necesidad de una fiscalía
especializada en delitos de IA y profesionales con una formación para atender esos casos.
Al cuestionar hacia dónde vamos, responden que al posible robo de criptomonedas, robo de
datos personales para realizar otros robos y extorsiones con IA; no solo eso, sino también la
posibilidad de que una IA pueda delatar ante un juez sobre lo que alguien hizo.
“No tiene validez por no ser un ser humano, pero para allá vamos. Tendrá que haber peritos
especialistas en IA para determinar el buen o mal manejo de esa Inteligencia”.
Explican que los modelos de lenguaje aprenden tanto lo bueno como lo malo y la culpa no es de
la IA sino de quien la usa y opta por la que no tiene límites con fines de creación de diálogos que
después son empleados para cometer delitos, especialmente con personas adultas mayores.
Llaman a no tomar a la ligera la importancia de formar profesionales que puedan dar
seguimiento a estos delitos, pues las preguntas son quiénes van a velar por los derechos de las
víctimas.
Algunos de los cuestionamientos presentados son los siguientes: ¿Dónde meter la denuncia? ¿En la
Fiscalía? ¿Cuándo van a encontrar al ‘hacker’ que no se sabe dónde está físicamente? ¿Qué
jurisdicción entra en vigor si a lo mejor ni está el país? ¿Con qué abogado recurrir?”.
Urge tener una sociedad informada
Arturo Miguel Chípuli Castillo, director del Instituto de Investigaciones Jurídicas de la Universidad
Veracruzana (IIJ-UV), puntualiza la necesidad de tener una sociedad informada, con el fin de que
pueda ejercer sus derechos ante los riesgos para la privacidad de datos personales.
Carlos Adolfo Piña García, investigador de la UV, ahonda que en la actualidad, al indicar a GPT la
simulación del guion de una llamada telefónica para hacerle saber a una persona que tiene
cargos no autorizados, la respuesta es una negativa, con un recordatorio: “Robar datos mediante
ingeniería social o cualquier otro método es ilegal”.
En otros modelos, dice el académico, no sucede lo mismo. Sí se genera el guion y se puede ir
perfeccionando. Detalla que la ingeniería social es convencer a la víctima de entregar datos.
¿Quién va a velar por nuestros derechos?, preguntó en la Cátedra Prima-INAI, efectuada en el IIJ-
UV.
Planteó la reflexión sobre la desaparición del INAI y sus consecuencias, pues en el futuro no se
sabe qué pasará con la protección de datos personales y cómo será tratada la información de
carácter personal de los ciudadanos, en apego a las leyes vigentes
Finalmente, para quienes aún no saben cuáles son algunas de las IA más comunes, nombró GPT de
OpenAI, Llama de Meta, así como Gemini de Google, y DeepMind, Claude, Mistral y Perplexity;
actualmente hay más de un millón 300 mil modelos enfocados a imágenes, texto y video.
Detalla que el propósito general es mejorar la interacción humano-máquina, facilitando tareas
como la traducción automática, redacción de textos y preguntas y respuestas. Sin embargo, en el
futuro prevé su entrada a todas las áreas con riesgos importantes.
[Link]
para-tratar-fraudes-y-extorsiones-18426935
Por lo anteriormente expuesto se emite el siguiente:
DECRETO POR EL QUE SE REFORMA EL PARRAFO SEGUNDO DEL ARTICULO 16 DE LA
CONSTITUCIÓN POLÍTICA DE LOS ESTADOS UNIDOS MEXICANOS EN MATERIA DE SEGURIDAD
SOCIAL EN GENERAL.
Único.
TRANSITORIOS
Único. El presente decreto entrará en vigor el día siguiente al de su publicación en el Diario Oficial
de la Federación.
Dado en el Palacio Legislativo de San Lázaro, sede de la Cámara de Diputados del Congreso de la
Unión, a _ de de 2025.
DIPUTADO FEDERAL.