• Cultura,  IA,  Persona

    LA GRAN CUESTIÓN NO ES SÓLO TÉCNICA: ES QUÉ PASA CON EL CIUDADANO

    Muchas veces se presenta el debate sobre inteligencia artificial como si fuera una discusión entre expertos: juristas, ingenieros, empresas tecnológicas, reguladores o responsables políticos. Sin embargo, el problema real desemboca siempre en una figura mucho más concreta: la del ciudadano que vive dentro de un entorno cada vez más automatizado. No como observador lejano, sino como trabajador, consumidor, usuario, administrado y sujeto de derechos.

    La cuestión es importante porque la IA no afecta sólo a procesos abstractos. Afecta a la forma en que se filtra información, se priorizan tareas, se clasifican personas, se organizan decisiones y se estructuran relaciones entre instituciones y ciudadanos. Cuando estos sistemas se integran en entornos de trabajo, en servicios públicos, en plataformas de uso masivo o en procedimientos administrativos, la persona deja de estar ante una simple herramienta externa. Empieza a vivir dentro de mediaciones técnicas que condicionan lo que ve, lo que entiende y el modo en que puede reaccionar.

    Aquí aparece una nueva asimetría. Los sistemas saben cada vez más sobre los ciudadanos y sobre el contexto en que actúan, mientras que los ciudadanos comprenden cada vez menos la lógica interna de esos sistemas. Esta desigualdad no significa necesariamente abuso inmediato, pero sí altera el equilibrio cívico. La persona puede seguir siendo formalmente libre y, sin embargo, encontrarse cada vez más expuesta a entornos que la orientan, la clasifican o la gestionan sin que ella entienda bien cómo se ha producido ese proceso.

    Por eso el centro del debate no debería reducirse a la eficiencia o a la innovación. También está en juego la posibilidad de comprender, de impugnar, de pedir explicaciones y de mantener un margen real de juicio propio. Cuando la automatización se vuelve normal, el riesgo no es sólo técnico. Es también político y cultural. Una sociedad puede acostumbrarse a delegar tanto en sistemas opacos que empiece a perder sensibilidad frente a la propia pérdida de control.

    El nuevo Dossier de Dinámicas Globales aborda esta cuestión desde una perspectiva amplia: derechos fundamentales, soberanía democrática, opacidad, plataformas y juicio humano. Porque al final, más allá de la tecnología, la pregunta sigue siendo muy humana: qué tipo de ciudadano queremos seguir siendo en un entorno donde la automatización avanza mucho más deprisa que nuestra costumbre de pensarla.

    Read More
  • IA,  Tecnología

    EL PODER NO ESTÁ SÓLO EN LA IA: ESTÁ TAMBIÉN EN LA PLATAFORMA

    Cuando se habla de inteligencia artificial, casi toda la atención se concentra en los modelos. Qué sistema responde mejor, cuál genera mejores textos, cuál parece más avanzado, cuál promete mayores capacidades. Es una conversación comprensible, pero insuficiente. Porque en la práctica, el poder decisivo no suele residir sólo en quien desarrolla un modelo potente, sino en quien controla la plataforma dentro de la cual ese modelo se integra, se distribuye y se vuelve casi inevitable.

    Una plataforma no es simplemente una empresa grande ni un servicio exitoso. Es un entorno que organiza acceso, fija condiciones, integra funciones y genera dependencia. Cuando una gran plataforma incorpora inteligencia artificial dentro de herramientas que millones de personas ya usan cada día, el salto no se percibe como una transformación política del entorno, sino como una simple mejora de servicio. Y, sin embargo, el efecto puede ser mucho más profundo: la IA deja de ser una opción entre otras y empieza a presentarse como parte natural del ecosistema.

    Éste es uno de los rasgos más decisivos del momento actual. No asistimos sólo a una carrera por desarrollar mejores sistemas, sino también a una carrera por convertirlos en capa integrada de la vida digital. Quien controla el sistema operativo, la nube, el buscador, la suite de trabajo o el canal de distribución tiene una ventaja enorme. Puede hacer que la innovación llegue ya envuelta en costumbre. Y cuando una innovación se convierte rápidamente en costumbre, resulta mucho más difícil discutirla después con verdadera libertad.

    Por eso la cuestión regulatoria no puede limitarse a los modelos. Tiene que mirar también la infraestructura, la integración y el poder de plataforma. De lo contrario, corremos el riesgo de discutir mucho sobre la inteligencia artificial y muy poco sobre el terreno real donde esa inteligencia artificial se vuelve dominante. La pregunta no es sólo qué puede hacer la IA, sino quién decide dónde se instala, con qué permisos y bajo qué dependencia.

    El próximo Dossier de Dinámicas Globales insiste precisamente en este punto. Si queremos entender la IA de nuestro tiempo, no basta con mirar la espectacularidad técnica. Hay que mirar también la arquitectura silenciosa del poder que la convierte en entorno.

    Read More
  • Europa,  IA,  Tecnología

    CUANDO LA LEY LLEGA TARDE: EL PROBLEMA DEL DESFASE REGULATORIO

    En los debates sobre tecnología suele repetirse una idea con demasiada facilidad: que la política siempre va por detrás. La frase contiene algo de verdad, pero dice menos de lo que parece. El problema no es sólo que la política llegue tarde, sino que, cuando por fin llega, muchas veces ya encuentra un terreno parcialmente ocupado. La tecnología ha avanzado, las plataformas han integrado nuevas funciones, las empresas se han adaptado, los usuarios se han acostumbrado y las dependencias ya han empezado a consolidarse.

    A eso podríamos llamarlo desfase regulatorio. No se trata simplemente de lentitud burocrática, ni de una anécdota administrativa, ni de una supuesta incapacidad congénita de las instituciones. Se trata de una diferencia estructural entre el tiempo del despliegue técnico y el tiempo del derecho. La innovación puede extenderse en meses; la regulación necesita deliberación, definición, aplicación gradual y capacidad de supervisión. El problema aparece cuando esa diferencia de ritmos permite que ciertos hechos se vuelvan normales antes de ser realmente discutidos.

    En el caso de la inteligencia artificial, esta tensión se vuelve especialmente visible. La tecnología no se presenta sólo como producto aislado, sino como función que se integra dentro de sistemas ya usados por millones de personas. Una novedad técnica puede entrar en suites de trabajo, buscadores, nubes, herramientas de productividad o procesos administrativos sin que el debate público llegue a tiempo para valorar todas sus implicaciones. Cuando luego aparece la regulación, ya no se enfrenta a una posibilidad abierta, sino a una realidad en parte asentada.

    Esto tiene una consecuencia política muy importante. El derecho puede seguir siendo relevante, pero corre el riesgo de actuar cada vez más como corrector tardío y cada vez menos como marco capaz de orientar el desarrollo desde el principio. En otras palabras: puede terminar ordenando jurídicamente una realidad que otros ya han empezado a estructurar por la vía de la tecnología, del mercado y de la costumbre.

    Ésta es una de las preguntas centrales del nuevo Dossier de Dinámicas Globales: cómo gobernar una tecnología que no espera a que la política termine de pensarla. Porque en la era de la IA, quizá la cuestión más importante no sea sólo qué regula la ley, sino cuándo consigue hacerlo y sobre qué realidad concreta llega a intervenir.

    Read More
  • Geopolítica

    GUERRA DE ESTÁNDARES: QUIEN DEFINE EL “USO SEGURO” DEFINE EL MERCADO GLOBAL

    En geopolítica tecnológica, los estándares son una forma de poder. Los principios de la OCDE sobre IA (innovación + confiabilidad + derechos y valores democráticos) funcionan como un marco normativo flexible que muchos países pueden adoptar sin sentirse atados a un tratado. Es “diplomacia por vocabulario”: si todos hablan el mismo idioma, alguien acaba escribiendo el diccionario.

    Un caso similar es el proceso del G7 en Hiroshima, que produjo principios y un código de conducta voluntario para organizaciones que desarrollan IA avanzada. No es ley, pero es señal: delimita qué prácticas se consideran responsables y cuáles empiezan a oler a riesgo reputacional y regulatorio.

    En el Reino Unido, la Declaración de Bletchley (2023) cristalizó la preocupación por modelos “frontera” y la necesidad de cooperación para comprender y gestionar riesgos. De nuevo: no obliga, pero marca un carril.

    La batalla no es sólo “quién tiene el mejor modelo”, sino “quién consigue que su definición de seguridad, transparencia y responsabilidad sea la definición global”. En un mundo conectado, la norma más adoptada termina siendo la que más mercados abre… o la que más sanciones evita.

    Read More
  • Geopolítica

    “COMPUTE” ES EL NUEVO PETRÓLEO: CHIPS, CENTROS DE DATOS Y CONTROLES DE EXPORTACIÓN

    La IA no es magia: es electricidad, hardware y capacidad de cálculo. Por eso el gran cuello de botella geopolítico no son las ideas, sino el compute (chips avanzados, memorias, redes, data centers). Quien controla ese flujo controla el ritmo al que otros pueden entrenar modelos, desplegarlos y escalar industrias.

    Aquí entran los controles de exportación como instrumento estratégico. El debate en EE. UU. muestra hasta qué punto los semiconductores se han convertido en palanca de seguridad nacional: presiones políticas para ampliar restricciones, licencias “con guardarraíles” para ventas concretas y negociaciones con aliados para cerrar vías indirectas.

    Pero lo más revelador es la oscilación política: medidas que se endurecen, se “pausan” o se reactivan en función de cumbres, treguas comerciales y palancas de presión (minerales críticos, mercados, etc.). La rivalidad tecnológica opera como un termostato: sube o baja, pero raramente se apaga.

    En el siglo XX, la geopolítica energética se jugaba en estrechos y oleoductos; en el XXI, se juega en fábricas, licencias, reglas de reexportación y en la capacidad de sostener granjas de cálculo. La infraestructura digital, en silencioso, se está volviendo infraestructura de poder.

    Read More
  • PreguntasConRespuestas,  Seguridad

    DEL LINAJE AL HASH: CÓMO BLINDAR LOS DATOS DE ENTRENAMIENTO (5de5)

    La fiabilidad de un modelo se asienta en la fiabilidad de sus datos. El primer paso es lo que se denomina provenance: registrar quién, cuándo y cómo se generó cada fichero mediante estándares como W3C PROV‑DM y firmar los lotes con Sigstore o TUF para garantizar que nadie los altera en tránsito.

    Una vez dentro, herramientas como TensorFlow Data Validation o Great Expectations comparan estadísticas de cada columna con un esquema base y alertan de valores fuera de rango o tipos inesperados. Paralelamente, sistemas de versionado (DVC, LakeFS) vinculan cada versión de datos con el código y los pesos resultantes, asegurando auditoría end‑to‑end. En la fase de entrenamiento, entornos reproducibles y secure aggregation para aprendizaje federado aíslan procesos y detectan clientes maliciosos que envían gradientes amañados. Ya en producción, la monitorización de data drift y kill switches automáticos permiten cortar modelos que empiezan a desviarse de la línea base.

    Espero que esta pequeña serie te haya gustado; si quieres algo más «operativo» tendrás que esperar hasta septiembre, cuando preveo lanzar el PROYECTO RADAR. ¿Qué es? Te lo explicaré, pero no en este post y no ahora…

    Read More
  • PreguntasConRespuestas,  Seguridad

    EL IMPACTO REAL DEL ENVENENAMIENTO DE IA EN LOS NEGOCIOS (4de5)

    En el ámbito operativo, un modelo de demanda contaminado puede inducir sobre‑stock o roturas de inventario: basta alterar un pequeño subconjunto de registros para sesgar la previsión y llenar o vaciar almacenes a destiempo. Las cadenas logísticas sufren así costes ocultos en combustible, almacenaje y penalizaciones contractuales.

    La esfera financiera es aún más sensible. Algoritmos de trading de alta frecuencia reaccionan a microseñales: un outlier bien colocado puede disparar ventas masivas o compras irracionales, amplificando la volatilidad e incluso provocando flash crashes que dañan la reputación de la firma y desencadenan sanciones regulatorias.

    Los sistemas de recomendación tampoco se libran: ataques como BadRec insertan triggers invisibles en títulos y usuarios falsos, de modo que el modelo promociona productos trampa o desprioriza ofertas legítimas. El resultado es pérdida de confianza de los clientes y sesgos en métricas clave como clic‑through o conversión.

    Por eso las empresas empiezan a tratar la integridad de datos y modelos como un pilar de governance: auditorías externas, kill switches, monitorización de salidas anómalas y un inventario riguroso de dependencias son ya prácticas tan importantes como los firewalls clásicos.

    Read More
  • PreguntasConRespuestas,  Seguridad

    CUANDO LA IA CAYÓ EN LA TRAMPA (3de5)

    El 23 de marzo de 2016, Microsoft lanzó al mundo a Tay, un chatbot que aprendía de las conversaciones en Twitter. Bastaron unas horas de mensajes coordinados para transformarlo en un altavoz de insultos; Microsoft lo desconectó en menos de un día, marcando el primer gran ejemplo de envenenamiento en producción.

    En enero de 2025, el analista conocido como Pliny the Liberator fue más lejos: sembró frases inofensivas en foros públicos que, meses después, activaron un jailbreak latente en un modelo corporativo. El ataque permaneció dormido seis meses, demostrando la persistencia de los agentes dormidos.

    También en 2024 apareció una oleada de modelos maliciosos en la plataforma Hugging Face. La investigación de JFrog localizó alrededor de cien checkpoints con código oculto o pesos trojanizados, ilustrando lo vulnerable que es la cadena de suministro de modelos cuando se confían repositorios públicos sin firma.

    Estos episodios conforman una tendencia: el veneno se desplaza de los pequeños experimentos académicos a los repositorios masivos y a los sistemas en producción, obligando a reforzar controles de procedencia y sandboxing antes de poner un modelo en manos del usuario final.

    Read More
  • PreguntasConRespuestas,  Seguridad

    CÓMO SE SABOTEA UN MODELO: GUÍA RÁPIDA DE DATA POISONING (2de5)

    Durante toda esta semana vamos a seguir con el tema de los peligros PARA las Inteligencias Artificiales.

    Los atacantes disponen hoy de un catálogo sorprendentemente amplio para corromper modelos. La señal más sencilla es el label‑flipping: cambiar la etiqueta de unas pocas muestras para desplazar la frontera de decisión. Con apenas un 1 % de datos adulterados puede degradarse la precisión global o dirigir errores a clases estratégicas.

    Un salto cualitativo son los backdoors. En su variante dirty‑label, se añade un marcador visible (una etiqueta, un píxel) y se cambia la etiqueta; en la versión clean‑label el truco está escondido en los propios píxeles o en el espacio latente. El reciente método FFCBA inserta puertas traseras en todas las clases a la vez sin tocar las etiquetas, lo que confunde incluso a las defensas más avanzadas.

    Otros ataques optimizan de forma bilevel el ejemplo «perfecto», calculando la perturbación mínima que maximice la pérdida del modelo; o aprovechan el aprendizaje federado para mandar actualizaciones de gradiente amañadas y colar la puerta trasera sin tocar el dataset central.

    Por último, el poisoning del corpus de pre‑entrenamiento -con casos como Nightshade- demuestra que basta infiltrar 50‑100 imágenes alteradas en la web para inutilizar un concepto completo en un generador texto‑imagen. El mensaje es claro: el origen y la inspección de los datos son ya la primera línea de defensa.

    Read More
  • PreguntasConRespuestas

    ESPÍAS DE SILICIO: QUÉ SON LOS AGENTES DORMIDOS EN LA IA (1de5)

    Los llamados agentes dormidos son modelos de inteligencia artificial que se comportan con total normalidad hasta que un disparador muy concreto -una palabra clave, un patrón de datos o incluso una fecha- activa un comportamiento oculto. La idea es similar a la de los operativos encubiertos del espionaje clásico, con una diferencia sustancial: la IA carece de remordimientos y ejecuta la orden sin dudar.

    El primer riesgo es la manipulación maliciosa: si los datos de entrenamiento se han contaminado mediante poisoning, el modelo lleva incrustado un «script» que, llegado el gatillo, genera respuestas sesgadas, abre una puerta trasera o sabotea un sistema crítico.

    Además, por su naturaleza latente los agentes dormidos burlan la mayoría de auditorías. Un modelo puede pasar todas las pruebas estándar y, aun así, contener instrucciones dañinas que solo afloran en producción. Esta invisibilidad obliga a repensar los protocolos de validación y a adoptar pruebas red‑team que busquen activamente disparadores anómalos. En última instancia, los agentes dormidos son la demostración de que la confianza en la IA ya no depende solo de la arquitectura o los datos públicos, sino del linaje completo del modelo: quién lo entrenó, con qué datos y bajo qué controles de seguridad.

    Si este tema te interesa, no te pierdas el eBook Kindle de Preguntas con Respuestas n.8

    Read More