El lado oscuro del paternalismo libertario: cuando el «nudge» se convierte en dominación invisible

Eres libre de elegir… pero un algoritmo decide qué opciones puedes ver

Cómo los pequeños empujones psicológicos pueden convertirse en una forma de poder sobre nuestras decisiones.

¿Y si una de las formas más eficaces de condicionar nuestra libertad no consistiera en prohibirnos algo, sino en conseguir que eligiéramos lo que otros desean?

Imaginemos que buscamos trabajo. Abrimos una plataforma, consultamos las ofertas y enviamos nuestra candidatura. Parece una decisión completamente libre. Sin embargo, antes de que aparecieran los resultados, un programa informático decidió cuáles mostrar y en qué orden. Esto no significa que exista una manipulación: filtrar información puede ser útil. Pero plantea una pregunta fundamental: ¿qué ocurre si esos criterios son engañosos, discriminatorios o imposibles de corregir?

La filosofía del paternalismo libertario nació con la intención de ayudar a las personas sin obligarlas. Sus herramientas pueden mejorar nuestra vida, pero su utilización en sistemas digitales de gran escala exige examinar sus límites. Los siguientes capítulos distinguen la teoría, los riesgos posibles y los casos documentados.

1. Qué es el paternalismo libertario y por qué es ambiguo

En 2003, Richard Thaler y Cass Sunstein propusieron combinar dos ideas aparentemente opuestas. El paternalismo supone orientar decisiones para favorecer el bienestar de una persona. El calificativo libertario, en esta teoría, indica que deberían mantenerse las alternativas disponibles. No significa que ambos autores defendieran cualquier intervención pública, sino que una arquitectura de elección puede ayudar sin imponer una prohibición.

Su ejemplo clásico es una cafetería: colocar la fruta a la altura de los ojos facilita que los clientes la escojan. Los dulces siguen a la venta. Nadie obliga a nadie, pero la disposición del mostrador modifica la probabilidad de elegir un producto u otro.

Lo llaman arquitectura de elección: la forma en que se presentan las alternativas. En la práctica siempre existe alguna arquitectura; incluso una lista ordenada alfabéticamente privilegia unos resultados frente a otros. Por eso la pregunta pertinente no es si podemos eliminar toda influencia, sino quién diseña el entorno, con qué objetivos y con qué controles.

Facilitar formularios, destacar información sanitaria o permitir una inscripción voluntaria sencilla pueden ser mejoras genuinas. Pero en decisiones complejas —empleo, vivienda, crédito, política o relaciones— no siempre hay una única opción que sea «la mejor» para todas las personas. Fuente 1.

2. La filosofía del «nudge»: ayudar o manipular

Nudge significa aproximadamente «empujón». Describe una modificación del entorno que influye previsiblemente en la conducta sin prohibir alternativas ni transformar sustancialmente los incentivos económicos. Los autores lo aplicaron a una observación conocida en psicología: a menudo decidimos mediante atajos mentales.

El sesgo del statu quo hace que mantengamos una opción preseleccionada. La aversión a la pérdida nos lleva a prestar especial atención a lo que podríamos perder. El encuadre (framing) cambia nuestra percepción: «90 % de supervivencia» y «10 % de mortalidad» describen la misma proporción, pero no producen necesariamente la misma impresión. Y la sobrecarga de opciones puede conducirnos a escoger lo primero que aparece.

Estos mecanismos no convierten a las personas en autómatas. Son tendencias estadísticas, no órdenes inevitables. Además, pueden utilizarse en beneficio del usuario. Si una administración explica una ayuda con un formulario sencillo, está reduciendo obstáculos.

La frontera cambia cuando el diseño oculta información importante, crea confusión o explota una vulnerabilidad para obtener un resultado ajeno al interés de quien decide. Que exista un botón para rechazar no garantiza una elección informada si ese botón está escondido deliberadamente.

En síntesis, facilitar una decisión y manipularla no son lo mismo, aunque ambas conductas puedan utilizar herramientas psicológicas parecidas.

3. El uso comercial y político perverso

Las empresas conocen desde hace décadas la influencia del precio, la disposición de productos y la publicidad. Internet añadió la posibilidad de adaptar esas técnicas a cada usuario y probar masivamente qué diseños producen más clics o compras. Cuando una interfaz engaña, presiona o dificulta injustificadamente la elección hablamos de patrones oscuros (dark patterns).

Amazon Prime: entrar era más fácil que salir

La Comisión Federal de Comercio estadounidense acusó a Amazon de utilizar procedimientos engañosos para incorporar consumidores a Prime y dificultar la cancelación. El conflicto no consistía en que ofrecer suscripciones fuera ilícito: se centraba en cómo estaban organizados los recorridos de alta y baja. En septiembre de 2025 se anunció un acuerdo por 2.500 millones de dólares, con 1.000 millones en sanción civil y hasta 1.500 millones para compensar a consumidores. Es un acuerdo, no una prueba de que cualquier recomendación comercial sea ilegal.

El ejemplo ilustra el llamado roach motel: un servicio en el que registrarse parece muy sencillo, pero abandonarlo exige demasiados pasos. La decisión sigue siendo formalmente posible, aunque se ha aumentado su dificultad. Fuente 2.

¿Y si lo aplica un gobierno?

Una administración puede enviar recordatorios para facilitar el pago de impuestos o simplificar trámites. Esto puede ser legítimo. El riesgo aparece si presenta una opción política como la única razonable, oculta sus consecuencias o utiliza datos personales sin las garantías correspondientes. La legitimidad no depende solo de la intención declarada: también requiere proporcionalidad, transparencia y control democrático.

4. El problema de la libertad negativa

Isaiah Berlin distinguió entre la libertad negativa, relacionada con actuar sin interferencias ajenas, y la libertad positiva, asociada con dirigir la propia vida. Un buscador de empleo puede mantener el derecho legal a presentarse a cualquier vacante y, sin embargo, ver solo una parte de las ofertas existentes.

Eso no significa que cualquier filtro vulnere su libertad. Un sistema de búsqueda necesita ordenar información. Pero, cuando la selección se basa en criterios discriminatorios u ocultaciones engañosas, la ausencia de una prohibición explícita deja de ser una garantía suficiente.

El filósofo Philip Pettit añade otra perspectiva: la libertad como ausencia de dominación. Importa no solo si alguien interfiere de hecho, sino si posee un poder arbitrario sobre nuestras posibilidades y no tenemos medios para cuestionarlo. Esta idea resulta especialmente pertinente cuando dependemos de una sola plataforma o institución.

El sentido de la crítica no es que la libertad negativa sea «patética», sino que invocarla sin examinar las condiciones reales de elección puede convertirla en una etiqueta vacía.

5. El límite extremo: entrada en casa y contaminación de alimentos

Un ejemplo hipotético permite delimitar el concepto. Si alguien entra sin autorización en una vivienda y altera deliberadamente alimentos provocando lesiones, no realiza un nudge. Está cometiendo hechos que podrían constituir delitos, según las pruebas y circunstancias.

En España, el artículo 202 del Código Penal regula el allanamiento de morada. Los daños a la salud pueden dar lugar a otras responsabilidades penales. Debe probarse qué ocurrió, quién lo hizo, qué consecuencias produjo y si existe relación causal; una sospecha por sí sola no acredita esos hechos.

Esta distinción importa porque un empujón conductual actúa sobre la presentación de opciones, mientras que una agresión, fraude o daño físico pertenece a categorías jurídicas diferentes. La pretendida intención de «ayudar» no convierte una lesión en una intervención legítima. Fuente 9.

6. Búsqueda de empleo: la inducción situacional algorítmica

Las plataformas laborales clasifican anuncios en función de requisitos, ubicación y otros factores. Un proceso automatizado puede ahorrar tiempo, pero también repetir una regla injusta miles de veces. La selección de resultados y la evaluación de candidaturas son dos fases distintas: una determina qué ofertas vemos; otra puede decidir si avanzamos en la contratación.

iTutorGroup: un filtro que rechazaba por edad

En 2023, la Comisión para la Igualdad de Oportunidades en el Empleo de Estados Unidos comunicó un acuerdo por 365.000 dólares con iTutorGroup. Según la demanda, el software rechazaba automáticamente solicitudes de mujeres de 55 años o más y hombres de 60 años o más. Más de 200 aspirantes cualificados resultaron afectados.

La gravedad no dependía de que el programa fuese una inteligencia artificial sofisticada. Una regla automática discriminatoria bastó para excluir candidatos antes de valorar individualmente sus méritos. El caso muestra cómo automatizar una injusticia puede multiplicar sus efectos. Fuente 3.

¿Qué significa «inducción situacional algorítmica»?

Podemos utilizar esta expresión como concepto propuesto de análisis, no como categoría jurídica reconocida: describe cómo un sistema digital modifica reiteradamente el entorno informativo de alguien. La plataforma registra sus interacciones, recalcula recomendaciones y las vuelve a mostrar. Esto puede facilitar hallazgos o, si está mal diseñado, estrechar artificialmente las alternativas visibles.

Para demostrar un abuso no basta con que alguien reciba pocas ofertas. Habría que contrastar resultados entre perfiles comparables, examinar filtros, comprobar sesgos y documentar qué oportunidades han quedado excluidas. Las preguntas técnicas son medibles: ¿qué porcentaje de ofertas relevantes se muestra?, ¿con qué diversidad?, ¿qué criterios se comunican?, ¿cómo se corrigen errores?

7. Palantir: cuando el poder es infraestructura

Palantir ofrece plataformas para integrar y analizar información a gran escala. Gotham y Foundry se utilizan en diferentes entornos institucionales y empresariales. Su función general no es equivalente a un botón que dirige la elección de un consumidor: proporcionan herramientas para reunir datos autorizados, encontrar relaciones y apoyar procesos de análisis.

En abril de 2025, la agencia estadounidense ICE adjudicó a Palantir un contrato de aproximadamente 30 millones de dólares relacionado con una plataforma de seguimiento migratorio denominada Immigration OS. Amnistía Internacional examinó riesgos relativos a privacidad, vigilancia y derechos humanos. Las capacidades y preocupaciones descritas deben distinguirse de infracciones concretas demostradas judicialmente. Palantir ha cuestionado determinadas interpretaciones de sus sistemas. Fuente 4.

7.1. Palantir: cuando el cruce de datos puede convertirse en un instrumento de dominación

Plataformas como Palantir permiten integrar y analizar grandes cantidades de información procedente de diferentes fuentes. Los gobiernos pueden utilizar estas tecnologías para gestionar datos administrativos, identificar patrones y apoyar sus decisiones.

El problema aparece cuando se relacionan datos de una persona procedentes de servicios sociales, organismos públicos, sistemas sanitarios, entidades financieras u otras fuentes.

¿Qué ocurriría si esa información se utilizara no para ayudar al ciudadano, sino para condicionarlo o perjudicarlo?

De la información a la manipulación

Imaginemos que distintas instituciones conocen la situación económica, laboral, sanitaria y personal de un ciudadano.

Si responsables de esas instituciones utilizaran indebidamente esa información para coordinar actuaciones, podrían intentar influir sobre sus decisiones aprovechando sus circunstancias y vulnerabilidades.

El riesgo sería especialmente grave si intervinieran profesionales sanitarios, servicios sociales o entidades financieras, porque sus decisiones pueden afectar directamente a la salud, la autonomía y el patrimonio de una persona.

¿Y si el objetivo fuera quitarle su dinero?

En un escenario extremo, alguien podría intentar utilizar información personal para engañar, presionar o inducir decisiones económicas perjudiciales.

Si se demostrara que diferentes actores actuaron coordinadamente para apropiarse del patrimonio de una persona, podríamos encontrarnos ante delitos como estafa, coacciones o extorsión, según los hechos.

Pero la existencia de sistemas capaces de cruzar datos no demuestra que esa coordinación ilícita esté ocurriendo. Para acreditarla serían necesarias pruebas de accesos indebidos, comunicaciones y actuaciones concretas.

¿Qué leyes protegen al ciudadano?

En Europa y España existen garantías específicas:

RGPD, artículos 5, 9 y 15: regulan el tratamiento de datos, protegen especialmente la información sanitaria y reconocen el derecho de acceso.
RGPD, artículo 22: establece garantías frente a determinadas decisiones exclusivamente automatizadas.
Ley 41/2002: protege la autonomía del paciente y regula el consentimiento informado.
Código Penal español: sanciona conductas como la estafa, las coacciones y la extorsión cuando concurren sus requisitos legales.

La verdadera amenaza: el poder invisible

El peligro no reside únicamente en almacenar información, sino en utilizarla indebidamente para condicionar decisiones que afectan a una persona.

Las investigaciones sobre Palantir han documentado capacidades avanzadas de integración de datos y riesgos de vigilancia, pero no prueban una coordinación entre gobiernos, médicos y entidades financieras para despojar de dinero a ciudadanos.

La cuestión fundamental es quién puede acceder a nuestros datos, con qué finalidad y qué mecanismos existen para detectar y sancionar los abusos.

Porque si una persona no puede saber cómo se utiliza su información ni cuestionar las decisiones que la perjudican, su libertad puede quedar seriamente comprometida.

El riesgo de dependencia estructural

Si una organización construye procesos esenciales sobre una plataforma, reemplazarla puede exigir trasladar datos, rehacer conexiones y formar a los empleados. Esto se conoce como vendor lock-in, o dependencia del proveedor.

No equivale a afirmar que Palantir controle legalmente todos los datos de sus clientes ni que pueda utilizarlos para cualquier fin. El riesgo es otro: el proveedor de infraestructura influye sobre las posibilidades técnicas de quienes toman decisiones. Por eso hacen falta controles de acceso, auditorías, trazabilidad y posibilidades reales de migración.

El estado español termino el contrato con Palantir hace poco.

8. Cruce de datos sociales: el error como mecanismo de dominación

El data matching consiste en relacionar registros para detectar coincidencias o inconsistencias. Una administración puede emplearlo legítimamente para evitar duplicidades o gestionar prestaciones, siempre dentro de la base jurídica aplicable. Pero un dato descontextualizado puede alimentar conclusiones erróneas.

Países Bajos y las ayudas para guarderías

En diciembre de 2021, la autoridad neerlandesa de protección de datos impuso una multa de 2,75 millones de euros a la Administración Tributaria por tratar ilegalmente y de forma discriminatoria datos relacionados con nacionalidad y doble nacionalidad. El episodio ocurrió en el contexto del grave escándalo de ayudas para guarderías, que afectó a numerosas familias. La sanción concreta tiene un alcance determinado; no debe confundirse automáticamente con todas las consecuencias del escándalo. Fuente 5.

Este caso enseña que un dato administrativo mal utilizado puede generar perjuicios reales. Si una persona no comprende el origen de una clasificación o no dispone de una vía eficaz para corregirla, el error puede prolongarse. Una puntuación de riesgo jamás equivale, por sí misma, a prueba de culpabilidad.

Existe además el peligro de que un dato incorrecto se propague cuando diferentes sistemas lo reutilizan. Eso no quiere decir que todas las administraciones compartan cualquier dato libremente: los accesos y cesiones están sujetos a normas. Quiere decir que la exactitud, la trazabilidad y la rectificación importan tanto como la capacidad de cruzar información.

9. Relaciones personales y control social

Las aplicaciones de citas organizan perfiles mediante preferencias, ubicación, actividad y otros criterios. Pueden aumentar nuestras posibilidades de conocer gente, pero también condicionan cuáles de esos perfiles aparecen primero y cuáles nunca se muestran. Algunas ofrecen servicios de pago que modifican la visibilidad.

Pensemos en dos personas compatibles que no llegan a ver sus perfiles mutuamente. Nadie les prohíbe relacionarse; sencillamente, la oportunidad no se produce dentro de esa plataforma. Esto no prueba una manipulación, pero sí demuestra que la visibilidad digital participa en la distribución de oportunidades sociales.

Los datos sobre relaciones y preferencias pueden ser sensibles. Su utilización por empresas o poderes públicos debe respetar las normas de protección de datos. Es legítimo advertir del riesgo de usos abusivos; no sería correcto afirmar, sin pruebas específicas, que un gobierno o un actor local controla la vida sentimental de una persona mediante estos sistemas.

La cuestión de fondo es proteger la intimidad y evitar que perfiles comerciales o administrativos se utilicen para estigmatizar o discriminar.

10. Por qué puede ser más grave que el «nudge» clásico

Un mostrador de cafetería suele presentar una influencia acotada y visible. Un sistema digital puede actuar sobre millones de personas, personalizar sus recomendaciones, aprender de interacciones anteriores y funcionar durante meses o años.

Hay cuatro diferencias decisivas. Escala: un cambio afecta simultáneamente a multitud de usuarios. Personalización: dos personas pueden recibir entornos informativos distintos. Persistencia: el historial puede modificar futuras recomendaciones. Opacidad: el ciudadano puede desconocer por qué aparece un resultado y no otro.

No todos los sistemas cumplen estas características en el mismo grado. Tampoco toda opacidad demuestra intención manipuladora. Pero la combinación de dependencia, efectos importantes y falta de mecanismos de revisión aumenta el riesgo de decisiones arbitrarias.

El criterio esencial es práctico: ¿puede la persona saber que se ha producido un error, entenderlo razonablemente y obtener una revisión efectiva? Si la respuesta es no, la relación de poder merece especial atención.

11. Las leyes europeas y sus límites

La Unión Europea ya reconoce que determinados usos de datos y diseños tecnológicos pueden vulnerar derechos. Las normas no prohíben el paternalismo libertario en general; regulan prácticas concretas.

Reglamento General de Protección de Datos (RGPD)

El Reglamento (UE) 2016/679 establece en su artículo 5 principios como licitud, lealtad, transparencia y exactitud. El artículo 9 protege categorías especiales de datos, como los de salud. Los artículos 15 y 16 reconocen, respectivamente, el acceso y la rectificación. El artículo 22 establece garantías frente a ciertas decisiones exclusivamente automatizadas con efectos jurídicos o significativamente similares, con excepciones y salvaguardias legales. Fuente 6.

Reglamento de Servicios Digitales (DSA)

El Reglamento (UE) 2022/2065, artículo 25, limita determinados diseños de interfaces de plataformas que engañen, manipulen o distorsionen significativamente la capacidad de decidir libremente y con información. Su aplicación tiene matices y se coordina con otras normas de consumo y datos. Fuente 7.

Reglamento de Inteligencia Artificial (AI Act)

El Reglamento (UE) 2024/1689, con modificaciones posteriores en 2026, establece prohibiciones para ciertas prácticas de manipulación perjudicial y obligaciones según la clasificación de riesgos. Algunos usos en contratación, educación y servicios esenciales están considerados de alto riesgo bajo condiciones concretas. No todo algoritmo es una IA, ni toda recomendación es ilegal. Importan la finalidad, los efectos, las excepciones y los calendarios de aplicación. Fuente 8.

Normativa española y protección del consumidor

En España, el artículo 18.4 de la Constitución establece límites al uso de la informática para proteger derechos. La Ley Orgánica 3/2018 complementa el marco de protección de datos y derechos digitales. Además, la Directiva 2005/29/CE regula prácticas comerciales desleales, incluidas conductas engañosas y agresivas. Fuentes 9 y 10.

La existencia de una ley no garantiza que el error desaparezca, pero ofrece mecanismos de reclamación, supervisión y sanción. Es importante distinguir una hipótesis ética de una infracción que puede acreditarse mediante pruebas.

12. Cómo defender una libertad de elección real

No necesitamos eliminar los algoritmos. Necesitamos que sus usos importantes puedan ser controlados y corregidos. Una respuesta razonable combina transparencia comprensible, para conocer los principales criterios de clasificación; derecho a rectificar, para corregir datos erróneos; revisión adecuada, cuando una decisión automatizada tiene efectos relevantes; auditorías independientes, para detectar sesgos; y alternativas de elección, para no depender innecesariamente de una única clasificación.

También hace falta identificar responsabilidades. No debería producirse una situación en la que una institución atribuye todo al proveedor tecnológico y este atribuye todo al cliente. La responsabilidad jurídica se determina por la actuación real de cada participante y las normas aplicables.

No siempre será necesario publicar todo el código de un programa. Puede bastar, según el caso, con ofrecer información suficiente sobre criterios, impacto, reclamaciones y procedimientos de supervisión. El objetivo es que las personas no queden indefensas frente a sistemas de los que dependen.

Conclusión: no basta con poder elegir

El paternalismo libertario nació para facilitar decisiones sin prohibir alternativas. El nudge mostró que pequeños cambios del entorno pueden influir en la conducta humana. Muchos de esos cambios son útiles y perfectamente legítimos.

Pero las tecnologías digitales han dado a las organizaciones un poder mucho mayor para seleccionar información, perfilar usuarios y distribuir oportunidades. Los casos de Amazon, iTutorGroup y la Administración Tributaria neerlandesa muestran abusos o problemas documentados de diseño y tratamiento de datos. El caso Palantir plantea riesgos relevantes sobre infraestructura y vigilancia que deben examinarse sin confundir posibilidades técnicas con conductas ilícitas probadas.

El desafío consiste en diferenciar recomendación de engaño, personalización de discriminación y automatización útil de poder arbitrario. No necesitamos decisiones libres de toda influencia: eso sería imposible. Necesitamos mecanismos para comprenderlas, discutirlas y corregir sus errores.

Porque no basta con ser libre para elegir: también importa quién construye el conjunto de posibilidades entre las que podemos hacerlo.

Pregunta para el debate: ¿deberíamos tener derecho a conocer los criterios principales por los que un algoritmo nos muestra unas oportunidades y no otras, especialmente cuando afectan al empleo, la vivienda o las prestaciones sociales?