Una decisión automatizada (IA) me perjudica (crédito, empleo)
No siempre está permitido que un sistema automático decida sobre su vida económica o laboral sin control. Lo que importa es si la decisión fue puramente automática, qué información usaron y si hubo explicación o derecho a réplica. Primer paso: pida por escrito la razón de la decisión y copie toda la correspondencia; eso le permite saber si hubo una vulneración de sus derechos y qué prueba tiene para reclamar.
¿Necesitas abogados de derecho tecnológico?
Compara abogados especializados y elige con calma. Análisis de tu caso gratuito.
Ver abogados Sin compromiso · GratisAbogados especializados en este caso
¿Tienes razón?
Tres cosas determinan si la decisión automatizada le perjudica de forma injusta. Primero: si la decisión fue enteramente automática sin intervención humana relevante. Si hubo una revisión por una persona que pudo cambiar el resultado, la violación es menor. Segundo: qué datos se usaron y cómo se obtuvieron. Si emplearon datos sensibles (salud, raza, orientación, afiliación sindical) o datos inexactos, su posición es fuerte. Tercero: si la entidad le dio información sobre los criterios o un mecanismo para impugnar la decisión. La ausencia de explicación o el bloqueo para acceder a los datos que usaron agrava su caso.
No basta con sentirse perjudicado: tiene que probar que la decisión dependió de un algoritmo o modelo y no de una valoración humana normal. Las pruebas relevantes son: comunicaciones donde digan que fue una "decisión automatizada"; el aviso de privacidad donde describan perfiles; copias de los datos que le asignaron y ejemplos que muestren sesgo o error (por ejemplo, que se usó un campo irrelevante para negar crédito). Si no existe documentación, su tarea es reconstruir el proceso pidiendo información y conservando todas las interacciones.
Cómo se soluciona
- Pida por escrito la explicación y los datos. Solicite a la empresa por escrito que le expliquen por qué se tomó esa decisión, qué variables se usaron y qué fuentes de datos consultaron. Guarde la petición y cualquier respuesta. Exportar conversaciones, pantallazos y correos; no dependa de que un mensaje siga en su teléfono.
- Revise el aviso de tratamiento de datos y el contrato. Busque cláusulas que permitan perfiles, decisiones automatizadas o cesiones de datos a terceros. Copie y archive esas páginas o PDFs.
- Reúna pruebas concretas de error o sesgo. Si puede, haga comparaciones: otra persona en condiciones parecidas con distinto resultado, valores del propio expediente que estén equivocados, o documentos que acrediten la información que la empresa ignoró.
- Reclamación administrativa ante la empresa. Dirija una reclamación por escrito (correo certificado o mensaje que permita constancia) solicitando revisión humana, rectificación de datos y reparación. Explique con pruebas específicas lo que cree que está mal.
- Si no responde o la respuesta es insuficiente, formule una queja ante la autoridad competente en protección de datos o, si la decisión afecta empleo o Seguridad Social, ante la entidad correspondiente. En casos de empleo específicamente, evalúe la vía laboral o el recurso administrativo que proceda.
- Considere acción judicial cuando haya vulneración grave. Si la decisión automática le causó un daño económico importante o discriminación, un juez puede ordenar acceso a los modelos, informes de sesgo, rectificación de datos y, si procede, indemnización. Para esto conviene asesoría técnica y legal, porque la prueba técnica (auditoría del modelo) suele ser necesaria.
Qué puede hacer usted solo y cuándo necesitará ayuda técnica: usted puede pedir explicaciones, recopilar documentos y presentar la reclamación inicial. Para forzar la apertura del modelo, auditarlo o litigar por discriminación, necesitará peritos técnicos y un abogado.
Qué puede pasar
1) Se arregla con una carta: la solución más común es que la empresa revise su caso, corrija datos y anule la decisión o haga una nueva evaluación con intervención humana. Esto suele ocurrir cuando el error es un dato claro o una confusión identificable.
2) Acuerdo o conciliación: la empresa ofrece rectificar y, si procede, compensación. Un acuerdo puede incluir dejar constancia por escrito de la corrección, cambiar la evaluación y retirar consecuencias negativas. Un acuerdo rápido puede ser preferible a una disputa larga; aunque reciba menos de lo que busca, gana certeza y rapidez.
3) Juicio o procedimiento administrativo: si la entidad no rectifica, puede iniciar un proceso ante la autoridad de protección de datos o demandar en sede civil o laboral. En juicio, es posible que el juez ordene medidas probatorias técnicas: acceso a los algoritmos, archivos de entrenamiento o auditoría independiente. Si pierde el proceso, puede quedar con las costas y los gastos; si la entidad es insolvente, una sentencia favorable no garantiza cobro. Por eso conviene evaluar la solvencia de la parte antes de litigar.
Y si gana, ¿cobro seguro? No necesariamente. Una sentencia a su favor obliga a la parte a cumplir y, si es económicamente responsable, podría pagar; pero si la empresa carece de activos, la victoria puede quedarse en una declaración judicial sin ejecución práctica inmediata.
Errores que arruinan el caso
- No conservar pruebas desde el inicio: borrar correos, pantallazos o cambios en su propio expediente impide demostrar el estado original.
- Hacer alegaciones vagas: decir "me discriminaron" sin ejemplos o datos concretos dificulta la defensa. Señale variables, comunicaciones y fechas.
- Firmar acuerdos sin asesoría cuando le ofrecen corrección y dinero: aceptar una cantidad sin valorar la obligación de la empresa de corregir el proceso operativo puede cerrar la puerta a medidas que eviten que el daño se repita.
- No distinguir entre datos personales y datos agregados: pedir rectificación de estadísticas generales no es lo mismo que pedir rectificación de datos personales suyos.
- Entregar acceso a su dispositivo o contraseña a "auditores" sin verificar identidad: eso puede destruir la prueba.
¿Necesitas un abogado para esto?
La primera reclamación puede hacerla usted: pida información, rectificación y revisión humana. Necesitará abogado cuando la empresa niegue acceso a la información técnica, cuando haya indicios de discriminación o cuando le ofrezcan un acuerdo. Si el caso requiere auditar el modelo o exigir pruebas técnicas, un abogado y un perito informático son casi imprescindibles. Si no puede pagar, revise la posibilidad de Defensoría Pública o asistencia gratuita según su situación.
Casos relacionados
Otros problemas frecuentes en abogados de derecho tecnológico
Preguntas frecuentes sobre este caso
Sí, puede solicitar que la decisión sea revisada por una persona. Pida explícitamente en su reclamación una revisión manual y que le comuniquen el resultado por escrito. La ley de protección de datos exige transparencia sobre criterios y derechos de los titulares; si la entidad se niega, esa negativa es prueba relevante.
Un pantallazo sirve si muestra mensajes, fechas y datos concretos. Exporte además los metadatos cuando sea posible (por ejemplo, exportar chat o correo). Si hace una captura, tome nota de la hora, guárdela en varios soportes y envíela a su correo para crear constancia.
Debe pedir a la entidad que explique la fuente de datos y exigir copia de lo que tienen sobre usted. Si hubo cesión indebida o tratamiento fuera de la finalidad prevista, puede ser una vulneración de protección de datos y cabe reclamar a la empresa que combinó datos.
Puede solicitar la rectificación o supresión de sus datos personales si están incompletos o son inexactos. La eliminación de la información de entrenamiento del modelo es más compleja y suele requerir intervención judicial o administrativa, así como pruebas técnicas.
Si la decisión automatizada tiene consecuencias laborales, además de la reclamación por datos puede haber vías ante el Ministerio del Trabajo y acciones laborales. Consulte para coordinar las dos rutas: protección de datos y derecho laboral.
¿Necesitas resolver este problema legal?
Te conectamos con los mejores abogados especializados. Consulta gratuita y sin compromiso.