Problemas con la responsabilidad por algoritmos y decisiones automatizadas

¿Tienes razón?

Saber si tienes razón exige comprobar tres cosas: el papel del algoritmo (¿decidió por sí mismo o fue soporte para una persona?), quién lo diseñó o explota y si hubo transparencia y cumplimiento normativo, sobre todo en materia de protección de datos y consumo. Si el sistema tomó una decisión relevante sin información previa ni posibilidad de revisión, tu situación puede ser fuerte. Si la decisión fue el resultado de un diseño contractual en el que aceptaste expresamente un proceso automatizado y con límites claros, la defensa de la otra parte es más fácil. También importa si hubo error técnico, sesgo en los datos o falta de mantenimiento: un modelo mal entrenado que discrimine o que produzca perjuicio económico puede generar responsabilidad del desarrollador o del proveedor del servicio.

Además, la documentación técnica es crucial: registros de entrenamiento, versiones del modelo, logs de decisión, y quién intervino en la supervisión. Si la decisión automatizada afecta derechos de consumidores o trabajadores, existen obligaciones de información y transparencia que la empresa debe cumplir; su incumplimiento refuerza tu reclamo.

Cómo se soluciona

1. Reúne la comunicación y pruebas. Conserva correos, notificaciones y pantallazos que muestren la decisión y su efecto. Pide copia de los datos que se usaron para tomarla si procede.

1. Solicita explicación y revisión formal. Dirígete por escrito al responsable del sistema pidiendo la explicación de la decisión automatizada y la revisión por una persona. En materia de datos personales puedes pedir acceso a la información sobre lógica automatizada y las consecuencias.

1. Guarda logs y solicita registros técnicos. Si puedes, pide información sobre el modelo, sus versiones, métricas de desempeño y periodos de entrenamiento; si la empresa se niega, deja constancia de la negativa por escrito.

1. Valora reclamación en consumo o ante la autoridad de protección de datos. Si eres consumidor, presenta la reclamación ante la vía administrativa de consumo; si hay posible vulneración de datos, acude a la autoridad de protección de datos con toda la documentación.

1. Negocia o litiga. Si no obtienes respuesta o reparación, valora la vía judicial: con abogado se analiza la responsabilidad civil por daños y perjuicios y la posibilidad de medidas cautelares para detener el uso del sistema.

Qué puedes hacer hoy: pedir por escrito la explicación de la decisión y pedir revisión por una persona. Qué necesita un profesional: análisis técnico del modelo, informe pericial sobre sesgos y defectos, y redacción de reclamación administrativa o demanda.

Qué puede pasar

1. Se arregla con una carta. Muchas empresas revisan manualmente decisiones cuestionadas y corrigen errores si la afectación es evidente; a veces basta con una rectificación o con la anulación de la decisión automatizada.

1. Acuerdo o conciliación. Puedes negociar compensación o medidas de reparación (por ejemplo, reintegro, modificación de registros o medidas de transparencia). Un acuerdo puede ser preferible si evita largos pleitos y si incluye garantías de cambio en el modelo.

1. Juicio. En juicio se discutirá quién es responsable: el proveedor del algoritmo, el propietario de los datos o el explotador del servicio. Si pierdes, podrías no obtener reparación y afrontar costas. Si ganas, la sentencia puede ordenar reparación, indemnización y medidas para evitar la repetición. Sin embargo, ejecutar una sentencia requiere que la parte condenada tenga bienes.

Y si ganas, ¿cobras? Cobrar depende de la solvencia de quien deba pagar; por eso muchas reclamaciones se resuelven con acuerdos que incluyen garantías o pagos fraccionados.

Errores que arruinan el caso

• No pedir por escrito la revisión de la decisión: perderás constancia de tu intento de solución.
• No preservar evidencia técnica: borrar o no conservar logs y comunicaciones dificulta probar sesgo o error.
• Confundir que un algoritmo es autónomo cuando en realidad hay intervención humana regular: eso cambia la vía de reclamación.
• Firmar cláusulas contractuales que renuncien a impugnar decisiones automatizadas sin asesoramiento.
• No solicitar acceso a los datos usados: sin esos datos, demostrar sesgo o error es muy difícil.