Problemas con la responsabilidad por algoritmos y decisiones automatizadas

¿Tienes razón?

Cuando una decisión automatizada te perjudica no hay una respuesta única, pero sí tres ejes que determinan si tu reclamo tiene base. Primero, quién tomó la decisión: ¿fue puramente una máquina o hubo intervención humana? Si una empresa aplicó una regla automatizada sin revisión, su responsabilidad es más fácil de discutir. Segundo, la fuente de datos: si el algoritmo usó datos incorrectos o ilegales (por ejemplo datos sensibles tratados sin fundamento), tu posición mejora. Tercero, la transparencia y el consentimiento: si la empresa te negó información sobre cómo se llegó a la decisión o no te informó del uso de perfiles, eso también pesa a tu favor.

No importa si la tecnología parece compleja: la ley mira efectos y responsabilidades. En contratos de consumo o prestación de servicios, la empresa sigue respondiendo por cómo presta el servicio; en relaciones laborales, la empresa no puede eludir su deber de cuidado aprovechándose de automatizaciones. Si la decisión afecta derechos fundamentales —por ejemplo el acceso a salud, trabajo, crédito— el reclamo suele tener mayor fuerza.

Cómo se soluciona

1. Reúne la prueba: guarda la comunicación donde se te notificó la decisión (capturas, correos, SMS), exporta logs si puedes, y anota fechas y nombres de personas con las que hablaste. Si la notificación fue en una plataforma, descarga la página o haz capturas completas que incluyan la URL.

1. Pide explicaciones por escrito: envía una solicitud fehaciente a la empresa pidiendo la razón de la decisión, los datos usados y si existió intervención humana. En muchas empresas existe un canal de atención al cliente; pide que te contesten por escrito y guarda la respuesta. Si se niegan, anota la negativa y la hora.

1. Revisa contratos y políticas: localiza los términos de servicio, políticas de privacidad y cualquier cláusula que mencione decisiones automatizadas o perfiles. Exporta esas páginas y anota versiones si aparecen fechadas.

1. Analiza la legitimidad del tratamiento de datos: verifica si tu información es sensible y si la empresa tenía base para usarla para tomar la decisión. Si hay dudas sobre el uso de datos personales, anota qué datos concretos te parecen relevantes.

1. Intenta un arreglo directo: propón una revisión humana o la rectificación de datos erróneos. Muchas veces una revisión administrativa repara el daño rápidamente.

1. Escala a instancias administrativas o judiciales: si la empresa no coopera, puedes presentar reclamo ante la autoridad competente o invocar vías judiciales. Documenta cada gestión: quién respondió, qué dijo y en qué fecha.

Qué puedes hacer tú solo: reunir prueba, pedir explicaciones por escrito y solicitar la revisión humana. Cuándo buscar abogado: si la decisión implica perdida económica relevante, riesgo a tu empleo, acceso a salud o si la otra parte ya tiene abogados.

Qué puede pasar

1. Se arregla con una carta o revisión: muchas empresas corrigen una decisión cuando se detecta un error de datos o se solicita revisión humana. Un resultado rápido y práctico.

1. Acuerdo o conciliación: pueden ofrecer compensación, restaurar el servicio o cambiar tus datos. Aceptar un acuerdo tiene sentido cuando acorta la solución y reduce riesgo. Un acuerdo firmado cierra el conflicto, por lo que conviene entender bien su alcance antes de firmar.

1. Juicio o procedimiento administrativo: si no hay acuerdo, puedes llegar a una demanda civil o a un reclamo ante la autoridad de protección de datos o de consumo. En juicio, la empresa puede alegar que actuó conforme a sus políticas y que el diseño del algoritmo es correcto; la decisión judicial dependerá de la prueba técnica y documental. Si pierdes, podrías cargar con costas procesales y, en algunos casos, la sentencia puede ser difícil de ejecutar si la empresa no tiene bienes embargables.

Y si ganas, ¿cobro?: ganar declara la responsabilidad de la empresa y puede ordenar indemnización o reparación; pero ejecutar una sentencia contra una empresa insolvente puede ser difícil. Por eso en la práctica muchas soluciones eficaces pasan por acuerdos que garanticen cumplimiento inmediato.

Errores que arruinan el caso

• No pedir la explicación por escrito: sin esa solicitud formal pierdes la prueba de que solicitaste revisión.
• Borrar comunicaciones o no exportarlas: muchas plataformas cambian contenidos; si no exportas la prueba, su recuperación será compleja.
• Firmar un acuerdo sin leer la letra chica: algunos acuerdos contienen renuncias de acciones futuras.
• Confiar solo en explicaciones técnicas orales: las pruebas deben ser documentales.
• Esperar pasivamente: cada gestión que no documentes reduce tus opciones.