Problemas con la responsabilidad por algoritmos y decisiones automatizadas

¿Tienes razón?

Lo esencial para saber si tenés razón en una reclamación por una decisión automatizada son cuatro dudas que debés resolver: 1) ¿quién es el responsable del tratamiento? (la empresa que decide la finalidad); 2) ¿la decisión fue totalmente automática o hubo intervención humana?; 3) ¿qué datos y modelos se usaron y con qué criterios?; y 4) ¿se informó previamente a las personas afectadas y se les ofreció un mecanismo de revisión? Si la decisión produjo un perjuicio (por ejemplo, negar un crédito, suspender una cuenta, fijar condiciones laborales) y la persona no fue informada ni hubo posibilidad de apelación, la posición de la persona afectada suele ser fuerte.

En Argentina, la normativa de protección de datos exige transparencia y que los tratamientos respeten principios de finalidad y proporcionalidad. Para reclamar hay que poder demostrar el nexo entre la decisión automatizada y el daño. No alcanza con sospechar: necesitás pruebas técnicas o testimonios que apunten a cómo funcionó el algoritmo. También importa la calidad y origen de los datos usados: sesgos en los datos pueden generar discriminación y responsabilidad.

Cómo se soluciona

1) Reuní evidencia inmediata. Guardá la comunicación que notificó la decisión (mail, notificación en app), capturas de pantalla, y cualquier información que explique la razón alegada por la empresa. Pedí copia de los criterios o del informe que motivó la resolución.

2) Solicitá acceso a la información. Hacé un pedido formal de acceso a los datos y a la explicación de la lógica del algoritmo que produjo la decisión. Documentalo por escrito y guardá acuses.

3) Identificá la persona que tomó la decisión o el sistema responsable. Averiguá si existió intervención humana y quién la autorizó. Si hay interacción entre humano y máquina, la responsabilidad puede ser compartida.

4) Pedí una revisión interna. Muchas empresas tienen procedimientos de apelación; iniciá ese trámite y guardá toda la correspondencia.

5) Documentá impactos. Reuní pruebas del perjuicio: pérdidas económicas, tiempos de inactividad, rechazo de terceros, etc. Esto permite cuantificar el daño y explicar la urgencia de una reparación.

6) Buscá asesoramiento técnico y legal. Un perito informático puede auditar los modelos, revisar sesgos y generar un informe técnico que sirva en un reclamo o demanda. Un abogado te ayuda a estructurar la petición de información y, si conviene, iniciar un reclamo administrativo o judicial.

7) Medios alternativos. Considerá iniciar una mediación o reclamar ante la autoridad de protección de datos si existe el caso; esto puede forzar la entrega de información y una solución rápida.

Qué puede pasar

1) Solución mediante corrección o reinstauración. La empresa puede revertir la decisión, dar explicaciones y reparar el daño (restitución de servicios, disculpas, compensación). Es la salida más frecuente cuando el error es técnico o informativo.

2) Acuerdo o conciliación. Con peritajes y pruebas técnicas podés negociar un acuerdo que compense el perjuicio sin ir a juicio. Un acuerdo puede ser preferible cuando la prueba técnica es costosa o incierta.

3) Juicio y peritaje. Si no hay acuerdo, el caso puede terminar en juicio donde se evaluará la responsabilidad, la existencia de negligencia y el daño. Si perdés, podrías afrontar costas y gastos; si ganás, la efectividad de la sentencia depende de la capacidad de la contraparte.

Y si ganás, ¿cobrás? Una sentencia favorable puede ordenar medidas y eventualmente compensaciones, pero su ejecución práctica depende de la solvencia del responsable y de la posibilidad de embargar activos.

Errores que arruinan el caso

• No pedir por escrito la explicación de la decisión: sin solicitud formal perdés prueba.
• Destruir registros o log de decisiones del sistema; no conservar metadatos ni versiones del modelo.
• Confiar sólo en especulaciones sobre sesgos sin peritaje técnico.
• Firmar un acuerdo apresurado sin que un perito revise la reversión técnica.
• No registrar las pérdidas económicas concretas y documentables provocadas por la decisión.