Problemas con la responsabilidad por algoritmos y decisiones automatizadas

¿Tienes razón?

Cuando una decisión automatizada le afecta (por ejemplo, le niegan un crédito, le bloquean una cuenta, le reducen un servicio), no basta con decir que "fue un algoritmo". Lo que determina si su caso es sólido son, principalmente, estas cuatro cosas:

1. Autoría y control: quién desarrolló, configuró o operó el sistema. Si la empresa que decide a su favor y riesgo es la que controla el modelo, su responsabilidad es más directa. Si es un tercero y hay contrato que la exime, la cuestión es contractual.

1. Datos utilizados: qué datos el sistema usó y con qué fuentes. Si hubo datos erróneos, o uso de datos sensibles sin consentimiento, tiene un punto fuerte. La existencia de registros (logs, entradas de la base de datos, capturas) es decisiva.

1. Transparencia y diligencia: si la compañía pudo explicar cómo se llegó a la decisión y si existía supervisión humana. Si la decisión fue opaca y no había personal que pudiera revisar casos excepcionales, eso pesa en su favor.

1. Perjuicio real: qué daño le causó la decisión (económico, reputacional, acceso a bienes o servicios). Sin daño demostrable es más difícil obtener reparación.

Si puede reunir indicios en estos cuatro apartados, su posición es razonable. Si no tiene nada salvo una notificación automática, seguirá teniendo derechos, pero tendrá que trabajar más para producir prueba técnica o forense.

Cómo se soluciona

1. Reúna prueba técnica y administrativa

• Guarde notificaciones, capturas de pantalla, correos y mensajes. Exporte conversaciones de la aplicación si existen; no confíe en que durarán en el dispositivo.
• Pida y pida por escrito la explicación del decisión automática (explicación lógica) y los criterios usados. Guarde la respuesta.
• Si tiene acceso a registros técnicos (logs, identificadores de transacción, identificadores de modelo), preserve esas referencias.
• Documente el perjuicio: facturas, extractos bancarios, comunicaciones que prueben pérdida de oportunidad.

1. Reclame por escrito y de forma fehaciente

• Dirija una petición formal a la empresa solicitando aclaración y reparación. Use correo certificado o cualquier medio que deje constancia de la recepción.
• Pida la reproducción de la decisión y los datos que la alimentaron. Solicite que revisen su caso por una persona.

1. Agote vías administrativas o de supervisión sectorial

• Si la empresa pertenece a un sector regulado (banca, telecomunicaciones, servicios públicos), presente la reclamación ante el organismo supervisor correspondiente y a la Defensoría del Pueblo. Conserve los acuses.

1. Buscar evaluación técnica

• Si la explicación no es suficiente, busque peritaje tecnológico. Un perito informático puede extraer evidencia que pruebe sesgos, entradas erradas o fallas en el diseño.

1. Decidir la vía a seguir

• Si la empresa corrige o indemniza, valore el acuerdo (lea y negocie términos). Si no, con la prueba técnica y administrativa puede plantear una reclamación administrativa o una demanda civil para reparar el daño.

Qué puede hacer usted hoy: copie los mensajes, solicite por escrito la explicación del algoritmo y pida la revisión humana del caso. Eso no cuesta y crea evidencia.

Qué puede pasar

1) Solución amistosa con carta: muchas empresas revierten decisiones cuando una persona pide revisión y aporta prueba del perjuicio. Ese arreglo es la opción más frecuente y rápida.

2) Acuerdo con conciliación: la empresa puede ofrecer una compensación o restablecer el servicio mediante conciliación administrativa o privada. Un acuerdo suele ser más rápido y seguro que litigar: llega antes y elimina el riesgo de una sentencia contra un insolvente.

3) Procedimiento judicial o administrativo: si no hay acuerdo, la vía formal exige prueba técnica. En el juicio se discute responsabilidad contractual o extracontractual y el quantum de la reparación. Si pierde, podrá afrontar costas y, si la contraparte es insolvente, una sentencia no garantiza cobro inmediato; en Venezuela la ejecución de sentencias puede encontrar barreras prácticas.

«Y si gano, ¿cobro?»: una sentencia favorable es un instrumento, no una garantía automática de cobro. La efectividad depende de la capacidad patrimonial de la empresa y de medidas de aseguramiento que se hayan tomado durante el proceso.

Errores que arruinan el caso

• No conservar mensajes y notificaciones: muchas defensas se basan en que "nunca nos lo comunicaron".
• Borrar el historial o los registros del dispositivo: destruye evidencia que un perito necesitará.
• Aceptar cláusulas de exoneración sin leerlas: muchas aplicaciones incorporan textos que limitan responsabilidad; reconocerlos por escrito complica mucho la reclamación.
• No pedir por escrito y fehaciente la explicación del algoritmo: sin esa petición la empresa puede alegar que no se le solicitó revisión.
• Mezclar canales sin orden: reclamar por redes sociales y luego negar haber recibido respuesta empobrece la prueba.