Problemas con la responsabilidad por algoritmos y decisiones automatizadas

¿Tienes razón?

La responsabilidad por una decisión automatizada depende siempre de cuatro elementos que hay que comprobar: quién operaba el sistema; si la decisión fue puramente automática o hubo intervención humana; qué expectativas razonables tenían las personas afectadas; y si la empresa cumplió las obligaciones de debida diligencia, transparencia y seguridad. Si usted sufrió un daño, su caso será fuerte cuando: existe un registro técnico (logs, versiones de modelo, parámetros) que muestra la decisión; el afectado no fue informado o no dio consentimiento informado para el uso de esa lógica; la salida del sistema produjo un perjuicio real y cuantificable; y la empresa no estableció mecanismos de revisión humana ni auditoría. Si la decisión dependía de una configuración errónea o de un modelo mal entrenado y el proveedor no documentó pruebas razonables, puede haber responsabilidad contractual y, en algunos casos, responsabilidad por incumplimiento de las reglas de protección de datos personales.

En Colombia la normativa relevante no contempla una figura exclusiva para "algoritmos", pero la Protección de Datos Personales exige principios de finalidad, seguridad y transparencia; además, el Código Civil y las reglas contractuales rigen responsabilidad por incumplimiento y daño. También puede entrar la tutela si un derecho fundamental (empleo, salud, educación, seguridad social) resultó vulnerado por la decisión automatizada.

Cómo se soluciona

1. Reúna y preserve la prueba técnica y administrativa. Pida y descargue logs, versiones del modelo, conjuntos de entrenamiento, documentación de despliegue, correos entre equipos y flujos de aprobación. Exporte conversaciones, pantallazos y cualquier notificación que haya recibido. Si el sistema tendió a modificar decisiones humanas, documente quién y cómo validó cada salida.

1. Solicite explicaciones por escrito al responsable del tratamiento de datos o al proveedor. Haga una petición clara (derecho de acceso a la información y explicaciones básicas sobre la lógica) usando derecho de petición si el responsable es una entidad pública, o una solicitud fehaciente por correo con constancia de recibido si es una empresa privada. Pida específicamente: copia de la política de tratamiento de datos, la base jurídica usada, una descripción de la lógica empleada y registros de las decisiones que le afectan.

1. Evalúe el alcance del daño y recabe pericia técnica. Si la empresa responde de forma insuficiente o no contesta, pida una revisión técnica —un perito en ingeniería de datos o IA— que compare el resultado esperado con el obtenido y analice sesgos, errores de entrenamiento o configuraciones defectuosas. Esto sirve para valorar el reclamo y preparar una acción ante autoridad o juez.

1. Use vías administrativas y conciliación. Dependiendo del sector, puede acudir a la Superintendencia de Industria y Comercio para temas de datos personales, o a otras autoridades sectoriales si la decisión afectó servicios financieros, salud o telecomunicaciones. Para reclamos civiles, intente una conciliación extrajudicial en derecho antes de demandar, que suele ser requisito de procedibilidad para posteriores demandas civiles.

1. Demanda civil o acción de tutela. Si hay vulneración de derechos fundamentales, la acción de tutela es una herramienta rápida y sin necesidad de abogado para obtener una medida provisional que frene la actuación del sistema. Para daños patrimoniales o contractuales, la demanda ante un juzgado civil es la vía adecuada; en esos casos necesitará pericia técnica y valoración económica del perjuicio.

Qué puede pasar

1) Se arregla con una carta y corrección: muchas veces la empresa acepta explicar, corrige la configuración y le indemniza de forma directa o restituye lo perdido. Estas soluciones suelen ser las más rápidas y se consiguen con evidencia técnica y una petición bien fundada.

2) Acuerdo o conciliación: llegan a un acuerdo donde la empresa reconoce responsabilidad parcial, ofrece una compensación y se compromete a controles adicionales. Un acuerdo puede ser mejor que una sentencia porque evita gastos y llega antes; también puede incluir obligaciones de transparencia futuras que le protejan.

3) Juicio o tutela: en juicio se discute si hubo incumplimiento contractual, negligencia técnica o vulneración de derechos. Si usted pierde, puede quedar con los gastos procesales y no obtener resarcimiento; si gana, la sentencia puede ordenar reparación y medidas correctivas. Incluso con sentencia favorable, la efectividad depende de la capacidad patrimonial del responsable para pagar.

Y si gana, ¿cobro? Una sentencia solo sirve si el demandado tiene bienes o ingresos ejecutables; de lo contrario, la sentencia es un título ejecutivo en papel que puede tardar en cobrarse o resultar parcial.

Errores que arruinan el caso

• No preservar los registros técnicos: borrar o no exportar logs, versiones o backups es perder la prueba clave.
• Firmar documentos sin leer la cláusula de limitación de responsabilidad: aceptar por escrito que conoce y asume los riesgos puede cerrar la puerta a una reclamación.
• Confiar solo en capturas de pantalla: sin metadatos y exportaciones oficiales pueden ser cuestionadas.
• Esperar pasivamente: dejar que la empresa actualice el sistema sin pedir constancia de los cambios borra la trazabilidad.
• Ignorar el derecho de petición o no pedir explicaciones por escrito: las respuestas por chat sin constancia valen menos en juicio.