Los riesgos de la IA que nadie le cuenta a tu ESAL cuando empieza

Los tres riesgos que nadie menciona en el entusiasmo inicial

Cuando una ESAL empieza a usar IA, casi siempre lo hace bien: alguien encuentra una herramienta gratuita, resuelve un problema puntual, y la adopción crece de boca en boca dentro del equipo. Ese entusiasmo es real y es bueno. También es exactamente el punto donde aparecen tres riesgos que nadie suele nombrar antes de que ocurran.

1 · La base de donantes y beneficiarios no es un dato cualquiera

La Ley 1581 de 2012 exige que cualquier entidad que maneje datos personales —de donantes, voluntarios o beneficiarios— tenga una política de tratamiento de datos publicada y accesible. Subir esa base a un chat de IA gratuito, sin verificar qué hace el proveedor con lo que se le pega, puede convertir un problema de productividad en un problema de cumplimiento. Una ESAL que maneja datos de menores, población vulnerable o beneficiarios de programas sociales tiene, si acaso, menos margen de error.

2 · Depender de una sola herramienta es depender de una sola persona, otra vez

El dolor que ya conoce el sector —un sitio web que solo sabía administrar la persona que ya no trabaja ahí— se repite si la IA se adopta sin acuerdo ni documentación. La solución no es desconfiar de la IA: es tratarla como cualquier proceso institucional, con más de una persona que sepa usarla.

3 · Publicar sin revisar es la forma más rápida de perder credibilidad

Un informe de impacto a un donante generado por IA puede sonar bien y decir algo impreciso. La revisión humana antes de publicar no es una desconfianza de la herramienta: es la misma razón por la que un comunicado de prensa lo revisa alguien antes de salir.