Aspectos clave que hay que tener en cuenta sobre la IA agentiva
- Los agentes de IA van más allá de la simple asistencia: pueden actuar directamente, interactuar con programas informáticos y realizar tareas complejas con una intervención humana limitada.
- Las mejoras en la productividad conllevan una responsabilidad que sigue siendo tanto humana como organizativa: incluso cuando una acción la lleva a cabo una IA, la organización que la implementa sigue siendo responsable del resultado.
- El aumento del número de agentes de IA refuerza la necesidad de supervisión y trazabilidad: las organizaciones deben poder determinar qué agente ha intervenido, qué información se ha utilizado y cómo se ha obtenido un resultado.
- La IA agentiva plantea un nuevo reto probatorio: en caso de auditoría, investigación, inspección o litigio, resulta necesario poder demostrar la integridad, la autenticidad y la cronología de las acciones realizadas por la IA.
- Los mecanismos de confianza digital permiten crear una pista de auditoría fiable: la trazabilidad de las interacciones, el sellado de tiempo electrónico y el archivo seguro pueden conservar las pruebas de los intercambios entre personas y máquinas, así como entre máquinas, y reforzar su valor probatorio.
La cuestión no radica tanto en la autonomía como en la delegación
Delegar una tarea a un agente de IA equivale a transferir parte del proceso de toma de decisiones operativas a un sistema cuyo razonamiento puede que ya no sea totalmente visible a posteriori. Esta cuestión es determinante, ya que las empresas siguen siendo responsables de los resultados, incluso cuando estos son generados por máquinas.
Un agente de atención al cliente puede responder directamente a los clientes. Un agente encargado del cumplimiento normativo puede examinar transacciones y notificar alertas. Un agente de desarrollo puede generar y modificar código. En cada uno de estos casos, la responsabilidad recae, en última instancia, en la organización que implementa la tecnología.
El nivel de supervisión necesario aumenta cuando intervienen varios agentes de forma conjunta. En un entorno de desarrollo de software, por ejemplo, un agente puede escribir código, otro puede probarlo y un tercero puede proponer correcciones. A medida que aumenta el número de agentes de IA que participan en un flujo de trabajo, resulta cada vez más complejo comprender cómo se ha obtenido un resultado determinado.
Por lo tanto, la visibilidad y la trazabilidad se convierten en un requisito operativo. En caso de incidente, las organizaciones pueden necesitar identificar qué agente intervino, qué información se utilizó y cómo avanzó la decisión a lo largo del flujo de trabajo.
Surge una nueva cuestión probatoria
Las organizaciones siempre han tenido que ser capaces de demostrar la fiabilidad de sus procesos operativos. Un contrato firmado, una transacción aprobada o un documento fechado pueden vincularse a una persona, a una decisión y a una secuencia documentada de acontecimientos.
La IA agentiva plantea una nueva dificultad. Ahora, las acciones pueden ser iniciadas, coordinadas o ejecutadas por sistemas que funcionan con distintos grados de autonomía. Cuando estos sistemas se integran en los flujos de trabajo operativos, las organizaciones deben poder comprender cómo se ha obtenido el resultado.
Este requisito no solo se planteará en circunstancias excepcionales. Podrá surgir durante una inspección reglamentaria, una auditoría interna, una investigación sobre ciberseguridad o un litigio con un cliente o un proveedor. En cada uno de estos casos, las organizaciones deberán poder explicar no solo qué ha ocurrido, sino también cómo se ha determinado ese resultado concreto.
Los agentes de IA cometerán errores, algo inherente a su uso. Los colaboradores humanos también cometen errores. Lo importante es la capacidad de comprender, a posteriori, lo que ha ocurrido.
Así pues, a medida que la IA agentiva se integra en los procesos operativos, las organizaciones deben ser cada vez más capaces de demostrar la integridad, la autenticidad y la trazabilidad de las acciones llevadas a cabo por la IA. De este modo, pueden mantener una pista de auditoría fiable que permita determinar qué ha ocurrido, cuándo y según qué secuencia exacta de acontecimientos.
Crear una base de confianza digital para la IA
Es en este ámbito donde los mecanismos de confianza digital resultan útiles. Las herramientas de trazabilidad de la IA, combinadas con el sellado de tiempo electrónico y el archivo seguro, y directamente integradas en los flujos de trabajo operativos, pueden crear y conservar registros fiables de las interacciones entre personas y máquinas, o entre máquinas, y reforzar su valor probatorio en caso de auditoría, investigación o litigio.
Esta necesidad resulta especialmente evidente en entornos de desarrollo asistidos porinteligencia artificial, en los que los agentes autónomos pueden generar, probar y modificar código en distintos repositorios. El seguimiento de las indicaciones y su archivo con fines probatorios permiten conservar las interacciones entre las personas y los sistemas de IA, creando un registro de auditoría que permite identificar quién ha tomado las decisiones y cómo se han generado dichas decisiones y acciones.
Más allá de los requisitos de cumplimiento normativo y de auditoría, la trazabilidad de la IA también ofrece varias ventajas para los editores de software. Permite documentar la contribución humana al desarrollo de software, en particular para respaldar las reivindicaciones relativas a los derechos de autor. Asimismo, puede contribuir a demostrar la originalidad del software al conservar un registro verificable de su proceso de desarrollo a lo largo del tiempo.
En conclusión, la IA agentiva presenta un importante potencial para mejorar la productividad en los distintos sectores de la economía británica. No obstante, su eficacia dependerá de dos factores: su rendimiento técnico y la capacidad de garantizar que las acciones autónomas puedan supervisarse y explicarse cuando sea necesario.
Y es que una autonomía desprovista de responsabilidad no permite la adopción de la IA a gran escala. Genera incertidumbre operativa y jurídica.
Fuentes
- Plan de Acción sobre Oportunidades en el ámbito de la IA – Gobierno del Reino Unido
- Salesforce – Anuncio del informe sobre conectividad de 2026
- Visual Studio Code: presentación del modo «Copilot Agent»
Exención de responsabilidad
Las opiniones, presentaciones, cifras y estimaciones que figuran en el sitio web, incluido el blog, tienen únicamente fines informativos y no deben considerarse asesoramiento jurídico. Para obtener asesoramiento jurídico, debe ponerse en contacto con un profesional del derecho en su jurisdicción.
Queda prohibida la utilización del contenido de esta página web, incluido el blog, con fines comerciales, incluida la reventa, sin el permiso previo de Evidency. La solicitud de permiso debe especificar el propósito y el alcance de la reproducción. Para fines no comerciales, todo el material de esta publicación puede citarse o reimprimirse libremente, pero se requiere un reconocimiento, junto con un enlace a este sitio web.
