Hay una escena pequeña, casi administrativa, que dice mucho sobre cómo se está usando la inteligencia artificial en las empresas. Un documento llega a revisión. Viene prolijo, bien escrito, quizá respaldado por una planilla o por una respuesta generada por un sistema. Nadie lo mira con el mismo nivel de sospecha que miraría un trabajo hecho a mano por alguien apurado. Se asume que ya pasó por una especie de filtro previo. Y justo ahí aparece el riesgo.
La IA se equivoca, pero el riesgo más difícil aparece después: cuando el resultado parece venir de un sistema, la responsabilidad humana empieza a correrse unos centímetros hacia el costado. Nadie renuncia formalmente a revisar. Nadie dice que ya no responde por el trabajo. Pero la atención baja, el criterio se afloja y el error encuentra espacio.
Un estudio de BCG Henderson Institute y Boston University puso números a esa intuición. Los investigadores pidieron a 1.261 managers, directores y ejecutivos de Estados Unidos, Canadá y la Unión Europea que revisaran documentos de trabajo con errores deliberados. El hallazgo más útil para las organizaciones fue humano: cuando la responsabilidad del resultado queda mal asignada, la calidad de la revisión cae y el error se vuelve más fácil de justificar.
El estudio encontró que, en ciertas condiciones del experimento, la responsabilidad personal que los participantes se atribuían bajó 9 puntos porcentuales. Al mismo tiempo, la responsabilidad que asignaban al sistema de IA subió 8 puntos. La cifra importa, pero importa más el movimiento mental que revela: si existe una salida para repartir la culpa, incluso hacia un sistema que no puede responder por nada, muchas personas la toman sin darse cuenta.
Ese desplazamiento no es nuevo. En cualquier equipo, la responsabilidad compartida puede convertirse en responsabilidad de nadie si no está bien diseñada. La IA vuelve ese patrón más delicado porque ofrece una excusa elegante. No parece una excusa. Parece contexto técnico.
Un sistema actual puede producir, recomendar y priorizar, pero no puede responder en sentido organizacional. La rendición de cuentas ante un cliente, un comité, un regulador o un directorio sigue perteneciendo a una persona. Si el lenguaje interno permite que la responsabilidad se vaya hacia la herramienta, en la práctica la responsabilidad desaparece.
Los documentos del estudio incluían errores que una lectura atenta podía encontrar. En un caso, un contrato se describía como una reducción de costos, mientras la planilla adjunta mostraba un aumento del gasto total. En otro, una descripción de cargo de entrada pedía más de diez años de experiencia. Eran contradicciones de esas que se detectan cuando alguien lee con el cuerpo inclinado hacia adelante.
Aun así, pasaron más seguido cuando la responsabilidad personal percibida era menor. En esas condiciones, los participantes detectaron 18% menos errores.
La explicación más honesta es simple: se revisa distinto lo que uno siente propio. Cuando algo parece ya resuelto por otro, aunque ese otro sea una herramienta, la mente entra con menos tensión. Y una revisión sin tensión se parece demasiado a un trámite.
El estudio encontró otro efecto: en las condiciones de menor responsabilidad personal, las solicitudes de revisión adicional a un superior subieron 44%. A primera vista, eso podría sonar responsable. Pedir una segunda mirada puede ser una buena práctica. El problema es el motivo.
Cuando escalar forma parte de una regla clara de gobernanza, agrega calidad. Por ejemplo: una segunda revisión para decisiones con impacto legal, financiero o reputacional. Pero cuando escalar aparece porque la primera persona no quiere respaldar su propio juicio, la organización empieza a pagar dos veces por una revisión que nunca ocurrió de verdad.
Ahí se instala una dinámica incómoda: todos participan, pocos responden. El proceso parece más seguro porque hay más ojos, pero no necesariamente hay más criterio.
Esta diferencia aplica a cualquier flujo donde el trabajo pasa por varias manos antes de llegar a un resultado final. La IA vuelve más urgente una pregunta que muchas organizaciones ya tenían pendiente: quién responde por qué.
Sostener la responsabilidad humana en procesos con IA requiere diseño operativo. Cada resultado relevante necesita una persona responsable, criterios de revisión y reglas de escalamiento escritas antes del incidente, no improvisadas después.
La primera práctica es describir con precisión qué significa supervisar IA en cada rol. Hay que definir qué puede avanzar sin intervención humana, qué necesita aprobación, qué tipo de error debe detectar la persona responsable y en qué casos debe detener el flujo.
La segunda práctica es separar escalamiento de inseguridad. Una segunda revisión debe activarse por umbrales claros: monto, riesgo, impacto, exposición regulatoria, novedad del caso o baja confianza documentada. Si el criterio es solo "no estoy seguro", el sistema entrena a las personas a no sostener su propio juicio.
La tercera práctica es medir la calidad de la supervisión, además de la velocidad de aprobación. Si el indicador principal es cuántos documentos se liberan por semana, la organización está premiando el paso rápido por encima de la lectura responsable.
¿Cada proceso que involucra IA tiene un dueño humano identificado, con nombre y apellido?
¿Las personas saben qué errores concretos deben detectar, o solo se les pide una revisión genérica?
¿El escalamiento responde a una regla definida o a la incomodidad de quien revisa primero?
¿La organización mide la calidad de la supervisión humana, además de la velocidad de aprobación?
¿Cualquier persona del equipo podría explicar, sin dudar, de qué resultado responde cuando usa IA?
Si alguna de estas preguntas no tiene una respuesta clara, el problema ya existe. Tal vez todavía no produjo un incidente visible, pero la condición está instalada.
--
La IA puede redactar, resumir, clasificar, comparar y proponer. Puede acelerar trabajo real. También puede producir errores con una confianza impecable. La responsabilidad por el resultado sigue necesitando un nombre humano detrás.
Si quieres fortalecer la gobernanza y la responsabilidad individual en los equipos que trabajan con IA en tu organización, cuéntanos tu desafío a través de nuestro formulario de contacto. Estaremos felices de conversar.
.avif)
