En junio de 2025, dos investigadores independientes entraron a la plataforma con la que McDonald's entrevista a sus candidatos. No hizo falta un ataque sofisticado. La cuenta de administrador tenía usuario 123456 y contraseña 123456.
Del otro lado había más de 64 millones de registros de postulantes, accesibles. La falla se corrigió en unas dos horas y no hay evidencia de que alguien más entrara. Pero el punto no es el daño: es la pregunta que queda flotando.
Esa plataforma la operaba un proveedor. La IA que conversaba con los candidatos era de ese proveedor. Los datos eran de las personas. Y la marca en la puerta era la de McDonald's.
¿Quién respondía por ese sistema?
No es un caso exótico. Es la nueva normalidad
Podría parecer una anécdota de mala suerte. Los números dicen otra cosa.
El informe anual de IBM sobre el costo de las brechas de datos —el estudio de referencia del sector, con trabajo de campo del Ponemon Institute— midió por primera vez el efecto de la "IA en la sombra": herramientas de inteligencia artificial que los equipos usan sin que la organización las haya autorizado ni sepa que existen.
Tres cifras del mismo informe completan el cuadro, y ninguna es de laboratorio:
- El 20 % de las organizaciones sufrió una brecha por incidentes que involucraban IA no autorizada. Una de cada cinco.
- El 63 % no tiene una política de gobernanza de inteligencia artificial, o todavía la está redactando.
- De las organizaciones que sí tuvieron una brecha en sus modelos o aplicaciones de IA, el 97 % carecía de controles de acceso adecuados a esa IA.
Ese último número es el que más dice. No es que los controles fallaran: es que no existían.
Mientras tanto, la IA ya entró por la puerta de servicio
Y entró sin pedir permiso, en manos de gente que solo quería trabajar mejor.
Menlo Security midió durante un año el comportamiento real de los empleados frente a las herramientas de IA generativa: el 68 % las usa en su versión gratuita, desde cuentas personales, y una mayoría de ellos pega ahí información de la empresa. En un solo mes se registraron más de trescientos mil intentos de pegar contenido corporativo en sitios de inteligencia artificial.
Nadie de esa gente está haciendo nada malintencionado. Están resolviendo. El problema es que el dato que pegan casi nunca tiene un dueño declarado — y por eso nadie tiene que autorizar nada.
Y cuando la IA además escribe código, el descuido se hornea en el producto. Veracode probó más de cien modelos de lenguaje y encontró que el 45 % del código generado introdujo vulnerabilidades conocidas del catálogo estándar de la industria. En Java, la proporción sube al 72 %. Y los modelos más nuevos y más grandes no mejoraron el resultado.
Cuando el que falla es el auditor
Aquí está el caso que a mí más me hizo pensar, porque desarma el argumento de "nuestro equipo revisará lo que salga".
En 2025, Deloitte entregó al Departamento de Empleo del gobierno australiano un informe de aseguramiento por un contrato de 440 mil dólares australianos. Un académico de la Universidad de Sídney notó algo raro en las referencias. Más de una docena de citas y notas al pie no existían. Entre ellas, una cita de un fallo judicial atribuida a un juez que nunca dictó ese fallo.
La versión corregida del informe declara la herramienta que se usó. Deloitte devolvió el último pago del contrato, más de 97 mil dólares australianos.
Si la firma cuyo producto es el rigor entregó a un Estado un documento con fuentes inventadas, la pregunta deja de ser si su equipo revisará el resultado. La pregunta es quién definió qué significa "revisado", y quién firma esa definición.
Y el sistema no es una entidad aparte
Falta la parte legal, y es más corta de lo que parece.
En febrero de 2024, un tribunal canadiense resolvió el caso de un pasajero que siguió lo que le dijo el chatbot de Air Canada sobre una tarifa, y resultó ser incorrecto. La aerolínea argumentó que no podía ser responsable por lo que dijera el chatbot. El tribunal fue seco:
Aunque un chatbot tenga un componente interactivo, sigue siendo simplemente una parte del sitio web de Air Canada. Debería ser obvio para Air Canada que es responsable de toda la información de su sitio web.
El monto fue pequeño: unos 812 dólares canadienses. El precedente no.
Un paréntesis de honestidad, porque aquí se cita todo
Es muy probable que en los últimos meses usted haya leído que "el 95 % de los proyectos de inteligencia artificial fracasan". La cifra viene de un reporte de 2025 del proyecto NANDA, vinculado al MIT Media Lab. Se citó en miles de titulares y movió decisiones de inversión.
Nosotros no la vamos a usar como argumento, por tres razones. No es un trabajo revisado por pares. Hay críticas públicas sobre conflictos de interés de sus patrocinadores. Y lo que el estudio medía en realidad era una aceleración rápida de ingresos, no "impacto medible" — que es como la tradujo la prensa.
Puede que la conclusión de fondo tenga razón. Pero una firma que pide a sus clientes decidir con datos confiables no puede sostener su propio argumento sobre el dato más frágil del mercado.
La cifra que sí resiste es de Gartner: más del 40 % de los proyectos de IA agéntica serán cancelados antes de que termine 2027. Y en mayo de este año, la misma casa fue más lejos y le puso nombre a la causa: cuatro de cada diez empresas degradarán o apagarán sus agentes autónomos por brechas de gobernanza.
No por la tecnología. Por el gobierno.
Tres preguntas para la próxima reunión de directorio
No hace falta un plan de dos años ni comprar nada. Hace falta poder responder tres cosas:
- ¿Qué inteligencia artificial está corriendo hoy en la organización, y quién la aprobó? Casi siempre hay más de lo que el comité imagina: un asistente en atención al cliente, un modelo de scoring heredado, una herramienta que alguien contrató sin pasar por compras.
- ¿De qué datos se alimenta cada una, y quién es el dueño de esos datos? No un área: una persona con nombre que responde por esa información.
- ¿Quién responde si se equivoca, y cómo nos enteramos? Si la respuesta es "el proveedor", vuelva a leer el caso de Air Canada.
Ninguna de las tres es una pregunta técnica. Las tres son de gobierno, y por eso se responden en la sala donde usted ya se sienta.
El punto
La inteligencia artificial no crea el desorden de los datos: lo hereda, lo acelera y lo publica. Una organización que sabe quién responde por cada cifra puede adoptar IA rápido y con calma. Una que no lo sabe va a descubrir sus vacíos a la velocidad de la máquina.
La buena noticia es que la primera pregunta —qué hay corriendo y quién lo aprobó— se puede levantar en semanas, no en años. Y suele ser la que más cambia la conversación.
