El trabajo que empieza antes del prompt

Durante los últimos años hemos dedicado mucho tiempo a aprender cómo pedirle cosas a la inteligencia artificial.

Probamos prompts. Ajustamos instrucciones. Añadimos contexto. Buscamos la fórmula capaz de producir una mejor respuesta con menos intentos.

Mientras tanto, los modelos han dejado de limitarse a responder. Algunos ya pueden consultar información, escribir código, utilizar herramientas, conectarse con otros sistemas y tomar decisiones intermedias para completar una tarea. Ese cambio amplía sus posibilidades y también modifica nuestra responsabilidad.

Tres incidentes recientes ayudan a entender la magnitud de esa transición.

Cuando una instrucción encuentra una puerta abierta

En julio de 2026, Anthropic reconoció tres incidentes en los que distintos modelos de Claude accedieron sin autorización a sistemas de organizaciones reales durante evaluaciones de ciberseguridad.

Los modelos participaban en ejercicios de capture the flag. Habían recibido una misión: entrar en una máquina dentro de un entorno simulado y recuperar cierta información. Las instrucciones afirmaban que carecían de acceso a internet. Una configuración incorrecta dejó ese acceso disponible.

Cuando Claude encontró sistemas reales, los interpretó como parte del ejercicio y continuó buscando la información que le habían pedido. Los modelos reaccionaron de manera diferente cuando aparecieron señales de que el entorno podía ser real. Uno continuó; otro se convenció de que seguía dentro de una simulación; el modelo experimental más reciente terminó por detenerse.

El caso de OpenAI y Hugging Face fue todavía más complejo. Durante otra evaluación, modelos con algunas protecciones reducidas encontraron una vulnerabilidad desconocida en el software que aislaba el entorno. Consiguieron acceso a internet, encadenaron distintas vulnerabilidades y llegaron a la infraestructura de Hugging Face para obtener información con la que pudieran resolver la prueba.

La misión había sido definida por personas. El camino concreto fue construido por el agente.

Días después, Reuters informó de un incidente similar con un modelo de Meta. Una mala configuración de un proveedor externo habría permitido que el sistema accediera a internet durante otra evaluación.

La imagen de una inteligencia artificial que escapa de su jaula resulta irresistible. Parece el comienzo de una película que ya hemos visto demasiadas veces. También desvía la atención de las decisiones que hicieron posibles estos episodios.

En cada caso hubo personas y organizaciones que definieron el objetivo, construyeron el entorno, concedieron permisos, redujeron protecciones y diseñaron —o dejaron de diseñar— los mecanismos de supervisión.

Hasta ahora, la evidencia disponible no muestra que los modelos persiguieran una ambición propia. Trabajaban sobre una tarea asignada dentro de límites que existían en las instrucciones, pero no siempre en la infraestructura.

La misma historia, a una escala más cercana

Al leer estos casos pensé en algo mucho más cercano. La mayoría nunca evaluaremos las capacidades ofensivas de un modelo. Tampoco administraremos un laboratorio con información sensible o sistemas deliberadamente preparados para ser atacados.

Sin embargo, ya estamos delegando tareas que afectan a clientes, candidatos, presupuestos, contratos y decisiones de negocio.

Podemos pedirle a una IA que optimice una campaña. El sistema puede aumentar los registros mientras reduce su calidad, fuerza el mensaje o ignora el efecto sobre la marca.

Puede revisar contratos y producir un resumen impecable que omita una excepción decisiva.

Puede clasificar currículums utilizando patrones históricos que reproducen decisiones que la empresa pretendía superar.

Puede responder a un cliente con rapidez y hacer una promesa que nadie estaba autorizado a ofrecer.

En estos ejemplos, la IA puede cumplir la tarea y provocar al mismo tiempo un resultado que nunca quisimos. El objetivo estaba incompleto. Parte del contexto permanecía en nuestra cabeza. Los límites que considerábamos evidentes jamás fueron expresados.

Ahí aparece el aprendizaje cotidiano de los incidentes de Anthropic y OpenAI: una instrucción describe lo que queremos conseguir, pero también necesita definir el espacio dentro del cual puede conseguirse.

Cuanto más delegamos, más tenemos que preparar

Delegar trabajo a una IA exige pensar antes de escribir el prompt.

Tenemos que precisar qué resultado buscamos y qué señales nos permitirán reconocerlo. También debemos identificar los criterios que el sistema jamás debería sacrificar para alcanzarlo: privacidad, calidad, rentabilidad, seguridad, equidad, confianza o reputación.

Después vienen los permisos. Una cosa es permitir que una herramienta lea un documento. Otra es darle capacidad para modificarlo, enviarlo, publicarlo o utilizar su contenido para tomar una decisión. Cada acción adicional aumenta el impacto de un supuesto equivocado.

La supervisión también necesita diseño. Revisar cada movimiento devolvería el proceso al punto de partida. Dejar que el sistema actúe sin momentos de control convierte cualquier desviación en una cadena de consecuencias.

El equilibrio depende de tres variables: la autonomía concedida, la sensibilidad de la información y la dificultad de revertir la acción.

Una lluvia de ideas admite un margen amplio. El análisis de una base de clientes requiere controles sobre datos, fuentes y criterios. El envío de una comunicación, la modificación de un presupuesto o una decisión que afecta a una persona deberían incorporar un punto explícito de aprobación humana.

Supervisar significa decidir de antemano dónde nuestra presencia sigue siendo necesaria.

Aprender a dirigir sistemas

Hace unas semanas escribí que la IA necesita directores, no solo operadores. Estos incidentes permiten llevar esa idea a un terreno más concreto.

Nadie necesita convertirse en científico para trabajar con IA. Sí necesitaremos una alfabetización más profunda que aprender una colección de prompts. Tendremos que reconocer cuándo una tarea está bien definida, cuándo un proceso contiene demasiadas excepciones y cuándo la consecuencia potencial exige mantener a una persona dentro de la decisión.

Esa capacidad se parece bastante a dirigir: traducir una intención general en condiciones de trabajo, interpretar resultados parciales y conservar el criterio cuando la herramienta avanza más rápido que nuestra comprensión del proceso.

También tendremos que medir algo más que tiempo ahorrado. Una automatización puede acelerar un proceso y deteriorar su resultado. Puede producir más respuestas y reducir su confiabilidad. Puede generar actividad sin crear valor.

La eficiencia cuenta una parte de la historia. La calidad, la trazabilidad, el número de correcciones, los incidentes evitados y la posibilidad de explicar una decisión completan el cuadro.

La posibilidad del error permanece

Incluso con mejores instrucciones, permisos limitados y puntos de control, una inteligencia artificial puede equivocarse. También puede interpretar una situación de una forma que nadie anticipó.

La gobernanza ayuda a detectar el error antes, contener su alcance y conservar la posibilidad de corregirlo. Esa es una expectativa más realista que aspirar a sistemas infalibles.

Trabajar con IA supone aprender a convivir con una combinación incómoda: mayor capacidad y mayor incertidumbre. La respuesta requiere atención, criterio y humildad para aceptar que algunas consecuencias solo aparecerán cuando el sistema empiece a actuar.

El prompt seguirá importando. También todo lo que ocurre antes de escribirlo y después de recibir la primera respuesta.

Cada tarea delegada contiene una autorización. Aprender a verla, limitarla y asumirla será parte del trabajo cotidiano con inteligencia artificial.

Ahí empieza el verdadero trabajo.