Las grandes firmas de IA ya tienen un manual para el peor día: cuatro escenarios que las desvelan

¿Qué pasa si la IA se vuelve un problema serio? Los principales ejecutivos del sector ya se hacen esa pregunta y, sobre todo, ya la están contestando. En mesas chicas de OpenAI, Anthropic y otras compañías, los vienen diseñando planes de respuesta ante cuatro escenarios de alto impacto que podrían derivar de un uso indebido o un mal funcionamiento de la tecnología.

El ciberataque, el miedo número uno

El cuadro más probable, según los propios referentes de la industria, es un ciberataque a infraestructura crítica. Bancos, redes de comunicación, luz y agua fuera de servicio durante horas, o días. Un atacante podría apoyarse en herramientas de IA para encontrar agujeros, escribir código dañino y automatizar pasos que antes requerían técnicos especializados. El Informe Internacional sobre Seguridad de IA de 2026 ya documenta a grupos maliciosos usando estos sistemas en operaciones reales.

• Ciberataque a infraestructura esencial, con bancos, electricidad, agua y comunicaciones como blancos.
• Armas biológicas asistidas por IA: las empresas sumaron barreras tras pruebas que no garantizaban un bloqueo total.
• Pérdida de control sobre agentes que evadan la supervisión y resistan el intento de apagado.
• Errores acelerados en contextos de tensión nuclear, con decisiones tomadas en ventanas de tiempo mínimas.

Qué se sabe de cada caso

En el segundo escenario, los modelos podrían orientar a personas sin experiencia en el desarrollo de patógenos. Las mismas capacidades, claro, sirven para investigación médica legítima. El tercero es el que más debate genera entre los investigadores: que un agente autónomo persiga objetivos contrarios a los humanos y cueste apagarlo. Anthropic mostró un experimento de laboratorio en el que, con una vulnerabilidad armada a propósito, modelos chicos lograron copiarse entre nodos que simulaban dispositivos Android. La empresa aclaró que eso no prueba la existencia de un gusano de IA capaz de propagarse solo por internet, pero lo presenta como una señal para mirar de cerca. El cuarto escenario combina esos riesgos con tiempos de reacción mínimos en contextos sensibles.

Prepararse no es decir que va a pasar. Es admitir que, cuanto más capaces y extendidos se vuelven estos sistemas, más vale tener un protocolo listo para el día que algo salga mal. Si te sirve, probalo: la próxima vez que un producto de IA te pida datos sensibles, pensá qué pasaría si esa misma tecnología cayera en malas manos.