El MI5 mira de reojo a la inteligencia artificial: dice que puede ser una receta casera de desastre biológico

Imaginate que un domingo a la tarde estás buscando cómo hacer cerveza artesanal y, sin querer, terminás leyendo sobre técnicas de fermentación que también sirven para cultivar cosas bastante menos amigables. Algo así, pero multiplicado por mil y con herramientas de inteligencia artificial de por medio, es lo que preocupa al MI5, el servicio de inteligencia interno del Reino Unido.

Su director general, Ken McCallum, lanzó una advertencia bastante directa: la IA está ampliando las capacidades de terroristas y delincuentes para acceder a conocimientos científicos avanzados. Entre los escenarios que mencionó, el más inquietante es el de armas biológicas o el aprendizaje sobre cómo liberar agentes patógenos utilizando información disponible en fuentes abiertas, es decir, en internet a ojos de cualquiera.

Un centro nuevo para mirar de cerca a la IA

Como respuesta a ese panorama, el MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA. La idea, según McCallum, es estudiar tanto los riesgos como las oportunidades que trae esta tecnología, con foco en cómo impacta sobre la seguridad nacional. O sea: quieren entender la IA (sigla de Inteligencia Artificial, básicamente un software que aprende y decide cosas solo) antes de que los problemas se les escapen de las manos.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

La frase, lejos de ser un detalle técnico, resume una preocupación que comparten varios organismos de inteligencia: la misma herramienta que acelera la investigación científica legítima puede terminar siendo usada con fines destructivos. Para McCallum, una parte importante de su trabajo pasa por anticiparse a los cambios tecnológicos y encontrar un equilibrio entre los beneficios y los daños de la IA. Suena sensato, aunque también un poco a pedirle a alguien que apague un incendio mientras lo filma con el celular.

Por qué preocupa la combinación de IA y conocimiento abierto

• La IA facilita sintetizar y cruzar información técnica compleja sin necesidad de formación especializada.
• Gran parte del conocimiento científico sensible ya está publicado en fuentes abiertas, accesibles para cualquiera con conexión.
• Las herramientas de IA se vuelven cada vez más baratas y simples de usar, lo que amplía el público que puede explotarlas.
• Los servicios de seguridad temen que el ritmo de adopción supere la capacidad de los Estados para regular y controlar.
• El MI5 quiere posicionarse en la frontera de esos cambios antes de que los riesgos se materialicen en un incidente concreto.

Acá va un consejo, ya que estamos: si trabajás con información sensible, no la subas a un chat con una IA cualquiera. Y si sos usuario común, recordá que toda herramienta poderosa puede usarse para bien o para mal. La diferencia la hacemos nosotros, aunque a veces parezca que la tecnología nos lleva puestos.