Traduzco la sigla CEO para que nadie se pierda: es el Director General, el que firma al final del memo interno y el que se hace cargo cuando algo explota. Sam Altman, CEO de OpenAI, salió a marcar dos riesgos que, según él, deberían quitarnos el sueño. No porque sean nuevos, sino porque ahora los dice en voz alta alguien que tiene la llave del laboratorio.

El primero suena a película, pero lo dice el jefe de la empresa que más invierte en estos sistemas: podríamos perder el control de la inteligencia artificial a medida que los modelos se vuelven más capaces. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo. Suena a declaración de buenas intenciones. También suena a alguien vendiendo confianza.

El otro riesgo: que uno solo maneje la perilla

El segundo escenario que señala Altman es más terrenal y, acaso, más probable: que una persona, una empresa o un país acumule demasiado poder gracias a una IA extraordinariamente poderosa. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. La palabra "distópicos" la elijo yo, pero está en el original. Traduzco: un futuro indeseable, de esos donde todos usamos el mismo celular, la misma app y el mismo criterio, aunque finjamos elegir.

Para evitar ambos males a la vez, el CEO describió la situación como un "angosto camino intermedio". Es decir: regular de más frena la innovación; regular de menos deja la puerta abierta a que alguien se haga el dueño del botón. Y acá aparece el detalle que, como argentino, me cuesta digerir: ese equilibrio se discute principalmente en inglés, en inglés de Estados Unidos, entre actores que no son de este lado del mundo.

Qué propone para que la cosa no se desmande

• Un marco regulatorio federal, es decir, una ley nacional con reglas iguales para todos los estados, que en la Argentina equivaldría a una ley nacional con criterios uniformes en todo el país, y no una ley por provincia donde cada una hace lo que quiere.
• Requisitos de seguridad comunes para los "modelos de frontera", que en criollo son los sistemas de IA más avanzados que existen hoy, los que marcan el límite de lo que la tecnología puede hacer.
• Auditores independientes, o sea, gente ajena a las empresas que revise si lo que se cuenta adentro coincide con lo que se ofrece afuera.
• Coordinación internacional entre gobiernos, porque si un país regula y otro no, el problema se muda de dirección, no se resuelve.
• Que las empresas no esperen las leyes para empezar a cuidarse, una idea razonable si no fuera porque el que firma el compromiso suele ser el mismo que firma el balance.

Y un punto que me parece clave, casi incómodo: Altman reconoció que la presión competitiva entre países no puede usarse como excusa para hacer cualquier cosa. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", afirmó. Lo dijo pensando en la pulseada con China, pero el concepto sirve para cualquier carrera tecnológica donde el que llega último se queda sin mercado. Y acá me río de mí mismo: siempre que escucho "presión competitiva" imagino a dos executivos corriendo por la oficina para ver quién aprieta primero el botón rojo, mientras el botón rojo, justamente, no tiene manual de instrucciones.

Ahora bien, la pregunta que dejó picando el propio material y que cualquiera de nosotros debería hacerse en voz alta es: qué mecanismos concretos sirven para que el desarrollo de la inteligencia artificial no termine concentrado en unas pocas manos. Porque las promesas de autorregulación, hasta ahora, vienen de los mismos que construyen la herramienta. Y cuando el bombero te dice que él mismo puede prender el fuego, la confianza no alcanza: hace falta que alguien revise la manguera.

El consejo del columnista, en imperativo

No espere a que le expliquen la IA en el futuro: preguntele hoy a su banco, a su clínica y a la app del súper qué sistema usa, quién lo audita y qué pasa si se equivoca. Si nadie le responde, ese es el dato. Y a los que todavía sueñan con regular todo desde un teclado porteño o porteño por adopción: lean la letra chica antes de celebrar. La tecnología no se nacionaliza con un hashtag.