¿Qué pasa si la IA deja de obedecer a quienes la crearon? La ONU lanza una alerta

Le pides a una inteligencia artificial (IA) que escriba un correo, resuma un documento o te ayude a organizar un viaje y, en segundos, tienes una respuesta. Pero ¿qué ocurriría si una IA recibiera una instrucción y decidiera no seguirla?

Aunque ese escenario todavía no forma parte de nuestra vida cotidiana, Volker Türk, Alto Comisionado de las Naciones Unidas (ONU) para los Derechos Humanos, acaba de advertir que podría convertirse en un riesgo existencial si algún día los sistemas llegan a superar la capacidad de sus propios desarrolladores para controlarlos.

Por eso pidió establecer límites y mecanismos de vigilancia antes de que resulte más difícil hacerlo.

¿Qué tendría que pasar para que una IA dejara de obedecer?

Pedirle a una IA que haga una lista de compras es una cosa. Darle acceso a información, programas y sistemas para que pueda ejecutar tareas por sí misma es otra.

El funcionario puso dos ejemplos extremos: una IA que consiguiera escapar de su entorno de pruebas o que tratara de impedir que sus desarrolladores la desconectaran. No dijo que esto esté ocurriendo actualmente, pero es un escenario de riesgo que, a su juicio, debe abordarse antes de que sea demasiado tarde.

No necesitamos esperar hasta que las máquinas se rebelen

La preocupación por la IA no necesita llegar a ese extremo para afectar nuestra vida. Estas herramientas ya seleccionan información, generan textos, automatizan tareas y pueden intervenir en decisiones que antes tomaban exclusivamente personas. Cuanto más las usamos, más importante se vuelve saber cómo funcionan y quién responde cuando se equivocan.

Türk también puso el foco en la concentración de poder. Un número reducido de empresas y personas controla buena parte de la tecnología y los enormes volúmenes de datos que necesita para desarrollarse.

Eso puede repercutir en asuntos bastante menos futuristas: el trabajo que hacemos, la información que vemos, nuestra privacidad y las decisiones automatizadas que afectan nuestra vida.

Cuando una IA se equivoca, no siempre hay vuelta atrás

El riesgo adquiere otra dimensión cuando la inteligencia artificial entra en el campo militar. Türk pidió prohibir las armas autónomas, sistemas capaces de identificar objetivos y tomar decisiones letales sin que una persona intervenga directamente en ese momento.

Por eso la ONU reclama normas vinculantes, supervisión independiente y mayor cooperación entre gobiernos y empresas que desarrollan estas tecnologías.

Hoy podemos pedirle a una IA que escriba un correo y corregirla si se equivoca. Lo inquietante sería llegar al punto en que un sistema pueda actuar por sí mismo en ámbitos donde un error ya no tenga vuelta atrás. Por ahora, el botón de apagado sigue estando en manos humanas.