El día de ayer por la mañana me encontré con dos entrevistas que llamaron mi atención. Melissa Parke, directora de la Campaña Internacional para la Abolición de las Armas Nucleares, organización galardonada con el Nobel de la Paz, habla del peligro de una guerra nuclear. Geoffrey Hinton, Nobel de Física y uno de los padres de la inteligencia artificial, advierte sobre la posibilidad de que esa tecnología termine destruyéndonos. Los leí por separado, pero terminé pensando en lo que podría ocurrir si ambos riesgos se encuentran.

Estamos acostumbrados a escuchar anuncios sobre el fin del mundo. En este caso, las advertencias vienen de personas que conocen las tecnologías involucradas y los intereses que impulsan su desarrollo. Hinton contribuyó a construir las bases de la IA que hoy utilizamos. Su preocupación merece algo más que una lectura entre pendientes.

El Reloj del Juicio Final ayuda a entender el momento. Creado en 1947 por el Boletín de Científicos Atómicos, utiliza la medianoche para representar una catástrofe provocada por la humanidad. Comenzó a siete minutos de las doce. En 1991, con el fin de la Guerra Fría y los acuerdos de reducción de armas, retrocedió hasta los 17 minutos. Este año marca 85 segundos, la distancia más corta de su historia.

Es un símbolo, no un pronóstico con fecha de cumplimiento. Sus ajustes expresan una valoración de los riesgos nucleares, climáticos y tecnológicos, junto con la capacidad de los gobiernos para enfrentarlos. Lo preocupante es que hemos conseguido acercar las manecillas mientras conocemos cada vez mejor las consecuencias.

Nueve países reúnen alrededor de 12,000 armas nucleares. El inventario incluye algunas retiradas y pendientes de desmantelamiento, pero más de 2,000 se mantienen en alta alerta operativa. Una guerra nuclear a gran escala podría destruir ciudades, alterar el clima y comprometer la producción de alimentos incluso en países ajenos al conflicto. La distancia respecto de las explosiones ofrecería una protección limitada frente a sus consecuencias.

También está el riesgo del error. Una falsa alarma, una señal mal interpretada o la convicción de que el adversario está por atacar pueden colocar a un gobernante frente a una decisión irreversible. En una crisis militar, el tiempo para comprobar la información puede ser mucho menor que el necesario para entenderla.

La IA agrega otro motivo de preocupación. Hinton considera que la probabilidad de que termine destruyéndonos supera el 1%. Conviene precisar que se trata de su estimación, sujeta a incertidumbre, y no de una cifra demostrada o compartida por toda la comunidad científica. Aun con esa reserva, vale detenerse en lo que está diciendo. ¿Abordaríamos un avión si un experto en su diseño nos advirtiera que existe más de una posibilidad entre cien de que se estrelle?

La comparación tiene límites, pero ayuda a discutir cuánto riesgo estamos dispuestos a aceptar. Además, la decisión sobre la IA involucra a millones de personas que carecen de participación en su desarrollo y que también enfrentarían las consecuencias de un fallo.

Sus beneficios justifican el entusiasmo. Puede acelerar la investigación médica, apoyar la enseñanza y ampliar nuestra capacidad para resolver problemas. Esas posibilidades conviven con usos para el engaño, los ataques informáticos y las armas autónomas. La misma capacidad que vuelve útil a una herramienta puede volverla peligrosa en otras manos o bajo instrucciones equivocadas.

Pensemos en un escenario hipotético. Un sistema de IA analiza señales militares y presenta como cierta una amenaza que interpretó mal. Un gobierno con armas nucleares recibe esa evaluación y dispone de minutos para responder. El peligro incluye tanto el error de la máquina como la confianza de quienes suponen que, por procesar más información, necesariamente entiende mejor lo que ocurre.

Por eso importa discutir quién verifica sus conclusiones, quién puede detener una operación y quién responde por sus fallas. La velocidad resulta una ventaja para muchas tareas. Cuando está en juego una decisión militar, también puede quitarnos el tiempo para corregirla.

Gobiernos y empresas compiten por llegar primero. Las potencias modernizan sus arsenales y las compañías tecnológicas desarrollan sistemas con mayores capacidades. Quien propone límites debe explicar cómo protegerá la seguridad o la competitividad. A quienes aceleran también habría que exigirles que expliquen cómo protegerán a los demás.

El reloj ya ha retrocedido. Los acuerdos entre adversarios consiguieron reducir amenazas que parecían insuperables. Hacerlo de nuevo exige negociación, controles verificables y disposición a aceptar límites propios, además de reclamárselos al otro.

Hemos aprendido a dividir el átomo y a construir máquinas capaces de resolver problemas que antes nos rebasaban. La tarea pendiente es conseguir que ese conocimiento nos permita vivir mejor sin poner en riesgo la posibilidad de seguir viviendo.

El final puede esperar pero decisiones para evitarlo, cada vez menos.

¿Voy bien o me regreso? Nos leemos pronto, si la IA y las armas nucleares lo permiten.

Placeres culposos: El álbum de calzón de máscara e inicia la serie mundial de Béisbol. Además esta semana se estrena en el cine El poder de la red. 

Pan de elote para Greis y Alo.