Ser o no ser

Nos encontramos en un momento decisivo de la historia de la inteligencia artificial. Sus propios creadores y beneficiarios, presionados por una competencia que les pisa los talones y por unos accionistas dispuestos a abandonarlos si no mantienen el ritmo, parecen dudar antes de lanzar sus modelos más avanzados al mercado. 

Da la impresión de que estamos rozando el horizonte de sucesos de la Singularidad. Nadie se atreve a dar el siguiente paso y afrontar el riesgo de caer en ese agujero negro donde nada es como parece y los monstruos acechan con las fauces abiertas. 

La disyuntiva es inédita en la historia de la humanidad: podemos acceder a una especie de paraíso digital o precipitarnos hacia el averno tecnológico en el que nos convertiremos en pollos indefensos ante fuerzas que ya no comprendemos ni controlamos. 

Entonces surge la gran pregunta, tan antigua como nuestra propia incertidumbre: ¿Qué hacemos? 

Podríamos intentar prohibir por ley el desarrollo de modelos cada vez más inteligentes. Sin embargo, nadie puede asegurarnos que otros países —China, por ejemplo— vayan a detenerse. Allí también existe la ambición de liderar la revolución tecnológica y de utilizarla para transformar el orden económico y político mundial. 

Tal vez todos se detengan al borde del abismo cuando ocurra alguna desgracia, algo que parece más probable cuanto más deprisa avanzamos. Pero tampoco está claro cómo reaccionarán los gobiernos ante un accidente grave ni hasta dónde estarán dispuestos a llegar para no quedar rezagados. 

En este escenario solo nos queda hacer pronósticos, aun sabiendo que nos equivocaremos. Cualquier predicción sobre el futuro de la inteligencia artificial parece destinada a quedar obsoleta en cuanto se formula. 

Puestos a imaginar, creo que el mundo sufrirá una conmoción rápida y peligrosa. Una transformación tan profunda que no sabremos con claridad cómo responder a ella. 

Estados Unidos no querrá dejarse adelantar por China. Y, desde la perspectiva de sus dirigentes, una inteligencia artificial superinteligente ya sería preocupante; una superinteligencia controlada por una potencia rival lo sería todavía más. 

Por eso, la opción de frenar voluntariamente parece poco probable. Tal como lo veo, Estados Unidos podría prohibir la publicación de nuevos modelos con capacidad para causar un daño grave a los seres humanos. 

Se permitirían sistemas capaces de realizar tareas útiles y seguras, pero se limitaría el acceso a aquellos con conocimientos avanzados en biología, informática, ingeniería o estrategia. 

Las inteligencias artificiales realmente capaces quedarían reservadas para el Estado, las grandes empresas y sectores considerados estratégicos. Su funcionamiento estaría sometido a estrictos sistemas de seguridad y a una vigilancia permanente. También podría prohibirse el uso de modelos chinos, tanto gratuitos como comerciales, bajo penas severas. 

Se reducirían las comunicaciones con China y con los países alineados con ella, y el mundo acabaría dividido en dos grandes bloques tecnológicos, con intercambios mínimos y controlados de productos y conocimientos. En ese contexto comenzaría a desarrollarse una especie de Gran Hermano electrónico. 

Los gobiernos intentarían saber qué hace cada persona, dónde se encuentra, a qué se dedica, cuál es su nivel de riesgo y, sobre todo, qué actividad desarrolla en la Red. 

La vigilancia se justificaría como una forma de detectar amenazas y prevenir conductas peligrosas para la sociedad. Cada país tendría que alinearse con uno de los dos bloques y asumir las consecuencias de su elección. 

Cuando aparezca una auténtica superinteligencia, probablemente será tan hermética y restringida como lo fue en su día la tecnología nuclear. Solo se utilizará para fines considerados beneficiosos: avances médicos, nuevos materiales, descubrimientos científicos y desarrollos tecnológicos capaces de mejorar la vida humana. Pero nadie, salvo las personas autorizadas por los gobiernos, tendrá acceso directo a todo su poder.

A cambio del paraíso digital, tendremos que renunciar a una parte de nuestra libertad: la libertad de cometer tropelías, de actuar sin supervisión o de emprender acciones cuyas consecuencias puedan resultar catastróficas. 

Ese es, al menos, el escenario que imagino para los próximos diez años. Después, ya no me alcanza la vista.