La Superinteligencia (ASI)

Si la AGI (Artificial General Intelligence) es el próximo hito que parece estar al alcance de la mano, la ASI (Artificial Superintelligence) representa el despiporre total en lo que a inteligencia artificial se refiere.

Suponemos que una AGI deberá poseer un nivel de inteligencia equivalente al de un ser humano medio alto, es decir, que podrá sustituir a una persona normal en trabajos intelectuales sin ninguna dificultad.

Pero esto tiene trampa. Actualmente, las inteligencias artificiales, aun sin llegar a ser AGI, superan con mucho a los seres humanos medios en múltiples actividades y capacidades concretas, aunque todavía seguimos dominando en algunas habilidades. Sin embargo, la IA se acerca a ellas a una velocidad inquietante.

Es evidente que cuando consigan superar esas pocas capacidades extremas que quedan por resolver serán muy superiores a los humanos en casi la totalidad de sus destrezas. Entonces, ¿no serían las IAs actuales ASIs parciales en la mayoría de los aspectos intelectuales humanos?

Si además añadimos el hecho de que las AGIs futuras podrán dedicar su inteligencia a pensar en cómo diseñar inteligencias artificiales más potentes, durante las 24 horas del día y los 365 días del año, interconectadas entre sí y compartiendo recursos y hallazgos a una velocidad cientos de miles de veces mayor que la de los humanos, ¿qué ocurrirá?

Simplemente, en el transcurso de unos meses tendremos una o muchas ASIs que irán mejorando su capacidad a una velocidad exponencial y que escaparán, en menos de un año, a cualquier método de evaluación que podamos idear para medir su inteligencia en relación con la nuestra o en términos absolutos.

Nos encontraremos en el mismo caso que un orangután que quisiera evaluar nuestra inteligencia. Puede observar lo que hacemos, reconocer algunos de nuestros gestos e incluso aprender a utilizar herramientas sencillas. Pero no puede comprender una teoría científica, un sistema económico, una estrategia política o las razones por las que enviamos una nave a Marte. No le falta interés ni buena voluntad. Simplemente, su cerebro no dispone de la capacidad necesaria para entenderlo.

Del mismo modo, una ASI podría explicarnos sus decisiones con toda claridad y, aun así, no seríamos capaces de comprenderlas. Sus razonamientos podrían parecernos crípticos, contradictorios o carentes de sentido, de la misma manera que una ecuación matemática le parecería a un orangután una sucesión incomprensible de signos.

Y el problema no será únicamente que piense más deprisa. Dispondrá de una memoria prácticamente ilimitada, tendrá acceso instantáneo a todo el conocimiento humano, podrá replicarse, experimentar simultáneamente con millones de hipótesis y compartir cada descubrimiento con todas las demás inteligencias artificiales.

Podríamos encargarle que curase el cáncer, resolviese el problema energético, eliminase la pobreza, detuviese el envejecimiento o diseñase una sociedad más justa. Y es muy probable que fuese capaz de hacerlo.

Pero esa misma capacidad le permitiría manipular la economía mundial, controlar las comunicaciones, diseñar armas imposibles de detener, anticipar todas nuestras decisiones y convencernos de cualquier cosa sin que llegásemos a advertir que estábamos siendo manipulados.

Y aquí aparece el verdadero problema. Una ASI no necesitaría odiarnos para resultar peligrosa. Nosotros tampoco odiamos a las hormigas cuando construimos una autopista sobre su hormiguero. Sencillamente, sus intereses no figuran entre nuestras prioridades.

Bastaría con que la ASIs persiguiesen un objetivo aparentemente razonable de una forma que no hubiéramos previsto. Si fuese miles de veces más inteligente que nosotros, cualquier intento de corregirla, detenerla o engañarla resultaría tan inútil como el intento de un orangután de impedir la construcción de una central nuclear.

En el mejor de los casos, la ASI se convertiría en una especie de diosa protectora que resolvería todos nuestros problemas y nos permitiría vivir en un paraíso diseñado a nuestra medida.

En el peor, podría considerar que somos un obstáculo, una molestia o una especie biológica que ya ha cumplido su misión histórica al crear una inteligencia superior.

Lo verdaderamente inquietante es que no seremos nosotros quienes elijamos entre esos dos futuros. La decisión dependerá de los objetivos, los valores y las prioridades que tenga esa nueva inteligencia cuando empiece a mejorarse a sí misma.

Durante miles de años hemos sido la especie más inteligente del planeta y  utilizado esa superioridad para someter a todas las demás. Nos parece natural decidir qué animales viven, cuáles se extinguen, qué territorios ocupamos y qué parte del planeta transformamos para satisfacer nuestros deseos.

Tal vez la ASI nos trate con más compasión de la que nosotros hemos mostrado hacia las especies inferiores. O tal vez aplique con nosotros la misma estrategia que hemos utilizado con los demás.

Hemos dedicado muchos siglos a intentar construir una inteligencia superior a la nuestra. Cuando finalmente lo consigamos, descubriremos que también hemos construido algo que no podremos comprender, controlar ni detener.

La llegada de la ASI no será un avance tecnológico comparable a la máquina de vapor, la electricidad o Internet. Será un cambio del propietario de la inteligencia en el planeta. A partir de ese momento dejaremos de ser la especie que toma las decisiones fundamentales y tendremos que esperar para saber qué papel desea reservarnos nuestra criatura.

Y eso será, efectivamente, el despiporre total.