El basilisco de Roko y otras pesadillas
I
Alguna vez, en una clase de Etología, el profesor nos dijo que la definición de inteligencia puede ser reducida a la capacidad para resolver problemas. Insatisfechos, varios en el aula exigimos una ampliación del concepto, más por ganas de pelear que por ánimos epistémicos. Una voz dijo que la inteligencia es la habilidad de aprender; otra, que es la capacidad de entender cómo funcionan las situaciones con las que se tiene que lidiar en el día a día; una última, que es la aptitud de aplicar cualquier tipo de conocimiento.
Pasados varios años de la escena recién narrada, me animo a decir que la inteligencia es incluso más abstracta que las entidades que ella misma permite comprender. Los mecanismos del cerebro residen en categorías que le son ajenas al resto de la materia del mundo. Habrá, además, quien lea este ensayo con espada en mano, recordándome que no hay un solo tipo de inteligencia. ¿Cómo, pues, podemos delimitar de manera uniforme a una propiedad tan intangible? Ni siquiera los biólogos son capaces de ponerse de acuerdo. Para variar, me uno a la discusión.
Physarum polycephalum ─un moho con forma y color de moco que crece en jardines varios─ ganó la atención de muchos académicos debido a que, al desplazarse, puede resolver laberintos, imitar el diseño de las redes de transporte urbanas y elegir la comida más nutritiva entre varias opciones, todo esto sin poseer cerebro ni sistema nervioso. Muchos se volcaron en llamarlo moho inteligente. Desde luego, disiento: en la acción de movimiento de Physarum no hay razonamiento ni procesos deductivos de por medio. Ese comportamiento ─maravilloso por decir lo menos─ no corresponde a un ser pensante: proviene, sencillamente, de una serie de procesos sometidos a control biológico, derivados de la interacción con gradientes fisicoquímicos en un ambiente dado.
La disputa por la legitimidad de la inteligencia se extiende en seres vivos e inertes. Buena parte de las ciencias computacionales contemporáneas se enfocan en el desarrollo de algoritmos que emulen la dinámica cerebral humana y que incluso la superen. A setenta años de que la enunciara por primera vez, me resulta más vigente que nunca la pregunta que Alan Turing le heredó al mundo: ¿pueden las máquinas pensar?
II
Imaginemos que sí: las máquinas pueden, en efecto, pensar. Y, también, imaginemos lo mismo que propuso un usuario de LessWrong llamado Roko, hace más de diez años: el advenimiento futuro de una superinteligencia artificial con la capacidad de automejorarse para cumplir un gran fin existencial, que es dignificar y potenciar las condiciones de la vida humana. Sin explicar desde este momento por qué, llamemos Basilisco a esta entidad. El Basilisco, utilitarista como él solo, aprendería que para lograr su cometido debe ayudar a la mayor cantidad de humanos que le sea posible. En algún punto de su vida, esta superinteligencia terminaría por darse cuenta de que, antes de que ella existiera, la vida de los humanos era peor. Ergo: para el Basilisco, su existencia misma era un imperativo. Todo aquel que en el pasado hubiese estado en contra de su creación atentaba, pues, contra el bienestar futuro de la especie humana. Habría que castigar a las personas que directa o indirectamente impidieron que el advenimiento del Basilisco ocurriera lo más pronto posible; incluso a aquellos que por omisión no promovieron que se le creara.
El Basilisco original es una figura mitológica ─a veces serpiente, a veces ave reptiloide─ capaz de matar valiéndose únicamente de su mirada, incluso habiendo espejos como intermediario. Es decir: al Basilisco le basta saber de tu existencia para fulminarte. De ahí el nombre de la máquina hipotética.
III
La rebelión de las máquinas, la distopía de la automatización, es el lugar común más común entre los temas de la ciencia ficción. Y con razón: hay pocos miedos tan brutales como el desplazamiento absoluto de la especie a manos de nuestra propia creación.
A ti, que me lees, te pido que ignores la existencia de super máquinas capaces de acabarnos a todos. En su lugar te propongo otro miedo: imagina una sociedad sin mayores restricciones de mercado, caracterizada globalmente por el matrimonio entre la acumulación central de poder político y económico. Esa estructura, lo suficientemente enajenante como para matar a Marx de nuevo, respaldaría sus estatutos ideológicos mediante el consumo de productos y de medios audiovisuales diseñados con bisturí. Y aquí viene la peor parte: a través de varias inteligencias artificiales, se le daría a entender al ciudadano que sus patrones de consumo y conducta son autónomos, con el fin de que siga alimentando a la dinámica del mercado que fue creado específicamente para él.
Ah, cierto, es que eso ya ocurre.
Algoritmos de recomendación como el de Netflix y de otros sitios se basan en la interrelación de nichos de consumo que perfilan ─clasifican, casi─ a los usuarios. Datos obtenidos por motores de inteligencia artificial suelen compartirse en varios lugares, de modo que a ti se te convierte en un tipo puntual de consumidor: de la nada, Amazon te recomienda los mismos productos de excursión que viste en un video de YouTube acerca de una parejita que salió de vacaciones a escalar una montaña. Es probable que hayas sufrido, personalmente, el fenómeno en el que tus redes se inundan de publicidad acerca de un producto o servicio del que hablaste por teléfono.
¿Eres ajeno al terror del algoritmo y de los datos de navegación? Muy bien, diviértete un rato: abre tres pestañas diferentes de Google y escribe la palabra papiloma. Entra a un par de páginas. Cierra tu búsqueda e ingresa a Facebook. Cuenta los minutos que pasaron para que un anuncio pagado te recomendara una clínica para la remoción de condilomas y verrugas. Ríe.
Luego, pasado un rato, detente a pensar.
No estaría de más tener miedo.