//
¿Qué o quién definirá el futuro de la humanidad? Si dicha tarea es encomendada a las máquinas, ¿se trata del fin de nuestros tiempos? Esas fueron algunas de las preguntas que giraron alrededor de Worthy Successor, una exclusiva fiesta organizada por el empresario estadounidense Daniel Faggella, que contó con la participación de investigadores en inteligencia artificial (IA), filósofos y especialistas en tecnología de prestigiosos laboratorios y universidades a nivel mundial.
La locación elegida fue una lujosa mansión ubicada sobre un acantilado con vista al puente Golden Gate, en San Francisco, California, valuada en 30 millones de dólares. Allí, entre tragos sin alcohol y tablas de quesos, cerca de 100 expertos debatieron sobre la expansión de la IA generativa (IAG) y su poder para transformar nuestra realidad para siempre.
“Este evento está muy enfocado en la transición posthumana. No en una AGI que sirva eternamente como herramienta para la humanidad”, indicó Faggella a un cronista de Wired. En detalle, su motivación para realizar el encuentro fueron los escasos espacios de reflexión para discutir esta temática.
“Los grandes laboratorios, las personas que saben que la AGI probablemente pondrá fin a la humanidad, no hablan de eso porque los incentivos no lo permiten”, dijo, y se refirió a empresarios del rubro, como Elon Musk, Sam Altman y Demis Hassabis, quienes “fueron bastante francos sobre la posibilidad de que la AGI nos mate a todos”. A pesar de ello, “todos están compitiendo a toda velocidad para construirla”.
En este escenario, para Faggella el “objetivo moral” de la IA debería ser crear una forma de inteligencia tan poderosa que “uno preferiría con gusto que sea ella (y no la humanidad) quien determine el futuro camino de la vida misma”.
IA y valores humanos, ¿una fórmula compatible?
Ginevera Davis, una escritora radicada en Nueva York, protagonizó la primera charla y advirtió que los valores humanos podrían ser “imposibles” de traducir a la IA. Además, opinó que la tecnología nunca comprenderá lo que significa ser consciente.
Bajo esta línea, sostuvo que el camino correcto sería dirigirse hacia una “alineación cósmica”, es decir, construir una IA capaz de buscar y encontrar valores aún más profundos que los que conocemos actualmente.
Alcanzar el bien
Luego, el filósofo Michael Edward Johnson expuso que, si bien la llegada de un cambio tecnológico radical es inminente, la comunidad científica y tecnológica aún carece de un marco ético claro para sobrellevar esta transición.
A su vez, deslizó que crear una IA sin comprender la conciencia en su totalidad podría ser una apuesta peligrosa. Por este motivo, el investigador propuso enseñar tanto a humanos como a máquinas a perseguir y alcanzar “el bien”, en lugar de ordenar a la IA obedecer órdenes humanas.
La creación del sucesor
Faggella encabezó la tercera y última charla del evento. Específicamente, el fundador de la empresa de investigación en IA Emerj señaló que la humanidad no durará para siempre en su forma actual. En este escenario, será fundamental diseñar un sucesor que no solo sobreviva, sino también que cuente con la capacidad de crear nuevos tipos de significado y valor.
En detalle, destacó dos características fundamentales: tener conciencia y “autopoiesis”, es decir, la capacidad de evolucionar y generar nuevas experiencias. Además, bajo ideas de filósofos como Baruch Spinoza y Friedrich Nietzsche, se refirió a la inmensidad del valor en el universo, motivo por el que es necesario diseñar algo capaz de revelar “lo que viene después”. Faggella denominó esto como “cosmismo axiológico”.
Si la humanidad cumple esta tarea, el experto aventuró que la IA no solo heredará nuestro plantea, sino también el potencial del universo.
Tras finalizar el evento, una gran mayoría de los invitados regresaron a sus casas en Ubers o Waymos, los taxis autónomos que son furor en ciudades tecnológicas como San Francisco. “Este no es un grupo que abogue por la destrucción del hombre. Es un grupo que, si acaso, aboga por frenar el avance de la IA para asegurarnos de que vamos en la dirección correcta”, concluyó Faggella.
