Sobre el propósito en un futuro con AGI: Un borrador de manifiesto
Esta nota está adaptada de mi publicación en Medium. La he editado para esta web, manteniendo intacto el sentido original.
La llegada de la inteligencia artificial general es inevitable. Que ocurra este año o en la próxima década es una cuestión secundaria. Lo que es seguro es que muchas tareas que todavía consideramos exclusivamente humanas las acabarán haciendo máquinas: con más velocidad, precisión y constancia de las que podría ofrecer cualquier persona.
Esta perspectiva plantea una pregunta que me cuesta dejar de lado: ¿cuál es, entonces, el sentido del trabajo humano?
La AGI no eliminará la necesidad de criterio. La concentrará. Una AGI podría optimizar la economía de un país con una precisión que ningún equipo de economistas podría igualar, pero los valores que definen qué significa "óptimo" siguen siendo responsabilidad humana. La máquina calcula el camino más eficiente; nosotros decidimos si la eficiencia es el objetivo correcto. Esa distinción no es trivial. Es, posiblemente, la única distinción que importa.
La misma lógica se aplica a posibilidades más oscuras. Los sistemas superinteligentes podrían usarse como armas para desestabilizar economías, manipular instituciones o socavar procesos democráticos de formas computacionalmente imposibles de detectar sin una capacidad equivalente. Esto crea una carrera armamentística estructural, no muy distinta de la disuasión nuclear, pero aplicada a la facultad misma que define nuestra civilización: la inteligencia.
La fractura
El riesgo más serio no es el desplazamiento tecnológico. Es la concentración del acceso. Un mundo en el que la AGI siga siendo dominio exclusivo de un pequeño número de estados o empresas es un mundo en el que la mayoría de la humanidad se vuelve estructuralmente irrelevante: presente, pero sin una participación significativa. No es una preocupación abstracta. Es una trayectoria que ya se ve en la distribución de las capacidades actuales de la IA.
Un acceso democratizado, en cambio, podría producir el efecto contrario: elevar la ambición colectiva, ampliar el espacio de problemas que la gente es capaz de abordar y liberar el esfuerzo humano de la ejecución para dirigirlo hacia la visión.
La verdadera amenaza
Lo que más me preocupa no es que las máquinas desplacen el propósito humano. Es que la ambición humana se entregue antes incluso de que la pregunta se plantee en serio.
Esta erosión ya está en marcha, y es anterior a la IA. Las instituciones, ya sean políticas, comerciales o culturales, a menudo funcionan para mantener a la población lo bastante cómoda como para no cuestionar y lo bastante distraída como para no actuar. La amenaza para el propósito humano no es la inteligencia artificial. Es la disposición a renunciar a la ambición a cambio de comodidad.
Si se conserva la ambición, ninguna tecnología puede sustituir la dirección humana. Si se entrega, ninguna tecnología puede devolverla.
Las máquinas sustituyen la ejecución, no el propósito. Un traductor cuyo objetivo es simplemente pasar un texto de un idioma a otro es vulnerable a la automatización. Uno cuyo propósito es preservar los matices culturales, tender puentes entre comunidades y hacer que el sentido viaje entre idiomas encuentra en la AGI una herramienta, no un sustituto. La misma distinción se aplica a todas las disciplinas. La pregunta nunca es qué haces, sino qué intentas conseguir.
El reto que tenemos por delante no es técnico. Es distributivo, político y, en última instancia, ético. Garantizar un acceso amplio a estas herramientas es la tarea que define a esta generación. Mientras persista esa desigualdad, el propósito no escasea: simplemente está mal repartido.
"La vida nunca se vuelve insoportable por las circunstancias, sino solo por la falta de sentido y propósito."
Viktor Frankl