Sobre el aprendizaje, el vibe-coding y la falta de comprensión de la IA

Mi reflexión personal sobre cómo todo lo que se hace en el día a día acaba hecho con vibe-coding, lo más rápido posible (por muchas ganas que uno tenga de hacerlo bien), sin aprender nada del tema por el camino.

Mi caso con las webs: construí una web (no esta), con tecnología interesante, pero ahora esa página está obsoleta y no he aprendido absolutamente nada de ella: solo sé que se pueden hacer cosas chulas como convertir markdown en HTML con un framework, pero nada más allá. Todo extremadamente superficial.

Tengo la profunda convicción de que las personas creativas, las que crean cosas especiales, comparten una característica fundamental (un criterio necesario, no único): saben muchas cosas, sienten curiosidad por muchas cosas distintas y entienden lo que hay detrás de todo. En resumen, entienden el sistema completo. Y creo que entender es la clave de todo.

Lo que voy a decir lo digo con cierta reserva, porque reconozco mis conocimientos limitados frente a personas con más experiencia en el campo y, sobre todo, frente a lo que ninguno de nosotros sabe todavía. Sería maravilloso estar equivocado y que el mundo me callara la boca.

Hay una diferencia. Los humanos no toleramos que nuestras hipótesis sobre el mundo choquen. No es que las tengamos todas presentes en todo momento, pero cuando detectamos que algo entra en conflicto, intentamos arreglarlo. No es un sistema perfecto. Muchas veces lo parcheamos de forma horrible, culpando a factores externos o ignorando casos aislados. Pero lo cierto es que, literalmente, sufrimos cuando nuestro castillo de naipes empieza a derrumbarse. Un LLM no tiene este incentivo. No busca corregir todo su conocimiento construyendo un árbol causal (o algo parecido a causal) y viendo qué entra en conflicto. Simplemente actualiza ese caso aislado y llega a un punto de estabilidad global. (Por no hablar de que durante la inferencia ni siquiera se actualiza, que es un problema mucho mayor y todavía sin resolver).

Sin embargo, se espera que las IA actuales lleguen a esto de forma indirecta. Y no solo es indirecto, sino que ni siquiera está incentivado. Les damos un conjunto de datos masivo (incluso ridículo y vergonzoso) y esperamos que, por pura necesidad de comprimir tanto conocimiento en menos espacio, encuentren atajos causales y una comprensión genuina del mundo. Lo cierto es que ha habido señales de que a veces ocurre, pero también hemos presenciado auténticas atrocidades, fallos de LLM que dejan al descubierto una ignorancia total y absoluta.

La tendencia de los LLM parece apuntar a que los principales laboratorios quieren mapearlo TODO, hasta que la diferencia con un humano sea imperceptible. Pero ¿llevará eso realmente a entender lo que está pasando? ¿O simplemente habremos obligado a la red neuronal a crear un mapa ridículo de lo que hacen los humanos?

Mi convicción es que a los modelos de IA actuales no solo les falta arquitectura, sino método de entrenamiento. Aprender de los datos por fuerza bruta, como se hace ahora, es muy interesante para mapear el conocimiento humano, pero probablemente no escalará indefinidamente como esperamos. Seguirá mejorando en programación, seguridad, etc. Sí, pero seguirá acotado por los límites humanos.

El aprendizaje por refuerzo en el entrenamiento de LLM es un buen intento de resolver esto, pero todavía está en un estado demasiado superficial. Algoritmos como GRPO generan varios caminos de razonamiento para un mismo problema y recompensan el mejor, pero no hay ninguna retroalimentación sobre por qué es el mejor. Simplemente esperamos que, haciéndolo un número ridículo de veces, el modelo aprenda.

Volviendo a mi experiencia con algunas tareas web, creo que caer en el piloto automático de delegarlo todo en la IA sin saber lo que haces, conociendo solo los objetivos, es un desastre para la comunidad de desarrolladores. El mundo necesita líderes, y liderar modelos de IA será, estoy seguro, tan importante como liderar personas, pero el mundo también necesita gente curiosa, gente que tiene dudas, gente que quiere más. Y nunca crearemos conocimiento nuevo si la gente no se lleva al límite. Hacerlo todo con vibe-coding en piloto automático no te lleva al límite. Tienes que exponerte a nuevos retos, mejorar cada día, y hacerlo es lo que permitirá que la IA cree, de verdad, cosas únicas.

Por ahora me quedo con un principio: si después de hacer algo no he aprendido nada nuevo, no he mejorado. Simplemente he parcheado un problema a corto plazo. Aprender sigue siendo la base del progreso humano.

Cuidado con el vibe-coding. Cuidado con el piloto automático.