Yann LeCun lleva años advirtiendo que la IA generativa es una estupidez. Los modelos actuales, afirmó hace un año, no son más inteligentes que un gato doméstico. Este discurso se ha vuelto especialmente incómodo porque LeCun, considerado uno de los padrinos de la IA, era hasta ahora uno de los máximos responsables de este segmento en Meta. Ahora todo parece apuntar a una salida inminente que permitirá a LeCun fundar su propia startup.
¿Por qué es importante?. Mientras las empresas de IA se esfuerzan por entrenar modelos de IA recopilando más datos y gastando miles de millones de dólares en potencia informática, LeCun tiene claro que esta estrategia es un callejón sin salida. Es algo de lo que llevamos hablando desde hace tiempo y de lo que también han advertido otros expertos como Andrej Karpathy: este escalado de recursos permitía antes saltos notables en el rendimiento. Ahora no.
Él sabe de lo que está hablando.. En 2003, LeCun se unió a la Universidad de Nueva York y luego fundó el Centro de ciencia de datos de la institución. En 2013, Mark Zuckerberg lo reclutó para dirigir su nueva división de IA en Facebook llamada FAIR (Fundamental AI Research). En 2018, LeCun, junto con Geoffrey Hinton y Yoshua Bengio, ganaron el Premio Turing, el máximo honor en informática, por su contribución al estudio de las redes neuronales.
Los LLM deben dar paso a los «modelos mundiales». LeCun ha profetizado que dentro de tres a cinco años nadie en su sano juicio utilizará los LLM actuales. En cambio, la arquitectura que triunfará será la de los llamados «modelos mundiales», que aprenden del entorno a través de información visual, similar a como lo hace un bebé, a diferencia de los LLM, que son modelos predictivos basados en vastas bases de datos de texto.
tensión interna. Esa visión de LeCun ha acabado siendo un problema en Meta. Mark Zuckerberg no parece tener la misma opinión, y en los últimos meses lo dejó claro con una apuesta multimillonaria en la que acabó fichando talento y creando su nueva división de superinteligencia que precisamente reforzó el papel de los LLM que LeCun ve inútiles.
Una situación incómoda. Estos fichajes han provocado que el Grupo FAIR que lideraba LeCun haya perdido prestigio, recursos y peso en la organización respecto a esa nueva organización de investigación en IA liderada por la nueva estrella en ascenso, Alexandr Wang.
salida a la vista. La semana pasada aparecieron los primeros rumores de que LeCun está planeando su salida de Meta para crear su propia startup. Precisamente esta nueva empresa exploraría la creación de aquellos modelos del mundo que este científico e investigador quiere desarrollar en profundidad. Si ejecutara ese paso, es muy probable que el mundo inversor apoyara esa visión y le ofreciera fondos suficientes para trabajar en ella. Ha pasado con las startups de Ilya Sutskever y Mira Murati, que sin tener un producto visible han conseguido rondas de financiación multimillonarias.
LeCun parece tener razón. La evolución de los LLM parece confirmar la teoría de LeCun de que no son la vía válida para lograr avances verdaderamente notables en el campo de la IA. Lo que hacen los modelos actuales no es tanto resolver problemas sino localizar instancias pasadas de problemas resueltos para usar la probabilidad y aplicar respuestas.
Ni siquiera piense en realizar un LLM.. En los últimos meses, el trabajo de LeCun en Meta se ha vuelto más confuso y se le ha visto participando en varias conferencias. en uno de ellos dio un mensaje claro para quienes aspiran a ingresar a este campo: «si eres estudiante de doctorado en IA, nunca deberías trabajar con LLM».
Imagen | Meta
En | La única ventaja que Apple podía tener en IA era su nube privada. Ha sido copiado por la persona que menos esperábamos.
