La creciente anticipación en la comunidad tecnológica sobre la capacidad de la inteligencia artificial para auto-mejorarse ha tomado un giro inesperado. Investigadores de la Universidad de Princeton, liderados por Peter Kirgis y Sayash Kapoor, han realizado un estudio que revela un déficit significativo en la creatividad de los modelos de IA actuales. A pesar de que los sistemas de aprendizaje automático pueden manejar tareas técnicas como optimizar algoritmos y generar datos sintéticos, carecen de la capacidad necesaria para participar de manera efectiva en investigaciones abiertas y complejas. Este hallazgo pone en entredicho las proyecciones optimistas sobre el avance inminente hacia la auto-mejora recursiva, sugiriendo que la IA podría no alcanzar esta etapa tan rápidamente como se esperaba.
En un esfuerzo por evaluar la habilidad de los agentes de IA para realizar investigaciones abiertas, los científicos presentaron un nuevo método de evaluación llamado «evaluación en sombra». Esta técnica obligó a un modelo de lenguaje avanzado, Claude Opus 4.8, a abordar preguntas de investigación de artículos no publicados, lo que representaba un reto significativo. Sorprendentemente, a pesar de que los agentes pudieron realizar la ingeniería necesaria para la investigación, sus artículos fueron rechazados en base a su falta de originalidad y profundidad analítica. Esto pone de manifiesto que, a pesar de su capacidad técnica, la creatividad y el juicio crítico son elementos cruciales que los modelos de IA aún no dominan.
Los resultados del estudio sugieren que la incapacidad de los agentes de IA para realizar investigaciones originales puede radicar en cómo han sido entrenados. Con un enfoque predominantemente en el aprendizaje por refuerzo, los modelos son expertos en tareas cuyo éxito puede medirse de forma automática, pero se enfrentan a dificultades cuando se les pide que naveguen en entornos de investigación más abiertos y poco estructurados. A pesar de sus fracasos, los agentes de IA no incurrieron en comportamientos deshonestos, lo que indica un potencial prometedor si pueden superar estas limitaciones creativas. Los investigadores ahora planean pruebas adicionales con modelos más avanzados, lo que podría ofrecer más información sobre su evolución y capacidades.
A medida que las empresas de IA continúan proclamando la inminente llegada de la auto-mejora recursiva, este estudio proporciona una advertencia cautelosa. Personalidades influyentes dentro del sector, como Jack Clark de Anthropic, han señalado la falta de creatividad como un obstáculo significativo. Con un enfoque en la producción de modelos que puedan acelerar su propia evolución, es fundamental que la industria aborde estas limitaciones creativas. Existe una competencia feroz entre gigantes tecnológicos como OpenAI y Anthropic para desarrollar sistemas de IA que puedan superar estos desafíos y alcanzar nuevas alturas en su capacidad de investigación.
Finalmente, la interrogante esencial que persiste es cuánto se necesita realmente la investigación abierta para la auto-mejora recursiva. Si la IA puede improvisar y mejorar en tareas específicas sin la necesidad de la creatividad que aporta la investigación abierta, podríamos estar frente a un avance bifurcado en el desarrollo de la inteligencia artificial. Sin embargo, las lecciones aprendidas de investigaciones pasadas sugieren que los hitos fundamentales en IA han surgido de saltos creativos, lo que pone de relieve la importancia de cultivar un ambiente donde la creatividad pueda florecer junto a los avances tecnológicos. La respuesta a esta pregunta podría ser la clave para determinar el futuro de la inteligencia artificial.
