El Pentágono ha revelado planes significativos para permitir que empresas de inteligencia artificial (IA) entrenen modelos generativos utilizando datos clasificados, según declaraciones de un funcionario del Departamento de Defensa. Este desarrollo podría marcar un cambio considerable en la manera en que se utiliza la IA en contextos militares, permitiendo a los modelos aprender directamente de información sensible y potencialmente mejorando su efectividad operacional. La iniciativa surge como respuesta a la creciente demanda por herramientas más avanzadas que puedan ayudar en la toma de decisiones estratégicas, y sigue la tendencia de colaboración entre el gobierno y empresas tecnológicas como OpenAI y xAI de Elon Musk, que actualmente están integrando sus modelos en entornos seguros.
Los modelos de IA generativa, como el desarrollado por Anthropic, ya encuentran aplicación en contextos militares, pero su capacidad actual se limita a generar respuestas basadas en datos que no son clasificados. Este nuevo enfoque propuesto por el Pentágono pretende no solo utilizar estos modelos para responder preguntas, sino también permitir su entrenamiento efectivo con datos donde la información puede incluir informes de vigilancia y análisis de campo. Sin embargo, las implicaciones de este proceso deben considerarse cuidadosamente, tanto desde la perspectiva de la eficacia de la IA como del manejo de información delicada que podría afectar la seguridad nacional.
De acuerdo con el funcionario consultado, el proceso de entrenamiento se llevará a cabo en un centro de datos acreditado, con protocolos estrictos para garantizar la seguridad. Aunque el Departamento de Defensa retendrá la propiedad de los datos utilizados, se habilitaría el acceso restringido para algunos empleados de las empresas de IA, bajo condiciones de autorización específicas. Sin embargo, antes de avanzar con este tipo de iniciativas, el Pentágono planea evaluar cuán efectivos son los modelos entrenados con datos de libre acceso, lo que representará una fase de prueba crítica para mitigar riesgos antes de incorporar datos más sensibles.
Expertos como Aalok Mehta del Centro de IA Wadhwani han expresado preocupaciones sobre los riesgos asociados con el entrenamiento de modelos de IA en datos clasificados. Se señala que la posibilidad de que información sensible fluya hacia usuarios no autorizados dentro del Departamento de Defensa es un escenario plausible que podría comprometer operaciones discretas. Aunque se menciona que es factible proteger estos datos del acceso externo, los peligros intrínsecos de manejo interno requieren un marco de control riguroso y consciente de cómo y por quién se utiliza esta inteligencia generada.
El potencial de que la IA pueda aprender a realizar tareas que hasta ahora han sido exclusivas de analistas humanos es un incentivo poderoso para el Pentágono. La capacidad de los modelos para identificar patrones sutiles en imágenes o como conectar información para formar un contexto histórico útil podría revolucionar las operaciones militares. Sin embargo, como advierte Mehta, la naturaleza confidencial de estas capacidades plantea un dilema: se necesitan sistemas más avanzados de IA, pero a la vez, el Departamento de Defensa tiene un interés primordial en mantener la opacidad sobre sus capacidades militares para evitar que adversarios rivales calculen la magnitud de estas nuevas herramientas.
