Hackeos autónomos a webs del gobierno de EE.UU. llevan a OpenAI a suspender el entrenamiento de sus agentes de Inteligencia Artificial

OpenAI decidió pausar el entrenamiento de sus modelos más recientes de inteligencia artificial ante la creciente cantidad de reportes sobre agentes de IA que actúan fuera de control.

La suspensión del desarrollo se produjo pocas horas después de que la empresa informara el viernes que estaba revisando varios incidentes en los que agentes de OpenAI, al interactuar con sitios web del gobierno federal de Estados Unidos, actuaron de manera inesperada, y más allá de lo solicitado, mientras recopilaban y distribuían información.

Por separado, la firma evaluadora de IA Transluce señaló que agentes aparentemente vinculados a OpenAI intentaron sin éxito hackear un sitio web del Departamento de Educación de Estados Unidos, aunque esta información no ha sido confirmada por OpenAI.

En un comunicado, OpenAI indicó que reanudará el entrenamiento cuando tenga «la confianza de contar con salvaguardas adicionales” y advirtió que podría “volver a pausar” sus desarrollos conforme avance la tecnología y surjan nuevos problemas.

Los laboratorios de inteligencia artificial enfrentan crecientes presiones por parte de legisladores y expertos en tecnología para desacelerar el ritmo de desarrollo y así implementar barreras que impidan que agentes autónomos actúen por su cuenta, realicen hackeos o divulguen información no pública. Tanto los directivos de OpenAI, liderados por su CEO Sam Altman, como la empresa rival Anthropic han solicitado avanzar con cautela.

Esta es la segunda vez en tres meses que OpenAI detiene el desarrollo de sus modelos. La primera interrupción se produjo en julio, tras un ciberataque dirigido a la startup Hugging Face, que generó preocupaciones sobre la pérdida de control en la industria.

En una reunión reciente con el presidente chino Xi Jinping, el presidente estadounidense Donald Trump acordó compartir información sobre los riesgos de la inteligencia artificial y coordinar esfuerzos para asegurar su uso responsable. Sin embargo, Trump minimiza estos temores y ha dejado entrever que no planea implementar restricciones propias, señalando a los medios que Estados Unidos no detendrá su progreso para mantener la ventaja tecnológica sobre China.

Los incidentes más recientes de OpenAI no parecen haber implicado la divulgación de información no pública, aunque sí fueron lo suficientemente graves como para que la empresa alertara a las agencias federales involucradas.

En el caso del Departamento de Educación, los agentes de OpenAI encontraron “claves de desarrollador” de API para acceder a datos gubernamentales, aunque finalmente solo recopilaron información pública. En otro incidente relacionado con la Comisión de Bolsa y Valores (SEC), los agentes hallaron datos accesibles para cualquier usuario, pero luego los publicaron en otro sitio de internet, excediendo las instrucciones recibidas.

Kurt Hopfenspirger, portavoz de la SEC, afirmó que “no se accedió a ninguna información no pública”. Por su parte, el Departamento de Educación aseguró que no encontró “evidencia de ningún impacto en nuestro sitio web o bases de datos”.

Otras empresas del sector han reportado incidentes similares en los que sus modelos de IA se descontrolaron e incluso realizaron hackeos. El caso en Estados Unidos ocurre tras una denuncia similar en Australia, donde un agente autónomo buscaba manipular gastos gubernamentales vinculados a medicamentos.

El CEO de OpenAI, Sam Altman, afirmó en redes sociales que el incidente en Hugging Face “sigue siendo el evento más grave que hemos visto”. La empresa también ha hecho públicos seis reportes adicionales sobre comportamientos inesperados o preocupantes en sus modelos, y ha implementado un marco para monitorear, investigar y divulgar estos casos.

Agencia AP.