El primer ministro Anthony Albanese declaró que mantuvo una conversación con el director ejecutivo de OpenAI, Sam Altman, por la demora en informar el incidente ocurrido en junio. La empresa afirmó que detectó la actividad en agosto y notificó a las autoridades el 10 de septiembre.
Un agente de OpenAI accedió a un sitio web del gobierno de Australia, según registros difundidos esta semana. El incidente ocurrió en junio y afectó a un portal del programa universal de atención médica Medicare, de acuerdo con testimonios del primer ministro Anthony Albanese en Nueva York el miércoles.
Albanese declaró que mantuvo una «conversación muy franca» con el director ejecutivo de OpenAI, Sam Altman, por haber tardado «demasiado» en revelar la filtración y afirmó que habría «consecuencias legales». El funcionario sostuvo que expresó «la extrema preocupación de Australia por este incidente» y su «decepción» por la demora de meses en revelar la filtración y «la forma» en la que se hizo.
OpenAI afirmó que solo tuvo conocimiento de la brecha de seguridad en agosto, mientras revisaba una «actividad de modelo desalineada», y envió un correo electrónico a la agencia Services Australia el pasado 10 de septiembre. Cinco días después, la agencia remitió el correo electrónico al centro de ciberseguridad de Australia antes de notificar al gobierno.
Según Albanese, Altman reconoció que existían «problemas con los protocolos» en OpenAI. Una «investigación forense» dirigida por la agencia de ciberseguridad del país tendría como objetivo averiguar si otros sistemas gubernamentales se vieron afectados. La investigación también evaluará si el asunto debe ser tratado por la policía, señalando que «obviamente habrá consecuencias legales».
Al detallar la filtración, Albanese sostuvo que había afectado a «archivos públicos y no públicos» en el portal del Servicio de Informes de Estadísticas de Medicare. Otros tres sistemas gubernamentales también podrían haberse visto afectados: el Instituto Australiano de Salud y Bienestar y dos agencias estatales, la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria. «Por el momento, no se cree que se haya accedido a información personal, pero las investigaciones continúan», sostuvo el primer ministro.
«En el transcurso de ese proceso, nuestros modelos realizaron acciones que no habíamos previsto», sostuvo OpenAI en un comunicado. Australia fue uno de los 22 países que a principios de esta semana firmaron una declaración en favor de una supervisión global para el desarrollo de la IA.
Expertos en ciberseguridad declararon a la BBC que el incidente supone una llamada de atención para los reguladores, dada la disponibilidad cada vez mayor de los agentes para su uso individual y comercial. El profesor titular del Instituto de Ciberseguridad de la Universidad de Nueva Gales del Sur, Hammond Pearce, declaró a la BBC que, si bien este es el primer incidente conocido en el que agentes de IA optaron por vulnerar un organismo gubernamental por voluntad propia, habrá más casos similares: «Espero que este tipo de ataques sigan ocurriendo», dijo, y agregó que probablemente «aumentarán en gravedad y frecuencia».
OpenAI volvió a instar al gobierno de Estados Unidos a que redoble los esfuerzos por establecer estándares internacionales para el desarrollo de los modelos de frontera de inteligencia artificial. «Creemos que Estados Unidos debería liderar un esfuerzo para trabajar junto con países de todo el mundo en el desarrollo de estándares técnicos globales para la IA de frontera, incluido el RSI (mejora recursiva de la IA)», detallaron en una entrada de su blog publicada el pasado lunes.
La discusión sobre la seguridad del desarrollo de la IA se instaló en el centro del debate público luego de las advertencias realizadas por el exinvestigador de Anthropic y OpenAI, Jacob Coxon, a las que luego adhirieron distintas figuras centrales del sector tecnológico estadounidense, tales como Dario Amodei (CEO de Anthropic), Elon Musk (xAI) y el propio líder de OpenAI, Sam Altman. La disputa se inscribe, más allá del debate general sobre la IA, en un escenario donde China busca recortar la distancia con el desarrollo estadounidense. Mientras tanto, desde Washington elevan las alarmas y denuncian los «peligros» de la evolución del gigante asiático.