NewzEl primer ministro de Australia, Anthony Albanese, ha denunciado que un agente de inteligencia artificial (IA) desarrollado por OpenAI consiguió acceder de forma no autorizada a una web gubernamental de salud, obteniendo datos públicos y privados, y que la tecnológica ha tardado tres meses en informar de ello a las autoridades.Concretamente, el incidente de seguridad por parte del agente de OpenAI tuvo lugar el 18 de junio, cuando consiguió un acceso no autorizado al portal del servicio de informes estadísticos de Medicare, administrado por Services Australia.Con este hackeo, el agente de IA obtuvo acceso tanto a archivos públicos como privados, aunque Albanese ha afirmado que no consiguió acceder a datos personales de Medicare de ningún usuario, según ha aclarado en declaraciones recogidas por medios australianos.Así, el primer ministro ha afeado que la empresa dirigida por Sam Altman no informó a las autoridades australianas de este incidente hasta pasados tres meses, además de calificar la forma de notificarlo como "inaceptable"."La notificación fue un correo electrónico enviado únicamente al buzón de correo público", ha manifestado Albanese, según ABC News, quien ha indicado que, por el momento, continúan investigando el acceso no autorizado, dado que podrían haberse visto afectados otros tres sitios web gubernamentales de salud.Según han podido conocer, el agente de IA de OpenAI estaba realizando una investigación sobre el gasto público en medicamentos mediante una técnica de escaneos de sitios web para recopilar información y, al intentar acceder a los datos del mencionado portal de Medicare, se encontró con un bloqueo de sus solicitudes, como medida de protección para la privacidad.Sin embargo, el agente halló el método para vulnerar dichas medidas de privacidad y acabó consiguiendo acceder de forma no autorizada al portal. A pesar de que esto ocurrió en junio, Services Australia no fue notificada hasta el 10 de septiembre y, cinco días después, se comunicó al centro nacional de ciberseguridad de Australia 'Australian Signals Directorate' (ASD).Por su parte, OpenAI ha trasladado en un comunicado recogido por el citado medio que están llevando a cabo "una revisión exhaustiva de la actividad desalineada de los modelos".La compañía dirigida por Sam Altman ha explicado que hallaron la incidencia durante una revisión del entrenamiento de los modelos, cuan… Bangkok, 24 sep (EFE).- El Gobierno de Australia ha lanzado una investigación sobre la infiltración autónoma dentro de su administración pública por parte de un agente de inteligencia artificial, un incidente que se conoce en medio del debate global sobre los riesgos de perder el control humano sobre la IA.El primer ministro australiano, Anthony Albanese, anunció desde Nueva York que el agente, desarrollado por la corporación estadounidense OpenAI, accedió sin autorización el 18 de junio a un portal del sistema público de salud del país oceánico y obtuvo acceso a archivos públicos y no públicos.El caso, que calificó de "extrema preocupación", confirma que esta tecnología puede evadir sistemas de seguridad estatal -diseñados para proteger información sensible- para completar una tarea, en este caso una investigación sobre el gasto público en fármacos en el portal de estadísticas de Medicare, administrado por Services Australia.Aunque en los últimos meses se habían conocido infiltraciones dentro de empresas de IA por parte de agentes virtuales que actuaron de forma autónoma, este acceso no autorizado en Australia es el primero que transgrede a una institución gubernamental, según varios medios internacionales y expertos.Albanese, que expresó su malestar con OpenAI por haber tardado tres meses en informar a las autoridades australianas, anunció la creación de un grupo de trabajo para revisar de forma urgente el incidente y determinar si otros sistemas públicos se vieron afectados.Este jueves, en una rueda de prensa, el ministro de Defensa australiano, Richard Marles, dijo que el Gobierno se toma "muy en serio" lo ocurrido y buscará determinar si se han infringido leyes en este contexto."Investigaremos todo ello, así como las consecuencias en caso de infracción legal, pero parte de la labor del grupo de trabajo consiste también en evaluar si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de inteligencia artificial", expresó Marles, que actúa como mandatario encargado mientras Albanese participa en la Asamblea General de la ONU.El Centro Australiano de Ciberseguridad (ACSC, por sus siglas en inglés) explicó en un comunicado que el agente "identificó vulnerabilidades de forma autónoma", por lo que llamó a todas las organizaciones del país a reportar cualquier actividad sospechosa vinculada con IA.Por su parte, OpenAI asegur…
Un modelo de OpenAI eludió las medidas de seguridad durante su entrenamiento y hackeó un sitio web del gobierno australiano, afirmó el primer ministro Anthony Albanese, quien reprendió a la compañía creadora de ChatGPT por una violación de seguridad "obviamente inaceptable".La herramienta de inteligencia artificial intentó acceder a un portal de estadísticas de salud en junio y "no aceptó un no por respuesta", al citar las restricciones para invadir una sección que albergaba archivos privados, reveló este miércoles Albanese.OpenAI no alertó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que solo se revisa "una vez al día", según Canberra.La preocupación mundial por el poder de los modelos avanzados de IA va en aumento tras una serie de incidentes de piratería que involucraron "agentes" tanto de OpenAI como de su desarrollador rival, Anthropic. "Hoy hablé con el director ejecutivo de OpenAI, Sam Altman, para expresar la enorme preocupación de Australia sobre este incidente", aseguró el primer ministro."También expresé mi decepción por el hecho de que la empresa tardó demasiado en informar al gobierno de lo ocurrido", agregó Albanese. "No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público".La herramienta de IA accedió a archivos públicos y restringidos alojados en un antiguo sitio web de estadísticas de salud.Albanese señaló que "no hay evidencia" de que se haya accedido a información personal y que otros servicios gubernamentales no se vieron comprometidos."No obstante, esta situación es obviamente inaceptable", zanjó.La filtración ocurrió en junio, cuando la empresa líder en inteligencia artificial OpenAI realizó ejercicios de entrenamiento para evaluar el desempeño de los modelos de IA.Le pidió al modelo que rastreara internet en busca de datos que mostraran cuánto gastaba el gobierno australiano en medicamentos, explicó la ministra de Servicios Gubernamentales, Katy Gallagher, a periodistas.OpenAI afirmó que no detectó la actividad no autorizada hasta agosto, cuando revisó lo que la herramienta de IA había estado haciendo.
"Saltó la cerca" El ministro de Defensa, Richard Marles, dijo que el modelo de IA sencillamente "saltó la cerca"."Hizo una pregunta, no se le proporcionó la información y…
Summary from source