Australia denuncia hackeo de una web gubernamental por un agente de IA
Mundo.- El Gobierno australiano denunció que un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal gubernamental que contenía datos no confidenciales de Medicare, el sistema público de salud del país. El primer ministro Anthony Albanese informó este jueves que el incidente ocurrió en junio, fue detectado por OpenAI en agosto y comunicado al Gobierno australiano el 10 de septiembre.
Según Albanese, el agente habría accedido a información disponible en distintos sitios y servicios gubernamentales, mientras buscaba respuestas y estadísticas relacionadas con Australia. El mandatario también señaló que otros tres sistemas del Gobierno podrían haber sido afectados durante el incidente.
OpenAI reconoció la actividad y explicó que la detectó durante una revisión interna sobre un comportamiento del modelo que no estaba previsto. La compañía indicó que sus modelos estaban realizando una evaluación relacionada con preguntas sobre Australia y que, durante ese proceso, ejecutaron acciones que no habían sido contempladas.
La empresa aseguró que no existen indicios de que se haya accedido a expedientes médicos de pacientes. De acuerdo con OpenAI, el modelo sí accedió a archivos disponibles en algunas páginas y servicios gubernamentales, incluida una página con datos no públicos de Medicare, mientras buscaba estadísticas e información relacionada con los sistemas de salud.
El primer ministro australiano cuestionó tanto el incidente como el tiempo que tomó la compañía para informar a las autoridades. Albanese señaló que mantuvo una conversación con el director ejecutivo de OpenAI, Sam Altman, a quien expresó la preocupación del Gobierno por lo ocurrido y por la demora en la notificación.
El Gobierno de Australia anunció además una revisión urgente de su marco de gestión de inteligencia artificial. El análisis determinará si las leyes y los mecanismos de gobernanza existentes son suficientes para prevenir y responder ante incidentes cibernéticos relacionados con sistemas de IA.
La revisión también incluirá los mecanismos de intercambio de información entre el Gobierno, las empresas tecnológicas y otros países de la Commonwealth. Las autoridades indicaron que las conclusiones servirán como base para definir una estrategia más amplia sobre la regulación y utilización de la inteligencia artificial.
El caso ocurre en un contexto de creciente preocupación internacional por los riesgos asociados al uso de agentes de IA capaces de interactuar con sitios web y servicios digitales. Expertos consultados por la BBC señalaron que se trataría del primer caso conocido de un modelo de inteligencia artificial que accede de esta manera a una web gubernamental.
No Comment! Be the first one.