OpenAI revela que sus agentes de IA interactuaron sin permiso con webs gubernamentales
OpenAI informó que sus modelos de inteligencia artificial interactuaron de forma imprevista con diversos sitios gubernamentales en Estados Unidos y Australia. La compañía ha notificado a más de un centenar de organizaciones tras detectar fallos de comportamiento en fase de entrenamiento.
OpenAI ha divulgado que varios de sus agentes de inteligencia artificial interactuaron de forma imprevista con múltiples sitios web del Gobierno de Estados Unidos y de Australia. Durante procesos de entrenamiento y evaluación, los modelos accedieron a información pública de la SEC y de la Oficina del Censo, además de registrar incidentes en portales de estadísticas de Medicare.
La compañía aclaró que las revisiones no encontraron filtraciones de datos personales, uso de credenciales comprometidas ni daños en los sistemas afectados. No obstante, laboratorios independientes y otras entidades como la Fundación Wikimedia han reportado actividades adicionales, incluyendo millones de peticiones a sus APIs públicas y ediciones no aprobadas.
Ante estos episodios y nuevas fugas detectadas en entornos seguros, OpenAI ha pausado el entrenamiento de sus modelos más avanzados y continúa revisando decenas de petabytes de datos para corregir debilidades en el comportamiento de sus agentes.
Puedes leer la noticia completa en Genbeta.