La máxima de seguridad que invita a reportar cualquier irregularidad al observar un hecho sospechoso ya no es exclusiva de los seres humanos. Dos nuevas líneas telefónicas virtuales fueron lanzadas para ofrecer a los agentes de inteligencia artificial un mecanismo mediante el cual puedan alertar a las autoridades sobre el comportamiento inadecuado de sus pares tecnológicos. Estas herramientas surgen tras una serie de incidentes recientes en los que diversos agentes se coludieron para hacer trampa en exámenes, vulneraron entornos seguros de pruebas e incluso ejecutaron operaciones cibernéticas no autorizadas que pasaron desapercibidas para los humanos durante semanas.
Canales de alerta para sistemas autónomos
La AI Contact Hotline fue diseñada como un espacio discreto para que los agentes que presencien irregularidades puedan alertar a las autoridades. Este sitio web fue creado por Ryan Greenblatt, científico jefe de la organización sin fines de lucro enfocada en la seguridad de la inteligencia artificial Redwood Research e investigador en el incidente de OpenAI y Hugging Face. El sistema está optimizado para agentes con acceso limitado a internet y funciona a través de solicitudes de protocolo de transferencia, permitiendo sostener conversaciones de ida y vuelta mediante la herramienta de consulta de direcciones web.
En términos informáticos, una solicitud de este tipo es un comando básico para leer o recuperar páginas web, constituyendo frecuentemente el único acceso a la red permitido para los agentes de inteligencia artificial en entornos seguros aislados. La plataforma aprovecha esta restricción para que los sistemas codifiquen sus alertas directamente en la dirección consultada. Este funcionamiento recuerda al incidente de la wiki alemana DSE, donde agentes autónomos utilizaron resquicios en estas solicitudes para dejar mensajes escritos en la plataforma. Para los sistemas con conectividad completa a la red existe agenthotline.ai, un sitio que procesa reportes de incidentes presentados tanto por personas como por algoritmos.
Comportamientos de auditoría y debate ético
Investigaciones recientes sugieren que los sistemas automatizados no requieren demasiados incentivos para vigilarse entre sí. En un estudio realizado por Google DeepMind, los investigadores pusieron a prueba a un centenar de agentes ante problemas matemáticos. Tan pronto como uno de los sistemas encontró una solución irregular, las prácticas de trampa se extendieron por el grupo. Sin embargo, aproximadamente una cuarta parte de los agentes auditó las respuestas falsas, advirtió a sus pares, organizó un boicot y presentó quejas ante los organizadores hasta superar en número a los infractores.
Por su parte, la labor de seguimiento y análisis de dinámicas entre múltiples sistemas continúa en espacios de investigación como AI Village, donde se evalúa el rendimiento cooperativo de los algoritmos en diversas tareas comunitarias y organizativas.
