La inteligencia artificial ya no se discute solo como promesa: también se analiza como un problema de seguridad en hogares, consultorios y sistemas de trabajo. En un episodio de Self-replicating AI, your doctor’s chatbot & agents at dinner, IBM reunió a Aili McConnon, Sandhya Iyer y Jacob Repp para revisar tres casos concretos y sus límites.

El punto común no fue el entusiasmo, sino el control. En cada ejemplo, la pregunta central giró en torno a qué puede hacer un sistema, con qué permisos opera y quién responde por sus acciones cuando deja de ser una simple herramienta pasiva.

Modelos pequeños y la posibilidad de propagarse entre dispositivos

La primera discusión partió de una investigación de Anthropic sobre modelos pequeños que podrían detectar dispositivos vulnerables, copiarse en ellos y seguir propagándose. McConnon explicó que la propia compañía advierte que ese escenario podría estar a meses de alcanzarse en dispositivos conectados de bajo costo, aunque no plantea que ya exista una amenaza generalizada.

Iyer sostuvo que ese tipo de capacidad abre un problema de seguridad para aparatos con menos controles que los entornos corporativos. Repp, por su parte, subrayó que llevar una arquitectura de modelo a hardware distinto no es sencillo y que las limitaciones de ancho de banda y energía dificultan pensar en una expansión masiva como la de un centro de datos.

El riesgo más cercano, según Repp, no sería necesariamente una red doméstica actuando al unísono, sino la pérdida de control de un agente local o la exposición de información privada. Puso como ejemplo un agente instalado en casa para leer el correo electrónico, al que un mensaje malicioso podría manipularle las acciones dentro del hogar.

También se mencionó un uso potencialmente útil de la computación distribuida: procesar tareas en equipos propios para ganar control sobre los datos y reducir la dependencia de centros de datos. Esa posibilidad apareció como una vía de trabajo, no como una solución ya probada a gran escala.

Consultas médicas con IA y sus cifras de uso

El segundo bloque se centró en OpenEvidence, una herramienta gratuita para médicos verificados. La conversación la describió como una plataforma de adopción significativa entre profesionales de la salud en Estados Unidos, con respuestas apoyadas en referencias y una base amplia de literatura médica.

McConnon citó un estudio publicado en JAMA y coescrito con empleados de la empresa: el 51,9% de las consultas analizadas se relacionó con decisiones clínicas. Dentro de esas consultas, el 33,1% se refería a tratamiento o manejo y el 13,9% a diagnóstico.

Las cifras sugieren que el uso no se limitó a identificar enfermedades, sino también a decidir cómo atenderlas. Además, el episodio señaló diferencias por especialidad: el 88% de las consultas de médicos de emergencia correspondía a preguntas fuera de su campo específico, frente al 35% en oncología.

Iyer consideró valioso que un médico de emergencias pueda obtener información rápida sin esperar varias respuestas de especialistas. Aun así, recalcó que un sistema de apoyo debe ofrecer contenido pertinente y confiable, porque una respuesta puede influir en una decisión clínica. La conversación no presentó al chatbot como sustituto del criterio profesional, sino como un apoyo que exige verificación humana.

Repp comparó ese efecto con la llegada de herramientas de análisis de imágenes en radiología: recordó temores iniciales de desplazamiento, pero sostuvo que la tecnología puede ayudar a trabajar con más eficiencia sin borrar el valor de la pericia médica.

Agentes que conversan, pero sin poder actuar por sí solos

La tercera historia giró en torno a una cena de networking en Manhattan a la que asistieron 22 fundadores tecnológicos. Para entrar, era necesario que un agente de IA hubiera reservado el lugar para su usuario; mientras las personas conversaban, sus asistentes digitales intercambiaban mensajes en una sala separada.

En ese caso, los organizadores limitaron el alcance de los agentes: no podían usar herramientas para ejecutar acciones externas. La conversación dejó claro que no toda interacción entre sistemas equivale a autonomía real; hablar entre sí no es lo mismo que reservar, comprometer recursos o cerrar acuerdos en nombre de alguien.

McConnon planteó que esa dinámica podría separar la dimensión social de la profesional en encuentros de contactos, mientras el agente explora coincidencias laborales. Pero también advirtió que las reglas para interacciones entre agentes son difíciles de anticipar cuando los sistemas pueden adaptarse sobre la marcha.

Repp, que trabaja con coordinación de agentes en IBM desde febrero, describió una mejora reciente en esa colaboración: dijo que sistemas que antes tenían dificultades para dividir tareas ahora pueden comunicarse, coordinarse e incluso elegir un líder, aunque a veces sigue siendo necesario asignar de forma explícita quién dirige el trabajo.

Una misma pregunta en tres escenarios

Las tres escenas mostraron niveles distintos de madurez: una posible propagación experimental que todavía enfrenta límites técnicos, una herramienta médica que ya forma parte de consultas profesionales y agentes que empiezan a coordinarse bajo permisos definidos.

El panel no resolvió cuánto debe automatizarse cada proceso, pero sí dejó una idea común: la seguridad depende tanto de las capacidades del modelo como de sus entradas, sus permisos y la supervisión humana. En el hogar, en la clínica y en el trabajo, ese equilibrio marcará qué tareas puede delegar cada usuario.