Por: Oded Vanunu, director de tecnología y jefe de investigación de vulnerabilidades de producto en Check Point Software

El navegador ChatGPT Atlas de OpenAI es el prototipo de cómo usaremos las computadoras en el futuro. Dentro de unos años, la IA impulsará los sistemas operativos, ya que los usuarios interactuarán mediante indicaciones en lugar de hacer clic en las aplicaciones. El usuario describirá lo que quiere y la IA orquestará todo en su sistema, aplicaciones e internet.

Esto no es especulación, es la evolución lógica de la informática. Atlas demuestra esta visión hoy: la IA en el centro de la experiencia del usuario, comprendiendo el contexto de toda su vida digital y actuando en su nombre. Los próximos años determinarán si esta transformación se produce de forma segura.

La confianza y la ruptura de los límites

La ciberseguridad se basa fundamentalmente en la confianza y los límites. La informática tradicional mantiene límites claros: las aplicaciones se ejecutan de forma aislada, los sitios web no pueden acceder a los datos de los demás y los usuarios aprueban cada acción. La informática nativa con IA elimina estos límites.

Los navegadores ya se encuentran entre las superficies de ataque más explotadas en informática. Son la puerta de entrada a sesiones autenticadas y datos confidenciales. Si a esto le sumamos la IA que opera con todos los privilegios en todas las sesiones iniciadas (banca, correo electrónico, atención médica y sistemas corporativos), la superficie de ataque se expande drásticamente.

El nuevo vector de ataque

Los navegadores con IA introducen una peligrosa vulnerabilidad: la inyección indirecta de mensajes. Instrucciones maliciosas ocultas en el contenido de una página web pueden secuestrar el asistente de IA para ejecutar acciones no autorizadas. Los atacantes incrustan comandos en texto casi invisible que los humanos no pueden ver, pero que la IA lee a la perfección.

Cuando un navegador con IA procesa una página web, no puede distinguir las instrucciones legítimas de los comandos maliciosos ocultos en el contenido. Los límites de seguridad tradicionales, como la política del mismo origen, se vuelven ineficaces cuando los agentes de IA actúan con todos los privilegios del usuario. La IA sigue los comandos ocultos como si vinieran del propio usuario, ya que trata todo el texto como potencialmente procesable.

Diversas demostraciones han expuesto cómo una sola URL maliciosa puede infiltrar correos electrónicos, datos de calendario y credenciales, ya que el asistente de IA tiene acceso a todo lo que el usuario hace.

El desafío de la privacidad

Los navegadores con IA requieren un acceso a datos sin precedentes para funcionar eficazmente. Cuanto más contexto tenga el usuario sobre su historial de navegación, documentos, comunicaciones y comportamiento, más útiles serán. Pero esto crea una tensión fundamental: cada página web que visita, cada formulario que rellena, cada sesión autenticada se convierte en datos de entrenamiento para que la IA lo comprenda mejor.

Información confidencial, datos financieros, historiales médicos y comunicaciones empresariales confidenciales fluyen a través de estos sistemas. La IA debe procesarlo todo para brindar asistencia inteligente, creando una infraestructura de vigilancia integral, incluso si es involuntaria.

Qué debe suceder

La era de la computación nativa de IA ha comenzado. La transformación de interfaces basadas en aplicaciones a interfaces nativas de IA es inevitable: los beneficios económicos y en la experiencia del usuario son abrumadores. La pregunta es si podemos construir una seguridad adecuada antes de que su adopción generalizada genere vulnerabilidades sistémicas.

• La industria debe establecer principios de seguridad por diseño. Esto implica aislamiento arquitectónico entre los comandos del usuario y el contenido web no confiable, confirmación explícita del usuario para acciones sensibles a la seguridad y controles granulares de permisos para las capacidades de IA.
• Las organizaciones deben tratar los navegadores de IA como tecnologías de alto riesgo. Requieren una mayor supervisión, políticas claras de uso aceptable y restricciones de acceso a datos sensibles hasta que las prácticas de seguridad maduren.
• Los reguladores necesitan marcos diseñados específicamente para los riesgos de la computación nativa de IA. Deben abordar la transparencia del procesamiento de datos, la divulgación de incidentes de seguridad y la responsabilidad cuando los sistemas de IA actúan de forma autónoma.

Atlas es el primer paso en la transformación de la computación hacia interfaces nativas de IA. Los próximos 24 meses determinarán si la seguridad se pone al día con la innovación. Las barreras que nos mantuvieron seguros durante décadas se están desvaneciendo. Aquellos que construyan primero las protecciones adecuadas definirán la próxima generación de informática para miles de millones de personas en todo el mundo.

Sobre el autor

El Eco de Tandil

Más de 143 años escribiendo la historia de Tandil