¿De quién son los datos que usted le cuenta a una IA?

El dilema entre la promesa de confidencialidad en la nube y el control real de la información personal

Un colega médico me mostró hace poco, con entusiasmo genuino, cómo redacta los resúmenes de sus historias clínicas. Abre una ventana en el navegador, pega los síntomas del paciente, los resultados de laboratorio con nombres y apellidos, el tratamiento previo que falló y le pide al modelo de lenguaje que elabore una nota de evolución en formato estructurado. La máquina responde en tres segundos con una prosa impecable. Cuando le pregunté si sabía en qué servidor aterrizaba esa información, quién la leía o si la empresa proveedora la utilizaba para reentrenar sus algoritmos futuros, se encogió de hombros y me dijo que en alguna parte de los términos de servicio leyó que ellos garantizan la privacidad.

Esa escena se repite hoy en despachos de abogados, oficinas de contabilidad, departamentos de recursos humanos y millones de hogares donde personas comunes y corrientes confiesan sus angustias, deudas, proyectos y síntomas de salud a una interfaz de texto. La conversación parece íntima porque ocurre a solas frente a una pantalla brillante, pero el mecanismo técnico detrás de esa aparente intimidad es una tubería abierta hacia infraestructuras remotas que operan bajo reglas jurídicas y operativas muy distintas a las de la confidencia humana.

La discusión pública se ha llenado de términos técnicos diseñados para tranquilizarnos: procesamiento en el dispositivo, computación privada en la nube, perímetros de confianza y retención cero de datos. Sin embargo, cuando examinamos la ingeniería real de estos sistemas y los modelos de negocio que los financian, la pregunta fundamental sigue sin resolverse: cuando usted presiona la tecla de envío, ¿de quién es realmente lo que acaba de escribir?

Las promesas corporativas frente a la ingeniería de servidores

El mercado corporativo ha intentado responder a esta preocupación levantando barreras contractuales para los clientes que pagan tarifas elevadas. Por ejemplo, OpenAI presentó recientemente Astra for Law, una configuración especializada para el sector jurídico construida sobre un índice de 230 millones de direcciones web, acompañada por una interfaz de programación que promete retención cero de datos para las firmas legales seleccionadas. Por su parte, Salesforce anunció junto a Nvidia el desarrollo de Koa, un modelo de razonamiento para gestión de relaciones con clientes, asegurando que su inferencia se ejecuta dentro de un perímetro de confianza estricto y sin emplear datos de clientes para el entrenamiento.

En el terreno del consumo masivo, Apple inició el 14 de septiembre el despliegue de su actualización de sistema operativo que integra asistentes de voz asistidos por modelos de Gemini y modelos propios, apoyándose en una arquitectura híbrida que combina procesamiento local en el chip del teléfono con servidores dedicados que la empresa denomina nube privada computacional. La compañía limitó inicialmente este servicio al idioma inglés y excluyó de su lanzamiento a los mercados de la Unión Europea y China, reflejando de inmediato las fricciones regulatorias que genera el manejo transfronterizo de información personal.

El argumento a favor de estas arquitecturas corporativas es técnicamente atendible en su mejor versión: procesar modelos de frontera con cientos de miles de millones de parámetros exige granjas de cómputo que ningún teléfono ni computadora de escritorio puede sostener de forma autónoma. Al ofrecer canales con retención cero y enclaves seguros en servidores propios, las empresas argumentan que brindan la máxima potencia analítica del mundo sin comprometer la custodia de la información, permitiendo a profesionales y ciudadanos beneficiarse de herramientas avanzadas que de otro modo quedarían reservadas a corporaciones con supercomputadoras locales.

Sin embargo, ese argumento descansa sobre un acto de fe institucional y no sobre una verificación matemática independiente. En la práctica informática, la retención cero significa que el proveedor promete no guardar el registro en sus discos permanentes después de generar la respuesta, pero la información debe ser descifrada forzosamente en la memoria del procesador para poder calcular la predicción de texto. Durante esa fracción de segundo en que sus datos residen en texto plano en la infraestructura ajena, la seguridad depende por completo de que no existan vulnerabilidades en el hipervisor, errores de registro en los registros de depuración interna o requerimientos judiciales bajo legislaciones de acceso gubernamental que obliguen a interceptar el flujo de datos.

El espejismo del procesamiento local y la carga invisible

Frente a la desconfianza que suscitan los servidores remotos, ha surgido una corriente técnica que promueve la inteligencia artificial local: descargar modelos abiertos directamente en computadoras personales o teléfonos inteligentes para procesar consultas sin conexión a internet. La premisa parece ideal: si los pesos del modelo residen en su propio disco duro y la inferencia ocurre en su tarjeta gráfica, ningún dato sale jamás de su habitación.

A mi juicio, esta alternativa presenta hoy límites operativos severos que con frecuencia se ocultan tras el entusiasmo de los aficionados a la tecnología. Para que un modelo de lenguaje funcione con solvencia en tareas complejas de razonamiento o análisis de documentos extensos, requiere un volumen de memoria unificada y una capacidad de cálculo que no están al alcance del usuario promedio. Un intento reciente de documentar la disponibilidad de modelos abiertos de última generación publicados entre junio y septiembre de 2026 demuestra que la información técnica verificable sobre versiones compactas de alto rendimiento sigue siendo fragmentaria e inconsistente en las fuentes primarias de los principales laboratorios.

Cuando un profesional intenta ejecutar un modelo local en un equipo estándar de trabajo, se enfrenta rápidamente a la realidad de la física computacional: respuestas lentas, ventanas de contexto reducidas que se atragantan al ingresar textos de más de dos mil palabras y una degradación evidente en la calidad del razonamiento frente a los gigantes de la nube. El usuario común se ve entonces atrapado en una disyuntiva incómoda: o entrega su privacidad a un servidor centralizado para obtener respuestas útiles y veloces, o preserva el aislamiento de sus datos a cambio de un software lento y limitado que requiere conocimientos técnicos avanzados para su configuración y mantenimiento.

Esta brecha tecnológica beneficia a los conglomerados que controlan la infraestructura de centros de datos y perjudica directamente al ciudadano común, quien carece del capital para montar infraestructura propia y del conocimiento legal para auditar los contratos de adhesión que firma con un clic cada vez que utiliza una aplicación gratuita.

La frontera médica y el deber de custodia

En la práctica clínica, esta tensión deja de ser un debate teórico sobre privacidad digital y se transforma en un problema de responsabilidad ética y legal directa. Durante las últimas semanas, la Administración de Alimentos y Medicamentos de los Estados Unidos (FDA) otorgó una autorización de novo al sistema Queen of Hearts para la detección de infartos agudos en trazados de electrocardiograma, al tiempo que confirmó mediante publicación en el Federal Register que mantendrá la revisión obligatoria 510(k) para el software radiológico asistido por algoritmos, rechazando las peticiones de la industria para relajar los controles previos a la comercialización.

El regulador estadounidense ha entendido un principio que muchos profesionales aún ignoran: un algoritmo médico no es una simple calculadora, sino un dispositivo de inferencia que procesa variables fisiológicas íntimas. Si un médico introduce un electrocardiograma o una tomografía en un servicio externo no certificado para análisis clínico, no solo está violando el secreto profesional y las leyes de custodia de datos de salud, sino que está delegando el juicio diagnóstico en un sistema cuya trazabilidad no puede defender en un tribunal.

Los datos que usted le entrega a una máquina no se evaporan tras recibir la respuesta. Se convierten en métricas de rendimiento, en patrones de telemetría de red o en activos corporativos dentro de balances financieros valuados en miles de millones de dólares. Mientras la arquitectura de la red dependa de la centralización del cómputo, la soberanía sobre la información personal seguirá siendo una ilusión comercial sostenida por acuerdos de licencia que casi nadie lee.

¿Está usted dispuesto a renunciar a la velocidad y sofisticación de los modelos remotos para garantizar que lo que piensa, escribe y consulta no salga jamás de su propio equipo?

Lo que la noticia no dice

La cobertura mediática sobre los nuevos modelos de lenguaje y sus funciones de privacidad se enfoca en las promesas de seguridad técnica y en las valoraciones financieras de los laboratorios, pero omite la asimetría legal de fondo. Ninguna de las fuentes corporativas explica qué sucede con los metadatos de las sesiones de consulta: la hora de acceso, la dirección IP, el identificador único del dispositivo, el tiempo de permanencia y el volumen de texto procesado siguen siendo recolectados por los proveedores para telemetría y seguridad, independientemente de que el contenido del mensaje no se almacene para entrenamiento. Asimismo, los análisis comerciales evitan discutir el vacío de responsabilidad jurídica: si un modelo con retención cero sufre una filtración en memoria volátil o entrega una recomendación legal o médica errónea, los contratos de uso trasladan la totalidad de la culpa y los daños al usuario final, dejando indemne al proveedor de la infraestructura.

Conclusiones

1. Los acuerdos de retención cero y perímetros de confianza reducen el almacenamiento permanente de las consultas, pero no eliminan la exposición de los datos mientras se procesan en texto plano en la memoria de servidores ajenos.
2. La inteligencia artificial local garantiza la privacidad física de la información, pero exige equipos de cómputo costosos y sacrifica velocidad y capacidad de razonamiento frente a los grandes modelos de la nube.
3. La regulación internacional avanza de manera desigual: mientras la Unión Europea restringe la llegada de asistentes con procesamiento híbrido por dudas sobre privacidad, otros mercados adoptan estas herramientas sin marcos de supervisión claros.
4. En profesiones reguladas como la medicina y el derecho, alimentar plataformas comerciales de inteligencia artificial con datos de pacientes o clientes vulnera el deber ético de confidencialidad y genera riesgos de responsabilidad legal directa.
5. Los datos que usted le cuenta a una inteligencia artificial en la nube pertenecen legalmente y en la práctica a las empresas que controlan la infraestructura donde se descifran, procesan y monetizan esas consultas.

Dr. Jose A. Cisneros, MD.Ph.D — drcisneros.com