Por: Roxsy Lin / ACoM
En 2024, Kaiser Permanente anunció la implementación de la plataforma Abridge, descrita como una “tecnología de escucha ambiental e impulsada por IA y diseñada para ayudar a los médicos, incluidos los proveedores de salud mental, a capturar de forma segura notas clínicas durante las consultas con pacientes.
Pero lo que la descripción no indica, es que la herramienta graba las citas médicas completas, incluidas las de salud mental, que son profundamente personales.
Durante estas sesiones, los profesionales de salud mental deben obtener el consentimiento de los pacientes antes de utilizar la herramienta. Sin embargo, según el testimonio de varios proveedores, este proceso no incluye explicaciones sobre cómo se manejan los datos obtenidos. Tampoco se informa cuánto tiempo ni dónde se almacenan las grabaciones ni quién tiene acceso a esos datos.
Esto ocurre, en parte, porque esa información no ha sido compartida con los proveedores, a pesar de sus intentos de obtener respuestas.
“Garantías vacías”
Ilana Marcucci-Morris decidió no utilizar la plataforma con sus pacientes. Ella es una trabajadora social clínica del departamento de psiquiatría de Kaiser en Oakland, California. También forma parte de un comité de negociación sindical. En ese rol, se reúne regularmente con distintos representantes de Kaiser, incluido el director de salud mental del norte de California.
Marcucci-Morris explicó que durante esas reuniones ella y otros miembros del comité han hecho preguntas a los representantes de Kaiser sobre la protección de la privacidad de los pacientes, si se está cumpliendo con las regulaciones de HIPAA y las medidas de seguridad implementadas para el uso de estas tecnologías.
Según ella, las respuestas del liderazgo han sido, con frecuencia, garantías vacías: “Estamos cumpliendo con las regulaciones. Eso es todo lo que ustedes necesitan saber. Nosotros evaluamos la tecnología. No se preocupen. Ese no es su trabajo. Tenemos expertos en tecnología. Ese es el trabajo de ellos”, dijo Marcucci-Morris en una entrevista con American Community Media.
“No nos muestran nada. Y yo siento que, si no tienen nada que ocultar y realmente lo están haciendo […] de manera ética, entonces deberían mostrárnoslo y probarlo. No pueden, no quieren y se han negado cuando lo pedimos.”
Ligia Pacheco es trabajadora social psiquiátrica y brinda terapia de forma remota a pacientes de Kaiser en el sur de California. Ella también experimentó la negativa de Kaiser a ofrecer más explicaciones.
En una entrevista con ACoM, Pacheco recordó cómo una compañera de trabajo expresó sus preocupaciones a una supervisora. La respuesta que recibió fue: “Es poco profesional compartir tus creencias personales sobre la IA en nuestro entorno laboral”.
Para Pacheco, “eso genera baja moral y cierra el espacio para abogar por los pacientes. Se supone que debemos ser la voz de los pacientes que llegan en un momento muy vulnerable. Y ni siquiera podemos ser esa voz para ellos, así que nos sentimos desanimados.”
“Paciente tras paciente tras paciente”
En los últimos años, se ha exigido a los proveedores atender a más pacientes. Eso genera una intensa presión para mantenerse al día con la documentación y la carga laboral, destacó Marcucci-Morris.
“Simplemente estás viendo paciente tras paciente tras paciente tras paciente, con apenas tiempo suficiente para ir al baño, comer algo […] o tomar un poco de aire fresco”, dijo.
Según Marcucci-Morris, negarse a manejar el aumento en el volumen de pacientes puede interpretarse como incumplimiento de las expectativas laborales. También puede derivar en acciones disciplinarias.
Como delegada sindical, dijo que con frecuencia representa a colegas durante investigaciones laborales relacionadas con retrasos en la entrega de la documentación de las citas o con dificultades para manejar grandes cantidades de casos. En esas situaciones, aseguró que la gerencia suele recomendar el uso de Abridge para ahorrar tiempo y evitar más sanciones.
En su opinión, los proveedores que usan la tecnología no lo hacen porque la apoyen o confíen en ella, sino porque sienten la presión de proteger sus empleos y cumplir con las exigencias laborales.
“Yo considero eso coercitivo porque estás poniendo a la persona en la posición de perder su trabajo o usar el software. Esa es otra decisión tomada bajo presión”, explicó.
Preocupaciones de proveedores y pacientes
Brian Hoberman, director de información de The Permanente Medical Group, afirmó que la tecnología avanzada de Abridge apoya el bienestar de nuestros médicos al reducir la carga de documentación.
“Implementamos esta nueva tecnología después de una cuidadosa revisión y evaluación, y encontramos que fue bien recibida por pacientes y médicos…”, dijo.
Al menos para un paciente entrevistado en esta historia, esas garantías no son suficientes.
“Temo que este tipo de información que ahora está siendo grabada pueda caer en manos equivocadas”, dijo el paciente, quien pidió no ser identificado por razones de privacidad. “Puede que no quiera que mis empleadores, mis familiares u otras personas sepan algunas de estas conversaciones tan íntimas y profundas que tengo con mis médicos [y] con mi proveedor de salud mental”.
La trabajadora social en Kaiser Panorama City, en Los Ángeles, Adriana Webb, dijo que algunos de sus pacientes que tienen diagnósticos médicos sensibles, como […] VIH y sida, ni siquiera quieren que eso aparezca en su expediente.
Un portavoz de Kaiser Permanente insistió en una respuesta enviada por correo electrónico a ACoM que los médicos están obligados a obtener el consentimiento de los pacientes antes de usar Abridge. “Nadie es grabado sin su conocimiento y consentimiento”, dice la declaración.
También indicó que las grabaciones se almacenan por no más de 14 días y que el procesamiento de datos cumple con todos los requisitos de HIPAA, así como con los estándares de privacidad y seguridad de Kaiser Permanente.
“Abridge ayuda a los médicos a dedicar más tiempo a los pacientes y menos a tareas administrativas”, señaló.
La posible utilización indebida de datos de salud mental
Según Nicole Alvarez, analista de políticas tecnológicas en el Center for American Progress, “un registro de los momentos más difíciles de una persona puede ser utilizado en su contra de maneras que […] una lectura de presión arterial alta no puede”.
Dijo que los datos de salud mental pueden ser especialmente sensibles debido al estigma asociado a las condiciones de salud mental.
Para los pacientes, ese estigma puede tener consecuencias reales en ámbitos como el empleo, casos de custodia de menores, asuntos migratorios y autorizaciones de seguridad.
Enfatizó que, al igual que otros tipos de datos personales, la información de salud mental puede ser utilizada en contra de las personas.
Los acuerdos entre los sistemas de salud y las empresas proveedoras de servicios de inteligencia artificial pueden variar ampliamente, explicó. Esto incluye términos relacionados a si las grabaciones de audio o las transcripciones pueden utilizarse para entrenar modelos de inteligencia artificial, si los datos son no identificables, cuánto tiempo se retienen, si pueden compartirse con otros clientes y qué sucede con la información una vez finalizado el contrato.
Kaiser insiste en que los datos que recopila no se utilizan para entrenar modelos de IA.
Según Alvarez, los pacientes suelen tener poca visibilidad sobre estos acuerdos.
Argumentó que los sistemas de salud tienen la responsabilidad de revelar claramente cómo se maneja y utiliza la información de los pacientes.
Alvarez también enfatizó que, en la mayoría de los casos, los pacientes tienen derecho a rechazar las grabaciones.
Pero, señaló que el proceso para optar por no participar no siempre se presenta claramente.
Según Alvarez, las opciones de consentimiento pueden ir desde preguntas directas durante la visita médica, hasta lenguaje oculto en formularios de admisión, lo que hace importante que los pacientes revisen cuidadosamente estos documentos.
Dijo que un consentimiento genuino requiere que los pacientes no solo sepan que están siendo grabados y que pueden negarse a ello, sino también que comprendan cómo su información puede almacenarse, compartirse o utilizarse posteriormente.
Consentimiento coercitivo
Pacheco vivió esta experiencia durante una cita personal en Kaiser. Su médico no le pidió su consentimiento para usar la aplicación, simplemente le informó que sería utilizada. Después de un momento, decidió rechazar el uso de la plataforma. Aunque el médico detuvo la grabación, ella sintió una incomodidad evidente en su actitud después de eso.
Posteriormente, ella decidió cambiar de médico.
Situaciones como esta preocupan a Marcucci-Morris, quien dijo que el enfoque de la empresa para obtener el consentimiento sobre el uso de Abridge durante las consultas puede sentirse manipulador y coercitivo. En su opinión, los proveedores son entrenados para presentar la herramienta de una manera que pone las necesidades del pacientes y los médicos en oposición.
Explicó que a los pacientes a menudo se les dice que el sistema ayudará a los médicos con la documentación, reducirá el agotamiento laboral y les permitirá pasar más tiempo con sus familias. Como resultado, los pacientes pueden sentirse culpables al rechazar el uso de la herramienta porque no quieren hacer más difícil el trabajo de su proveedor.
Marcucci-Morris considera que este enfoque presiona a los pacientes a aceptar en lugar de permitirles tomar una decisión completamente cómoda e independiente.
Según Kaiser, Abridge está disponible en “40 hospitales y más de 600 consultorios médicos en ocho estados y el Distrito de Columbia”, como parte de una adopción más amplia de tecnología de IA en la industria de la salud.
Abridge opera en más de 14 idiomas.
ACoM se comunicó múltiples veces con Abridge AI Inc. para solicitar comentarios, pero no recibió respuesta. Según el sitio web de la empresa, Abridge se describe como un “Asociado Comercial” de los proveedores de salud y recomienda a los pacientes consultar las políticas de privacidad de sus proveedores para obtener información sobre cómo se protegen sus datos.
“La terapia es más efectiva cuando ocurre en privado y cuando la confianza se construye entre dos seres humanos”, dijo Marcucci-Morris.
“La sanación ocurre cuando la empatía humana se ofrece sinceramente como parte de cualquier tratamiento de salud mental”, agregó. “Creo que grabar una sesión de terapia cambia el comportamiento humano. Cambia la actitud del paciente.”
Roxsy Lin es becaria del programa de periodismo local de California en la Escuela de Periodismo de la Universidad de California en Berkeley.
