La reciente aparición de ChatGPT Salud, una extensión de la inteligencia artificial de OpenAI que insta a los usuarios a cargar su información médica, ha encendido las alarmas en el ámbito sanitario. Aunque la compañía asegura que estos datos no serán compartidos públicamente, el Consejo General de Colegios Oficiales de Médicos de España (CGCOM) ha emitido un llamado a la prudencia, enfatizando la importancia de proteger la privacidad del paciente y la autoridad del profesional médico como garante de la información.
Esta innovadora funcionalidad de IA, que por ahora solo está disponible para un grupo limitado de usuarios en Estados Unidos y otras regiones no europeas, se prepara para su lanzamiento global en las próximas semanas. A diferencia del modelo general de ChatGPT, que utiliza toda la información para generar respuestas, la versión de salud promete un manejo más restringido de los datos, con el objetivo de ofrecer asesoramiento personalizado sin comprometer la confidencialidad.
La propuesta de ChatGPT Salud incluye la posibilidad de cargar historiales médicos y datos de aplicaciones de bienestar como Apple Health, Function o MyFitnessPal. Esto permitiría a los usuarios interpretar resultados de pruebas, organizar consultas médicas, recibir recomendaciones sobre nutrición y ejercicio, o comparar seguros de salud según sus perfiles. La empresa enfatiza que su herramienta está diseñada para complementar los servicios médicos, no para sustituirlos, y que no tiene como fin el diagnóstico o tratamiento de enfermedades, sino empoderar a los usuarios con información relevante y preparación.
Para garantizar la seguridad, OpenAI ha implementado medidas de protección de privacidad específicas y escalonadas para esta rama de la IA. No obstante, el presidente del CGCOM, el doctor Tomás Cobo, ha expresado su preocupación por la insuficiencia de estas garantías. Subraya la necesidad de una extrema cautela al ceder datos clínicos, cuestionando cómo se manejarán y para qué fines se utilizarán. Además, insiste en que toda la información proporcionada por esta herramienta debe estar respaldada por evidencia científica, verificada por instituciones con conocimiento experto como las sociedades científicas.
El doctor Cobo advierte que, si bien ChatGPT maneja vastas cantidades de datos, carece de la capacidad de razonamiento humano. Destaca el riesgo de sesgos en la información, citando el ejemplo de las patologías dermatológicas, donde la predominancia de datos de piel blanca podría llevar a diagnósticos erróneos en individuos con piel más oscura. Por ello, defiende la centralidad del médico en el proceso de diagnóstico y tratamiento, concibiéndolo como el filtro indispensable ante la sobreabundancia de información.
En consonancia con estas advertencias, el doctor Hans Eguía, miembro del Grupo de Trabajo de Innovación Digital en Salud de la Sociedad Española de Médicos de Atención Primaria (SEMERGEN), señala que el uso de estas plataformas conlleva riesgos de ciberseguridad, como los ataques informáticos. Propone la anonimización de los datos y el uso de tecnologías como el blockchain para proteger la información. Aunque OpenAI asegura que los datos en ChatGPT Salud estarán cifrados y no se emplearán para entrenar la IA, Eguía considera fundamental que la plataforma cumpla con las leyes de protección de datos tanto de Estados Unidos como de Europa.
A pesar de los desafíos, el doctor Eguía reconoce el potencial de la nueva plataforma para beneficiar a los usuarios al integrar datos de salud de diversas aplicaciones móviles, ofreciendo una visión más completa de su rutina y bienestar. Subir historiales clínicos o resultados de pruebas, según él, está más orientado a proporcionar respuestas personalizadas e informativas que a realizar diagnósticos. El sistema puede asistir en la interpretación de pruebas, recordar citas médicas, gestionar la medicación y ofrecer consejos sobre hábitos saludables, como la dieta y el ejercicio.
Un aspecto crítico que debe considerarse es la posibilidad de que estas plataformas de inteligencia artificial, especialmente las gratuitas, ofrezcan información imprecisa o desactualizada. Por lo tanto, es esencial que tanto los profesionales de la salud como los pacientes estén capacitados para utilizar estas herramientas de manera crítica, comprendiendo sus limitaciones y sin confiar ciegamente en ellas. La formación en este ámbito es crucial, ya que simplemente prohibir su uso podría generar el efecto contrario. Con 230 millones de personas consultando ChatGPT semanalmente sobre temas de salud y bienestar, la aparición de ChatGPT Salud marca un hito en la intersección de la tecnología y la medicina, requiriendo una cuidadosa navegación para asegurar sus beneficios sin comprometer la seguridad ni la calidad de la atención médica.