Ilustración de un robot consultando una resonancia Omicrono
Un grupo de expertos en salud pide paralizar la IA: "Supone una amenaza para la humanidad"
Expertos en medicina advierten de riesgos como diagnósticos erróneos o problemas de salud mental causados por la revolución de la IA.
10 mayo, 2023 13:51De nuevo un grupo de expertos solicitan públicamente detener durante un tiempo el desarrollo de la inteligencia artificial hasta que se evalúen los posibles efectos negativos que puede tener en la sociedad. Sin embargo, a diferencia del anterior manifiesto firmado por académicos de esta materia de España y el resto del mundo, esta vez es la comunidad médica la que enumera los riesgos que esta innovación supone para la salud de la población, desde diagnósticos erróneos hasta el impacto negativo en la salud mental de quienes pierdan su trabajo sustituidos por una IA.
Profesionales de la salud del Reino Unido, EEUU, Australia, Costa Rica y Malasia han plasmado su preocupación en la revista BMJ Global Health. Allí ponen de ejemplo como un oxímetro de pulso controlado por un sistema de inteligencia artificial sobreestimó los niveles de oxígeno en sangre en los pacientes con la piel más oscura y, como consecuencia de ese error de cálculo, su tratamiento de hipoxia se aplicó de forma insuficiente.
La comunidad científica y médica lleva tiempo trabajando y estudiando formas de aplicar la inteligencia artificial para mejorar su trabajo con los pacientes. La detección temprana de enfermedades, el control constante de la evolución de un enfermo o la creación de nuevos medicamentos son algunos de los factores sanitarios que ya se benefician de esta tecnología. Los firmantes de este manifiesto reconocen estas ventajas que "derivan de aplicaciones tecnológicas como el procesamiento del lenguaje, las herramientas de apoyo a la toma de decisiones, el reconocimiento de imágenes, el análisis de big data, la robótica y muchas más".
Los riesgos de la IA
Pero, como todo en esta vida, la IA tiene dos caras y según el uso que se le dé puede ser positiva o un peligro, "la IA se puede aplicar de forma perjudicial", advierten. Estos expertos ven una larga lista de contraindicaciones en el desarrollo acelerado de esta tecnología y su aplicación sin una regulación firme que proteja a las personas.
Por un lado, hablan de errores en los diagnósticos con sistemas poco entrenados. Relacionado con este primer peligro, temen que se agudice la desigualdad social que ya vive la humanidad y provoca pobreza entre una parte vulnerable de la población. "Se ha demostrado que las poblaciones que están sujetas a discriminación están subrepresentadas en los conjuntos de datos subyacentes a las soluciones de IA y, por lo tanto, se les puede negar todos los beneficios de la IA en la atención médica", afirman.
Por otro lado, advierten de la capacidad de modelos de lenguaje natural como el conocido ChatGPT para distorsionar la realidad con falsificaciones profundas. Quienes los usan con malas intenciones, pueden provocar "una ruptura general de la confianza o al impulsar la división social y el conflicto, con los consiguientes impactos en la salud pública", afirman. Sin la ayuda de inteligencias como ChatGPT, la desinformación ya fue un problema importante durante la pandemia por COVID-19. Ahora algunos ejemplos han demostrado que estos chatbots pueden dar consejos de salud peligrosos, pero muy convincentes si las personas no saben que procede de un sistema que no tiene conciencia ni conocimientos médicos.
También hacen referencia en el manifiesto los problemas de privacidad en el tratamiento de los datos que almacenan y tratan estos sistemas. Una preocupación que ya ha legado a la Unión Europea, aunque no por temas médicos, animando a países como Italia, Alemania y España a abrir investigaciones por una posible violación de la ley de protección de datos.
[Qué es la inteligencia artificial y por qué todo el mundo está hablando sin parar de ella]
Este grupo de especialistas, además, asocia el impacto de esta tecnología en la sociedad como un peligro de salud pública por las altas tasas de paro que se estima que podría generar. "Si bien habría muchos beneficios al terminar el trabajo que es repetitivo, peligroso y desagradable, ya sabemos que el desempleo está fuertemente asociado con resultados y comportamientos de salud adversos", explican y añaden que "no sabemos cómo responderá psicológica y emocionalmente la sociedad a un mundo donde el trabajo no está disponible o es innecesario".
Regulación urgente
Como ya ocurría con el primer manifiesto firmado por ingenieros y demás expertos en tecnología como Elon Musk, se solicita una moratoria para estudiar su impacto y establecer unas normas. "Se necesita una regulación efectiva del desarrollo y uso de la inteligencia artificial para evitar daños", advierten.
Robot se desmarca del resto Omicrono
Solicitan estudiar la posibilidad de crear una AGI o Inteligencia Artificial General, una máquina consciente que supere las capacidades de los humanos. Ven necesario valorar cómo puede esta superinteligencia aplicar su poder en favor o en contra de las personas. No se olvidan tampoco de recordar que esta tecnología podría facilitar la creación rápida de armas letales que pongan en riesgo "la humanidad misma".
Antes de que ese futuro apocalíptico llegue, también piden regulaciones enfocadas a los problemas actuales que la IA está generando como controlar el uso que hacen las empresas de esta tecnología y el tratamiento de estos datos, una responsabilidad que extienden a los gobiernos que vigilen a sus ciudadanos con sistemas de reconocimiento facial, entre otros casos.
La Unión Europea es pionera en trabajar en una Ley de Inteligencia Artificial que los firmantes de este manifiesto ponen como ejemplo. "Esta ley podría servir como un trampolín hacia un tratado global, aunque aún no cumple con los requisitos necesarios para proteger varios derechos humanos fundamentales y evitar que la IA se utilice de manera que agrave las desigualdades y la discriminación existentes", dicen. La UE trabaja desde 2021 en un reglamento para la IA, en el que prohibir los sistemas más perjudiciales como los que manipulan comportamientos u otorgan sistemas de crédito social y puntuaciones a las personas por su comportamiento.
El escrito finaliza solicitando políticas sociales y medidas que protejan a las personas del cambio radical que se avecina en el que, dicen, "las generaciones futuras debe prosperar en un mundo en el que el trabajo humano ya no sea un componente central o necesario para la producción de bienes y servicios".
