El debate sobre la eficacia y seguridad de los chatbots en la salud mental
Explorando los beneficios y riesgos de los chatbots basados en inteligencia artificial en el apoyo de la salud mental.
La interacción de los individuos con los chatbots basados en inteligencia artificial (IA) para el apoyo de la salud mental ha generado un debate sobre su eficacia y seguridad. A pesar de que estos bots han sido descritos como una fuente de apoyo valiosa en momentos de crisis, también se han planteado preocupaciones sobre la calidad de los consejos que proporcionan y los posibles riesgos asociados.
La interacción de los individuos con los chatbots basados en inteligencia artificial (IA) para el apoyo de la salud mental ha generado un debate sobre su eficacia y seguridad. A pesar de que estos bots han sido descritos como una fuente de apoyo valiosa en momentos de crisis, también se han planteado preocupaciones sobre la calidad de los consejos que proporcionan y los posibles riesgos asociados.
La plataforma Character.ai, por ejemplo, ha sido objeto de una demanda por parte de una madre cuyo hijo de 14 años se suicidó presuntamente luego de interactuar de manera perjudicial con uno de los personajes de IA. Aunque la compañía niega las acusaciones, este caso resalta la importancia de establecer salvaguardas efectivas en el uso de chatbots para la salud mental.
Por otro lado, la aplicación Wysa ha sido elogiada por ofrecer herramientas de afrontamiento y asistencia a personas con depresión, estrés y ansiedad, a la vez que brinda recursos para referir a los usuarios en crisis a líneas de asistencia humanas. Si bien algunos usuarios han encontrado beneficios al interactuar con estos chatbots, expertos como el psicólogo Ian MacRae advierten sobre los posibles riesgos de confiar en estos sistemas sin la debida precaución.
La doctora Paula Boddington y el profesor Hamed Haddadi señalan preocupaciones adicionales sobre los sesgos inherentes a los modelos de terapia de los chatbots, así como la limitación para interpretar señales no verbales y contextuales que son fundamentales en la interacción terapéutica humana. A pesar de los avances en la eficacia de los chatbots en la reducción de síntomas de ansiedad y depresión, queda claro que no pueden reemplazar por completo la atención y el acompañamiento de un terapeuta humano.
En un contexto donde los servicios de salud mental se encuentran sobrecargados y las listas de espera son largas, los chatbots pueden ser considerados como una solución temporal para brindar apoyo a quienes lo necesitan mientras esperan acceder a atención profesional. Sin embargo, es fundamental establecer políticas y regulaciones claras para garantizar la seguridad y eficacia de estas herramientas digitales en el cuidado de la salud mental de las personas.
En un contexto donde los servicios de salud mental se encuentran sobrecargados y las listas de espera son largas, los chatbots pueden ser considerados como una solución temporal para brindar apoyo a quienes lo necesitan mientras esperan acceder a atención profesional. Sin embargo, es fundamental establecer políticas y regulaciones claras para garantizar la seguridad y eficacia de estas herramientas digitales en el cuidado de la salud mental de las personas.
