SALUD. Los chatbots entregan respuestas inexactas e incompletas.
«Por lo tanto, en nuestra opinión es esencial que se indique claramente que la información proporcionada por el chatbot no puede sustituir al asesoramiento profesional», agregó.
50 preguntas a un chatbot
El punto de partida del estudio fue el hecho de que los pacientes utilizan internet para informarse sobre la medicación prescrita.
Por ello, en abril de 2023, los investigadores plantearon al chatbot asistido por IA del buscador Bing de Microsoft diez preguntas habituales sobre los 50 medicamentos más recetados en Estados Unidos, incluidas cuestiones sobre cómo tomarlos, efectos secundarios y contraindicaciones.
Andrikyan aclaró que, en general, el chatbot respondió a las preguntas con un alto grado de exhaustividad y precisión, pero ese no fue el caso con algunas de las consultas. «Esto supone un riesgo para los pacientes, ya que, al no tener conocimientos de medicina, no pueden evaluar por sí mismos la precisión y exhaustividad de las respuestas generadas por la IA», comentó el experto.
Mejoras no son suficientes
El investigador subrayó que se han producido rápidos avances en los buscadores asistidos por IA con función de chatbot integrada desde que se hizo el estudio el año pasado. Sin embargo, observó que las mejoras no son suficientes y que por el momento persisten los riesgos para la seguridad de los pacientes.
Sin embargo, Andrikyan cree que, como los chatbots se entrenan con diferentes conjuntos de datos, tiene sentido analizar también la seguridad y la calidad de otros sistemas tecnológicos.
