Babylon Health ha eliminado todos los rastros de un evento de prueba de IA que realizó el año pasado para promocionar a su médico chatbot.
La aplicación GP at Hand de la compañía, que cuenta con el chatbot y puede proporcionar un enlace de video con un médico, fue promovida por el ex secretario digital del Reino Unido Matt Hancock y cuenta con el respaldo del NHS.
Además, Samsung se asoció con Babylon Health el año pasado para integrar el servicio con dispositivos Galaxy compatibles
El chatbot basado en la inteligencia artificial de Babylon Health tiene como objetivo brindar orientación sobre cómo debe proceder un paciente. La idea es reducir la presión sobre el servicio de salud de los pacientes cuyos síntomas podrían tratarse en casa.
En teoría, es una gran idea y algún día será cómo accedemos a la atención médica. Sin embargo, como AI News ha informado en el pasado, actualmente no es lo suficientemente robusto y ha presentado consejos que podrían resultar fatales.
Usuario de Twitter "Dr. Murphy" ha estado destacando las fallas de GP a mano en los últimos años.
Un ejemplo concerniente a Murphy fue el de un paciente obeso que fuma y tiene 48 años de edad y que se presenta con dolores en el pecho. Cualquier persona con sentido común aconsejaría llamar al 999 inmediatamente. Sin embargo, el chatbot sugirió reservar una consulta "en las próximas horas".
Este problema en particular se ha corregido desde entonces, pero aún se están descubriendo escenarios peligrosos similares. La situación es un claro ejemplo de por qué es necesario establecer pruebas rigurosas, independientes e independientes antes de que los AI puedan comenzar a ofrecer consejos de vida o muerte.
En junio del año pasado, Babylon Health celebró un evento que presumía de sus capacidades de inteligencia artificial que superaban a los médicos de campo en prácticas en el examen MRCGP utilizado para probar su capacidad para diagnosticar problemas médicos.
Los médicos de campo en prácticas tienen un promedio de 72% en los últimos cinco años. “¿Cómo hizo Babylon Health?”, Preguntó el Dr. Mobasher Butt en el evento, director de Babylon Health. "Obtuvo el 82 por ciento".
En los últimos días, el video del evento se ha eliminado de la cuenta de YouTube de Babylon Health. Aún más intrigante, la compañía ha eliminado todos los enlaces a la cobertura de noticias de la parte "Babilonia en las noticias" de su sitio web.
Aquí hay una comparación antes y después:
En la captura de pantalla de la izquierda, podemos ver la cobertura del evento antes de la eliminación. En una captura de pantalla de hoy a la derecha, los artículos de Forbes y Newsweek se han borrado.
La eliminación silenciosa del evento de prueba de inteligencia artificial de la compañía del año pasado parece ser una admisión de que los hallazgos presentados en el evento fueron engañosos. En el momento de escribir, el chatbot sigue en vivo.
Llegamos a Babylon Health esta mañana para aclarar el motivo de las eliminaciones, pero estamos llegando al final del juego y aún no hemos recibido respuesta.
¿Está interesado en escuchar a los líderes de la industria discutir temas como este y sus casos de uso? Asista a los eventos coubicados de AI y Big Data Expo con los próximos espectáculos en Silicon Valley, Londres y Amsterdam para obtener más información. Co-localizado con la IoT Tech Expo, Blockchain Expo, y Cyber Security & Cloud Expo.