Apple suspende la calificación de respuesta de Siri en respuesta a preocupaciones de privacidad

En respuesta a las preocupaciones planteadas por un tutor historia la semana pasada sobre cómo se utilizan las grabaciones de las consultas de Siri para el control de calidad, Apple suspende el programa en todo el mundo. Apple dice que revisará el proceso que utiliza, llamado calificación, para determinar si Siri está escuchando las consultas correctamente o si se invoca por error.

Además, emitirá una actualización de software en el futuro que permitirá a los usuarios de Siri elegir si participan o no en el proceso de calificación.

La historia de The Guardian de Alex Hern citada extensamente por un contratista de una empresa contratada por Apple para realizar parte de un proceso de control de calidad de Siri que llama calificación. Esto toma fragmentos de audio, que no están conectados a nombres o identificaciones de individuos, y hace que los contratistas los escuchen para juzgar si Siri los está escuchando con precisión, y si Siri pudo haber sido invocado por error.

"Estamos comprometidos a ofrecer una gran experiencia Siri al tiempo que protegemos la privacidad del usuario", dijo Apple en un comunicado a TechCrunch. “Mientras llevamos a cabo una revisión exhaustiva, estamos suspendiendo la calificación de Siri a nivel mundial. Además, como parte de una futura actualización de software, los usuarios tendrán la posibilidad de elegir participar en la calificación ".

El contratista afirmó que los fragmentos de audio podrían contener información personal, audio de personas que tienen relaciones sexuales y otros detalles como las finanzas que podrían ser identificables, independientemente del proceso que Apple utiliza para anonimizar los registros.

También cuestionaron qué tan claro era para los usuarios que sus fragmentos de audio sin formato se pueden enviar a los contratistas para evaluarlos y ayudar a que Siri funcione mejor. Cuando esta historia salió a la luz, me sumergí en los términos de servicio de Apple y, aunque hay menciones de control de calidad para Siri y datos compartidos, descubrí que no logró explícita y claramente dejar en claro que las grabaciones en vivo, incluso las breves , se utilizan en el proceso y pueden transmitirse y escucharse.

Las cifras que Apple ha citado ponen la cantidad de consultas que pueden seleccionarse para calificar por debajo del 1 por ciento de las solicitudes diarias.

El proceso de tomar un fragmento de audio de unos segundos y enviarlo al personal interno o a los contratistas para que lo evalúen es, esencialmente, el estándar de la industria. Las grabaciones de audio de las solicitudes realizadas a los asistentes de Amazon y Google también son revisadas por humanos.

Una forma explícita para que los usuarios acepten que el audio se use de esta manera es el juego de mesa en este tipo de negocios. Me alegra que Apple diga que agregará uno.

También se alinea mejor con la forma en que Apple maneja otros datos, como los datos de rendimiento de la aplicación, que los desarrolladores pueden usar para identificar y corregir errores en su software. Actualmente, cuando configura su iPhone, debe dar permiso a Apple para transmitir esos datos.

Apple se ha embarcado en una larga campaña para posicionarse como la más consciente de la privacidad de las principales firmas móviles y, por lo tanto, tiene una carga más pesada cuando se trata de estándares. Hacer todo lo que hacen las otras grandes empresas cuando se trata de cosas como el uso de datos de usuario para el control de calidad y las mejoras en el servicio no puede ser suficiente si se quiere mantener la posición y la ventaja del mercado que trae consigo.