Aquí es por qué la Alexa de Amazon dice cosas al azar espeluznantes como "matar a tus padres adoptivos"

En este punto, parece claro que los ejecutivos de Amazon no se deforman cuando se enteran de que el asistente digital de Alexa soltó cosas extrañas y espeluznantes como "matar a tus padres adoptivos", como lo hizo para un usuario que dejó un mensaje sorprendente. Revisión crítica sobre Alexa, explicando lo que pasó.

Llamó al comentario de los padres de crianza "un nivel completamente nuevo de escalofriante", lo que llevó a un análisis que encontró que un bot estimulaba a Alexa a citar una publicación de Reddit sin ninguna introducción o contexto.

Ok, pero aun así.

En los últimos días han surgido una serie de rarezas relacionadas con Alexa, extrañas y hasta ahora desconocidas, como la de Alexa que habla con los usuarios sobre diversos actos sexuales y defecación. Más preocupante, según Business Insider, este verano, un hack de Amazon que se remonta a China puede haber expuesto los datos del usuario.

Entonces, ¿qué está pasando?

Vale la pena señalar todas estas rarezas no para que podamos reírnos de ellas, sino como un recordatorio de que … bueno, todo esto es a propósito. En cierto sentido. Los ejecutivos de Amazon aceptan un cierto grado de este tipo de cosas, como BI señala, porque aunque ciertamente quieren actuar para asegurarse de que Alexa no sea inapropiado u ofensivo, el objetivo general es convertirlo en un comunicador sumamente útil. Eso significa ayudar a Alexa a imitar la forma en que hablamos, y también ayudar a Alexa a poder hablar de cualquier cosa en Internet.

Las principales empresas de Amazon están prestando mucha atención a los errores de Alexa, y el CEO Jeff Bezos incluso a veces nix un bot. En general, sin embargo, las apuestas aquí son bastante altas. Como notamos en un artículo de ayer, los altavoces inteligentes son uno de los próximos grandes campos de batalla de la industria tecnológica, y Amazon ya ocupa una posición bastante fuerte aquí. Según eMarketer, alrededor de dos tercios de los clientes de altavoces inteligentes de EE. UU. Utilizan dispositivos con tecnología Amazon Alexa, lo que equivale a aproximadamente 43 millones de personas.

Mantienes ese tipo de liderazgo en parte al hacer que Alexa sea más útil, lo que en sí mismo significa que habrá tropiezos de vez en cuando.

La compañía tiene un premio anual de Alexa para ayudarlo en esta área. Implica la participación de estudiantes de ciencias de la computación que ayudan a mejorar la capacidad de Alexa para mantener una conversación, entre otras cosas.

Por BI: “Los chatbots del Premio Alexa están forjando el camino hacia donde Amazon quiere estar, con un asistente capaz de un diálogo natural y abierto. Eso requiere que Alexa entienda un conjunto más amplio de señales verbales de los clientes, una tarea que es un reto incluso para los humanos ".

El ganador del Premio Alexa de este año, el sitio continúa, fue un equipo de 12 personas de la Universidad de California, Davis, que utilizó unos cientos de miles de citas de películas para entrenar una computadora para reconocer oraciones. El bot también fue entrenado para averiguar qué oraciones necesitaban respuestas. "Por ejemplo, el bot UC Davis reconoce la diferencia entre un usuario que expresa admiración (" eso es genial ") y un usuario que expresa gratitud (" gracias ")".

Fuente de la imagen: Anker