Avó recebe mensagem de classificação X após a falha da Apple AI

Uma mulher de Dunfermline falou de seu choque depois que um serviço de voz a texto da Apple inseriu erroneamente uma referência ao sexo – e um aparente insulto – em uma mensagem deixada por uma garagem.

Louise Littlejohn, 66 anos, recebeu uma mensagem de correio de voz na quarta -feira de uma garagem para Land Rover em Motherwell, convidando -a para um evento.

Uma inteligência artificial (IA), o serviço oferecido pela Apple, transformou -o em uma mensagem de texto que – para sua surpresa – perguntou se ela era “capaz de fazer sexo” antes de chamá -la de “pedaço de merda”.

A sra. Littlejohn disse à BBC News: “Inicialmente fiquei chocada – surpresa – mas então eu achei isso tão engraçado. O texto era obviamente bastante inapropriado.

“A garagem está tentando vender carros e, em vez disso, eles estão deixando mensagens ofensivas sem sequer ter cientes disso. Não é culpa deles”.

Apple e a garagem se recusaram a comentar.

Um especialista disse à BBC que o sistema de IA pode ter lutado em parte por causa do sotaque escocês do chamador, mas os fatores muito mais prováveis ​​foram o ruído de fundo na garagem e o fato de ele estar lendo um roteiro.

Littlejohn disse que inicialmente pensou que a ligação era uma farsa, mas depois reconheceu que o número associado era da área de Motherwell.

Ela havia comprado um carro da mesma garagem há alguns anos.

A BBC ouviu o áudio deixado pelo trabalhador da garagem e confirmou que era uma chamada comercial convencional.

A transcrição é tão confusa que é difícil decifrar onde deu errado, mas a referência ao “sexo” pode ter sido de fato quando o chamador mencionou o “sexto” de março.

A BBC removeu o nome do funcionário da garagem:

“Oi Sra. Littlejohn, é ____ aqui do Lookers Land Rover em Lanarkshire. Espero que você esteja bem. Apenas um pequeno telefonema para ver se você recebeu seu convite para o nosso novo evento, que temos entre o sexto e o décimo de março.

“Apenas um pequeno chamado para ver se é algo que você estava procurando vir e ver se podemos confirmar um slot de compromisso que seria adequado para si mesmo. Se for algo em que você estaria interessado, fique à vontade para me ligar ____, peça -me ____ Inaudível. Obrigado.”

No site da Apple, detalhes de TI Como a transcrição do correio de voz deles está limitado a correios de voz em inglês recebidos de um iPhone com o sistema operacional iOS 10 ou posterior, e a transcrição “depende da qualidade da gravação”.

Peter Bell, professor de tecnologia de fala da Universidade de Edimburgo, ouviu a mensagem deixada para a Sra. Littlejohn.

Ele sugeriu que estava no “final desafiador para os mecanismos de fala para texto lidar”.

Ele acredita que há vários fatores que poderiam ter resultado em transcrição desonesta:

• O fato de estar por telefone e, portanto, mais difícil de ouvir
• Há algum ruído de fundo na chamada
• A maneira como o trabalhador da garagem fala é como se ele estivesse lendo um roteiro preparado, em vez de falar de uma maneira natural

“Todos esses fatores contribuem para o sistema que se sai mal”, acrescentou. “A questão maior é por que ele gera esse tipo de conteúdo.

“Se você estiver produzindo um sistema de fala para texto que está sendo usado pelo público, pensaria que teria salvaguardas para esse tipo de coisa”.

Muitas pessoas na Escócia se lembrarão de um esboço do show de comédia da BBC Burnistoun, quando dois homens escoceses ficarem presos após o elevador ativado por voz não consegue entender seus sotaques.

Possui centenas de milhões de visualizações on -line e aproveitou um sentimento que alguns escoceses têm sobre a tecnologia de voz.

Em 2016, foi solicitado aos escoceses que trabalhassem com a tecnologia de reconhecimento de voz em uma tentativa de ajudar os telefones celulares decifrar o sotaque melhor.

Para o professor Bell, o sotaque escocês pode ter tido um impacto aqui, juntamente com todos os outros fatores, mas – com condições ideais de áudio – problemas que a tecnologia terão com o sotaque escocês são “uma coisa do passado”.

No entanto, não é a primeira vez que as ferramentas de fala da Apple chegam recentemente às manchetes pelos motivos errados.

Algumas semanas atrás, o A gigante da tecnologia disse que estava trabalhando para consertar Sua ferramenta de fala para texto depois que alguns usuários de mídia social descobriram que, quando falavam a palavra “racista” em seus iPhones, isso a digitou como “Trump”.

Apple também suspendeu seus resumos de IA de manchetes de notícias depois de exibir falsas notificações sobre histórias.