Amazon Echo e as casas de bonecas encomendadas pelo Alexa: conselhos e dicas de segurança

Amazon Echo e as casas de bonecas encomendadas pelo Alexa: conselhos e dicas de segurança

O potencial de consequências inesperadas e indesejadas da tecnologia tende a aumentar de acordo com a capacidade e a complexidade dessa tecnologia.

O potencial de consequências inesperadas e indesejadas da tecnologia tende a aumentar de acordo com a capacidade e a complexidade dessa tecnologia.

Aviso: se você deseja ler este post em voz alta, próximo de um dispositivo Amazon Echo, talvez seja melhor desligar o microfone (leio o texto e entenda as razões).

No post de hoje você poderá conferir algumas dicas sobre como proteger o Alexa (assistente de voz) nos dispositivos Amazon Echo; não estamos falando da segurança em relação às casas de bonecas, embora também façam parte dessa situação, por assim dizer.

No entanto, antes de irmos ao fato, precisamos que você entenda algumas noções básicas sobre essa tecnologia:

  1. As configurações de fábrica do Alexa permitem que qualquer pessoa dentro da distância de audição do dispositivo Echo possa encomendar itens e serviços por meio da conta Amazon;
  2. As vozes detectadas podem ser de crianças ou mesmo provenientes de um rádio ou televisão;
  3. O Alexa te venderá coisas, mesmo que não esteja com interesse em comprar. Por exemplo, se você ou seu filho dizem: “Alexa, qual é o dron mais popular?”, em seguida, ele te perguntará se deseja realizar a compra do produto;
  4. Você não pode dizer ao Alexa que deseja cancelar uma compra. Para isso, terá que usar um aplicativo do assistente ou o site da Amazon;
  5. Para proteger a função de comando de voz do Alexa, você terá que adicionar um código de confirmação;
  6. Caso queira, é possível desativar completamente a função de compra pelo comando de voz;
  7. Você pode desligar o microfone do Echo, caso queira, por exemplo, falar sobre o Alexa sem que o serviço te interrompa;
  8. Se você quiser que o Alexa pare de falar, deverá dizer: “Alexa pare”;
  9. É possível trocar a palavra-chave de ativação “Alexa” por “Amazon” ou “Echo”;
  10. Os dispositivos Amazon Echo existem há muitos anos, mas como muitos foram vendidos nas últimas festas, muito mais pessoas estão expostas a essa tecnologia pela primeira vez, embora não saibam exatamente como funciona.

E o que as casas de bonecas tem a ver com isso?alexa-240

O problema começou na semana passada em San Diego, na Califórnia, onde eu moro. Uma emissora local de produziu uma reportagem sobre uma menina de seis anos que pediu uma casa de bonecas que custa 160 dólares da Amazon, por meio do Alexa, sem o conhecimento ou permissão de seus pais. No final da história, quando o apresentador repetiu o que a menina tinha dito (Alexa, encomendou uma casinha de bonecas), os telespectadores em San Diego começaram a ligar para a emissora para reclamar. Por quê? Porque os Alexas em suas casas e escritórios tinham começado a processar o pedido que escutaram da televisão.

E como isso pode ter acontecido? Os dispositivos Amazon Echo se conectam ao seu smartphone, a sua conexão com a Internet, e a sua conta Amazon Prime (com sua capacidade de realizar encomendas de forma simples por meio de apenas um clique). Isso significa que eles têm acesso a uma grande quantidade de informações e contam com muito poder de processamento virtual, além da capacidade extensiva de comunicação digital, sem mencionar os recursos financeiros que administram (seu método preferido de pagamento).

Os dispositivos Echo estão projetados para responder a voz humana. Se você perguntar “Alexa, como está o tempo?”, a uma distância de 3 a 9 metros, ele te responderá. O assistente pode falar com você através do próprio alto-falante ou por meio de outro conectado, seja com ou sem fio. Vamos ser claros sobre o que significa “responder a voz humana”: neste momento (sem ter em conta as modificações do produto), significa “responder a voz de qualquer humano” e não apenas a voz da pessoa que instalou ou cuja conta está vinculada. Ou seja, que poderia ser a voz de um convidado, uma criança ou um colega de quarto.

Todos eles têm a possibilidade de comprar coisas em seu nome, caso tenha instalado o dispositivo sem alterar as configurações de fábrica (falaremos sobre esse assunto em outro post). Foi assim que muitas pessoas começaram a se dar do que o canal XETV descobriu em San Diego: a lista de usuários em potencial do seu sistema Alexa também inclui pessoas que falam pela televisão (veja notícias em inglês aqui: “News anchor sets off Alexa devices around San Diego ordering unwanted dollhouses“).

amazon-mute-240

Como isso pode ocorrer? Bem, as configurações padrão de um dispositivo Amazon Echo (recém instalado) tornam tudo isso muito mais fácil. Considere este cenário: você e seus amigos estão discutindo sobre drones e decidem perguntar ao seu Echo qual é o mais popular drone. Então você diz: “Alexa, qual é o drone mais popular?”, e o Alexa responde dizendo a marca, o modelo e o preço do drone mais popular vendido na Amazon.

Até certo ponto, isso parece ser bastante útil. A tecnologia é impressionante. No entanto, imediatamente depois de dar esses detalhes (sem mesmo dar tempo nem de respirar), Alexa responderá: “você quer encomendar?” Se você disser “sim”, já não haverá volta. O item é encomendado e o valor será debitado no cartão que você listou em suas configurações simplificadas de um só clique em Amazon.com e, em seguida, enviado para o endereço de remessa designado. É importante lembrar: você não poderá dizer ao Alexa que mudou de ideia. Se você solicitou, mesmo que por engano, terá que usar o aplicativo do assistente ou o site da Amazon para cancelar a solicitação de compra.

 

Alexa, pare!

Você deve pensar que basta dizer “não” quando o Alexa te pergunta sobre a encomenda do item. No entanto, o que acontece é que: quando você diz “não” para a primeira sugestão, a pergunta voltará a ser feita para oferecer um dron diferente e, além disso, o assistente voltará a te perguntar se deseja comprar um produto similar relacionado. Com base na minha própria pesquisa, acho que é assim que você acaba com uma casa de bonecas de 160 dólares na porta do seu apartamento. A primeira escolha do Alexa para uma casa de bonecas custa cerca de 80 dólares, mas a segunda escolha pode custa o dobro disso. Basicamente, seu filho ou colega de quarto não precisará saber a marca e o modelo da coisa que eles querem; o Alexa estará mais que feliz de proporcionar várias sugestões.

Então, como dizer que não? Como isso pode parar? A seguir irei explicar o que fazer para mudar as configurações de fábrica do Alexa, mas antes disso, é importante saber como parar o assistente nos casos em que fala demais ou quando oferece produtos.

Não me lembro de ter visto isso abordado na documentação minimalista que veio com o dispositivo Echo Dot que comprei. Então eu perguntei a um dos meus colegas da ESET, um cara de família que instalou um dispositivo Echo em casa há alguns meses. Ele respondeu: “Eu converso com o Alexa como se ele fosse uma criança, eu digo ‘Alexa, pare’ e funciona.”

alexa-app-setting

Eu tentei isso no dispositivo de teste no meu escritório e também funcionou, mas seria melhor se o produto tivesse vindo com instruções mais claras sobre como controlá-lo (em um nível básico). Descobri que também se pode dizer “Alexa, cancelar” e isso faz com que o dispositivo pare com a atividade, mas saiba que a frase não funciona para cancelar uma ordem depois que ela foi processada.

Também me incomoda que a configuração padrão do sistema Alexa para Echo seja “Voice Purchasing On”, “Confirmation Code Off”, ou seja, a comprar por comando de voz ativada e o código de confirmação desativado. É muito fácil alterar esses ajustes no aplicativo do Alexa que pode ser baixado no celular durante a instalação do dispositivo Echo, como é possível ver na captura acima. Quando mencionei minha preocupação para amigos e colegas, a resposta praticamente foi universal: “Sem dúvidas, é interessante para a Amazon facilitar o máximo possível para que as pessoas comprem coisas”.

O que não é fácil é ter uma conversa sobre o Alexa dentro do alcance do dispositivo. No entanto, existem algumas opções de formas para contornar isso. Uma delas é desligar o microfone do Alexa – é o que está acontecendo na foto acima, onde o Alexa brilha com a cor laranja em vez de azul. Outra opção é mudar a palavra-chave de ativação do assistente para “Echo” ou “Amazon”. No entanto, ambas alternativas podem facilmente surgir na conversa. Eu não ficaria surpreso ao ver a Amazon atualizar o software, em algum momento, para permitir que você escolha a sua própria palavra de ativação.

Dicas de segurança

Neste aspecto, você pode estar pensando que por mais interessante que seja esse assunto, em termos de cibersegurança não parece tão grave. Afinal, uma casa de bonecas inesperada na porta de sua casa pode ser um pouco inconveniente, mas não é nada comparado com um ataque de ransomware que criptografa todas as fotos de sua família e, em seguida, pede um resgate. Estou de acordo em muitos aspectos; no entanto, acredito que existem várias lições de segurança nessa história das casas de bonecas encomendadas pelo Alexa.

#1

Os produtos nunca devem ser enviados ao cliente com configurações de fábrica “inseguras”. Profissionais de segurança já tiveram essa discussão muitas vezes no passado. Se a configuração padrão é “permitir tudo” ao invés de “negar tudo”, com certeza permitirá muitas coisas imprevistas ou não desejadas, como encomendar casinhas de bonecas por meio de uma transmissão de TV.

#2

As decisões de compra de tecnologia, mesmo as nacionais, devem ser precedidas, ou pelo menos acompanhadas, por uma análise risco-benefício.

#3

Embora os consumidores possam realizar uma análise de risco, não é possível fazer uma boa análise se não conhecem todos os fatos. Apenas para ser claro, neste exato momento, não tenho conhecimento que a Amazon esteja escondendo os fatos. O que estou dizendo aqui é que a empresa poderia ser mais explícita como relação a informação que oferece sobre o funcionamento da tecnologia e suas limitações.

#4

A tolerância ao risco varia entre as pessoas. Por exemplo, algumas deixaram de usar a internet após as revelações do Snowden. Outras não se conectam online porque não acreditam que seja seguro. E na pesquisa que a ESET realizou na América do Norte há alguns meses, 40% dos consumidores “não confiam que os dispositivos da IoT sejam seguros e capazes de proteger a informações pessoais” (veja o texto Internet of Stranger Things).

#5

A segurança de qualquer tecnologia depende do ambiente no qual ela é implantada, e as infelizes realidades podem impor limitações. Um microfone aberto conectado a uma inteligência artificial com o poder de fazer com que as coisas aconteçam no mundo real oferece muitos benefícios. E eu ainda não tenho nenhuma evidência de que o Alexa está sendo utilizada indevidamente com fins maliciosos, nem lucrativos. No entanto, não tenho dúvidas de que existem pessoas, em algum lugar, que estão pensando em fazer exatamente isso.

#6

O potencial de consequências inesperadas e indesejadas da tecnologia tende a aumentar de acordo com a capacidade e a complexidade dessa tecnologia. Eu não acho que a Amazon tenha tido em conta um cenário como o das notícias de televisão. Alguns colegas acham que a Amazon teve isso em conta, mas de todos as formas vendeu o produto, talvez pensando que não tinha tanta importância; ou talvez Bezos, o diretor da Amazon, não acreditou em coisas como a má publicidade.

Um outro tópico que surge frequentemente em discussões sobre o Alexa e outras tecnologias habilitadas por voz é a privacidade. Infelizmente, eu fiquei sem espaço e tempo para discutir esse aspecto aqui. No entanto, durante as férias, tive um tempinho para explorar vários dispositivos da IoT que usam o assistente de voz e, em um próximo post, comentarei como isso pode implicar na nossa privacidade.

Discussão