Os óculos inteligentes da Meta e da Ray-Ban ignoram por que o Google Glass falhou

Dez anos após o lançamento inicial do Google Glass, um dos primeiros pares de óculos inteligentes equipados com câmera disponíveis comercialmente, uma segunda revolução tecnológica vestível está em andamento – e está ignorando principalmente as lições da primeira tentativa.

Mês passado, meta CEO Mark Zuckerberg subiu ao palco da Meta Connect – a conferência anual da empresa para desenvolvedores de realidade virtual – e revelou algo significativamente mais atraente do que pernas virtuais: os Meta Smart Glasses.

Os óculos Meta Smart, que são o produto de uma parceria entre a gigante das redes sociais e o fabricante de óculos Ray-Ban, são na verdade a segunda geração de óculos conectados à Internet a sair desta colaboração. O primeiro, o Histórias de Ray-Ban, caíram em 2021 e foram amplamente esquecidos. As lentes foram equipadas com câmeras duplas que podiam capturar fotos ou videoclipes de 30 segundos.

Os óculos Meta Smart, que chegaram às lojas em 17 de outubro, vão muito mais longe. Primeiro, os óculos foram infundidos com Meta AI, um assistente de conversação nos moldes do ChatGPT e nascido dos grandes modelos de linguagem (LLMs) do Meta que anteriormente elogios a Ghengis Khan e empurrou teorias da conspiração eleitoral. Ele também expandirá os recursos da câmera, desde captura de imagem e vídeo em sequência curta até transmissão ao vivo completa.

A Meta não é a única empresa que adota a tecnologia wearable habilitada para IA. Na verdade, seu anúncio pareceu lançar uma série de outros dispositivos que correram para capitalizar o hype da IA. Humane, uma startup de tecnologia formada por ex-funcionários da Apple, desistiu misterioso Ai Pinposicionado como uma espécie de assistente portátil estilo Siri ou Alexa com tela projetada a laser e câmera e microfone integrados, no lapela da jaqueta de Naomi Campell enquanto ela desfilava na Paris Fashion Week 2023. Dias depois, Rewind AI anunciado seria um pingente que poderia gravar e transcrever tudo o que o usuário diz e ouve.

Esses dispositivos são quase certamente peças de tecnologia mais impressionantes do que as que o Google criou em 2013. Mas essas empresas fariam bem em lembrar que os óculos do Google não falharam porque a tecnologia não era boa o suficiente. Falhou porque assustou as pessoas. Bastante.

Bandeiras Vermelhas Vestíveis

A pressa para disponibilizar estes wearables apresenta um duplo problema de privacidade: primeiro, quanto das nossas vidas será capturada sem o nosso conhecimento e consentimento por estes dispositivos? E segundo, nossas conversas, atividades e semelhanças serão usadas para treinar modelos de IA?

Na maioria das vezes, essas perguntas não têm respostas claras. Meta, que não retornou vários pedidos de comentários do The Daily Beast, reconheceu pelo menos um pouco que gravar discretamente em público através de óculos provavelmente assustará as pessoas. Para resolver isso, a empresa incluiu uma luz indicadora nas armações que, em teoria, informa outras pessoas ao redor do usuário que elas estão gravando.

Ignorando isso primeiras avaliações sugerem que a luz nem sempre é perceptível – e que Meta capturou avisos dos reguladores de privacidade da UE por tornarem seu indicador muito pequeno nas histórias de Ray-Ban – este método de informar outras pessoas sobre a gravação ainda é insuficiente, de acordo com Calli Schroeder, consultora sênior e consultora de privacidade global do órgão de vigilância da privacidade do consumidor Electronic Privacy Information Center.

“Luzes indicadoras, bipes ou indicadores semelhantes são geralmente tão pequenos e indetectáveis ​​que seria chocante para um espectador percebê-los, muito menos saber o que o sinal está indicando”, disse ela ao The Daily Beast. “Ouvimos pings e vemos pequenas luzes nos dispositivos das pessoas o tempo todo quando nos movemos pelo mundo. Nunca me ocorreria que essas coisas pretendem ser uma divulgação significativa de que estou sendo gravado.”

De acordo com Schroeder, a melhor prática para alertar outras pessoas de que você está usando uma câmera ou microfone que pode ser ligado a qualquer momento é usar “uma placa grande ou camiseta que diz ‘Estou gravando você’ toda vez que eles use-o ”- e ela acrescentou que estava apenas brincando.

Meta não é exatamente sinônimo de privacidade, e é improvável que um LED branco mude isso. Dada a enorme quantidade de dados de usuários que a empresa possui, há muitas preocupações adicionais sobre como ela usará o conteúdo capturado pelas câmeras enquadradas. Afinal, a empresa considerou abertamente incluindo recursos de reconhecimento facial em seu primeiro par de óculos inteligentes, embora a empresa atualmente não inclua (ou pelo menos comercialize) essa tecnologia em seus wearables. O Google Glass também não incluiu a tecnologia de reconhecimento facial do próprio Google, mas os usuários puderamreconheçam juntos sua própria versão do software para ser executado nos dispositivos.

Está claro que, pelo menos até certo ponto, o objetivo da empresa com os óculos inteligentes é alimentar seus modelos de IA com toneladas de informações. “Se você pensar bem, os óculos inteligentes são o formato ideal para permitir que um assistente de IA veja o que você está vendo e ouça o que está ouvindo”, disse Zuckerberg quando anunciou os Meta Smart Glasses.

Meta tem admitido ao uso de postagens públicas do Facebook e Instagram, incluindo textos e fotos, para treinar seu modelo de IA. A empresa insiste que fotos e vídeos são criptografados e a empresa apenas coleta “dados essenciais”, mas não há clareza sobre se a empresa pode ou irá usar qualquer informação de seus óculos inteligentes para reforçar sua IA.

Não é incomum que as empresas utilizem “dados anonimizados” – informações que foram eliminadas de qualquer informação potencialmente identificadora – para treinar seus sistemas. No entanto, também não é incomum que o processo de anonimato seja lamentavelmente insuficiente. Certa vez, os pesquisadores compraram dados do histórico de navegação na web de cidadãos alemães e os combinaram com informações disponíveis publicamente para revelar os hábitos online dos indivíduosincluindo os hábitos de visualização de pornografia de um juiz.

Também fica muito mais complicado levar em consideração os dados capturados por câmeras e microfones. “Os sistemas de reconhecimento facial podem ser capazes de identificar os espectadores, fornecendo funcionalmente um mapa em tempo real de onde eles estão, dependendo de quantos dispositivos vestíveis estão ao seu redor”, alertou Schroeder. “Os sistemas de rastreamento de marcha ou áudio podem identificar o indivíduo mesmo que seu rosto esteja coberto.”

Além disso, simplesmente não há maneira viável para as pessoas optarem por ter sua imagem registrada e potencialmente usada para treinar IA. “Uma empresa que se beneficia de dados pessoais que uma pessoa não consentiu em fornecer e não tomou nenhuma medida para permitir a coleta parece antiético”, disse Schroeder. “Existir no mundo não deveria nos tornar alvos de coleta de dados.”

Retorno dos buracos de vidro

Está claro que outras empresas que estão entrando no espaço da IA ​​vestível pelo menos consideraram essas questões – embora suas respostas sejam muitas vezes obscuras. Ella Geraerdts, gerente de comunicações que representa a Humane, disse ao The Daily Beast que o Ai Pin da empresa seria um dispositivo com “privacidade em primeiro lugar”, sem “sem palavra de ativação e, portanto, sem escuta ‘sempre ligada’”. Isto, disse ela, reflete a “visão da Humane de construir produtos que coloquem a confiança no centro”.

Dan Siroker, cofundador e CEO da Rewind, disse ao The Daily Beast que sua empresa se apressou em anunciar a gravação e transcrição do Pendant enquanto ainda estava nos estágios iniciais de desenvolvimento porque “eu queria colocar a importância da privacidade no éter. .”

De todos os wearables de IA anunciados nas últimas semanas, porém, Pendant foi talvez o mais mordaz online. Embora a empresa enfatize que está adotando uma “abordagem que prioriza a privacidade” e planeja “oferecer recursos para garantir que ninguém seja gravado sem o seu consentimento”, ela apenas ofereceu duas ideias de como isso pode ser feito: armazenando apenas gravações de pessoas que consentiram verbalmente em serem gravadas ou produzindo resumos de texto gerados pelo melhor julgamento da IA ​​sobre detalhes importantes, em vez de transcrições literais e nada implementado solidamente.

O dispositivo ainda é mais teórico do que prático, portanto nenhuma das ideias foi realmente implementada. “Se tivermos ideias melhores que surjam entre agora e [launch]iremos com certeza incorporá-los”, disse Siroker.

Para seu crédito, Rewind é muito mais claro sobre como lida com os dados: Siroker disse explicitamente que não usa gravações para treinar modelos de IA e que todas as gravações e transcrições são realizadas e armazenadas localmente no dispositivo do usuário.

Siroker reconheceu que os wearables inteligentes que vieram antes – e alguns que estão chegando ao mercado agora – agiram de forma rápida e solta com a ideia de gravar em público. Quando o Google Glass apareceu pela primeira vez, as empresas pessoas banidas de usá-los. Os usuários foram questionados e rotulados Buracos de vidro. Pouco nos novos dispositivos que estão a caminho contribuem para resolver as causas da resistência pública de uma década atrás e, em vez disso, apenas presumimos que as coisas serão diferentes desta vez. “O Google Glass foi muito arrogante em relação à privacidade e acho que eles prestaram um péssimo serviço a toda a indústria”, disse Siroker, “e ainda estamos nos escavando para sair do buraco que o Google Glass criou”.