Numa recente tarde de sexta-feira, Kashif Hoda estava esperando por um trem perto da Harvard Square quando um jovem lhe pediu direções. Hoda ficou impressionado com os óculos de armação grossa e visual nerd do homem, mas não percebeu que eram o acessório inteligente desenvolvido pela Meta com design da Ray-Ban Meta —uma pequena luz branca indicava que as lentes estavam gravando.
Poucos minutos depois, quando o trem de Hoda estava chegando à estação, o homem de óculos, que era um estudante do terceiro ano da Universidade de Harvard chamado AnhPhu Nguyen, aproximou-se dele novamente.
“Você por acaso é a pessoa que trabalha com questões de minorias para muçulmanos na Índia?”, Nguyen perguntou.
Hoda ficou chocado. Ele trabalhava em biotecnologia, mas anteriormente havia sido jornalista e escrito sobre comunidades marginalizadas na Índia.
“Eu já li seu trabalho antes,” disse Nguyen. “Isso é super legal.”
Eles apertaram as mãos, mas Hoda não teve tempo de continuar a conversa porque seu trem estava prestes a partir. Ele postou nas redes sociais, refletindo sobre quão estranha havia sido a experiência.
Um mês depois, ele descobriu o quão estranha realmente era. Ele havia sido uma cobaia involuntária em um experimento destinado a mostrar o quão fácil era manipular ferramentas de inteligência artificial para identificar alguém e recuperar informações biográficas da pessoa —potencialmente, incluindo um número de telefone e endereço residencial— sem que a pessoa percebesse.
Um amigo enviou uma mensagem para Hoda, dizendo que ele estava em um vídeo que estava viralizando. Nguyen e um colega estudante de Harvard, Caine Ardayfio, haviam construído óculos usados para identificar estranhos em tempo real e os demonstraram em duas “pessoas reais” na estação de metrô, incluindo Hoda, cujo nome foi transcrito incorretamente nas legendas do vídeo como “Vishit.”
Nguyen e Ardayfio, ambos com 21 anos e estudando engenharia, disseram em uma entrevista que seu sistema dependia de tecnologias amplamente disponíveis, incluindo:
- Óculos Meta, que transmitem vídeo ao vivo para o Instagram
- Software de detecção facial, que captura rostos que aparecem na transmissão ao vivo
- Um motor de busca facial chamado PimEyes, que encontra sites na internet onde o rosto de uma pessoa aparece
- Uma ferramenta semelhante ao ChatGPT que era capaz de analisar os resultados do PimEyes para sugerir o nome e a ocupação de uma pessoa, bem como procurar o nome em um site de busca de pessoas para encontrar um endereço residencial, um número de telefone e parentes
“Todas as ferramentas estavam lá,” disse Nguyen. “Nós apenas tivemos a ideia de combiná-las.”
O vídeo faz parecer que o sistema funciona instantaneamente e consistentemente em todo mundo. Mas o processo levou um minuto e meio, disseram os estudantes, e funcionou em cerca de um terço das pessoas em que testaram.
Codificar o sistema levou apenas quatro dias. “Passamos a maior parte do tempo fazendo o vídeo,” disse Ardayfio.
A tecnologia para associar um nome a um rosto agora é gratuita ou barata de usar. Os limites se tornaram, acima de tudo, uma questão de ética e privacidade: é correto ou não fazer isso?
Nguyen e Ardayfio disseram que gostavam de fazer projetos aleatórios por diversão e recentemente criaram um lança-chamas. Esse experimento queimou a perna de Ardayfio, mas foi o sistema de reconhecimento facial que explodiu, metaforicamente. Dada a acessibilidade dos motores de busca facial, eles ficaram surpresos com a atenção que o projeto recebeu ao redor do mundo. Suas principais novidades foram a incorporação do assistente semelhante ao ChatGPT e os Ray-Bans Meta.
A Meta discutiu a criação de óculos de reconhecimento facial semelhantes —e até desenvolveu um protótipo inicial— mas não lançou a função ao público devido a preocupações legais e éticas. Quando o vídeo dos estudantes foi relatado pela primeira vez pelo 404 Media, um porta-voz da Meta, Andy Stone, descartou o papel da empresa por meio de um post no Threads.
“O que esses estudantes fizeram funcionaria com qualquer câmera, telefone ou dispositivo de gravação,” escreveu Stone. “E ao contrário da maioria dos outros dispositivos, os óculos Ray-Ban Meta têm uma luz LED que indica às pessoas que o usuário está gravando.”
Hoda não notou a luz.
Vários investidores desde então entraram em contato com os estudantes, em mensagens compartilhadas com o The New York Times, oferecendo financiamento para o desenvolvimento adicional dos óculos. Ardayfio disse que não tinham desejo de comercializar este projeto extracurricular em particular e simplesmente queriam mostrar que era possível.
Em um Google Doc que acompanhava seu vídeo, eles incentivaram as pessoas a removerem suas informações de sites de corretores de dados que podem revelar nomes, endereços residenciais e informações de contato.
“Queremos que as pessoas aprendam a se proteger,” disse Ardayfio. Ele e Nguyen removeram informações de sites de corretores de dados que exporiam seus endereços residenciais, mas não tentaram tornar seus rostos não pesquisáveis.
Jim Waldo, professor de ciência da computação em Harvard, disse que ter esses óculos seria útil para ele porque precisava aprender os nomes de 100 estudantes no início de cada semestre.
“Este é o tipo de tecnologia que pode ser incrivelmente útil e incrivelmente destrutiva,” ele disse.
Na semana passada, Waldo, que ensina uma aula sobre privacidade e tecnologia, convidou Nguyen e Ardayfio para fazer uma apresentação para seus alunos.
“Isso é legal?”, perguntou um estudante.
Nguyen disse que eles violaram os termos de serviço de algumas empresas, mas não a lei. A PimEyes removeu o acesso dos estudantes ao seu produto, de acordo com o diretor executivo da empresa, porque eles haviam enviado fotos de pessoas sem consentimento.
Massachusetts não proíbe a identificação de pessoas com tecnologia de reconhecimento facial, mas proíbe a gravação de conversas sem consentimento, mesmo em público, disse Woodrow Hartzog, professor de direito na Universidade de Boston.
“Todo esse incidente mostra como é fácil vigiar secretamente as pessoas com esses óculos,” ele disse.
Se os estudantes tivessem pedido permissão para apresentar Hoda em seu vídeo, ele teria dado, disse Hoda. Ele achou que era uma demonstração importante do que a nova tecnologia tornava possível.
“Quando entrei na internet nos anos 90, era chamada de aldeia global,” disse Hoda. “E agora o mundo realmente está se tornando um, o que é bom e ruim. Assim como uma aldeia, todos estão em seus negócios. A privacidade será impossível.”