Updated on 14 de out de 2019. Posted on 14 de out de 2019

    O alcance deste sistema de reconhecimento facial está deixando os críticos preocupados

    "A menos que todo mundo passe por cirurgia plástica ao mesmo tempo, não há nada que possamos fazer a respeito."

    Ben Kothe / BuzzFeed News; Getty Images

    Siddhant T. é um advogado que está tão preocupado com sua privacidade que quis que seu nome fosse mudado para esta reportagem. E assim, quando um representante da companhia aérea do aeroporto Indira Gandhi, de Nova Déli, sugeriu que ele fizesse o check-in com o rosto para um voo para Bangalore em setembro, ele se irritou — e depois recusou. O funcionário parecia confuso, e chamou um supervisor, também confuso, que repetiu o que seu colega havia dito.

    "Eu apenas meio que os olhei para eles com descrença, e depois saí imediatamente para fazer o check-in do modo antigo", disse Siddhant.

    Mais tarde naquele dia, ele postou uma foto do seu cartão de embarque no Instagram. "Acabaram de me dizer que eu poderia usar meu rosto para imprimir [meu] cartão de embarque", escreveu ele. "Como assim [eles] têm meus dados biométricos? Eles têm permissão para usá-los para coisas assim?"

    Eles têm.

    Em 6 de setembro, o aeroporto Indira Gandhi, de Nova Déli, tornou-se o quarto aeroporto da Índia a testar um sistema de reconhecimento facial para permitir o embarque dos passageiros, deixando uma máquina escanear seus rostos. A tecnologia está programada para ser lançada em todos os principais aeroportos do país nos próximos anos. O governo a chama de "Digi Yatra" — Viagem Digital —, e é uma parceria entre o ministério da aviação federal da Índia e empresas privadas.

    O objetivo, de acordo com um documento do governo de 2018, é usar dados biométricos — as curvas dos rostos dos passageiros, as inclinações de seus narizes — para criar uma "experiência de viagem digital".

    Não são apenas os aeroportos. Centenas de delegacias, shoppings e escolas da Índia já usam uma combinação de sistemas de reconhecimento facial alimentada por tecnologia de dezenas de empresas privadas, e as principais cidades correram para instalar centenas de milhares de câmeras de circuito fechado nas esquinas das ruas.

    E, aos olhos dos críticos, cada câmera é outro nó nessa malha de restrições implantada na Índia, na qual a tecnologia de reconhecimento facial, um sistema nacional de identificação biométrica e leis de privacidade de dados fracas estão criando um estado de vigilância em um país governado por um governo populista de direita.

    O governo do primeiro-ministro Narendra Modi e seu partido Bharatiya Janata têm ambições de vigilância para rivalizar com os sistemas mais avançados do mundo. O National Crime Records Bureau (NCRB) da Índia, uma agência do governo responsável pela coleta de dados criminais, está no meio da coleta de propostas de empresas privadas para criar o primeiro sistema de vigilância de reconhecimento facial centralizado do país. Quando estiver em funcionamento — o NCRB não especificou um prazo para o seu lançamento —, ele será vinculado a mais de uma dezena de bancos de dados, embora não esteja claro neste momento se o Aadhaar, o banco de dados de identificação biométrica da Índia que gerou críticas por permitir a vigilância nacional dos 1,3 bilhão de cidadãos do país, seria um deles.

    Atul Loke / Getty Images

    Narendra Modi fala com os trabalhadores do partido vitorioso na sede do partido BJP em Nova Déli.

    A ascensão do Partido do Povo Indiano (BJP) de Modi tem sido associado a um aumento da violência contra as minorias muçulmanas do país, incluindo as revoltas de 2002 que mataram centenas de pessoas em Gujarat, enquanto Modi atuava como ministro-chefe do estado. O padrão foi repetido mais recentemente. Em setembro, quando Modi visitou o Texas com o presidente dos EUA, Donald Trump, o Atlantic escreveu que “para muitos muçulmanos, linchamentos na Índia passaram a simbolizar sua existência sob um regime nacionalista hindu”.

    A repressão em Jamu e Caxemira entrou em seu terceiro mês, incluindo um apagão das comunicações eletrônicas e toque de recolher forçado pelos militares, depois que o governo nacional rescindiu o status de quase autonomia que a região desfrutava há sete décadas.

    E, no mês passado, o governo da Índia começou a construir campos de detenção em massa depois de dizer a quase 2 milhões de pessoas no estado de Assam, no nordeste do país — a maioria muçulmana —, que elas poderiam perder sua cidadania. Dias depois, Amit Shah, ministro de Assuntos Internos da Índia e segundo em comando de Modi, presidiu uma reunião para impulsionar o National Intelligence Grid, um projeto que vincularia bancos de dados independentes contendo registros fiscais, detalhes bancários, transações com cartão de crédito, registros de viagens aéreas e de trem e muito mais.

    Segundo um documento de licitação publicado pelo NCRB, os objetivos do sistema são modernizar "a força policial, a coleta de informações, a identificação e verificação criminal, e sua disseminação entre várias organizações e unidades policiais em todo o país".

    Mas os críticos dizem que o sistema poderia dar ao governo de direita da Índia novas formas de reprimir dissidentes e minorias.

    "Acho que [o sistema de reconhecimento facial centralizado] mudará fundamentalmente a maneira como a vigilância é realizada na Índia", disse Vidushi Marda, advogada e analista de pesquisa da Carnegie India, que estuda como a polícia de todo o país usa o reconhecimento facial. "Eu sei que o argumento do governo é 'segurança' e 'prevenção de crimes', mas na verdade é um mecanismo de vigilância." De fato, disse Marda, o reconhecimento facial é mais perigoso que o Aadhaar: "A menos que todos façamos cirurgia plástica ao mesmo tempo, não há nada que possamos fazer a respeito."

    Mesmo a cirurgia plástica pode não ser uma solução dramática o suficiente para evitar a vigilância quando o sistema estiver em funcionamento. Segundo o documento de licitação do governo, ele deve ser capaz de compensar as modificações feitas por cirurgia plástica, idade, cicatrizes, tatuagens, barbas, maquiagem e muito mais. Ele também deve ser capaz de trabalhar com imagens publicadas em jornais e "rascunhos". Ele também deve ser capaz de capturar imagens de câmeras de CFTV, bem como imagens de feeds de vídeo públicos ou privados, e "gerar alertas se for encontrada uma correspondência na 'lista negra'."

    Anindito Mukherjee / Bloomberg via Getty Images

    Atul Rai, diretor executivo da Staqu Technologies, trabalha em um notebook na sede da empresa em Gurugram, Haryana, em 10 de setembro.

    Há anos que as delegacias indianas têm mantido registros de suspeitos e criminosos — informações demográficas, marcadores de identificação, fotos e muito mais — em arquivos de papelão empoeirados. Eles raramente eram digitalizados, muito menos facilmente pesquisáveis. E milhares de diferentes registros criminais isolados em delegacias de polícia em todo o país significavam na maioria dos casos que, se um criminoso cruzasse as fronteiras estaduais, a polícia do outro estado já não teria um registro dele.

    Em 2016, Atul Rai viu um mercado. "A ideia era pegar nossa tecnologia existente, desenvolvê-la e entrar no mercado local de segurança nacional", disse Rai, cofundador da Staqu Technologies, que começou como uma empresa de reconhecimento de imagem e análise de dados em Gurgaon, uma cidade-satélite perto de Nova Déli. “Os Estados Unidos tinham a Palantir. A China tinha a SenseTime. A Índia não tinha uma única marca como essa nessa área. Então, nós queríamos ser essa marca.”

    “Os Estados Unidos tinham a Palantir. A China tinha a SenseTime. A Índia não tinha uma única marca como essa nessa área. Então, nós queríamos ser essa marca.”

    A Staqu trabalhou com delegacias de polícia para digitalizar seus registros criminais existentes, e criou um sistema que permitia que os policiais usassem um smartphone Android para tirar uma foto das pessoas que prendiam e registrassem seus dados demográficos, amostras de voz e impressões digitais em um banco de dados pesquisável nacional. O sistema da Staqu agora é usado por delegacias de polícia em oito estados indianos. Rai afirma que existem mais de 1 milhão de registros no banco de dados até agora, e policiais de todo o país estão adicionando mais mil ao sistema por dia.

    Quando ele começou, Rai tinha dois problemas exclusivos da Índia: a maioria dos sistemas de reconhecimento facial existentes era treinada em modelos de rosto ocidentais e suas imagens eram capturadas principalmente a partir de CFTV de alta resolução. Por outro lado, a maioria das câmeras de CFTV da Índia, disse Rai, era de baixa resolução e, diferentemente dos sistemas existentes nos EUA, não havia padrões para o diversificado conjunto de recursos faciais da Índia.

    Então Rai começou a preparar o sistema da Staqu do zero. A equipe desenvolveu uma tecnologia própria para garantir que os níveis de precisão fossem altos, mesmo com imagens de baixa qualidade. E coletou dados faciais de fontes disponíveis publicamente, como o Google Imagens, de mais de 1 milhão de celebridades indianas de filmes de Bollywood e dezenas de filmes produzidos regionalmente, populares nos 29 estados da Índia. "Capacitamos nosso modelo no ecossistema facial indiano", disse Rai. Fazer isso, disse ele, era crucial, já que indianos de diferentes partes do país costumam parecer significativamente diferentes uns do outros. Os caxemires no norte, por exemplo, são pálidos, enquanto as pessoas dos estados do sul da Índia têm uma pele muito mais escura. Os homens sikh geralmente têm barbas cheias e turbantes.

    Regimes autoritários têm usado esses tipos de diferenças físicas para discriminação ou pior através do reconhecimento facial. Uma reportagem do New York Times publicada no início deste ano destacou como o governo chinês usa um sistema secreto de tecnologia de reconhecimento facial avançada para monitorar e controlar os uigures na região oeste do país, que têm aparência bem diferente da maioria da população han da China.

    “Você pode usar o reconhecimento facial para detectar coisas como casta ou religião? Dada a situação política [polarizada] na Índia, essa seria a nossa distopia.”

    Especialistas dizem que é difícil traçar paralelos diretos na Índia. “Você pode usar o reconhecimento facial para detectar coisas como casta ou religião? Dada a situação política [polarizada] na Índia, essa seria a nossa distopia”, disse Amba Kak, especialista em privacidade e tecnologia, que recentemente ingressou no AI Now Institute da Universidade de Nova York como diretora de estratégia e programas globais. "Mas ainda é cedo para essa tecnologia na Índia."

    Rai disse que seu sistema, capacitado em rostos indianos, não pode separar e analisar rostos indianos de diferentes partes do país. "Isso seria discriminatório", ele zombou. “Amanhã, alguém pode desenvolver uma IA que permita que um sistema de reconhecimento facial diferencie as pessoas com base na casta. Isso é uma coisa perigosa. Eu não acho que isso é algo que precisamos deixar entrar no sistema. Você já leu 1984, certo?”

    Vijay Gnanadesikan, diretor executivo da FaceTagr, empresa de Chennai que fornece tecnologia de reconhecimento facial semelhante à da Staqu para departamentos de polícia em três estados do sul da Índia, disse que a tecnologia de reconhecimento facial pode ser usada tanto para o bem quanto para o mal. "Cabe aos governos regulamentá-la e nos dizer os limites", disse ele.

    Outros descordam.

    "Eu não faria distinção no uso da tecnologia de vigilância para o bem e para o mal, e a tecnologia de reconhecimento facial é, por natureza, uma tecnologia de vigilância", disse Kak. “Experiências em todo o mundo comprovaram que [a vigilância] é o principal uso dessa tecnologia e, se estiver sendo implantada, acho que precisaremos ter uma discussão pública aprofundada sobre isso antes da implantação. Na Índia, acho que já perdemos a oportunidade para isso.”

    De fato, apesar de dezenas de startups como a Staqu e a FaceTagr operarem por anos no país, o reconhecimento facial só chegou ao conhecimento do público quando as pessoas começaram a notar as grandes máquinas tipo caixa eletrônico em alguns aeroportos indianos.

    Noah Seelam / AFP / Getty Images

    Uma passageira registra seus dados pessoais em um balcão de reconhecimento facial no Aeroporto Internacional Rajiv Gandhi, em Hyderabad, em 26 de julho.

    "Estamos extremamente preocupados", disse Apar Gupta, diretor executivo da Internet Freedom Foundation (IFF), uma organização sem fins lucrativos sediada em Nova Déli que defende os direitos digitais. Um sistema nacional de reconhecimento facial "terá um impacto na privacidade das pessoas comuns e levará a uma intenção de controle social que é ilegal. Não há lei que autorize esse processo de licitação, e também é arbitrário e desproporcional para o que afirma ser o seu objetivo declarado, e não possui salvaguardas legais ou um sistema de responsabilização." Isso também compromete, acrescentou Gupta, os principais elementos de uma decisão do Supremo Tribunal da Índia em 2017, que estabelece um direito fundamental à privacidade.

    No mês passado, a IFF, por meio de uma solicitação do Right to Information (uma lei indiana de direito à informação), obteve atas de uma reunião que os membros do National Crime Records Bureau realizaram no final de julho com representantes de 80 empresas que disputavam a ordem do governo de criar o sistema de vigilância centralizado. Nenhuma das empresas foi identificada, mas o documento mostrou que fizeram perguntas ao governo sobre a integração de dados de reconhecimento facial nos vários bancos de dados da Índia. Vasudha Gupta, porta-voz do Ministério de Assuntos Internos da Índia, sob o qual o NCRB se enquadra, não respondeu aos pedidos de comentários.

    "A tecnologia de reconhecimento facial é, por natureza, uma tecnologia de vigilância."

    Em uma carta enviada ao governo, a IFF o pressionou a "recuar e interromper o processo de licitação até que salvaguardas adequadas que abordassem várias preocupações fossem colocadas em prática".

    Esse resultado parece improvável. O governo de Modi, que os indianos recentemente reelegeram em uma vitória política esmagadora, tem pressionado por uma vigilância nacional mais ampla. No ano passado, ele aparentemente autorizou 10 agências governamentais a conduzirem a vigilância dos computadores dos indianos. Ele também propôs um centro para monitorar as mídias sociais — arquivando o plano após protestos públicos.

    Se o governo ainda seguir em frente com o plano, Gupta disse que a IFF litigará. "Estamos fazendo todas as tentativas de boa-fé e examinando todas as opções antes de chegar a isso", disse ele.

    Enquanto a Índia continua a criar esse sistema, as preocupações com o potencial de vigilância da tecnologia estão aumentando em todo o mundo. A representante dos EUA Alexandria Ocasio-Cortez, democrata que representa um distrito na cidade de Nova York, recentemente chamou a tecnologia de reconhecimento facial de parte de "um aumento global do autoritarismo e do fascismo".

    Alguns daqueles que podem criar o sistema na Índia ignoraram essas preocupações. "É uma ótima ferramenta para um país como este. Se você deseja ter lei e ordem, tecnologias como essas devem ser criadas", disse Gnanadesikan, diretor executivo da FaceTagr. Quanto a questões de privacidade, ele as ignorou como "paranoias ocidentais". ●


    Este post foi traduzido do inglês.

    Pranav Dixit is a tech reporter for BuzzFeed News and is based in Delhi.

    Contact Pranav Dixit at pranav.dixit@buzzfeed.com.

    Got a confidential tip? Submit it here

    Utilizamos cookies, próprios e de terceiros, que o reconhecem e identificam como um usuário único, para garantir a melhor experiência de navegação, personalizar conteúdo e anúncios, e melhorar o desempenho do nosso site e serviços. Esses Cookies nos permitem coletar alguns dados pessoais sobre você, como sua ID exclusiva atribuída ao seu dispositivo, endereço de IP, tipo de dispositivo e navegador, conteúdos visualizados ou outras ações realizadas usando nossos serviços, país e idioma selecionados, entre outros. Para saber mais sobre nossa política de cookies, acesse link.

    Caso não concorde com o uso cookies dessa forma, você deverá ajustar as configurações de seu navegador ou deixar de acessar o nosso site e serviços. Ao continuar com a navegação em nosso site, você aceita o uso de cookies.