Humanos e suas crenças programam máquinas

O preconceito inerente à tecnologia de reconhecimento facial

Escrito por Rose Eveleth

28 March 2016 // 05:39 PM CET

Os sistemas de reconhecimento facial estão em todos os lugares: no Facebook, nos aeroportos, nos shoppings. A tendência é que eles sejam cada vez mais utilizados tanto como medida de segurança quanto como forma de reconhecer, por exemplo, clientes fixos de um serviço ou empresa.

Para algumas pessoas, essa tecnologia será uma mudança bem-vinda. O problema é que, como muitos sistemas de reconhecimento facial têm dificuldade em reconhecer rostos não-caucasianos, o recurso é, para muitos, mais um lembrete de que a tecnologia pode ser mais uma forma de exclusão. 

Muitas histórias ilustram esse problema: podemos falar da vez em que o algoritmo de reconhecimento de imagem do Google categorizou dois amigos negros como "gorilas" ou da ocasião em que o sistema do Flickr cometeu o mesmo erro ao marcar um homem negro como "animal" e "macaco". Ou quando uma câmera da Nikon, projetada para detectar quando alguém pisca, insistiu que os olhos de uma mulher asiática estavam fechados. Ou talvez quando as webcams da HP detectaram um rosto branco com facilidade, mas apresentaram dificuldades em reconhecer um rosto negro. 

Há uma explicação técnica por trás desses problemas. Os algoritmos são treinados para reconhecer feições com base em uma série de rostos. Se o computador não tiver contato com alguém de olho puxado ou pele escura, ele não irá reconhecê-los. Afinal, ninguém lhe ensinou a reconhecer essas características, não é? Para não haver dúvidas: seus criadores não o ensinaram. 

O fato de que os algoritmos estão sujeitos a preconceitos e parcialidades está se tornando cada vez mais claro — e algumas pessoas já haviam previsto isso. “Quando você compreende o funcionamento do preconceito sistêmico e o processo de aprendizado automático, você se pergunta se esses computadores estão fazendo escolhas tendenciosas e a resposta é, obviamente, positiva", disse Sorelle Friedler, professora de ciência da computação da Faculdade de Haverford, nos Estados Unidos.

"Ninguém passa muito tempo pensando sobre privilégio e status; quando você está dentro do padrão, você apenas aceita isso como verdade".

Quando perguntamos para os criadores desses sistemas de reconhecimento facial se eles se preocupam com essas questões, a resposta costuma ser negativa. Moshe Greenshpan, fundador e presidente-executivo da Face-Six, uma empresa que desenvolve recursos do tipo para igrejas e lojas, diz que não se pode exigir uma precisão perfeita desses sistemas. Ele não se preocupa com o que chama de "pequenos problemas" — a exemplo da incapacidade desses sistemas de identificar corretamente pessoas transgêneras. 

“Não acho que meus engenheiros — ou engenheiros de outras empresas — tenham um plano secreto que envolva dar mais atenção para uma determinada etnia", disse Greenshpan. “É só uma questão prática." 

Greenshpan está, em parte, correto. Nenhuma dessas empresas programa seus sistemas para ignorar pessoas negras ou irritar asiáticos. Especialistas em preconceito algorítmico, como Suresh Venkatasubramanian, professor de ciência da computação da Universidade de Utah, nos EUA, dizem concordar até certo ponto com essa afirmação. “Não acredito que haja desejo consciente de ignorar essas questões", disse. "Acho que eles simplesmente não pensam nisso. Ninguém passa muito tempo pensando sobre privilégio e status; quando você está dentro do padrão, você apenas aceita isso como verdade." 

Empresas avaliam erros estatisticamente. Uma taxa de acerto de 95% é, por exemplo, perfeitamente aceitável. Mas esse raciocínio ignora uma questão bem simples: esses 5% estão espalhados aleatoriamente ou eles se concentram num determinado grupo? Caso o sistema erre aleatoriamente, 5% é uma boa taxa de erro. Mas se esses erros acontecem sempre com um determinado grupo, a história é outra. 

Um algoritmo pode estar certo 95% das vezes e, ainda assim, não identificar todas os asiáticos dos Estados Unidos. Ou ele pode ter 99% de precisão e, mesmo assim, classificar erroneamente todos os transgêneros do mesmo país. Isso se tornará especialmente problemático quando, por exemplo, a Agência de Fiscalização de Alfândega e Proteção de Fronteiras dos EUA adotar seu novo sistema de biometria.

"O agente de segurança Bramlet me mandou passar pela máquina como homem ou nós teríamos um problema" 

Já vimos como esses casos de falhas biométricas podem ser traumáticos. Pessoas transgêneras que passaram por pontos de controle da TSA (sigla em inglês para Administração de Segurança dos Transportes) já compartilharam histórias absurdas sobre o que acontece quando seus dados biométricos não "coincidem" com seu nome social. Shadi Petosky narrou, em sua conta no Twitter, sua detenção no Aeroportos Internacional de Orlando, onde ela afirma que "o agente de segurança Bramlet me mandou passar pela máquina biométrica como homem ou nós teríamos um problema".

Desde então, muitas outras histórias sobre a experiência de "viajar enquanto trans" vieram à tona, revelando o que acontece quando um scan biométrico não está de acordo com a expectativa do agente de segurança do aeroporto. Ano passado, a TSA afirmou que iria parar de usar a palavra "anomalia" para descrever os órgãos genitais de passageiros transgêneros. 

Esses erros dos sistemas de reconhecimento facial — o fato deles marcarem você ou seus amigos como gorilas ou macaco ou simplesmente não reconhecerem sua cor de pele — são um lembrete da série de problemas que as pessoas negras enfrentam todos os dias. Um lembrete de que essa tecnologia, esse sistema, não foi criado para você. Ao construí-lo, ninguém te levou em consideração. Mesmo que ninguém tenha feito isso de propósito, ser lembrado constantemente de que você não é o usuário-alvo de um produto é desmoralizante. 

 A tecnologia de reconhecimento facial é a nova aposta do setor de segurança, como demonstrado por esse aplicativo da Mastercard, apresentado no Congresso Internacional de Tecnologias Móveis de 2016. Mas isso cria mais uma barreira para todos os rostos esquecidos durante o estágio de elaboração. Crédito: Bloomberg/Getty

Esses exemplos, de acordo com meus entrevistados, são apenas a pontinha do iceberg. Hoje as falhas do reconhecimento facial não incomodam muita gente. Mas, à medida em que essa tecnologia se expande, seus preconceitos se tornam mais preocupantes. “Eu diria que esse é um problema que ainda vai piorar", diz Jonathan Frankle, especialista em tecnologia da Faculdade de Direito de Georgetown, nos EUA. “Esses problemas estão começando a invadir os espaços onde esses sistemas são realmente necessários."Em outras palavras, os problemas começarão a surgir quando bancos, prédios comerciais e aeroportos começarem a adotar esses sistemas. 

Mas como as empresas podem resolver isso? Em primeiro lugar, elas têm que admitir que há um problema. E num ramo no qual CEOs não são conhecidos pela sua preocupação com diversidade, isso pode levar um bom tempo. Uma outra opção é contratar pessoas de diferentes perfis: acrescentar mais pessoas à equipe ajuda a prevenir e controlar o preconceito endêmico de um algoritmo. 

Existem também soluções tecnológicas. A mais óbvia é alimentar um algoritmo com rostos de todo tipo. No entanto, isso não é tão fácil quanto parece. Pesquisadores de universidades possuem alguns bancos de dados ao seu dispor, muitos deles compostos por fotos de voluntários da própria instituição. Mas empresas não associadas a nenhuma instituição, como a Face-Six, têm que criar seus próprios bancos de dados ou comprar bancos de dados de terceiros. 

Outra opção é submeter esse algoritmo a testes. Tanto Venkatasubramanian quanto Sorelle desenvolvem testes cujo objetivo é descobrir preconceitos ocultos em algoritmos. O Instituto Nacional de Padrões e Tecnologia possui um programa que testa a exatidão e a consistência de sistemas de reconhecimento facial. As empresas que decidem passar por esses testes, contudo, devem estar dispostas a encarar as falhas de seus sistemas — e nesse momento, não há nenhum incentivo para que elas façam isso.

O problema do preconceito nos sistemas de reconhecimento facial é talvez um dos mais fáceis de compreender e solucionar: um computador só reconhece os tipos de rostos que lhe foram mostrados. Quando mostramos rostos mais diversos, o computador se torna mais exato e eficaz. Existem, é claro, artistas e ativistas que questionam a própria existência desses sistemas. Mas já que eles existem, devemos ao menos exigir que eles sejam justos. 

Tradução: Ananda Pieratti

Mentes brilhantes

Ensaio avançado

revistapesquisa.fapesp.br/2015/10/14/ensaio-avancado/

Spectra projeta e constrói simulador de voo e laboratórios de testes para a indústria automobilística

 Affonso Ferro, Guilherme Gibertoni, Jonas Dourado, João Boaventura, Aurelio Da Dalt e Amanda Shiokawa

Quem passa em frente ao prédio da Spectra Tecnologia, localizado em uma rua do Belenzinho, antigo bairro industrial da zona leste de São Paulo, não desconfia da riqueza tecnológica que ele guarda. Um dos galpões da empresa, que ocupa uma área de 5.200 metros quadrados, foi adaptado para acomodar um simulador de voo para helicópteros militares, construído em parceria com o Centro Tecnológico do Exército (CTEx). O equipamento criado pela Spectra para treinamento de pilotos reproduz de forma fiel a cabine dos helicópteros militares Esquilo AS350 e Fennec AS550 e a insere num ambiente virtual 3D. Todos os instrumentos, comandos, manetes, displays e até os bancos presentes nele estão dispostos da mesma forma que no cockpit dessas aeronaves usadas pelo Exército brasileiro.

“Somos a única empresa da América Latina que detém integralmente o conhecimento tecnológico para o projeto e a fabricação desse tipo de simulador”, afirma o engenheiro naval Aurélio Da Dalt, de 61 anos, um dos sócios-diretores da Spectra. “Ele vai complementar o treinamento de pilotos do Exército com um produto de concepção 100% nacional que, até então, só estava disponível em outros países, como França e Estados Unidos.” O projeto para construção do simulador teve início em 2007, em um contrato com o CTEx e foi concluído em dezembro de 2011. Um ano depois, o equipamento, batizado de Shefe (Simulador de Helicópteros Esquilo e Fennec), foi homologado pela Agência Nacional de Aviação Civil (Anac) e, em seguida, recebeu a certificação FTD4, de preparação inicial de pilotos. O modelo está atualmente em processo para a homologação como Full flight nível B. Essa qualificação – que varia, em ordem crescente, de A a D – assegura que durante o voo simulado o piloto tenha a mesma sensação do voo real, incluindo os movimentos do helicóptero e suas respostas aos comandos. O equipamento será transferido no próximo ano para o Centro de Instrução de Aviação do Exército (CIAvEx), em Taubaté (SP), que está em reforma.

Empresa

Spectra

Centro de PD

São Paulo, SP

Nº de funcionários

19

Principais produtos

Equipamentos para ensaios de durabilidade, peças e sistemas automotivos, simuladores de helicóptero e de tiro

Não foram poucos os obstáculos para criar esse ambiente virtual. “A empresa desenvolvedora de simuladores normalmente tem o suporte do fabricante do avião ou do helicóptero a ser simulado, que fornece o modelo matemático de voo, além de partes e componentes da aeronave”, explica o engenheiro mecânico João Carlos Boaventura, de 51 anos. A fabricante nacional das aeronaves, uma empresa do grupo francês Airbus Helicopters, não quis repassar informações pelo fato de a matriz possuir estreito relacionamento com fabricantes europeus de simuladores. “Não contamos com esse apoio e tivemos que projetar tudo do zero. O modelo matemático foi feito em conjunto com o ITA [Instituto Tecnológico de Aeronáutica]”, diz João, o sócio-diretor da Spectra responsável pelas inovações na área de defesa. O projeto também teve apoio do Comando de Aviação do Exército (CAvEx) e do Departamento de Ciência e Tecnologia Aeroespacial (DCTA) da Aeronáutica.

Outro aspecto envolvendo o simulador é que o valor previsto inicialmente pelo Exército para construí-lo mostrou-se insuficiente. Como era do interesse da Spectra a consolidação do projeto – o que lhe daria capacitação para concorrer com as maiores fabricantes de simuladores do mundo –, ela usou dinheiro do próprio caixa para finalizar o Shefe. “O projeto custou R$ 16,8 milhões, mas o contrato com o Exército só cobriu 44% desse valor. Investimos cerca de R$ 9,5 milhões de recursos próprios, mas hoje temos um produto com índice de nacionalização de 92%”, afirma o engenheiro Aurélio, que também é professor do Instituto Mauá de Tecnologia. Concluído há quatro anos, o Shefe passa por um processo de modernização, com a implementação de novos softwares. Um dos profissionais que participam dessa tarefa é a engenheira eletricista Amanda Shiokawa Freitas, 27 anos. “Esse é um trabalho que envolve muita pesquisa para que os modelos matemáticos consigam simular os sistemas da aeronave e o equipamento opere em harmonia, sincronizado e sem atrasos”, diz Amanda, que iniciou sua carreira na Spectra como estagiária, em 2011.

 Equipamento de teste de carroceria de ônibus

Simulador de tiro

Outro desenvolvimento da Spectra para a área militar é um simulador de tiro para armamentos leves, conhecido pela sigla Stal. O projeto nasceu por não existir um equipamento que atendesse aos requisitos do Exército e fosse produzido por empresa nacional. “O simulador de tiro servirá aos centros de treinamento para uma experiência equivalente ao treino feito em campo. O atirador utiliza réplicas de pistola e fuzil usados pelos militares e interage com alvos e a simulação 3D projetada em uma parede”, explica o cientista da computação Guilherme Simão Gibertoni, de 23 anos.

O benefício desse simulador é reduzir os custos do Exército porque se deixa de gastar munição e deslocar a tropa para locais de tiro. Ao mesmo tempo, é um ambiente seguro para os primeiros testes de tiro de jovens soldados. “A simulação 3D proporciona dinamismo com a posição e movimento dos alvos”, diz Guilherme.

Produção de LEDs de alta potência

Criada em 1989, a Spectra é uma empresa de tecnologia com capital 100% nacional. Ela faturou R$ 12 milhões em 2014 e investe 15% desse valor na área de pesquisa, desenvolvimento e inovação. Conta atualmente com nove engenheiros, dois tecnólogos, seis técnicos e dois projetistas ligados ao setor de engenharia, além de 25 funcionários nas áreas industrial e administrativa. A linha de produtos é diversificada e inclui, além do simulador para helicópteros, equipamentos servo-hidráulicos para ensaios de durabilidade de veículos, módulos de eletrônica embarcada para controle da carroceria de ônibus (o produto foi fornecido por quase uma década a uma empresa brasileira – mais de 10 mil veículos foram equipados – e, atualmente, é exportado para o Peru), aquecedores industriais e sistemas de controle de guinchos de ancoragem para balsas usadas na exploração de petróleo em alto-mar, sendo a Petrobras cliente desse produto.

“A diversificação faz parte de nossa estratégia comercial. Quando um setor não está bem, outro compensa. Procuramos ter o controle de todas as etapas de nossa produção. Dessa forma, temos um domínio maior sobre a tecnologia que desenvolvemos e sobre o preço dos nossos produtos”, afirma o engenheiro eletricista Affonso Ferro, 50, que compõe o trio que comanda os rumos da Spectra.

 Simulador de pilotagem de helicópteros do Exército: interior da cabine…

Laboratório de ensaios
Os equipamentos servo-hidráulicos para ensaios de fadiga e durabilidade de componentes automotivos são o principal produto da Spectra e responderam por 30% do faturamento em 2014. Dotado de atuadores, bombas hidráulicas e um sistema de controle e aquisição de dados, o laboratório de ensaio é usado para testar diferentes peças e sistemas de carros, ônibus e caminhões, como suspensão, freios, amortecedores, caixas de direção e cintos de segurança. “Ele funciona como um simulador, reproduzindo de forma acelerada e muito precisa as condições do veículo em pista”, diz Affonso. “Nosso laboratório é empregado para realização de testes completos de desempenho e ensaios estáticos e dinâmicos para análise de tensões mecânicas, vibrações e fadiga na estrutura do veículo.” Um dos desenvolvedores do laboratório é o engenheiro de computação Jonas Dourado, de 25 anos. “Trabalho no projeto de um software e na criação de um equipamento para realizar testes de durabilidade de peças mecânicas, principalmente automotivas”, diz Jonas.

Além de vender o laboratório montado, a Spectra também presta serviço às áreas de engenharia e desenvolvimento de fabricantes de autopeças e da indústria automobilística. Volkswagen, Mercedes-Benz, Scania, Ford, Fiat, Magneti Marelli e Mahle são alguns dos clientes. No ano passado, uma unidade foi exportada para a Argentina. “A Universidade Nacional de La Plata, a segunda maior do país, comprou um laboratório por US$ 2 milhões”, informa Aurélio.

 … e parte externa

O laboratório de testes, um dos maiores do gênero em operação no país, está na origem da criação da Spectra. Os três sócios se conheceram nos anos 1980, quando estavam na Mafersa, uma antiga fabricante de vagões e materiais ferroviários. Eles trabalhavam num laboratório de testes de durabilidade – parecido com o que desenvolveriam anos mais tarde –, cujos equipamentos eram importados da norte-americana Material Test Systems (MTS). O controle do laboratório era feito por um computador da época, que tinha o tamanho de um pequeno armário.

Aurélio, João e Affonso tiveram a ideia de desenvolver o hardware e os softwares necessários para fazer o microcomputador IBM PC-XT controlar o laboratório. Um dos diretores da MTS abraçou a ideia e decidiu comprar a inovação quando estava pronta. Segundo Affonso, a Spectra foi a primeira empresa do mundo a usar um computador tipo PC para controlar um simulador de estrada. Centenas de sistemas foram vendidas para montadoras e fabricantes de autopeças mundo afora. “Durante cinco anos, recebemos royalties pela venda do nosso sistema. Foi isso que nos permitiu, no início, estruturar financeiramente a Spectra”, conta.