Algoritmos são justos?

Como a Inteligência Artificial transformará nossa sociedade e quais são os custos? Estamos nos estágios iniciais da Quarta Revolução Industrial, como o candidato presidencial Andrew Yang reconheceu. Essa investigação surgiu por meio de linguagem nostálgica sobre a velha economia manufatureira e questões sobre a imparcialidade de algoritmos complexos.

Um impulso para a transparência algorítmica

Um algoritmo é um conjunto de regras para resolver um problema em um número finito de etapas. O que torna um algoritmo de computador potencialmente controverso é a natureza não transparente de operar um. Enquanto empresas como o Google discutem seu processo, on-line, o funcionamento interno dessa programação permanece obscuro. Essa falta de transparência permitiu que as acusações de viés e censura persistissem.

O Centro de Informações de Privacidade Eletrônica (EPIC) é um defensor notável da transparência algorítmica. Em 16 de julho, a EPIC enviou uma carta ao senador Ted Cruz, presidente de um comitê do Senado, condenando os vários perigos do mecanismo de busca do Google.

A EPIC alega que “o conteúdo pode ser rotulado e categorizado de acordo com um sistema de classificação projetado pelos governos para permitir a censura e bloquear o acesso à oposição política” e “a maioria dos usuários não tem conhecimento de como a filtragem algorítmica restringe seu acesso à informação e não possui uma opção para desativar os filtros “.

A capacidade dos fornecedores de serviços online de filtrar é bem conhecida. Existem consequências para essa falta de transparência, seja intencional ou não. Recentemente, o candidato presidencial Tulsi Gabbard decidiu processar o Google por alegações de “interferência eleitoral”.


O Google reconheceu a suspensão da conta de Gabbard após o primeiro debate democrata nas primárias; no entanto, o Google alegou que seus sistemas automatizados sinalizam atividades incomuns em todas as contas de anunciantes “a fim de evitar fraudes e proteger nossos clientes”.

O Google restabeleceu rapidamente sua conta. Durante uma audiência no Comitê Judiciário do Senado, Karen Bhatia, vice-presidente de assuntos governamentais e políticas públicas do Google, tranquilizou o senador Ted Cruz que “trabalhamos duro para corrigir nossos erros. Mas esses erros afetaram ambas as partes e não são produto de preconceitos. ”

Um detalhe importante que falta nesta discussão é que o modelo de negócios de empresas como o Google depende de anunciantes. “Anunciantes e empresas são avessos ao risco e procuram evitar controvérsias”, como escrevi anteriormente.

As plataformas do Google colidiram com sua capacidade de gerar receita. Os usuários, em alguns casos, procuram uma plataforma não filtrada, mas o Google deve garantir algum nível de manutenção para que os anunciantes continuem utilizando sua plataforma.

Desafiando a grande tecnologia

Os argumentos da EPIC desafiam diretamente o suposto viés dessas plataformas. Progressistas e conservadores também estão desafiando os algoritmos da Big Tech por razões antitruste. Embora os monopólios geralmente sejam criados por meio da integração vertical, algumas dessas empresas podem estar usando seus algoritmos para promover artificialmente seus próprios produtos.

A EPIC alega que “depois que o Google adquiriu o YouTube, a classificação de pesquisa da EPIC caiu. O Google substituiu seu próprio ranking subjetivo de ‘relevância’ no lugar de critérios objetivos de pesquisa. ”O resultado é que“ o algoritmo subjetivo do Google preferia o conteúdo de vídeo do Google no YouTube ”.

Até o Supremo Tribunal permitiu que desenvolvedores de aplicativos processassem a Apple por alegações de antitruste. violações. Os desenvolvedores afirmam que, ao exigir que “os usuários de iPhone e iPad baixem aplicativos apenas de seu portal e reduzam algumas vendas feitas na loja”, a Apple agiu como um monopólio.

Em 23 de julho, o Departamento de Justiça dos EUA abriu “uma ampla investigação antitruste das principais empresas de tecnologia”.

A ABC News observa que “as interpretações atuais da lei antitruste dos EUA obviamente não se aplicam às empresas que oferecem produtos baratos ou serviços online gratuitos”. , o Departamento de Justiça pode achar difícil provar que essas empresas são monopolistas; a União Européia, por outro lado, multou o Google em US $ 5 bilhões por violar leis antitruste. Essas investigações federais são parecidas com a quebra de confiança que ocorreu no final do século XIX – início do século XX.

A Big Tech está justamente preocupada com a intervenção do governo em suas operações. Seria inviável solicitar que cada empresa seja totalmente transparente com seus algoritmos, principalmente porque isso é semelhante a pedir a qualquer outra empresa que libere seu segredo comercial.

Empresas como o Google podem ser mais claras quanto às suas intenções com seus programas e algoritmos. Por exemplo, o Recaptcha do Google usa cliques humanóides para “treinar a IA do Google para ser ainda mais inteligente”, que eles afirmam aplicar “a largura de banda humana para beneficiar as pessoas em todos os lugares”. Essa é uma maneira engenhosa de treinar algoritmos, mas a maioria dos usuários não tinha ideia que esse era o caso.


Algoritmos são poderosos; no entanto, eles estão amplamente sujeitos aos preconceitos do programador. Os programadores podem exibir viés implícito ou explícito, razão pela qual mais transparência beneficiaria o público, especialmente devido ao grande volume de reclamações.

Com a confiança do público em nossas instituições, ele beneficiaria empresas como Google e Facebook para aumentar essa confiança. No The Guardian, Dylan Curran escreve sobre até que ponto o Facebook e o Google armazenam suas informações “sem que você perceba”.

Usando algoritmos complexos, essas empresas podem reunir os vários pontos de dados usando seu histórico de pesquisa, uso de aplicativos e eles. até crie um perfil de anúncio para você. No The New York Times, Jennifer Valentino-DeVries escreve sobre como eles usam e vendem dados para anunciantes e “até fundos de hedge buscando informações sobre o comportamento do consumidor”.

No The Atlantic, Kaveh Waddell escreve: “os sistemas automatizados tomam decisões baseadas em vastas informações pessoais, muitas vezes sem revelar os tipos de informações incluídas no cálculo.” Será ainda mais difícil determinar quais informações desempenham um papel fundamental nos resultados, como esses algoritmos se tornam mais complexos.

Além disso, os defensores da privacidade estão preocupados com a possibilidade de um mecanismo de pesquisa censurado, como o Projeto Dragonfly do Google na China, surgir nos Estados Unidos. Dada a grande variedade de dados mantidos por muitas dessas empresas, é do nosso interesse garantir proteção e transparência adequadas. Se agirem inadequadamente, o governo parece pronto para intervir.

Debate no Congresso

O Congresso está debatendo qual o melhor regime legal a ser aplicado a esses provedores de serviços on-line. Como o Big Data é o combustível que a Inteligência Artificial usa para executar esses algoritmos, essas empresas devem continuar a coletar dados ativa e passivamente. A questão permanece: onde os interesses dos consumidores entram em jogo?

É exatamente por isso que os professores de direito Jonathan Zittrain (Harvard Law School) e Jack Balkin (Yale Law School) propuseram a teoria do “fiduciário da informação”, que exigiria que algumas dessas empresas agissem como fiduciários legalmente reconhecidos.

Outros regimes incluem restringir a venda ou transferência de dados, remover a imunidade da Seção 230, dar aos usuários o direito de acessar dados coletados sobre eles, proibir recursos viciantes ou forçá-los a enviar seus algoritmos a auditores externos.

Os encargos regulatórios adicionais são impostos não diretos para os consumidores. No futuro, essas empresas devem incorporar mais transparência à tomada de decisões de seus algoritmos, mesmo que provavelmente permaneçam na mira.

Verdadeiras ou não, essas alegações de censura iluminam os problemas associados à Inteligência Artificial. Para enfrentar a reação populista, a Big Tech deve fazer mais para recuperar a confiança do público. Eles podem começar reconhecendo seus erros passados ​​e fazendo mais para evitar futuras violações de confiança.