Philip Agre: Previu o lado negro da Internet e desapareceu

Handreza Hayran
7 Minutos de Leitura
Philip Agre

O pesquisador falou sobre os perigos de coletar dados antes mesmo do lançamento do Google e da Amazon e questionou a ética de se trabalhar com inteligência artificial.

Infância e educação de Philip Agre

O ano de nascimento de Philip Agre é desconhecido. Ele escreveu que sua infância foi passada em Maryland, no leste dos Estados Unidos, onde um psicólogo local “o transformou em um prodígio matemático”.

Seus pais o enviaram para a faculdade mais cedo, o que prejudicou o relacionamento com eles, disse um de seus amigos ao The Washington Post. 

Como disse Philip Agre, ele estudou matemática, mas mudou para ciência da computação: eram mais interessantes e ajudavam a ganhar dinheiro para pagar o empréstimo estudantil.

Na faculdade, ele não foi obrigado a frequentar cursos de artes liberais. Mas quando o futuro cientista ingressou na pós-graduação no MIT, percebeu que possuia conhecimento apenas em disciplinas técnicas. Para remediar isso, Agre tirou licença sabática por um ano.

Passei um ano viajando e lendo tentando me tornar uma pessoa instruída por conta própria.Philip Agra

Nas férias, ele queria olhar para o desenvolvimento da tecnologia do ponto de vista da filosofia, sociologia e etc. Ele começou a “se rebelar contra sua profissão”, escreve o The Washington Post.

Em 1989, Agre recebeu seu Ph.D. em Ciência da Computação do MIT e seu Ph.D. em IA. Ele lecionou na University of Chicago, University of Sussex e, desde 1998, trabalhou na University of California, Los Angeles.

Trabalhos e previsões

A bibliografia do pesquisador contém pelo menos 74 publicações que ele publicou entre 1982 e 2004. Em meados da década de 1990, Agre foi o autor do envio de correspondência ao Red Rock Eaters News Service em um formato semelhante ao do blog. 

Ele revisava as notícias da Internet, enviava seus artigos e trechos de livros aos assinantes. O blog foi lido por 4.000 pessoas em 60 países.

Em suas obras, o cientista analisou como a tecnologia afetaria a sociedade. Algumas de suas ideias se tornaram realidade.

Corporações e coleta de dados

Em 1994, Philip Agre publicou o artigo “Vigilância e captura: dois modelos de privacidade” sobre a questão da confidencialidade no desenvolvimento de tecnologia. 

Antes mesmo do lançamento da Amazon, Google e Facebook, um pesquisador previa que, no futuro, os computadores coletariam dados sobre tudo na sociedade, mas as pessoas os ignorariam.

Toward a Critical Technical Practice: Lessons Learned in Trying to Reform AI

Em seu artigo de 1997 Rumo à Prática Crítica de Engenharia: Lições Aprendidas na Tentativa de Reformar a IA, Agre apontou um dos principais problemas no campo da IA ​​- os cientistas não querem ouvir críticas de fora.

Ele escreveu que os cientistas estão trabalhando na parte técnica e se esquecem de todo o resto. Em sua opinião, IA não é uma disciplina independente, não pode ser estudada isoladamente do mundo ao seu redor, assim como ética, filosofia, sociologia e outras ciências.

O que Agre falou em 1997 é relevante para a indústria mais de 20 anos depois, escreve o The Washington Post. Em dezembro de 2020, o Google demitiu o especialista em IA Timnit Gebru após um artigo criticando a tecnologia. Os cientistas internos da empresa disseram mais tarde que o Google pediu a eles que escrevessem sobre IA de uma “maneira positiva”.

Reconhecimento facial e totalitarismo

Em 2001, Agre publicou um artigo intitulado “Seu rosto não é um código de barras: argumentos contra o reconhecimento facial automático em lugares públicos”. 

Ele criticou o desenvolvimento das tecnologias de vigilância no Ocidente e previu que no futuro elas também aparecerão em países totalitários e autoritários.

Agre defendeu sua posição da seguinte maneira:

  • A tecnologia pode ser usada para rastrear pessoas em qualquer lugar. Esses dados podem cair nas mãos de criminosos ou ser usados ​​para aumentar o controle do governo.
  • Os dados da câmera podem ser combinados com outras informações, como impressões digitais.
  • Sem fotos de alta qualidade, o rastreamento de terroristas e criminosos por câmera auxiliado por IA é ineficaz.
  • As organizações comerciais serão capazes de reconhecer os cidadãos por seus rostos e terão acesso a dados sobre suas finanças e situação social.
  • A vigilância não será voluntária: os cidadãos não saberão e não poderão recusar, pois as câmeras aparecerão em instituições governamentais e locais públicos.

Desde 2016, a China lançou um sistema de reconhecimento facial total. Nele, os dados de todas as câmeras de vigilância são analisados ​​por IA e, em seguida, compilados por um sistema de classificação social. 

Pessoas com uma classificação baixa não podem, por exemplo, conseguir um emprego em agências governamentais ou comprar passagens aéreas.

As pessoas não se importavam com o que Philip Agre dizia

Durante o período em que Agre escrevia seus artigos, suas previsões não eram populares, dizem amigos e colegas do cientista. 

O interesse pelo trabalho do pesquisador surgiu quando as ideias por ele descritas começaram a se traduzir em realidade. A essa altura, ele já havia conseguido se desiludir com suas atividades.

Sumiço de Philip Agre

Em 2009, Philip Agre, sem avisar, deixou de ir trabalhar na universidade e desde então não apareceu em seu apartamento. Sua irmã perdeu contato com ele em dezembro de 2008. Segundo ela, o cientista tinha transtorno bipolar.

Amigos, colegas e familiares anunciaram seu desaparecimento e apresentaram queixa à polícia em outubro de 2009. Eles também criaram um site onde postaram cartas de agradecimento e pedidos para entrar em contato com ele.

Amigos e colegas de Agra disseram que seu último projeto era a “Bíblia da Internet” – a história da rede desde o início.

O pesquisador nunca concluiu este trabalho. Depois que Agre desapareceu, seus colegas quiseram coletar uma coleção de seus artigos, mas ele os contatou e pediu que não o fizessem.

Escrito por Handreza Hayran
Nascida e criada em Petrolina-PE, Handreza Hayran é co-fundadora e editora do Foco e Fama. Formada em Computação pela UFRPE, ela também é fã de tecnologia, filmes e séries. Além disso, acredita que histórias bem contadas, são presentes incrivelmente valiosos.