No distante ano de 2005, meu primeiro ano de mestrado no ITA, eu decidi aprofundar meus conhecimentos em agentes inteligentes, assunto esse que fez parte do meu projeto de conclusão de curso na graduação. Como fruto disso, desenvolvi um pequeno programa que consistia basicamente em um ecosistema retangular cujos os habitantes eram pequenas bolas. Cada uma dessas bolas possuía duas características imutáveis: cor (dentre 5 possibilidades iniciais) e gênero (dentre 3 possibilidades: XX, YY e XY); além de algumas características que poderiam mudar: idade, fome, tamanho, velocidade (baseado em um cálculo de fome, idade, tamanho e gênero – gênero YY é mais rápido, XX é mais lento, XY, tem velocidade intermediária) e força (também baseado nas mesmas características que a velocidade, mas XX é mais rápido e YY é mais lento) e algumas outras.
No programa eu poderia definir a população inicial do ambiente, dizendo quantas cores e gêneros iniciais haveria. Então, o programa começaria a rodar e os indivíduos a interagir entre si. Eles se movimentavam pelo retângulo como bolas quicando dentro de uma sala, mas quando uma entidade colidia com a outra, algumas coisas poderiam acontecer. Isso dependia de sua idade, diferença de tamanho e força, grau de fome, gênero, etc. Um elemento poderia se alimentar do outro, absorvendo parte de sua massa, apenas se repelir ou se reproduzirem, gerando um pequeno ser híbrido. Além disso, haviam algumas regras como espectativa de vida (média de 7 dias, podendo variar baseado em alguns cálculos), tamanho máximo, força e velocidades máximas, etc.
Mesmo o programa não tendo sido concluído, faltou adicionar questões como mutações, doenças, etc, eu consegui observar alguns comportamentos interessantes. Não importa quantos elementos eram colocados na população inicial e a proporção entre os diferentes tipos: algumas regras que eu jamais programei acabavam prevalecendo. Por exemplo, mesmo que um dos gêneros fosse maioria no começo, a tendência era um equilíbrio entre dois gêneros e a quase extinção do terceiro. O gênero XY sempre se sobressaia, sendo acompanhado pelo gênero YY quando a população era menor ou pelo gênero XX quando a população era maior. Da mesma forma, as cores iam se combinando de certa forma que, depois de deixar o programa rodando por três meses initerruptos quase todos os elementos eram cinzas. Não havia programado o racismo neste ambiente artificial.
É possível tirar alguma conclusão deste programa tosco feito há quase 15 anos atrás? Talvez. No entanto, algo semelhante tem acontecido recentemente com o avanço da Inteligência Artificial e com a interação dela com os seres humanos nos mais diferentes ambientes. Ainda dominando por cientistas de dados, engenheiros, programadores e matemáticos, esse campo de estudos começa a receber pesquisadores de outras áreas como direito, antropologia, filosofia e biologia.
Em várias de minhas participações em podcasts quando sou convidado a falar sobre Inteligência Artificial eu sempre enfatizo sobre a importância de que pessoas de diferentes áreas comecem a estudar os diversos aspectos da Inteligência Artificial e como ela afeta nossas vidas. Cada profissional tem uma visão e uma perspectiva diferente sobre este assunto e pode contribuir de uma maneira única. Questões como ética, legislação, economia, emprego, comportamento e outras necessitam de um esforço multi-disciplinar.
Muitas das nossas interações hoje em dia é feita através de ou pelo intermédio de agentes inteligentes comumente chamados de bots. Quando você liga no telefone de suporte para uma empresa ou reage a uma polêmica no Twitter, a chance de estar “conversando” com um pequeno programa de computador é grande. Profissionais acostumados com estes algoritmos estudam as diferentes técnicas para aplicá-los e aprimomar seu uso. Eles têm uma visão “de dentro para fora”. No entanto, quem está observando os impactos causados na sociedade?
Pensando nisso, o pesquisador Iyad Rahwan, professor associado do MIT Media Lab e diretor do Instituto Max Planck para Desenvolvimento Humano, reuniu cientistas das mais diferentes áreas para escrever um importante artigo para a revista Nature onde davam início a uma nova área de estudo a qual eles deram o nome de Comportamento de Máquina (Machine Behavior). Rahwan já tinha ganhado muita atenção pelo artigo sobre “O Experimento Moral de Máquinas”, mas agora sua iniciativa promete abalar ainda mais essa área de estudo.
Assim como eu me distraía por horas observando a interação de diversas toscas “bolinhas” coloridas, um especialista em Comportamento de Máquina, informalmente chamado provisoriamente de antropologista de inteligência artificial, tem por função estudar esses bots “de fora para dentro” da mesma forma como biólogos observam animais na natureza, tentando interferir o mínimo possível com o ambiente de modo a entender o comportamento destes seres em seu habitat natural.
Essas máquinas e programas são cada vez mais importantes em nossa vida. Entender como elas se comportam, aprendem, adaptam e, principalmente, como nós reagimos a tudo isso é de fundamental importância se quiseremos antever as consequências deste novo mundo que surge no horizonte.
O que fazemos hoje em dia é basicamente aprender conforme erramos e acertamos. Provavelmente o Facebook não sabia que a mudança no algoritmo de sua timeline aumentaria a polaridade política, reduziria o diálogo e ajudaria à volta de movimentos fascistas. Do mesmo modo, a Microsoft não sabia que fazer sua Inteligência Artificial aprender a se comunicar por interações no Twitter geraria um programa altamente racista e preconceituoso. O risco é cada vez maior e precisamos ainda mais da ciência ao nosso lado. E de todas as áreas da ciência.
E talvez a resposta para tudo esteja em observar a natureza em conjunto com as observações deste novo mundo cibernético. A biologia teve milhões de anos de inúmeras tentativas para saber o que funciona e o que deve ser descartado. Usar especialistas nessas áreas é mais do que nunca fundamental. Questões éticas precisam ser respondidas. Quando tivermos carros autônomos e este se encontrar entre duas decisões: jogar-se contra um muro e matar seus dois ocupantes (e clientes) ou salvar estes, mas atropelar dez pessoas em uma calçada, o que ele fará? Deve uma máquina ser usada para se decidir sobre contratações, demissões e promoções em uma empresa? Isso tornará o processo mais justo ou aumentará ainda mais a desigualdade? Como balancear os ganhos na economia e a perda de empregos no uso da automação?
Engenheiros e Cientistas de Dados não são capazes de responder a estas perguntas. É necessário que profissionais de diferentes áreas saiam de suas zonas de conforto e se coloquem á frente de todo processo. Se deixarem tudo nas mãos de pessoas como eu, acostumadas com os números, por melhor que sejam nossas intenções, o futuro que nos aguarda não é muito melhor que aquele vivido pelas pessoas vítimas da SkyNet.