Espaço Aberto

Questões do Nosso Tempo

O futuro no presente

Lançado em 1968, o filme 2001 – Uma odisseia no espaço fascinou audiências com um computador capaz de conversar naturalmente, reconhecer imagens e sons e assumir o controle da espaçonave. Meio século depois, parece que 2001 finalmente chegou. A tecnologia de Aprendizado de Máquina permite que computadores sejam capazes de dialogar com seres humanos, dirijam carros, influenciem relações amorosas e até a aprovação de um empréstimo. A chegada dos assistentes virtuais,  dispositivos com alto-falantes ligados à internet, que obedecem a comandos de voz, anuncia uma época em que será normal falar com a própria casa, através da Internet das Coisas. Uma mudança que já começou no apartamento do carioca Pedro Dória, na Gávea, Zona Sul do Rio de Janeiro, onde as luzes são desligadas sem tocar o interruptor. Palestrante e escritor, desde 1994 Dória escreve sobre internet e computadores. Em 1995, lançou o primeiro livro sobre a rede no Brasil, intitulado “Manual para a internet”(Revan). Desde então, assinou outras seis obras, três delas sobre a história brasileira. Colunista dos jornais Globo e Estado de S. Paulo e da rádio CBN, o jornalista de 45 anos vê com entusiasmo, mas também com cautela, o impacto do avanço da tecnologia no trabalho, na economia, na política e nas relações. E recomenda aos pais que priorizem ensinar aos filhos a tolerância às mudanças: “A cada 10, 15 anos, o mundo vai ser completamente diferente”. 

Como se define Inteligência Artificial, e qual a sua relação com a Internet das Coisas? 

PEDRO DORIA: São coisas distintas, mas ligadas. Nos anos 50 e 60, os primeiros cientistas de computação imaginavam que desenvolveriam uma inteligência artificial. Tanto que o primeiro apelido do computador é cérebro eletrônico. Mas nunca conseguiram. No final dos anos 60, início dos anos 70, em São Francisco, onde hoje existe o Vale do Silício, surge o movimento hippie, com a sua proposta de expansão da mente, através de drogas, religiões orientais… Essa turma começa a olhar para o computador como uma ferramenta para expandir as possibilidades humanas. É assim que surgem os computadores pessoais e explode o que a gente chama de revolução de tecnologia. O computador com o qual trabalhamos é fruto daquele espírito de San Francisco. Pois bem. Acontece que a potência dessas máquinas aumentou tanto em capacidade de processamento, em qualidade de software e tudo mais, que há pouco mais de 10 anos, nos Estados Unidos, foi possível desenvolver a tecnologia de machine learning, que aqui no Brasil alguns traduzem como “Aprendizado de Máquina”. O que é isso? É, em essência, um algoritmo capaz de aprender por repetições.

Pode dar um exemplo?

Como ensinar um carro a dirigir? Se alguém tivesse de escrever um software para isso precisaria prever cada evento possível.  Seria necessário, por exemplo, ter no código o que o computador do carro deve fazer se um menino atravessa correndo atrás de uma bola. Ou se houver um outro carro enguiçado na pista. Cada uma dessas muitas possibilidades teria de ser prevista e, sempre que acontecesse um fato  não previsto no código, poderiam ocorrer acidentes ou outros problemas. Ou seja: seria impossível ensinar a uma máquina algo complexo, como dirigir, usando o software como era feito antes. Com o software de Aprendizado de Máquina, o computador começa a ter a capacidade de aprender, como o ser humano. Você coloca um software de Aprendizado de Máquina em um carro equipado com sensores, várias câmeras, radar. Depois, vários desses carros saem às ruas, dirigidos por motoristas e, o tempo todo, os sensores captam tudo o que os motoristas fazem. Percebem que, se o sinal ficar vermelho, o motorista para; se ele vai virar à esquerda, liga a seta para esse lado. Então, em essência, o software fica procurando padrões de repetição: sempre que isso acontece, faço tal coisa. É assim que você faz um carro aprender a se deslocar por conta própria, sem motorista. Essa tecnologia de Aprendizado de Máquina tem milhares de aplicações. Estão começando a usar muito para exames de imagem, no diagnóstico de câncer. 

De que forma?

Pega-se o resultado de milhares de radiografias ou tomografias de pacientes com câncer no pulmão, nos quais os tumores foram assinalados por médicos, e faz-se um banco de dados. Você alimenta Este é um pulmão com câncer. O câncer está aqui. O câncer está ali”. Ao final desse processo, o computador começa a identificar onde está o câncer. Depois de um tempo, o software é capaz de perceber tumores que estão em um estágio tão inicial que os médicos não conseguem visualizar. Mesmo muito pequenos, os padrões do câncer estão nas  imagens, e a máquina os identifica. Um estudo realizado por cientistas em parceria com a Microsoft mostrou que softwares estão conseguindo perceber o mal de Parkinson com um ano e meio, ou dois, de antecedência, em relação ao médico. A Microsoft pegou todo mundo que tinha usado o seu buscador, o Bing, para procurar os termos “Mal de Parkinson” nos últimos dois anos. Embora os usuários sejam anônimos, eles são identificados por um endereço da web, que permite registrar informações, inclusive o uso do ponteiro do mouse. Os pesquisadores partiram do princípio de que as pessoas que foram pesquisar o Mal de Parkinson, em princípio, podem estar desconfiadas de que têm a doença. O que essas pessoas têm em comum, que todos os outros que não procuraram o Parkinson não têm? Um levíssimo tremor na seta do mouse, que já se consegue perceber um ano e meio, dois anos antes. 

Como você vê a aplicação da tecnologia e o uso de chatbots, suportados por inteligência artificial, no campo da saúde mental? Há mais de 50 anos, Joseph Weizenbaum construiu o programa Eliza, que imitava um psicólogo e fazia perguntas ao paciente. 

O Eliza era uma brincadeira. Mas eu já li sobre experiências avançadas relacionadas ao suicídio. Existem softwares robôs que buscam nas redes sociais determinados tipos de palavras e comportamentos, que podem indicar pessoas em um nível de depressão próximo do suicídio. Os chatbots podem, por exemplo, tornar mais eficientes o processo de triagem e selecionar quem precisa de  atendimento mais urgente. Tudo o que segue receita de bolo pode ser automatizado. Mas, quando entra no campo da sensibilidade, uma pessoa é insubstituível. Eu consigo imaginar um robô fazendo uma operação cardíaca. Mas não consigo imaginar um robô fazendo um diagnóstico psiquiátrico. Eles podem auxiliar o trabalho do médico, mas não substituem o médico. 

Como a tecnologia está impactando a vida cotidiana? Também há capacidade de aprendizado nos objetos de uso diário?  

Estamos entrando na fase da “internet das coisas”, quando o mundo passará a ser conectado à internet. Só vamos perceber o seu impacto daqui a alguns anos, quando trocarmos o 4G pelo 5G, que permite uma quantidade muito maior de aparelhos ligados à internet. A tecnologia está pronta, é uma questão de instalar a infraestrutura. Em essência, o mundo real estará todo conectado à internet. A internet deixará de ser do mundo virtual e passará a ser do mundo real. Um exemplo: o novo Google Maps, disponível para quem tem celular Android com a versão mais recente do sistema. Até agora, às vezes não ficava claro no mapa na tela se era preciso ir para a direita ou para esquerda. Com o novo Maps, você aponta o celular pra frente, ele reconhece o lugar, mostra a imagem, como se fosse na câmera e as setas de direção aparecem sobre a imagem que você está vendo. Isso pode ser aplicado ao turismo também. Se você está passeando por Paris, pode apontar a câmera para um monumento e perguntar: “Ei, Google, que monumento é esse?”. E o Google responde e dá o link da Wikipedia com a biografia do homenageado. Quando a gente usa o Waze e o aplicativo diz qual é o caminho mais rápido para chegar a algum lugar, isso já é uma aplicação no mundo real do Aprendizado de Máquina.

Essa presença da Inteligência Artificial vai aumentar?

Por que o Google e a Amazon estão colocando seus assistentes virtuais na casa de todo mundo? Hoje, é só um brinquedo interessante: você pergunta pra Alexa se vai chover hoje, pede pra tocar uma música. Mas, na verdade, esses equipamentos servem pra gente começar a se acostumar a conversar com as nossas casas. Aqui em casa, eu consigo controlar as lâmpadas através deles, falando. Cada lâmpada está ligada à internet, e é possível controlar o seu funcionamento pela caixa de som ou pelo celular. Mas essas coisas ainda são pouco práticas. Desligar a luz usando o celular demora, é muito mais simples desligar no interruptor. É uma tecnologia que está nascendo. Só um early adopter como eu, que sou pago para escrever sobre isso, usa. Mas em dois, três anos, um público maior vai começar a ter. Eu tenho essas caixinhas em todos os cômodos da casa. Os meus filhos mais novos, que têm oito e nove anos, já usam… Eles são malucos por futebol, e a toda hora perguntam para o Google: “Quando é o próximo jogo do Flamengo? Quanto foi o jogo do São Paulo?”. E as caixas respondem. Quando eu saio de casa, todo dia, a última coisa que pergunto é: “Vai chover?”. Para saber se levo guarda-chuva. Conforme você vai se acostumando, começa a ser uma coisa que, de fato, facilita muito a vida. Nos Estados Unidos, o uso mais popular é de aparelhos com tela na cozinha. Em vez de você tentar usar o tablet ou laptop com a mão gordurosa para ver um vídeo de como cozinhar determinada receita, você dá ordens de voz: “Pausa aí. Vê aquela outra receita de estrogonofe. Vai. Volta”. 

Como isso vai impactar os negócios?

Quando você entrar em um supermercado, o supermercado já saberá quem você é, assim como quando você entra no site da Amazon para comprar um livro. O site da Amazon sabe quem você é e recomenda livros que têm a ver com suas compras passadas. Você vai entrar numa livraria e já vai receber no celular a informação: “Olha, chegou o livro novo daquele escritor que você sempre compra”. E pode, inclusive, dizer em que prateleira está. Parte do trabalho de ter uma loja será mapear que produto está em que lugar.

Esses novos sistemas também terão impacto sobre o trabalho?

Sim. Hoje a Amazon tem dez lojas chamadas Amazon Go nos Estados Unidos. Nessas lojas, ao entrar, você passa o aplicativo da Amazon do seu celular por um leitor e ele já reconhece a sua conta. Aí você entra na loja, pega o produto que quiser, bota na sua mochila e sai. A Amazon Go sabe que produto você pegou, em que quantidade, e debita no seu cartão de crédito. Você não precisou conversar com nenhum vendedor, não precisou passar por um caixa. A empresa quer ter 3 mil dessas lojas nos próximos dois anos. No fim das contas, todos os postos de trabalhos baseados em ações repetitivas, como um caixa de loja, um motorista – tudo o que se baseia em aprender uma técnica, por mais sofisticada que seja, e aplica-la repetidamente, poderá ser substituído por um software, ou por um hardware, ou por ambos. A consultoria Pricewaterhouse calcula que, até 2030, 30% dos postos de trabalho nos Estados Unidos desaparecerão por causa da aplicação do Aprendizado de Máquina, e desse encontro da tecnologia com a Internet das Coisas.

Isso também deve ocorrer no Brasil? Como enfrentar essa perda de empregos?  

A UnB tem uma estimativa de que 30 milhões de postos de trabalho serão perdidos no Brasil até 2030. É claro que novas ocupações vão surgir por conta dessas tecnologias, trabalhos que a gente sequer imagina. O problema é que as pessoas que ficarão desempregadas não têm capacitação para assumir esses novos postos. Estamos vivendo um processo de mudança econômica, de uma economia industrial para uma economia digital. De 2010 pra cá, as cinco empresas de maior valor de mercado de Wall Street deixaram de ser do setor petroleiro e bancário e passaram a ser empresas de tecnologia. Apple, Google, Facebook, Microsoft e Amazon, todas são corporações que valem aproximadamente US$ 1 trilhão. A última vez em que tivemos essa mudança de base econômica da sociedade foi entre 1910 e 1930, quando a economia deixou de ser de base agrícola, e passou a ser industrial. Estamos em vias de entrar numa crise similar àquela, com massas de desempregados. O que salvou o mundo, nos anos 20 e 30, foi a dobradinha do economista Maynard Keynes com o presidente americano Franklin Roosevelt,  que mostrou que a democracia liberal era, sim, capaz de resolver imensos problemas sociais. Bill Gates, Elon Musk e Mark Zuckerberg defendem que o estado tem de implementar uma política de renda mínima nos EUA. Alexandra Ocasio-Cortez, do Partido Democrata, fala em fazer o “Green New Deal”, ou seja, investir uma fortuna em políticas para desenvolvimento de tecnologia verde, e, ao mesmo tempo, empregar gente que não acaba mais nesse processo. 
Michel Jordan, cientista da computação americano, diz que a Inteligência Artificial não é verdadeiramente inteligente, pois não é capaz de entender abstrações. Você concorda?

A tecnologia não é criativa. O carro sempre será dirigido da mesma forma. O trabalho de um caixa de loja é sempre a mesma coisa. Por outro lado, a capacidade de processamento da máquina é muito maior do que a capacidade de processamento do nosso cérebro: a máquina percebe o tumor muito antes. O carro dirigido por uma máquina é infinitamente mais seguro do que o dirigido por um ser humano. A capacidade de reconhecimento de um rosto é muito mais precisa do que o ser humano consegue perceber. Agora, essa inteligência não vai compor a Nona Sinfonia de Beethoven. Não vai escrever uma reportagem. Não vai contar uma piada. Não estamos nem perto de ter uma tecnologia capaz de fazer isso. E também tem alguns problemas.

 Quais, por exemplo? 

Veja o exemplo do Google Photos, que reconhece rostos e lugares entre as fotografias que armazenamos nele. Como ele foi desenvolvido? Eles começaram pela base de dados formada pelos rostos dos funcionários do Google. E quem trabalha no Google? Na maioria, brancos, indianos, chineses e japoneses. Quase não havia negros. O banco de dados também foi alimentado com a busca de imagens do próprio Google. Quando o Google Photos foi lançado, pessoas negras ficaram enfurecidas, pois o sistema as identificava como gorilas. A base de dados usada por aquela inteligência artificial tinha poucos seres humanos negros e muitos gorilas. Daí a confusão. Esse é um exemplo. Outro: seguradoras começam a usar softwares de Aprendizado de Máquina para avaliar o preço a ser cobrado em um seguro. Bancos podem usar esse tipo de software para decidir se vão te dar um empréstimo, com que taxa de juros. Você alimenta o sistema com as suas características pessoais, e o software decide se você merece ou não aquele empréstimo, se seu juro vai ser mais alto ou mais baixo. 

Quais características seriam utilizadas para essa avaliação?

Quando falamos de big data e Aprendizado de Máquina, não estamos falando de coisas óbvias, como o histórico bancário de alguém. Você utiliza informações de centenas de milhares de pessoas, cruza os dados de todos que deram calote e percebe o que eles têm em comum. Podem ser coisas distintas, como:  “homens de 45 anos, com três filhos, com certa faixa de renda, moradores de determinado bairro e que gostem de comida japonesa são mais propensos a dar calote”. Não se sabe com clareza como o algoritmo chega a essa conclusão. Mas, se o trabalho for bem feito, é impressionante como os resultados são precisos. E, se for mal feito, e isso é comum, os erros que algoritmos podem produzir são muito grandes.

Já existe legislação para proteger o cidadão em relação ao uso de seus dados? 

A Lei Geral de Proteção de Dados, ou LGPD, entra em vigor no Brasil ano que vem. Uma das novidades que ela está trazendo é determinar que, sempre que um software tomar uma decisão a seu respeito, não importa se é em um hospital, um banco ou uma seguradora, você tem de ser informado de que a decisão foi baseada em um software e tem o direito de conversar com um ser humano a respeito. 

Em que medida o Aprendizado de Máquina está modificando o comportamento das pessoas? 

Um exemplo prático, que impacta a vida de muitas pessoas, é a mudança na maneira como as pessoas descobrem com quem irão se relacionar romanticamente.  Antigamente, a gente conhecia namorados, namoradas, no trabalho, através de amigos, ou frequentando os mesmos lugares. Vivíamos, mesmo que não quiséssemos, num círculo restrito. Com os aplicativos de relacionamento, as pessoas começaram a ser expostas a uma grande quantidade de desconhecidos. Isso muda a vida na sua dimensão mais pessoal. Como esses softwares também têm Aprendizado de Máquina, eles já ranqueiam mais para cima as pessoas que têm mais possibilidades de ser interessantes para você. E não só por aparência física, mas por vários detalhes. O engraçado desses algoritmos de Aprendizado de Máquina é que, se você perguntar ao Tinder como o algoritmo funciona, a empresa não sabe dizer. 

Como assim? Não consegue saber como o algoritmo funciona hoje?

Não. O Facebook não consegue, o Google não consegue. Entender o processo de aprendizado da máquina é muito complexo. O Twitter hoje é uma selvageria; as postagens que aparecem com mais frequência são justamente as mais agressivas. O pessoal do Twitter está tentando resolver isso, e não consegue, porque não entende como o sistema deles seleciona que tweet você vai ler primeiro. Os softwares de Aprendizado de Máquina das redes sociais descobriram que, se o objetivo é fazer com que as pessoas fiquem muito tempo dentro do Facebook ou do Twitter, o que funciona é deixar essas pessoas constantemente indignadas, discutindo. É por isso que está todo mundo com raiva. Estamos elegendo pessoas por raiva. O Aprendizado de Máquina já penetrou na nossa política. A democracia está passando por um grande experimento sociológico: o que você faz, se um software controla o que você vai ler ou não a respeito de política? A Espanha vai agora para a quarta eleição do parlamento em dois anos, porque o premiê não consegue formar gabinete, pois não consegue compor maioria. Israel está em vias de entrar na quinta eleição. O Reino Unido vai entrar, agora, na quarta eleição. Eles são incapazes de eleger um parlamento… Por quê? Porque aproximadamente metade da população é de esquerda, aproximadamente metade da população é de direita, e por conta desses softwares, todo mundo está radicalizado. 

Hoje há aplicativos, como o Slutbot, desenhados para ensinar os usuários a trocar mensagens sexuais. O uso de recursos desse tipo pode mudar as interações sexuais?

É claro que muda o comportamento. Não sei se já reparou, na turma que tem entre 20 anos e pouco mais de 30, começamos a ver relacionamentos diferentes. São trios românticos, em relacionamentos estáveis, que envolvem fidelidade… Hoje temos no Facebook comunidades de interesse sobre isso, assim como para fetiches e qualquer outro comportamento que não seja “padrão”, entre muitas aspas. E há outras questões. Está sendo lançado um vibrador que envolve inteligência artificial, feito com altíssima tecnologia, que seria capaz de provocar orgasmos que as mulheres nem sabiam que existiam. Quando você tem acesso a novas sensações, o mundo muda, as perspectivas mudam. É óbvio que o comportamento humano erótico e romântico vai se transformar. Em que direção só Deus sabe, mas me parece que vai ter muito mais variedade.

Como você está encarando a educação dos seus filhos neste mundo em transformação?

Eu tenho filhos de dois casamentos distintos. A Laura foi para o Santo Inácio, uma escola tradicional, mas onde existe uma flexibilidade para experimentar. E os meninos, de oito e nove anos, estão na Escola Parque, uma escola construtivista, que acho que prepara melhor para a vida hoje. Porque é mais importante você aprender a aprender, do que aprender coisas. Exercitar a tolerância com novidades. Pessoas conservadoras, que não gostam de mudança, terão muita dificuldade no futuro, pois a cada 10, 15 anos, o mundo vai ser completamente diferente. O mundo está mudando muito rápido mesmo, em todos os sentidos, e vai continuar mudando. A minha maior preocupação com meus filhos é desde cedo criar tolerância por mudanças. 

Você controla o uso que seus filhos fazem da internet, do Facebook, e outros sites? 

A mãe deles tem uma certa aversão à tecnologia e restringe bastante o acesso. Por isso, eu tendo a ser mais permissivo aqui. Tem algumas coisas que eu libero e me deixam receoso, mas sei que, se proibir, vou atrapalhar a sociabilidade deles entre os amigos. Tem um joguinho de celular, de batalhas espaciais, que eles jogam em rede, com outras crianças. A combinação que eu tenho com eles é: “Podem jogar, mas vocês só podem ser amigos dos seus colegas de escola, não podem aceitar convite de mais ninguém. O dia em que eu descobrir que vocês aceitaram convite de alguém desconhecido, o jogo vai ser proibido”. 

Sobre a presença de assistentes pessoais virtuais em casa, você não se preocupa com a invasão de privacidade que elas podem representar? Nos Estados Unidos, recentemente, a polícia requisitou as gravações feitas pela Alexa para investigar um homicídio. A polícia queria saber se o software havia gravado conversas entre a mulher, que foi morta, e o marido, que é suspeito. 

Por conta de episódios do tipo, ou de preocupações dos usuários, tanto o Google quanto a Amazon deram o controle ao público. Se você dá uma ordem para a caixa: “Apaga tudo da semana passada, apaga todas as conversas que eu tive”, o programa apaga. A Apple, por exemplo, é uma empresa muito rígida nesse aspecto. De uns tempos pra cá, ela desenvolveu uma tecnologia que impede que ela possa quebrar a privacidade do Iphone, se a polícia ou um governo pedir. O WhatsApp também usa um tipo de encriptação que a própria empresa não consegue quebrar. O fundador do WhatsApp foi criado em uma das repúblicas soviéticas e é absolutamente paranoico com regimes totalitários. Só que essa proteção não protege numa ditadura. Diante da tortura, qualquer um digita a senha.  Por outro lado, ela tem permitido a manipulação em massa do eleitorado, sem que ninguém saiba a origem das mentiras que estão sendo espalhadas. 

A popularidade dos assistentes pessoais deixa no horizonte a possibilidade de criação de companheiros digitais, capazes de mitigar a solidão. No filme “Ela”, o protagonista se apaixona pela voz de um programa de computador. Há o risco de que o contato constante com máquinas, de certa maneira, torne nossas reações e emoções programadas?

Eu consigo imaginar, sim, um cenário em que esses assistentes virtuais assumam um comportamento de companheirismo. Eles vão conseguir descobrir como se comportar com você. Vão descobrir que tipo de tom de voz adotar quando sua voz está de determinado jeito. Que tipo de voz pode produzir conforto. Se a voz é assim, e as palavras assado, porte-se assim. Mas não se trata de um amigo, um companheiro, um amante. É um software. Não é empático. Estamos falando de uma questão ética. A gente quer uma máquina que engane pessoas que queiram ser enganadas? Que tipo de alerta deve ser dado? Que tipo de debate, de regulação, será preciso? Pode ser que a gente chegue à conclusão de que queremos sim, máquinas assim. Em um mundo com muitos idosos, parte deles portadores de problemas cognitivos, talvez uma máquina dessas possa trazer conforto numa família que não possa ter um acompanhante. Mas este pode ser um uso nocivo para uma pessoa terrivelmente tímida. Vamos ter de imaginar cenários utópicos e distópicos. O papel da arte é muito importante, ao incentivar um olhar reflexivo sobre o que está acontecendo nesse momento. 

Qual é a sua visão de um futuro onde inteligência artificial e internet das coisas sejam corriqueiras?

É um mundo em que a vida será mais barata, mais fácil, é um mundo muito fascinante. Mas é um mundo que também permite o estabelecimento de um tipo de poder. O fato de que a gente vai conseguir diagnosticar mais cedo o câncer, de que daqui a pouco vamos testar remédios via software, desenvolver remédios específicos para o seu código genético de uma pessoa ou para um tumor específico… As aplicações “para o bem” desse tipo de tecnologia são imensas. Mas também é uma tecnologia extremamente perigosa. O poder de manipulação que essas ferramentas oferecem é extraordinário. Imaginem o seu uso em governos totalitários?

Entrevista concedida a Anabela Paiva