The Atlantic Magazine – outubro/2018
A inteligência artificial pode apagar muitas vantagens práticas da democracia e erodir os ideais de liberdade e igualdade. Ela concentrará ainda mais o poder entre uma pequena elite se não tomarmos medidas para impedir isso.
O Crescente medo da irrelevância.
NÃO HÁ NADA inevitável sobre a democracia. Apesar de todo o sucesso que as democracias tiveram ao longo do último século ou mais, elas são pontos fora da curva na história. Monarquias, oligarquias e outras formas de governo autoritário foram modos de governança humanos muito mais comuns. O surgimento das democracias liberais está associado a ideais de liberdade e igualdade que podem parecer óbvios e irreversíveis. No entanto, esses ideais são muito mais frágeis do que acreditamos. O sucesso no século XX dependeu de condições tecnológicas únicas que podem se mostrar efêmeras.
Na segunda década do século XXI, o liberalismo começou a perder credibilidade. Questionamentos sobre a capacidade da democracia liberal de proporcionar para a classe média tornaram-se mais intensos; a política tornou-se mais tribal; e, em cada vez mais países, líderes demonstram uma inclinação para demagogia e autocracia. As causas dessa mudança política são complexas, mas parecem estar entrelaçadas com os desenvolvimentos tecnológicos atuais. A tecnologia que favorecia a democracia está mudando, e à medida que a inteligência artificial se desenvolve, ela pode mudar ainda mais.
A tecnologia da informação continua avançando; a biotecnologia começa a fornecer uma visão de nossas vidas internas – nossas emoções, pensamentos e escolhas. Juntas, a tecnologia da informação e a biotecnologia criarão agitações sem precedentes na sociedade humana, erodindo a agência humana e, possivelmente, subvertendo os desejos humanos. Sob tais condições, a democracia liberal e a economia de mercado livre podem se tornar obsoletas.
As pessoas comuns podem não entender em detalhes a inteligência artificial e a biotecnologia, mas podem sentir que o futuro está passando por elas. Em 1938, a condição do homem comum na União Soviética, Alemanha ou Estados Unidos pode ter sido sombria, mas ele era constantemente informado de que era a coisa mais importante no mundo, e que ele era o futuro (desde que fosse um “homem comum”, e não, por exemplo, um judeu ou uma mulher). Ele olhava para os cartazes de propaganda, geralmente retratando mineiros de carvão e siderúrgicos em poses heroicas, e se via lá: “Estou naquele cartaz! Eu sou o herói do futuro!”
Em 2018, a pessoa comum se sente cada vez mais irrelevante. Muitos termos misteriosos são usados com entusiasmo em palestras TED, em laboratórios de ideias (think tanks) governamentais e em conferências de alta tecnologia – globalização, blockchain, engenharia genética, IA (inteligência artificial), aprendizado de máquina – e pessoas comuns, homens e mulheres, podem muito bem suspeitar que nenhum desses termos é sobre elas.
No século XX, as massas se revoltaram contra a exploração e buscaram traduzir seu papel vital na economia em poder político. Agora, as massas temem a irrelevância e estão frenéticas para usar seu poder político restante antes que seja tarde demais. O Brexit e o surgimento de Donald Trump podem, portanto, demonstrar uma trajetória oposta à das revoluções socialistas tradicionais. As revoluções russa, chinesa e cubana foram feitas por pessoas que eram vitais para a economia, mas careciam de poder político; em 2016, Trump e o Brexit foram apoiados por muitas pessoas que ainda tinham poder político, mas temiam estar perdendo seu valor econômico. Talvez, no século XXI, revoltas populistas sejam encenadas não contra uma elite econômica que explora as pessoas, mas contra uma elite econômica que não precisa mais delas. Isso pode ser uma batalha perdida. É muito mais difícil lutar contra a irrelevância do que contra a exploração.
As revoluções na tecnologia da informação e biotecnologia ainda estão em sua infância, e até que ponto são responsáveis pela crise atual do liberalismo é debatível. A maioria das pessoas em Birmingham, Istambul, São Petersburgo e Mumbai tem apenas uma vaga noção, se tiver alguma, do surgimento da IA e seu impacto potencial em suas vidas. No entanto, é inegável que as revoluções tecnológicas que estão ganhando impulso nas próximas décadas confrontarão a humanidade com os desafios mais difíceis que já enfrentou.
Uma nova classe inútil?
VAMOS COMEÇAR com empregos e renda, porque, apesar do apelo filosófico da democracia, ela ganhou força em grande parte devido a uma vantagem prática: a abordagem descentralizada para a tomada de decisões, característica do liberalismo – tanto na política quanto na economia – permitiu que as democracias liberais superassem outros estados e proporcionassem prosperidade crescente às suas pessoas.
O liberalismo reconciliou o proletariado com a burguesia, os fiéis com os ateus, os nativos com os imigrantes e europeus com asiáticos, prometendo a todos uma fatia maior do bolo. Com um bolo em crescimento constante, isso era possível. E o bolo pode muito bem continuar crescendo. No entanto, o crescimento econômico pode não resolver problemas sociais que estão sendo criados pela interrupção tecnológica, porque esse crescimento está cada vez mais baseado na invenção de tecnologias disruptivas.
Os receios de que as máquinas expulsassem as pessoas do mercado de trabalho não são novos, e no passado esses receios se mostraram infundados. Mas a inteligência artificial é diferente das máquinas antigas. No passado, as máquinas competiam com os humanos principalmente em habilidades manuais. Agora, elas estão começando a competir conosco em habilidades cognitivas. E não conhecemos nenhum terceiro tipo de habilidade – além da manual e da cognitiva – em que os humanos sempre terão vantagem.
Pelo menos por algumas décadas, é provável que a inteligência humana continue a superar significativamente a inteligência computacional em diversos campos. Assim, à medida que os computadores assumem mais tarefas cognitivas rotineiras, novos empregos criativos para os seres humanos continuarão a surgir. Muitos desses novos empregos provavelmente dependerão da cooperação entre humanos e inteligência artificial (IA), em vez de competição. As equipes formadas por humanos e IA provavelmente se mostrarão superiores não apenas aos humanos, mas também aos computadores trabalhando sozinhos.
No entanto, a maioria dos novos empregos exigirá provavelmente altos níveis de especialização e criatividade, não fornecendo assim uma solução para o problema de trabalhadores não qualificados desempregados ou aqueles que são empregáveis apenas a salários extremamente baixos. Além disso, à medida que a IA continua a melhorar, mesmo empregos que demandam alta inteligência e criatividade podem gradualmente desaparecer. O mundo do xadrez serve como exemplo de para onde as coisas podem estar caminhando.
Nos últimos anos, os computadores tornaram-se tão bons em jogar xadrez que seus colaboradores humanos perderam seu valor e podem em breve se tornar totalmente irrelevantes. Em 6 de dezembro de 2017, um marco crucial foi alcançado quando o programa AlphaZero, da Google, derrotou o programa Stockfish 8. O Stockfish 8 havia vencido um campeonato mundial de xadrez em 2016, tendo acesso a séculos de experiência humana acumulada no xadrez, bem como décadas de experiência computacional.
Por outro lado, o AlphaZero não foi ensinado por seus criadores humanos em estratégias de xadrez – nem mesmo aberturas padrão. Ele usou os princípios mais recentes de aprendizado de máquina para ensinar a si mesmo xadrez jogando consigo mesmo. No entanto, em 100 jogos contra o Stockfish 8, o AlphaZero venceu 28 e empatou 72 – não perdeu nenhuma vez. AlphaZero passou de completa ignorância para mestria criativa em xadrez em quatro horas, sem a ajuda de qualquer guia humano.
AlphaZero não é o único software criativo por aí. Uma das maneiras de pegar trapaceiros em torneios de xadrez hoje é monitorar o nível de originalidade que os jogadores exibem. Se jogam uma jogada excepcionalmente criativa, os juízes frequentemente suspeitam que não pode ser uma jogada humana – deve ser uma jogada de computador. Pelo menos no xadrez, a criatividade já é considerada a marca registrada de computadores em vez de humanos. Então, se o xadrez é nosso “canário na mina de carvão”, fomos devidamente avisados de que o canário está morrendo. O que está acontecendo hoje com as equipes humano-IA no xadrez pode acontecer no futuro com equipes humano-IA na polícia, medicina, bancos e muitos outros campos.
Além disso, a IA possui habilidades não humanas únicas, tornando a diferença entre a IA e um trabalhador humano uma questão de espécie, não apenas de grau. Duas habilidades não humanas particularmente importantes que a IA possui são a conectividade e a atualização.
Por exemplo, muitos motoristas não estão familiarizados com todas as regulamentações de trânsito em constante mudança nas estradas em que dirigem, e frequentemente as desrespeitam. Além disso, como cada motorista é uma entidade singular, quando dois veículos se aproximam da mesma interseção, os motoristas às vezes não comunicam corretamente suas intenções e colidem. Carros autônomos, por outro lado, conhecerão todas as regulamentações de trânsito e nunca as desobedecerão de propósito, e todos eles podem estar conectados entre si. Quando dois desses veículos se aproximam da mesma junção, eles não serão realmente duas entidades separadas, mas parte de um único algoritmo. As chances de que possam comunicar incorretamente e colidir serão, portanto, muito menores.
Da mesma forma, se a Organização Mundial da Saúde identificar uma nova doença, ou se um laboratório produzir um novo medicamento, não pode atualizar imediatamente todos os médicos do mundo. No entanto, mesmo que você tivesse bilhões de médicos de IA no mundo – cada um monitorando a saúde de um único ser humano – você poderia atualizar todos eles em um instante, e eles poderiam comunicar uns aos outros suas avaliações da nova doença ou medicamento. Essas vantagens potenciais de conectividade e atualização são tão enormes que, pelo menos em algumas áreas de trabalho, poderia fazer sentido substituir todos os humanos por computadores, mesmo que individualmente alguns humanos ainda superem as máquinas.
AS MESMAS TECNOLOGIAS QUE PODEM TORNAR BILHÕES DE PESSOAS ECONOMICAMENTE IRRELEVANTES TAMBÉM PODEM FACILITAR A MONITORAÇÃO E CONTROLE DELAS.
Tudo isso leva a uma conclusão muito importante: a revolução da automação não consistirá em um único evento marcante, após o qual o mercado de trabalho se estabilizará em algum novo equilíbrio. Em vez disso, será uma cascata de interrupções cada vez maiores. Empregos antigos desaparecerão e novos empregos surgirão, mas os novos empregos também mudarão e desaparecerão rapidamente. As pessoas precisarão se requalificar e se reinventar não apenas uma vez, mas muitas vezes.
Assim como no século XX os governos estabeleceram sistemas massivos de educação para jovens, no século XXI será necessário estabelecer sistemas maciços de reeducação para adultos. Mas será suficiente? A mudança é sempre estressante, e o mundo agitado do início do século XXI tem gerado uma epidemia global de estresse. À medida que a volatilidade do emprego aumenta, as pessoas serão capazes de lidar com isso? Até 2050, uma classe inútil pode emergir, resultado não apenas da escassez de empregos ou falta de educação relevante, mas também da falta de resistência mental para continuar aprendendo novas habilidades.
Surgimento das ditaduras digitais.
À medida que muitas pessoas perdem seu valor econômico, também podem perder seu poder político. As mesmas tecnologias que podem tornar bilhões de pessoas economicamente irrelevantes também podem torná-las mais fáceis de monitorar e controlar.
A IA assusta muitas pessoas porque elas não confiam que ela permanecerá obediente. A ficção científica enfatiza a possibilidade de que computadores ou robôs desenvolverão consciência e, pouco depois, tentarão matar todos os humanos. No entanto, não há motivo específico para acreditar que a IA desenvolverá consciência à medida que se torna mais inteligente. Devemos temer a IA porque provavelmente sempre obedecerá aos seus mestres humanos e nunca se rebelará. A IA é uma ferramenta e uma arma diferente de qualquer outra que os seres humanos tenham desenvolvido; quase certamente permitirá que os já poderosos consolidem ainda mais seu poder.
Considere a vigilância. Numerosos países ao redor do mundo, incluindo várias democracias, estão ocupados construindo sistemas sem precedentes de vigilância. Por exemplo, Israel é líder na área de tecnologia de vigilância e criou no território ocupado da Cisjordânia um protótipo funcional de um regime de vigilância total. Hoje, sempre que os palestinos fazem uma ligação telefônica, postam algo no Facebook ou viajam de uma cidade para outra, é provável que sejam monitorados por microfones, câmeras, drones ou softwares espiões israelenses. Algoritmos analisam os dados coletados, ajudando as forças de segurança israelenses a identificar e neutralizar o que consideram ser ameaças potenciais. Os palestinos podem administrar algumas cidades e vilarejos na Cisjordânia, mas os israelenses comandam o céu, as ondas de rádio e o ciberespaço. Portanto, são necessários surpreendentemente poucos soldados israelenses para controlar efetivamente os aproximadamente 2,5 milhões de palestinos que vivem na Cisjordânia.
Em um incidente em outubro de 2017, um trabalhador palestino postou em sua conta privada do Facebook uma foto dele em seu local de trabalho, ao lado de um trator. Ao lado da imagem, ele escreveu: “Bom dia!” Um algoritmo de tradução do Facebook cometeu um pequeno erro ao transliterar as letras árabes. Em vez de Ysabechhum (que significa “Bom dia”), o algoritmo identificou as letras como Ydbachhum (que significa “Machuque-os”). Suspeitando que o homem poderia ser um terrorista com a intenção de usar um trator para atropelar pessoas, as forças de segurança israelenses o prenderam rapidamente. Eles o libertaram quando perceberam que o algoritmo cometeu um erro. Mesmo assim, a postagem ofensiva no Facebook foi removida – nunca se pode ser cuidadoso demais. O que os palestinos estão vivenciando hoje na Cisjordânia pode ser apenas uma prévia primitiva do que bilhões de pessoas eventualmente experimentarão em todo o planeta.
Imagine, por exemplo, que o atual regime da Coreia do Norte obtenha uma versão mais avançada desse tipo de tecnologia no futuro. Os norte-coreanos podem ser obrigados a usar uma pulseira biométrica que monitora tudo o que fazem e dizem, bem como sua pressão sanguínea e atividade cerebral. Usando o crescente entendimento do cérebro humano e aproveitando os imensos poderes do aprendizado de máquina, o governo norte-coreano pode eventualmente ser capaz de avaliar o que cada cidadão está pensando a cada momento. Se um norte-coreano olhasse para uma foto de Kim Jong Un e os sensores biométricos detectassem sinais reveladores de raiva (pressão sanguínea mais alta, aumento da atividade na amígdala), essa pessoa poderia estar no gulag (termo utilizado nos campos de concentração soviéticos e também utilizado para os campos de trabalhos forçados da Coreia do Norte) no dia seguinte.
O CONFLITO ENTRE DEMOCRACIA E DITADURA É, NA VERDADE, UM CONFLITO ENTRE DOIS SISTEMAS DE PROCESSAMENTO DE DADOS DIFERENTES. A IA PODE INCLINAR A VANTAGEM A FAVOR DO ÚLTIMO.
E, no entanto, táticas tão contundentes podem não se mostrar necessárias, pelo menos boa parte do tempo. Uma fachada de escolha livre e voto livre pode permanecer em vigor em alguns países, mesmo que o público exerça cada vez menos controle real. Sem dúvida, tentativas de manipular os sentimentos dos eleitores não são novas. Mas, uma vez que alguém (seja em São Francisco, Pequim ou Moscou) adquire a capacidade tecnológica de manipular o coração humano – de maneira confiável, barata e em escala -, a política democrática se transformará em um espetáculo emocional.
É improvável que enfrentemos uma rebelião de máquinas conscientes nas próximas décadas, mas podemos ter que lidar com hordas de bots (abreviatura de robô – é um programa de software que executa tarefas automatizadas, repetitivas e pré-definidas e imitam ou substituem o comportamento do usuário humano) que sabem como pressionar nossos botões emocionais melhor do que nossa mãe e que usam essa habilidade surpreendente, a pedido de uma elite humana, para tentar nos vender algo – seja um carro, um político ou uma ideologia inteira. Os bots podem identificar nossos medos mais profundos, ódios e desejos e usá-los contra nós. Já tivemos um aperitivo disso em eleições e referendos recentes ao redor do mundo, quando hackers aprenderam a manipular eleitores individuais analisando dados sobre eles e explorando seus preconceitos. Enquanto os thrillers de ficção científica são atraídos por apocalipses dramáticos de fogo e fumaça, na realidade, podemos estar enfrentando um apocalipse banal com um simples clique.
O maior e mais assustador impacto da revolução da IA pode ser na eficiência relativa de democracias e ditaduras. Historicamente, as autocracias enfrentaram desvantagens paralisantes em relação à inovação e ao crescimento econômico. No final do século XX, as democracias geralmente superavam as ditaduras porque eram muito melhores no processamento de informações. Costumamos pensar sobre o conflito entre democracia e ditadura como um conflito entre dois sistemas éticos diferentes, mas é realmente um conflito entre dois sistemas de processamento de dados diferentes. A democracia distribui o poder de processar informações e tomar decisões entre muitas pessoas e instituições, enquanto a ditadura concentra informações e poder em um único lugar. Dada a tecnologia do século XX, era ineficiente concentrar demais informações e poder em um só lugar. Ninguém tinha a capacidade de processar toda a informação disponível rápido o suficiente e tomar as decisões certas. Essa é uma razão pela qual a União Soviética tomou decisões muito piores do que os Estados Unidos e por que a economia soviética ficou muito atrás da economia americana.
No entanto, a inteligência artificial pode em breve balançar o pêndulo na direção oposta. A IA torna possível processar enormes quantidades de informações de forma centralizada. Na verdade, ela pode tornar sistemas centralizados muito mais eficientes do que sistemas difusos, porque a aprendizagem de máquina funciona melhor quando a máquina tem mais informações para analisar. Se você ignorar todas as preocupações com privacidade e concentrar todas as informações relacionadas a um bilhão de pessoas em um banco de dados, acabará com algoritmos muito melhores do que se respeitar a privacidade individual e tiver em seu banco de dados apenas informações parciais sobre um milhão de pessoas. Um governo autoritário que ordena a todos os seus cidadãos que sequenciem seu DNA e compartilhem seus dados médicos com uma autoridade central ganharia uma vantagem imensa em genética e pesquisa médica sobre sociedades em que os dados médicos são estritamente privados. A principal desvantagem dos regimes autoritários no século XX – o desejo de concentrar todas as informações e poder em um só lugar – pode se tornar sua vantagem decisiva no século XXI.
Novas tecnologias continuarão a surgir, é claro, e algumas delas podem incentivar a distribuição em vez da concentração de informações e poder. A tecnologia blockchain (mecanismo de banco de dados avançado que permite o armazenamento de dados em blocos interligados em uma cadeia e o compartilhamento transparente de informações na rede de uma empresa) e o uso de criptomoedas habilitadas por ela são atualmente apresentados como um possível contrapeso ao poder centralizado. No entanto, a tecnologia blockchain ainda está em estágio embrionário, e ainda não sabemos se de fato contrabalançará as tendências centralizadoras da IA. Lembre-se de que a Internet, também, foi exaltada em seus primeiros dias como uma panaceia libertária que libertaria as pessoas de todos os sistemas centralizados, mas agora está prestes a tornar a autoridade centralizada mais poderosa do que nunca.
A transferência de autoridade para máquinas.
Mesmo que algumas sociedades permaneçam ostensivamente democráticas, a crescente eficiência dos algoritmos ainda transferirá cada vez mais autoridade de indivíduos humanos para máquinas interconectadas. Podemos voluntariamente abrir mão de mais e mais autoridade sobre nossas vidas porque aprenderemos com a experiência a confiar nos algoritmos mais do que em nossos próprios sentimentos, eventualmente perdendo nossa capacidade de tomar muitas decisões por nós mesmos. Basta pensar na forma como, em meras duas décadas, bilhões de pessoas passaram a confiar no algoritmo de busca do Google com uma das tarefas mais importantes de todas: encontrar informações relevantes e confiáveis. À medida que confiamos mais no Google para obter respostas, nossa capacidade de localizar informações de forma independente diminui. Já hoje, a “verdade” é definida pelos principais resultados de uma pesquisa no Google. Esse processo também afetou nossas habilidades físicas, como a navegação no espaço. As pessoas pedem ao Google não apenas para encontrar informações, mas também para orientá-las. Carros autônomos e médicos de IA representariam uma erosão adicional: enquanto essas inovações colocariam caminhoneiros e médicos humanos fora do trabalho, sua importância maior está na contínua transferência de autoridade e responsabilidade para as máquinas.
Os humanos estão acostumados a pensar na vida como um drama de tomada de decisões. A democracia liberal e o capitalismo de livre mercado veem o indivíduo como um agente autônomo que toma constantemente decisões sobre o mundo. Obras de arte – sejam peças de Shakespeare, romances de Jane Austen ou comédias hollywoodianas bregas – geralmente giram em torno do herói tendo que tomar alguma decisão crucial. Ser ou não ser? Ouvir minha esposa e matar o rei Duncan, ou ouvir minha consciência e poupar sua vida? Casar com o Sr. Collins ou o Sr. Darcy? Teologias cristã e muçulmana também se concentram no drama da tomada de decisões, argumentando que a salvação eterna depende de fazer a escolha certa.
O que acontecerá com essa visão da vida à medida que dependermos da IA para tomar cada vez mais decisões por nós? Mesmo agora, confiamos no Netflix para recomendar filmes e no Spotify para escolher músicas que gostaremos. Mas por que a utilidade da IA deveria parar por aí?
Todos os anos, milhões de estudantes universitários precisam decidir o que estudar. Esta é uma decisão muito importante e difícil, tomada sob pressão de pais, amigos e professores que têm interesses e opiniões variados. Também é influenciada pelos medos e fantasias individuais dos alunos, moldados por filmes, novelas e campanhas publicitárias. Complicando ainda mais, um determinado aluno realmente não sabe o que é necessário para ter sucesso em uma determinada profissão e não tem necessariamente uma compreensão realista de suas próprias forças e fraquezas.
Não é difícil ver como a IA poderia um dia tomar decisões melhores do que nós sobre carreiras e, talvez, até mesmo sobre relacionamentos. Mas, uma vez que começamos a contar com a IA para decidir o que estudar, onde trabalhar e com quem namorar ou até mesmo casar, a vida humana deixará de ser um drama de tomada de decisões, e nossa concepção de vida precisará mudar. Eleições democráticas e mercados livres podem deixar de fazer sentido. Assim como a maioria das religiões e obras de arte. Imagine Anna Karenina pegando seu smartphone e perguntando à Siri se deveria continuar casada com Karenin ou fugir com o deslumbrante Conde Vronsky. Ou imagine sua peça de Shakespeare favorita com todas as decisões cruciais feitas por um algoritmo do Google. Hamlet e Macbeth teriam vidas muito mais confortáveis, mas que tipo de vidas seriam essas? Temos modelos para dar sentido a tais vidas?
Os parlamentos e os partidos políticos conseguem superar esses desafios e prevenir cenários mais sombrios? No momento atual, isso não parece provável. A interrupção tecnológica nem mesmo é um tópico principal na agenda política. Durante a corrida presidencial dos EUA em 2016, a principal referência à tecnologia disruptiva estava relacionada ao incidente de e-mail de Hillary Clinton, e, apesar de toda a conversa sobre perda de empregos, nenhum candidato abordou diretamente o impacto potencial da automação. Donald Trump alertou os eleitores sobre os mexicanos tirando seus empregos e que os EUA deveriam construir um muro em sua fronteira sul. Ele nunca alertou os eleitores de que algoritmos tirariam seus empregos, nem sugeriu construir uma “firewall” em torno da Califórnia.
Então, o que devemos fazer? Para começar, precisamos dar uma prioridade muito maior à compreensão de como a mente humana funciona, especialmente como nossa própria sabedoria e compaixão podem ser cultivadas. Se investirmos demais em IA e muito pouco no desenvolvimento da mente humana, a inteligência artificial muito sofisticada dos computadores pode acabar servindo apenas para capacitar a estupidez natural dos humanos e nutrir nossos piores impulsos, como ganância e ódio. Para evitar tal resultado, por cada dólar e cada minuto que investirmos na melhoria da IA, seria prudente investir um dólar e um minuto na exploração e desenvolvimento da consciência humana.
Mais pragmaticamente e de forma mais imediata, se quisermos evitar a concentração de toda a riqueza e poder nas mãos de uma pequena elite, devemos regular a propriedade de dados. Na antiguidade, a terra era o ativo mais importante, então a política era uma luta para controlar a terra. Na era moderna, máquinas e fábricas tornaram-se mais importantes do que a terra, então as lutas políticas se concentraram no controle desses meios vitais de produção. No século XXI, os dados eclipsarão tanto a terra quanto as máquinas como o ativo mais importante, então a política será uma luta para controlar o fluxo de dados.
Infelizmente, não temos muita experiência em regular a propriedade de dados, o que é inerentemente uma tarefa muito mais difícil do que regular terra ou máquinas. Os dados estão em todos os lugares e em lugar nenhum ao mesmo tempo, podem se mover à velocidade da luz, e você pode criar tantas cópias quanto quiser. Os dados coletados sobre meu DNA, meu cérebro e minha vida pertencem a mim, ao governo, a uma corporação ou ao coletivo humano?
A corrida para acumular dados já começou e está atualmente liderada por gigantes como Google e Facebook e, na China, Baidu e Tencent. Até agora, muitas dessas empresas atuaram como “comerciantes de atenção” – capturam nossa atenção fornecendo informações, serviços e entretenimento gratuitos, e depois revendem nossa atenção aos anunciantes. No entanto, o verdadeiro negócio deles não é apenas vender anúncios. Ao capturar nossa atenção, conseguem acumular imensas quantidades de dados sobre nós, que valem mais do que qualquer receita publicitária. Não somos seus clientes – somos seu produto.
As pessoas comuns encontrarão muito difícil resistir a esse processo. Atualmente, muitos de nós estão felizes em dar nosso ativo mais valioso – nossos dados pessoais – em troca de serviços de e-mail gratuitos e vídeos engraçados de gatos. Mas, se, mais tarde, as pessoas comuns decidirem tentar bloquear o fluxo de dados, provavelmente terão dificuldades em fazê-lo, especialmente porque podem ter passado a depender da rede para ajudá-las a tomar decisões, até mesmo para sua saúde e sobrevivência física.
A nacionalização de dados pelos governos poderia oferecer uma solução; certamente limitaria o poder das grandes corporações. No entanto, a história sugere que nem sempre estamos melhor nas mãos de governos excessivamente poderosos. Portanto, seria melhor convocar nossos cientistas, filósofos, advogados e até mesmo nossos poetas para voltarem sua atenção para essa grande questão: Como regular a propriedade de dados?
Atualmente, os humanos correm o risco de se tornarem semelhantes a animais domesticados. Criamos vacas dóceis que produzem enormes quantidades de leite, mas são, de outra forma, muito inferiores a seus ancestrais selvagens. São menos ágeis, menos curiosas e menos engenhosas. Estamos agora criando seres humanos domesticados que produzem enormes quantidades de dados e funcionam como chips eficientes em um imenso mecanismo de processamento de dados, mas mal maximizam seu potencial humano. Se não tomarmos cuidado, acabaremos com seres humanos rebaixados usando computadores atualizados para causar estragos em si mesmos e no mundo.
Se você achar essas perspectivas alarmantes, se não gostar da ideia de viver em uma ditadura digital ou alguma forma de sociedade degradada semelhante, a contribuição mais importante que pode fazer é encontrar maneiras de evitar que muitos dados se concentrem em poucas mãos e também encontrar maneiras de manter o processamento de dados distribuído mais eficiente do que o processamento de dados centralizado. Essas não serão tarefas fáceis, mas alcançá-las pode ser a melhor garantia da democracia.
Este artigo foi adaptado do livro “21 Lições para o Século 21” e traduzido por ferramentas de tradução online, foi escrito por Yuval Noah Harari, historiador e filósofo da Universidade Hebraica de Jerusalém.
Link do artigo original:
https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/