Gabinete de Horrores

Ascensão das máquinas e a tomada do poder pela inteligência artificial. Um mundo de total vigilância e controle social. Guerra nuclear e a degeneração da civilização. Muitas visões sombrias do futuro, desenhadas há muitos anos, deveriam ter acontecido hoje. E enquanto isso olhamos para trás e parece que eles não estavam lá. Tem certeza?

Existe um repertório bastante estereotipado de profecias distópicas (sobre a visão negra do futuro). Além das mais comuns associadas à destruição do meio ambiente e dos recursos naturais, acredita-se amplamente que as tecnologias mais recentes estão prejudicando a comunicação interpessoal, os relacionamentos e a sociedade.

O espaço virtual substituirá enganosamente a participação real no mundo. Outras visões distópicas veem o desenvolvimento tecnológico como uma forma de aumentar a desigualdade social, concentrando poder e riqueza nas mãos de pequenos grupos. As altas exigências da tecnologia moderna concentram conhecimentos e habilidades em círculos estreitos de indivíduos privilegiados, aumentam a vigilância das pessoas e destroem a privacidade.

De acordo com muitos futuristas, maior produtividade e maior escolha visível podem prejudicar a qualidade da vida humana, causando estresse, colocando em risco empregos e tornando-nos cada vez mais materialistas em relação ao mundo.

Um dos famosos "distópicos" tecnológicos, James Gleick, dá um exemplo aparentemente trivial de um controle remoto de TV como uma invenção clássica que não resolve um único problema significativo, dando origem a muitos novos. Gleick, citando um historiador técnico Eduardo Tenner, escreve que a capacidade e a facilidade de mudar de canal usando o controle remoto servem principalmente para distrair cada vez mais o espectador.

Em vez de satisfação, as pessoas estão cada vez mais insatisfeitas com os canais que assistem. Em vez de satisfazer as necessidades, há um sentimento de decepção sem fim.

Os carros nos manterão em reservas?

Seremos capazes de controlar essa coisa que é inevitável e provavelmente em breve? Sobre a inteligência artificial? Se este for o caso, como proclamam muitas visões distópicas, então não. (1).

É difícil controlar algo que é muitas vezes mais forte do que nós. com o aumento do número de tarefas. Vinte anos atrás, ninguém teria acreditado que pudesse ler emoções na voz de uma pessoa e enfrentá-la com muito mais precisão do que nós mesmos. Enquanto isso, os algoritmos atualmente treinados já são capazes de fazer isso, analisando expressões faciais, timbre e a forma como falamos.

Computadores desenham, compõe música e um deles até ganhou um concurso de poesia no Japão. Eles vêm derrotando as pessoas no xadrez há muito tempo, aprendendo o jogo do zero. O mesmo se aplica ao jogo muito mais complexo de Go.

ele obedece às leis da aceleração cada vez mais rápida. O que a IA alcançou - com a ajuda de humanos - nas últimas décadas dobrará nos próximos anos, talvez apenas meses, e então levará apenas semanas, dias, segundos ...

Como se viu recentemente, os algoritmos usados ​​em smartphones ou em aeroportos para analisar fotos de câmeras onipresentes podem não apenas reconhecer alguém em diferentes quadros, mas também determinar características psicológicas exclusivamente íntimas. Dizer que este é um grande risco de privacidade é como não dizer nada. Não se trata de simples vigilância, observando cada passo, mas de informações que surgem como resultado da própria aparência de uma pessoa, sobre seus desejos ocultos e preferências pessoais. 

Os algoritmos podem aprender isso de forma relativamente rápida analisando centenas de milhares de casos, o que é muito mais do que a pessoa mais astuta pode ver em toda a vida. Armados com tanta experiência, eles são capazes de escanear uma pessoa com mais precisão do que até mesmo o mais experiente psicólogo, linguagem corporal e analista de gestos.

Portanto, a verdadeira distopia arrepiante não é que os computadores joguem xadrez ou contra nós, mas que eles possam ver nossa alma mais profundamente do que qualquer outra pessoa além de nós mesmos, cheia de proibições e bloqueios em reconhecer essas ou outras inclinações.

Máscara do ego acredita que, à medida que os sistemas de IA começam a aprender e raciocinar em uma escala cada vez maior, a “inteligência” pode se desenvolver em algum lugar profundamente nas camadas da web, imperceptível para nós.

De acordo com um estudo americano publicado em 2016, nos próximos 45 anos, a inteligência artificial tem 50% de chance de superar os humanos em todas as tarefas. Os meteorologistas dizem que sim, a IA resolverá o problema do câncer, melhorará e acelerará a economia, proporcionará entretenimento, melhorará a qualidade e a duração da vida, nos educará para que não possamos viver sem ela, mas é possível que um dia, sem ódio, só que com base no cálculo lógico, apenas nos afasta. Talvez não funcione fisicamente, pois em cada sistema vale a pena economizar, arquivar e armazenar recursos que “podem ser úteis algum dia”. Sim, este é o recurso que podemos ser para a IA. Mão de obra protegida?

Os otimistas se consolam com o fato de que sempre há a oportunidade de tirar o plugue da tomada. No entanto, nem tudo é tão simples. A vida humana já se tornou tão dependente dos computadores que um passo radical contra eles seria um desastre para nós.

Afinal, estamos cada vez mais criando sistemas de tomada de decisão baseados em IA, dando a eles o direito de pilotar aviões, definir taxas de juros, operar usinas de energia - sabemos que os algoritmos farão isso muito melhor do que nós. Ao mesmo tempo, não entendemos completamente como essas decisões digitais são tomadas.

Há temores de que sistemas de comando superinteligentes como "Reduzir Congestionamento" possam levá-los a concluir que a única maneira eficaz de fazer o trabalho é... reduzir a população em um terço ou até metade.

Sim, vale a pena dar à máquina a instrução mais importante como “Em primeiro lugar, salve uma vida humana!”. No entanto, quem sabe se então a lógica digital levará à prisão da humanidade ou sob o celeiro, onde podemos estar seguros, mas certamente não livres.

Cibercrime como serviço

No passado, as distopias e imagens do mundo pós-apocalíptico na literatura e no cinema eram geralmente ambientadas na era pós-nuclear. Hoje, a aniquilação nuclear não parece necessária para a catástrofe e destruição do mundo como o conhecemos, embora não da forma como imaginamos que seja. , é improvável que destrua o mundo como em "Terminator", onde foi combinado com a aniquilação nuclear. Se o fizesse, não seria uma superinteligência, mas uma força primitiva. Afinal, nem mesmo a humanidade percebeu o cenário global de um conflito nuclear devastador.

Um apocalipse de máquina real pode ser muito menos impressionante.

Guerra cibernética, ataques de vírus, hackers de sistema e ransomware, ransomware (2) paralisam e destroem nosso mundo de maneira não menos eficaz do que bombas. Se sua escala se expandir, podemos entrar em uma fase de guerra total em que nos tornaremos vítimas e reféns de máquinas, embora elas não sejam obrigadas a agir de forma autônoma, e é possível que as pessoas ainda estejam por trás de tudo.

No verão passado, a Agência de Segurança Cibernética e Infraestrutura dos EUA (CISA) classificou os ataques de ransomware como “a ameaça à segurança cibernética mais visível”.

A CISA alega que muitas atividades em que um cibercriminoso intercepta e criptografa os dados de uma pessoa ou organização e extorque um resgate nunca são relatadas porque a vítima paga aos cibercriminosos e não está disposta a divulgar problemas com seus sistemas inseguros. Em um nível micro, os cibercriminosos geralmente têm como alvo pessoas mais velhas que têm dificuldade em distinguir entre conteúdo honesto e desonesto na Internet. Eles fazem isso com malware incorporado em um anexo de e-mail ou um pop-up em um site infectado. Ao mesmo tempo, os ataques a grandes corporações, hospitais, agências governamentais e governos estão aumentando.

Estes últimos foram especialmente visados ​​por causa dos dados confidenciais que possuíam e da capacidade de pagar grandes resgates.

Algumas informações, como informações de saúde, são muito mais valiosas para o proprietário do que outras e podem render mais dinheiro aos criminosos. Os ladrões podem interceptar ou colocar em quarentena grandes blocos de dados clínicos importantes para o atendimento ao paciente, como resultados de exames ou informações sobre medicamentos. Quando a vida está em jogo, não há espaço para negociação no hospital. Um dos hospitais americanos foi fechado permanentemente em novembro do ano passado após o ataque terrorista de agosto.

Provavelmente só vai piorar com o tempo. Em 2017, o Departamento de Segurança Interna dos EUA anunciou que os ataques cibernéticos poderiam atingir infraestruturas críticas, como concessionárias de água. E as ferramentas necessárias para realizar tais ações estão cada vez mais disponíveis para operadoras menores, a quem vendem pacotes de ransomware, como software Cerber e Petya, e cobram uma taxa de resgate após ataques bem-sucedidos. Baseado no cibercrime como serviço.

Desordem perigosa no genoma

Um dos tópicos populares da distopia é a genética, manipulação de DNA e criação de pessoas - além disso, "programadas" da maneira certa (autoridades, corporações, militares).

A incorporação moderna dessas ansiedades é um método de popularização Edição de genes CRISPR (3). Os mecanismos que ele contém são principalmente preocupantes. forçando as funções desejadas nas gerações subsequentes e seu potencial se espalha para toda a população. Um dos inventores desta técnica, Jennifer Doudna, até recentemente pediu uma moratória em tais técnicas de edição de "linha germinativa" devido a consequências potencialmente desastrosas.

Lembre-se que há alguns meses, um cientista chinês He Jiankui tem sido amplamente criticado por editar os genes de embriões humanos para imunizá-los contra o vírus da AIDS. A razão foi que as mudanças que ele fez poderiam ser passadas de geração em geração com consequências imprevisíveis.

De particular preocupação são os chamados d (gene reescrita, gene drive), ou seja, um mecanismo geneticamente modificado que codifica um sistema de edição no DNA de um determinado indivíduo Genoma CRISPR/CAS9 com a configuração para editar esta variante do gene indesejado. Devido a isso, os descendentes automaticamente (sem a participação de geneticistas) substituem a variante genética indesejada pela desejada.

No entanto, uma variante de gene indesejável pode ser recebida pela prole "como um presente" de um outro genitor não modificado. Então gene drive vamos quebrar Leis Mendelianas da Hereditariedadeque dizem que metade dos genes dominantes vai para a prole de um dos pais. Em suma, isso acabará levando à disseminação da variante do gene em questão para toda a população.

Biólogo da Universidade de Stanford Cristina Smolke, de volta a um painel sobre engenharia genética em 2016, alertou que esse mecanismo pode ter consequências prejudiciais e, em casos extremos, terríveis. A unidade genética é capaz de sofrer mutações à medida que passa pelas gerações e causar distúrbios genéticos, como hemofilia ou hemofilia.

Como lemos em um artigo publicado na Nature Reviews por pesquisadores da Universidade da Califórnia, Riverside, mesmo que um impulso funcione como pretendido em uma população de um organismo, o mesmo traço hereditário pode ser prejudicial se de alguma forma for introduzido em outra população. . o mesmo olhar.

Há também o perigo de que os cientistas criem unidades genéticas a portas fechadas e sem revisão por pares. Se alguém intencionalmente ou não introduzir um gene nocivo no genoma humano, como aquele que destrói nossa resistência à gripe, isso pode até significar o fim da espécie homo sapiens…

Capitalismo de Vigilância

Uma versão de distopia que os ex-escritores de ficção científica dificilmente poderiam ter imaginado é a realidade da Internet, e especialmente das mídias sociais, com todas as suas ramificações amplamente descritas que destroem a privacidade, os relacionamentos e a integridade psicológica das pessoas.

Este mundo só é pintado em performances de arte mais recentes, como o que pudemos ver na série Black Mirror no episódio de 2016 "The Diving" (4). Shoshana Zuboff, economista de Harvard, chama essa realidade completamente dependente da autoafirmação social e completamente "desprivatizada". capitalismo de vigilância (), e ao mesmo tempo o trabalho de coroação do Google e do Facebook.

4. Cena de "Black Mirror" - episódio "Diving"

De acordo com Zuboff, o Google é o primeiro inventor. Além disso, está constantemente expandindo suas atividades de vigilância, por exemplo, por meio de projetos de cidades inteligentes aparentemente inocentes. Um exemplo é o projeto World's Most Innovative Neighborhood da Sidewalk Labs, uma subsidiária do Google. cais Em Toronto.

O Google planeja coletar todos os menores dados sobre a vida dos habitantes da orla, seu movimento e até respiração com a ajuda de sensores de monitoramento onipresentes.

Também é difícil escolher uma distopia da internet que esteja fora de questão no Facebook. O capitalismo de vigilância pode ter sido inventado pelo Google, mas foi o Facebook que o levou a um nível totalmente novo. Isso foi feito por meio de mecanismos virais sociais e emocionais e perseguição implacável até mesmo daqueles que não são usuários da plataforma Zuckerberg.

IA protegida, imersa em realidade virtual, vivendo com UBI

De acordo com muitos futuristas, o futuro do mundo e da tecnologia é designado por cinco abreviações - AI, AR, VR, BC e UBI.

Os leitores de "MT" provavelmente sabem bem o que são e em que consistem os três primeiros. O familiar também acaba sendo o quarto, "BC", quando entendemos do que se trata. E o quinto? UBD é uma abreviação do conceito, que significa "renda básica universal » (5). Este é um benefício público, postulado de tempos em tempos, que será concedido a todas as pessoas liberadas do trabalho à medida que outras tecnologias se desenvolvem, especialmente a IA.

5. Renda Básica Universal - UBI

A Suíça chegou a levar a ideia a um referendo no ano passado, mas seus cidadãos a rejeitaram, temendo que a introdução de uma renda garantida levasse a uma enxurrada de imigrantes. A UBI também traz consigo uma série de outros perigos, incluindo o risco de perpetuar as desigualdades sociais existentes.

Cada uma das revoluções tecnológicas por trás da sigla (veja também :) - se se espalhar e se desenvolver na direção esperada - tem enormes consequências para a humanidade e nosso mundo, incluindo, é claro, uma grande dose de distopia. Por exemplo, acredita-se que poderia substituir os ciclos eleitorais de quatro anos e levar a referendos sobre inúmeras questões.

A realidade virtual, por sua vez, é capaz de “excluir” parte da humanidade do mundo real. Como aconteceu, por exemplo, com a coreana Jang Ji-sun, que, após a morte de sua filha em 2016 por uma doença terminal, conheceu seu avatar em VR. O espaço virtual também cria novos tipos de problemas, ou na verdade transfere todos os velhos problemas conhecidos para o "novo" mundo, ou mesmo para muitos outros mundos. Até certo ponto, já podemos ver isso nas redes sociais, onde acontece que poucas curtidas nas postagens levam à depressão e ao suicídio.

contos proféticos mais ou menos

Afinal, a história da criação de visões distópicas também ensina cautela na formulação de previsões.

6. Capa de "Ilhas na Rede"

Filmado no ano passado foi a famosa obra-prima de ficção científica de Ridley Scottcaçador androide» Desde 1982. É possível discutir o cumprimento ou não de muitos elementos específicos, mas é indiscutível que a profecia mais importante sobre a existência em nosso tempo de androides humanóides inteligentes, em muitos aspectos superiores aos humanos, ainda não se tornou realidade.

Estaríamos prontos para tolerar muitos outros golpes proféticos."Neuromantes»ou seja, romances William Gibson desde 1984, que popularizou o conceito de "ciberespaço".

No entanto, nessa década, apareceu um livro um pouco menos conhecido (em nosso país, quase completamente, porque não foi traduzido para o polonês), que previa o tempo de hoje com muito mais precisão. estou falando de romantismoIlhas na Web“(6) Bruce Sterling desde 1988, definido em 2023. Apresenta um mundo imerso em algo semelhante à Internet, conhecida como “web”. É controlado por grandes corporações internacionais. As "Ilhas na Rede" são notáveis ​​na medida em que proporcionam controle, vigilância e monopolização da Internet supostamente livre.

Também é interessante prever operações militares realizadas com veículos aéreos não tripulados (drones) contra piratas/terroristas online. Operadores a milhares de quilômetros de distância com desktops seguros - como sabemos disso? O livro não é sobre o conflito sem fim com o terrorismo islâmico, mas sobre a luta contra as forças que se opõem à globalização. O mundo de Islands in the Net também está repleto de dispositivos de consumo que se parecem muito com relógios inteligentes e sapatos esportivos inteligentes.

Há outro livro dos anos 80 que, embora alguns dos eventos pareçam mais fantásticos, faz um bom trabalho em ilustrar nossos medos distópicos modernos. Esse "Software georadar", História Rudy Rookerdefinido em 2020. O mundo, o estado da sociedade e seus conflitos parecem incrivelmente semelhantes ao que estamos lidando hoje. Há também robôs conhecidos como boppers que ganharam autoconsciência e escaparam para cidades na lua. Esse elemento ainda não se concretizou, mas a revolta das máquinas está se tornando um refrão constante de previsões negras.

As visões de nosso tempo nos livros também são surpreendentemente precisas em muitos aspectos. Octavia Butler, especialmente emParábolas do semeador» (1993). A ação começa em 2024 em Los Angeles e acontece na Califórnia, devastada por enchentes, tempestades e secas causadas pelas mudanças climáticas. Famílias de classe média e trabalhadora se encontram em condomínios fechados enquanto tentam escapar do mundo exterior com drogas viciantes e kits de realidade virtual. Novas religiões e teorias da conspiração estão surgindo. A caravana de refugiados segue para o norte para evitar o colapso ecológico e social. Chega ao poder um presidente que usa o slogan de campanha "Make America Great Again" (este é o slogan de Donald Trump) ...

segundo livro de Butler, "Parábola dos Talentosconta como membros de um novo culto religioso deixam a Terra em uma nave espacial para colonizar Alpha Centauri.

***

Qual é a lição desta extensa pesquisa de previsões e visões feitas há várias décadas sobre nossas vidas diárias?

Provavelmente, o fato é que as distopias acontecem com frequência, mas na maioria das vezes apenas parcialmente.