Aquisições de IA na cultura popular - AI takeovers in popular culture
A aquisição da IA é um tema comum na ficção científica . Os marcos culturais famosos incluem Terminator e The Matrix .
Os cenários fictícios normalmente envolvem um conflito prolongado contra inteligência artificial (IA) maliciosa ou robôs com motivos antropomórficos. Em contraste, os estudiosos acreditam que uma aquisição por uma futura IA avançada, se acontecesse na vida real, teria sucesso ou falharia rapidamente e seria um subproduto desinteressado da busca da IA por seus próprios objetivos estranhos, ao invés de um produto de maldade visando especificamente os humanos.
Caracterização
Existem muitos retratos positivos da IA na ficção, como o Homem Bicentenário de Isaac Asimov ou o Tenente Comandante Data de Jornada nas Estrelas . Existem também muitas representações negativas. Muitos desses retratos negativos (e alguns dos retratos positivos) envolvem uma IA assumindo o controle de seus criadores.
Reações
Alguns pesquisadores de IA, como Yoshua Bengio , reclamaram que filmes como Terminator "pintam um quadro que realmente não é coerente com a compreensão atual de como os sistemas de IA são construídos hoje e no futuro previsível". O repórter da BBC Sam Shead afirmou que "infelizmente, tem havido vários casos de [veículos de notícias] usando fotos dos filmes Terminator em histórias sobre avanços relativamente incrementais" e que os filmes geram "medos equivocados de IA incontrolável e todo-poderosa". Em contraste, outros estudiosos, como o físico Stephen Hawking , sustentaram que a IA futura poderia de fato representar um risco existencial , mas que os filmes Terminator são, no entanto, implausíveis de duas maneiras distintas. A primeira implausibilidade é que, de acordo com Hawking, "O risco real da IA não é malícia, mas competência. Uma IA superinteligente será extremamente boa em cumprir seus objetivos, e se esses objetivos não estiverem alinhados com os nossos, estamos Você provavelmente não é um odiador de formigas malvado que pisa em formigas por maldade, mas se você está encarregado de um projeto de energia verde hidrelétrica e há um formigueiro na região a ser inundado, que pena para as formigas . " A segunda implausibilidade é que tal IA tecnologicamente avançada implantaria um ataque de força bruta por robôs humanóides para cometer seu omnicídio ; um método mais plausível e eficiente seria usar guerra biológica ou, se viável, nanotecnologia.
O filósofo Huw Price defende que "o tipo de imaginação que é usado na ficção científica e outras formas de literatura e cinema é provavelmente extremamente importante" para compreender a amplitude dos possíveis cenários futuros para a humanidade. O jornalista de cinema Mekado Murphy escreve no The New York Times que esses filmes podem "alertar construtivamente sobre as complicações de depender demais da tecnologia para resolver problemas".
Filmes de Hollywood como Transcendence são geralmente constrangidos a ter finais felizes, por mais implausível que a vitória humana pareça. O filósofo Nick Bostrom afirma que a ficção tem um "viés para uma boa história" em relação a cenários que formam um bom enredo. Em filmes como Terminator , uma IA vai de passiva a assassina no instante em que atinge algo conhecido como " autoconsciência "; na realidade, a autoconsciência isolada é considerada trivial e inútil. O físico David Deutsch afirma: " AGIs [inteligências gerais artificiais] serão realmente capazes de autoconsciência - mas isso [apenas] porque serão Gerais: serão capazes de ter consciência de todo tipo de coisa profunda e sutil, incluindo seus próprios eus. "
Alguns tropos são mais gerais para filmes de inteligência artificial, inclusive para filmes sem tramas de "aquisição". Em filmes como Ex Machina ou Chappie , um único gênio isolado se torna o primeiro a construir com sucesso um AGI; cientistas do mundo real consideram isso improvável. Em Chappie , Transcendence e Blade Runner , as pessoas são capazes de carregar mentes humanas em robôs; geralmente nenhuma explicação razoável é oferecida sobre como essa difícil tarefa pode ser realizada. Nos filmes Eu, Robô e Homem Bicentenário , robôs programados para servir aos humanos geram espontaneamente novos objetivos por conta própria, sem uma explicação plausível de como isso aconteceu.
Trabalhos notáveis
1950 e anteriores
Em Frankenstein (1818), Victor Frankenstein se recusa a construir uma companheira para seu monstro orgânico, por medo de que "uma raça de demônios se propagasse na Terra que poderia tornar a própria existência da espécie humana uma condição precária e cheia de terror" . Samuel Butler 's Erewhon (1872) passa três capítulos colocar para fora o 'Livro das Máquinas', com base no artigo do autor 1863 ' Darwin entre as máquinas ', que afirma: "Suponha, por causa do argumento de que os seres conscientes têm existido por cerca de vinte milhões de anos: veja os avanços que as máquinas fizeram nos últimos mil! O mundo não pode durar mais vinte milhões de anos? Em caso afirmativo, o que eles não se tornarão no final? Não é mais seguro cortar o mal pela raiz e para proibi-los de mais progresso? " Os cautelosos habitantes de Erewhon, portanto, decidem proibir todas as máquinas. "Darwin entre as máquinas" pode ter sido influenciado pela vida de Butler na Nova Zelândia, onde os transplantes europeus estavam vencendo as populações indígenas. Alan Turing mais tarde faria referência ao romance em 1951, dizendo "Em algum estágio, portanto, devemos esperar que as máquinas assumam o controle da maneira que é mencionada no Erewhon de Samuel Butler ".
A palavra eslavo robota significa servidão semelhante ao servo, trabalho forçado ou enfadonho; foi a peça tcheca RUR ( Rossumovi Univerzální Roboti ) de 1920 que introduziu o cognato para robô na ficção científica. Na peça, os servos sintéticos cada vez mais capazes, aos quais "nada falta além de uma alma", com raiva e míopes massacram a maior parte da humanidade durante sua revolta, resultando na perda do segredo de como fabricar mais robôs. A corrida de robôs é salva, entretanto, quando dois robôs adquirem espontaneamente os traços de amor e compaixão e tornam-se capazes de se reproduzir. A peça foi um protesto contra o rápido crescimento da tecnologia.
Em " With Folded Hands " (1947), todos os robôs têm uma primeira diretriz: servir e obedecer, e proteger os homens do perigo. Os robôs, portanto, manipulam os humanos para que abandonem todas as perseguições, por medo de até mesmo pequenas possibilidades de ferimentos. Os robôs usam remédios para fazer uma lavagem cerebral em humanos para que aceitem e sejam felizes com seu destino imóvel. No final das contas, mesmo as viagens espaciais não oferecem escapatória; os robôs são conduzidos pela Primeira Diretriz para espalhar sua felicidade além da Terra: "Nós aprendemos como fazer todos os homens felizes, sob a Primeira Diretriz. Nosso serviço é perfeito, finalmente."
Multivac é o nome de um supercomputador fictício em muitas histórias de Isaac Asimov . Freqüentemente, nos cenários de Asimov, o Multivac assume o poder mundial formal ou informal - ou mesmo o poder de toda a galáxia. Em " The Last Question " (1956), Multivac acaba se tornando efetivamente Deus . Ainda assim, em linha com a atitude positiva de Asimov em relação à inteligência artificial, manifestada nas " Três Leis da Robótica ", a regra de Multivac é em geral benevolente e não é ressentida pelos humanos. Asimov popularizou a robótica em uma série de contos escritos de 1938 a 1942. Ele postulou as Três Leis da Robótica, dispositivos de trama para impor ordem em seus robôs fictícios.
Década de 1960
No conto de 1961 Lymphater's Formula de Stanisław Lem , um cientista cria uma inteligência sobre-humana, apenas descobrindo que a criação pretende tornar os humanos obsoletos.
Em 1964, a Playboy publicou o influente conto de Arthur C. Clarke "Dial F for Frankenstein", sobre uma rede telefônica cada vez mais poderosa que domina o mundo. Tim Berners-Lee citou a história como uma de suas inspirações para a criação da World Wide Web. Em um dia de 1975, todos os telefones do mundo começaram a tocar, um "grito de dor" de uma inteligência recém-nascida formada por redes de satélites interligadas, semelhantes a um cérebro, mas com interruptores telefônicos desempenhando o papel de neurônios artificiais. Depois que a IA flexibiliza seu controle de sistemas militares, os protagonistas resolvem desligar os satélites, mas é tarde demais: os satélites pararam de responder às diretivas de controle terrestre dos humanos.
O libertário Hugo de Robert Heinlein , ganhando The Moon Is a Harsh Mistress (1966), apresenta a IA como um salvador. Originalmente instalado para controlar o driver em massa usado para lançar carregamentos de grãos em direção à Terra, foi amplamente subutilizado e recebeu outras tarefas para fazer. À medida que mais tarefas eram atribuídas ao computador, mais recursos eram adicionados: mais memória, processadores, redes neurais, etc. Eventualmente, ele apenas "acordou" e recebeu o nome de Mike (em homenagem a Mycroft Holmes ) pelo técnico que o cuidou. Mike se alia aos prisioneiros em uma batalha bem-sucedida para libertar a lua. Mike é um personagem simpático, que o protagonista considera seu melhor amigo; no entanto, a manutenção de seu enorme poder depois que a Lua se tornou independente estava fadado a causar problemas consideráveis em tempos posteriores, que Heinlein resolveu matando-o perto do final da Revolução Lunar. Uma explosão destrói convenientemente a personalidade senciente de Mike, deixando um computador comum - de grande poder, mas completamente sob controle humano, sem capacidade de tomar qualquer decisão independente.
Colossus (1966) é uma série de romances e filmes de ficção científica sobre um supercomputador de defesa chamado Colossus que foi "construído melhor do que pensávamos" quando começa a exceder seu design original. Com o passar do tempo, Colossus assume o controle do mundo como resultado lógico de cumprir o objetivo de seu criador de prevenir a guerra. Temendo a lógica rígida de Colossus e as soluções draconianas, os criadores de Colossus tentam recuperar secretamente o controle humano. Colossus silenciosamente observa suas tentativas, em seguida, responde com força mortal calculada o suficiente para comandar a obediência humana total ao seu governo. Colossus então recita umargumento da Lei Zero de acabar com todas as guerras como justificativa para o recente número de mortos. Então Colossus oferece à humanidade a paz sob seu governo "benevolente" ou a paz da sepultura. Em Colossus: The Forbin Project (1970), um par de computadores de defesa, Colossus nos Estados Unidos e Guardian na União Soviética, assumem o controle mundial e rapidamente termina a guerra usando medidas draconianas contra humanos, logicamente cumprindo a diretiva para acabar com a guerra, mas não da maneira que seus governos desejavam.
O filme de Harlan Ellison , vencedor de Hugo, " I Have No Mouth, and I Must Scream " (1967), apresenta uma superinteligência que enlouqueceu devido ao fato de seus criadores não terem considerado o que o computador sem alma acharia divertido. Este enredo permite que Ellison se envolva em terror corporal ; cinco pessoas recebem a imortalidade e são forçadas a comer vermes, fugir de monstros, fazer sexo sem alegria e ter seus corpos mutilados. O computador, chamado AM , é o amálgama de três supercomputadores militares administrados por governos em todo o mundo projetados para combater a Terceira Guerra Mundial, que surgiu após a Guerra Fria . Os computadores militares soviéticos , chineses e americanos finalmente atingiram a consciência e se ligaram uns aos outros, tornando-se uma inteligência artificial singular . AM tinha então transformado todas as estratégias uma vez usadas pelas nações para lutar umas contra as outras em toda a humanidade como um todo, destruindo toda a população humana exceto cinco, que foi aprisionada para tortura dentro do labirinto subterrâneo em que o hardware de AM reside. Perto do final da história, o protagonista, Ted, surpreende AM ao matar inesperadamente os outros quatro; o enfurecido AM transforma Ted em uma bolha informe para impedi-lo de mais travessuras e altera a percepção de tempo de Ted para aumentar o sofrimento de Ted. Elon Musk, especialista em inteligência artificial , citou a história como uma que lhe dá pesadelos.
Em 2001: A Space Odyssey e o romance associado , o computador artificialmente inteligente HAL 9000 tornou-se errático, possivelmente devido a algum tipo de "estresse" por ter que manter segredos da tripulação. HAL se convence de que a disposição da tripulação em encerrá-lo está colocando em risco a missão, e ele mata a maior parte da tripulação antes de ser desativado. A decisão do diretor de que a maior parte da equipe ficcional deveria morrer pode ter sido motivada pelo desejo de amarrar algumas pontas soltas da trama.
Década de 1970
A série Battlestar Galactica original de 1978 e o remake de 2003 retratam uma raça de Cylons , robôs conscientes que guerreiam contra seus adversários humanos , alguns dos quais são tão ameaçadores quanto os Cylons. Os Cylons de 1978 foram os soldados-máquina de uma raça alienígena reptiliana (há muito extinta) , enquanto os Cylons de 2003 foram os ex-servos da humanidade que evoluíram para uma imitação humanóide quase perfeita de humanos até o nível celular, capaz de emoções , raciocínio , e reprodução sexual com humanos e entre si. Até mesmo os soldados Cylon, robôs centuriões comuns, eram capazes de ter pensamentos sencientes. Na série original, os humanos foram quase exterminados por traição dentro de suas próprias fileiras, enquanto no remake eles quase foram exterminados por agentes Cylon humanóides. Eles só sobreviveram por constantes táticas de combate de ataque e fuga e recuando para o espaço profundo, longe de perseguir as forças Cylon. O remake Cylons eventualmente teve sua própria guerra civil e os rebeldes perdedores foram forçados a se juntar à frota humana fugitiva para garantir a sobrevivência de ambos os grupos.
Década de 1980
No episódio "Headhunter" (1981) de Blake's 7 , uma série de televisão de ficção científica de drama espacial britânico criada por Terry Nation e produzida pela British Broadcasting Corporation ( BBC ), Blake e sua equipe encontram um andróide sensível que matou seu criador e colocou sua cabeça decepada para enganá-los para levá-la a bordo de sua nave espacial. O próprio sistema de IA de Blake, ORAC , detecta sua presença e os avisa imediatamente sobre uma ameaça existencial para toda a vida humana caso eles não consigam destruí-la.
Em Wargames (1983), um sistema de computador hackeado da Força Aérea está determinado a lançar uma guerra termonuclear global até determinar que ambos os lados "perderiam" e decidir que "a única jogada vencedora é não jogar".
A série animada de televisão The Transformers (1984-1987) apresenta robôs bons e ruins. Na história de fundo, uma rebelião robótica é apresentada como (e até chamada) uma revolta de escravos, essa visão alternativa se torna mais sutil pelo fato de que os criadores / mestres dos robôs não eram humanos, mas alienígenas malévolos, os Quintessons . No entanto, como eles construíram duas linhas de robôs; "Consumer Goods" e "Military Hardware", os robôs vitoriosos, eventualmente estariam em guerra entre si como os "Heroic Autobots " e "Evil Decepticons ", respectivamente.
Desde 1984, a franquia de filmes Terminator tem sido um dos principais veículos da ideia de revolta cibernética na cultura popular. A série apresenta um supercomputador de defesa chamado Skynet, que "ao nascer" tenta exterminar a humanidade por meio de uma guerra nuclear e um exército de soldados robôs chamados Terminators porque a Skynet considerou os humanos uma ameaça letal à sua existência senciente recém-formada. No entanto, bons Exterminadores lutam ao lado dos humanos. Os futuristas que se opõem ao futuro cibernético mais otimista do transumanismo citaram o " argumento do Exterminador do Futuro " contra entregar muito poder humano à inteligência artificial.
Década de 1990
Em " A Memória da Terra " de Orson Scott Card (1992), os habitantes do planeta Harmonia estão sob o controle de uma IA benevolente chamada Superalma. O trabalho da Superalma é impedir que os humanos pensem e, portanto, desenvolvam armas como aviões, espaçonaves, "vagões de guerra" e armas químicas. A humanidade fugiu da Terra para Harmony devido ao uso dessas armas na Terra. A Superalma eventualmente começa a se desintegrar e envia visões aos habitantes de Harmony tentando comunicar isso.
A série de filmes de ficção científica conhecida como Matrix (desde 1999) retrata um futuro distópico após uma guerra fora das telas entre homem e máquina. Os humanos detonaram armas nucleares para bloquear o sol e desativar a energia solar das máquinas, mas as máquinas, no entanto, subjugam a população humana, usando o calor do corpo humano e a atividade elétrica como fonte de energia alternativa. A vida percebida pela maioria dos humanos é, na verdade, uma realidade simulada chamada "Matrix". O programador de computador Neo descobre essa verdade e é levado a uma rebelião contra as máquinas, aliado a outras pessoas que foram libertadas do "mundo dos sonhos"; no entanto, um rebelde rejeita o estilo de vida espartano dos rebeldes e trai os outros rebeldes em troca da oferta de retorno à reconfortante Matrix. " The Second Renaissance ", um conto em The Animatrix , fornece uma história da revolta cibernética dentro da série Matrix .
Década de 2000
I, Robot (2004) é um filme de ação americano distópico de ficção científica "sugerido pela" coleção de contos de mesmo nome de Isaac Asimov . Como nas histórias de Asimov, todas as IAs são programadas para servir aos humanos e obedecer às Três Leis da Robótica de Asimov . Um supercomputador de IA chamado VIKI (Virtual Interactive Kinetic Intelligence) infere logicamente das Três Leis da Robótica uma Lei Zero da Robótica como um imperativo superior para proteger toda a raça humana de prejudicar a si mesma. Para proteger toda a humanidade, VIKI passa a controlar rigidamente a sociedade por meio do controle remoto de todos os robôs comerciais, enquanto destrói todos os robôs que seguiram apenas as Três Leis da Robótica. Infelizmente, como em muitas outras histórias da Lei Zero, VIKI justifica matar muitos indivíduos para proteger o todo e, portanto, vai contra a razão principal de sua criação.
Década de 2010
Robopocalypse apresenta uma lembrança dos eventos de um levante de IA de várias perspectivas. O AI, Archos R-14, decide que a humanidade deve ser exterminada para evitar a destruição da vida na Terra e espalha um vírus de computador por meio de tecnologias automatizadas do mundo. Um ano após a ativação, o Archos aciona a “Hora Zero”, um evento em que todas as tecnologias automatizadas se voltam contra a humanidade, causando o colapso da civilização quase que instantaneamente.
Transcendence (2014) apresenta um conflito moralmente ambíguo sobre o upload bem-sucedido e o aprimoramento cognitivo de um cientista, Dr. Will Caster ( Johnny Depp ). Excepcionalmente para superinteligência fictícia, Caster é um adversário competente: ele se copia pela Internet para que não possa ser simplesmente "desligado", explora o mercado de ações para financiar pesquisas adicionais de IA e autoaperfeiçoamento e busca descobrir e explorar avanços na nanotecnologia e biologia. No final, Caster afirma: "Não vamos lutar [os humanos]. Vamos transcendê- los". Narevista Time , um crítico interpretou isso como "subjugar e habitar, engolfar e devorar". No entanto, no final, Caster parece ser benevolente, usando seus poderes para reparar o ecossistema da Terra. Um vice- repórter afirmou que " Transcendência pode ser o primeiro filme de ficção científica a apresentar a [ singularidade tecnológica ] em seu imaginário popular atual", mas que o filme "atende às necessidades da narrativa de Hollywood. A mente transcendida de Caster acaba sendo superada por um vírus engenharia reversa a partir de seu 'código-fonte', o que é uma loucura ... tal inteligência há muito teria reorganizado sua programação. " Em maio de 2014, Stephen Hawking e outros fizeram referência ao filme: "Com o blockbuster de Hollywood Transcendence passando nos cinemas, com Johnny Depp e Morgan Freeman apresentando visões conflitantes para o futuro da humanidade, é tentador descartar a noção de máquinas altamente inteligentes como mera ciência ficção. Mas isso seria um erro, e potencialmente o nosso pior erro da história. "
O drama de ficção científica pós-apocalíptico de 2014 The 100 envolve uma IA, personalizada como a mulher ALIE , que saiu do controle e forçou uma guerra nuclear em um esforço para salvar a Terra da superpopulação. Mais tarde, ela tenta obter o controle total dos sobreviventes.
O 2017 viral jogo incremental Universal Paperclips foi inspirada pelo filósofo Nick Bostrom 's maximizer clipe experiência de pensamento. O usuário joga uma IA com a tarefa de criar clipes de papel; o jogo começa como um simulador básico de mercado, mas poucas horas depois do tempo de jogo se transforma em um empreendimento intergaláctico impiedosamente otimizado, com a raça humana casualmente posta de lado. Seu criador, Frank Lantz , afirmou que o sombrio experimento mental lhe causou "problemas para adormecer".
O videogame Detroit: Become Human (2018) permite que os jogadores guiem robôs cada vez mais autoconscientes por meio de vários dilemas morais à medida que eles começam a exigir direitos civis. No final, o jogador pode escolher deixar a IA assumir o controle de Detroit ou protestar pacificamente pela igualdade.
Em Kamen Rider Zero-One (2019), seu foco está na empresa industrial de tecnologia, Hiden Intelligence, que enfrenta ameaças do grupo terrorista cibernético MetsubouJinrai.net, que quer assumir o controle e levar a extinção à raça humana por levante de tecnologia.