Governo por algoritmo - Government by algorithm
| Parte de uma série sobre |
| Algocracia |
|---|
 |
| Exemplos |
| Parte de uma série sobre |
| Governança |
|---|
| Modelos |
| Por nível |
| Por campo |
| Medidas |
| tópicos relacionados |
Governo pelo algoritmo (também conhecido como Regulamento algorítmica , regulação por algoritmos , governança algorítmica , governança algocratic , ordem jurídica algorítmica ou algocracy ) é uma forma alternativa de governo ou ordenamento social , onde o uso do computador algoritmos , especialmente de inteligência artificial e blockchain , é aplicado a regulamentos, aplicação da lei e, geralmente, qualquer aspecto da vida cotidiana, como transporte ou registro de terras. O termo 'governo por algoritmo' apareceu na literatura acadêmica como uma alternativa para 'governança algorítmica' em 2013. Um termo relacionado, regulação algorítmica é definido como o estabelecimento do padrão, monitoramento e modificação de comportamento por meio de algoritmos computacionais - automação do judiciário é em seu escopo.
O governo por algoritmo levanta novos desafios que não são captados na literatura do governo eletrônico e na prática da administração pública. Algumas fontes equiparam a ciberocracia , que é uma forma hipotética de governo que rege pelo uso efetivo da informação, com a governança algorítmica, embora os algoritmos não sejam o único meio de processamento da informação. Nello Cristianini e Teresa Scantamburlo argumentaram que a combinação de uma sociedade humana e certos algoritmos de regulação (como pontuação baseada em reputação) forma uma máquina social .
História
Em 1962, o diretor do Instituto para Problemas de Transmissão de Informação da Academia Russa de Ciências de Moscou (posteriormente Instituto Kharkevich), Alexander Kharkevich , publicou um artigo na revista "Comunista" sobre uma rede de computadores para processamento de informações e controle da economia . Na verdade, ele propôs fazer uma rede como a Internet moderna para as necessidades de governança algorítmica. Isso criou uma séria preocupação entre os analistas da CIA. Em particular, Arthur M. Schlesinger Jr. advertiu que "em 1970 a URSS pode ter uma tecnologia de produção radicalmente nova, envolvendo empresas totais ou complexos de indústrias, gerenciados por loop fechado, controle de feedback empregando computadores autodidatas " .
Entre 1971 e 1973, o governo chileno realizou o Projeto Cybersyn durante a presidência de Salvador Allende . Este projeto teve como objetivo a construção de um sistema distribuído de apoio à decisão para melhorar a gestão da economia nacional.
Também nas décadas de 1960 e 1970, Herbert A. Simon defendeu os sistemas especialistas como ferramentas de racionalização e avaliação do comportamento administrativo. A automação de processos baseados em regras foi uma ambição dos órgãos fiscais ao longo de muitas décadas, resultando em sucessos variáveis. Os primeiros trabalhos deste período incluem o influente projeto TAXMAN de Thorne McCarty nos Estados Unidos e o projeto LEGOL de Ronald Stamper no Reino Unido. Em 1993, o cientista da computação Paul Cockshott da University of Glasgow e o economista Allin Cottrell da Wake Forest University publicaram o livro Towards a New Socialism , no qual afirmam demonstrar a possibilidade de uma economia planejada democraticamente , baseada na moderna tecnologia da computação. O Honorável Juiz Michael Kirby publicou um artigo em 1998, no qual expressou otimismo de que as tecnologias de computador então disponíveis, como o sistema jurídico especializado, poderiam evoluir para sistemas de computador, o que afetaria fortemente a prática dos tribunais. Em 2006, o advogado Lawrence Lessig, conhecido pelo slogan "Código é lei", escreveu:
"[A] mão invisível do ciberespaço está construindo uma arquitetura que é exatamente o oposto de sua arquitetura original. Essa mão invisível, empurrada pelo governo e pelo comércio, está construindo uma arquitetura que aperfeiçoará o controle e tornará possível uma regulamentação altamente eficiente "
Desde os anos 2000, algoritmos foram projetados e usados para analisar automaticamente os vídeos de vigilância .
O sociólogo A. Aneesh usou a ideia de governança algorítmica em 2002 em sua teoria da algocracia. Aneesh diferenciava sistemas algocráticos de sistemas burocráticos (regulamentação legal-racional), bem como sistemas baseados no mercado (regulamentação baseada em preços).
Em 2013, a regulamentação algorítmica foi cunhada por Tim O'Reilly , fundador e CEO da O'Reilly Media Inc .:
Às vezes, as "regras" nem mesmo são regras. Gordon Bruce, o ex-CIO da cidade de Honolulu, explicou-me que quando entrou no governo vindo do setor privado e tentou fazer mudanças, disseram-lhe: "Isso é contra a lei". Sua resposta foi "OK. Mostre-me a lei". "Bem, não é realmente uma lei. É um regulamento." "OK. Mostre-me o regulamento." "Bem, não é realmente um regulamento. É uma política que foi posta em prática pelo Sr. Alguém vinte anos atrás." "Ótimo. Podemos mudar isso!" "
[...] As leis devem especificar objetivos, direitos, resultados, autoridades e limites. Se especificadas de forma ampla, essas leis podem resistir ao teste do tempo. Os regulamentos, que especificam como executar essas leis com muito mais detalhes, devem ser considerados quase da mesma maneira que os programadores consideram seu código e algoritmos, ou seja, como um conjunto de ferramentas constantemente atualizado para alcançar os resultados especificados nas leis. [...] É hora de o governo entrar na era dos big data. A regulação algorítmica é uma ideia cuja hora chegou.
Em 2017, o Ministério da Justiça da Ucrânia realizou leilões experimentais do governo usando a tecnologia blockchain para garantir a transparência e impedir a corrupção nas transações governamentais. "Governo por algoritmo?" foi o tema central apresentado na conferência Data for Policy 2017 , realizada de 6 a 7 de setembro de 2017 em Londres, Reino Unido.
Exemplos
Cidades inteligentes
Uma cidade inteligente é uma área urbana, onde os dados de vigilância coletados são usados para melhorar várias operações nessa área. O aumento do poder computacional permite uma tomada de decisão mais automatizada e a substituição de órgãos públicos por governança algorítmica. Em particular, o uso combinado de inteligência artificial e cadeias de bloqueio para IoT pode levar à criação de ecossistemas de cidades inteligentes sustentáveis . A iluminação pública inteligente em Glasgow é um exemplo dos benefícios trazidos pela aplicação governamental de algoritmos de IA.
O milionário da criptomoeda , Jeffrey Berns, propôs administrar os governos locais por empresas de tecnologia em Nevada em 2021. O Sr. Berns comprou 67.000 acres (271 km²) no condado rural de Storey em Nevada por $ 170.000.000 (£ 121.000.000) em 2018 para desenvolver uma cidade inteligente com mais de 36.000 residentes, gerando uma produção anual de $ 4.600.000.000. Criptomoeda será permitida para pagamentos.
Sistemas de reputação
Tim O'Reilly sugeriu que as fontes de dados e os sistemas de reputação combinados na regulamentação algorítmica podem superar as regulamentações tradicionais. Por exemplo, uma vez que os motoristas de táxi são avaliados pelos passageiros, a qualidade de seus serviços melhorará automaticamente e "os motoristas que prestam serviços inadequados são eliminados". A sugestão de O'Reilly é baseada no conceito de controle teórico de loop de feedback - melhorias e desaprovações de reputação impõem o comportamento desejado. O uso de feed-loops para a gestão de sistemas sociais já foi sugerido anteriormente na cibernética de gestão por Stafford Beer .
Essas conexões são exploradas por Nello Cristianini e Teresa Scantamburlo onde o sistema de pontuação de crédito-reputação é modelado como um incentivo dado aos cidadãos e computado por uma máquina social , para que os agentes racionais sejam motivados a aumentar sua pontuação adaptando seu comportamento. Vários aspectos éticos dessa tecnologia ainda estão sendo discutidos.
O sistema de crédito social chinês está intimamente relacionado aos sistemas de vigilância em massa da China , como o Skynet, que incorpora sistema de reconhecimento facial , tecnologia de análise de big data e IA. Este sistema fornece avaliações de confiabilidade de indivíduos e empresas. Dentre os comportamentos considerados de má conduta pelo sistema, cita-se a travessia e a não separação correta dos resíduos pessoais . O comportamento listado como fatores positivos de classificações de crédito inclui doar sangue , doar para instituições de caridade , voluntariado para serviços comunitários e assim por diante. O Sistema de Crédito Social Chinês permite punições de cidadãos "não confiáveis", como negar a compra de passagens, e recompensas para cidadãos "confiáveis", como menos tempo de espera em hospitais e agências governamentais.
Contratos inteligentes
Contratos inteligentes , criptomoedas e Organização Autônoma Descentralizada são mencionados como meios de substituir as formas tradicionais de governança. Criptomoedas são moedas ativadas por algoritmos sem um banco central governamental . A moeda digital do banco central geralmente emprega tecnologia semelhante, mas é diferente do fato de usar um banco central. Em breve, será empregado por grandes sindicatos e governos, como a União Europeia e a China. Contratos inteligentes são auto-executáveis contratos , cujos objetivos são a redução da necessidade de intermediators governamentais confiáveis, arbitragens e os custos de aplicação. Uma organização autônoma descentralizada é uma organização representada por contratos inteligentes que são transparentes, controlados por acionistas e não influenciados por um governo central. Contratos inteligentes foram discutidos para uso em aplicações como o uso em contratos de trabalho (temporários) e transferência automática de fundos e propriedade (ou seja , herança , mediante registro de uma certidão de óbito ). Alguns países, como a Geórgia e a Suécia, já lançaram programas de blockchain com foco na propriedade ( títulos de terra e propriedade imobiliária ). A Ucrânia também está analisando outras áreas, como registros estaduais .
Algoritmos em agências governamentais
De acordo com um estudo da Universidade de Stanford , 45% das agências federais dos EUA estudadas experimentaram IA e ferramentas de aprendizado de máquina relacionadas (ML) até 2020. As agências federais dos EUA contaram o seguinte número de aplicativos de inteligência artificial .
53% desses aplicativos foram produzidos por especialistas internos. Os fornecedores comerciais de aplicações residuais incluem Palantir Technologies .
A partir de 2012, o NOPD iniciou uma colaboração com a Palantir Technologies no campo do policiamento preditivo . Além do software Gotham da Palantir, outro similar ( software de análise numérica ) usado por agências policiais (como o NCRIC) inclui o SAS .
Na luta contra a lavagem de dinheiro, o FinCEN emprega o FinCEN Artificial Intelligence System (FAIS).
As entidades e organizações nacionais de administração de saúde, como a AHIMA (American Health Information Management Association), mantêm registros médicos . Os registros médicos servem como repositório central para o planejamento do atendimento ao paciente e documentação da comunicação entre o paciente e o provedor de saúde e os profissionais que contribuem com o atendimento do paciente. Na UE, estão em curso trabalhos sobre um Espaço Europeu de Dados sobre Saúde que apoia a utilização de dados sobre saúde.
O Departamento de Segurança Interna dos Estados Unidos empregou o software ATLAS, que roda na Amazon Cloud . Ele digitalizou mais de 16,5 milhões de registros de americanos naturalizados e sinalizou aproximadamente 124.000 deles para análise manual e revisão por oficiais do USCIS em relação à desnaturalização . Foram sinalizados devido a possíveis fraudes e problemas de segurança pública e nacional. Alguns dos dados escaneados vieram do Banco de Dados de Triagem de Terroristas e do Centro Nacional de Informações sobre Crimes .
Na Estônia, a inteligência artificial é usada em seu governo eletrônico para torná-lo mais automatizado e integrado. Um assistente virtual guiará os cidadãos em qualquer interação que eles tenham com o governo. Serviços automatizados e proativos "empurram" os serviços para os cidadãos em eventos importantes de suas vidas (incluindo nascimentos, luto, desemprego, ...). Um exemplo é o registro automatizado de bebês quando nascem. O sistema X-Road da Estônia também será reconstruído para incluir ainda mais controle de privacidade e responsabilidade na maneira como o governo usa os dados dos cidadãos.
Na Costa Rica, foi investigada a possível digitalização das atividades de contratação pública (ou seja, licitações para obras públicas, ...). O artigo que discute essa possibilidade menciona que o uso de TIC nas compras tem vários benefícios, como aumentar a transparência, facilitar o acesso digital às licitações públicas, reduzir a interação direta entre funcionários de compras e empresas em momentos de alto risco de integridade, aumentar o alcance e a concorrência, e mais fácil detecção de irregularidades.
Além de usar leilões eletrônicos para obras públicas regulares (construção de edifícios, estradas, ...), os leilões eletrônicos também podem ser usados para projetos de reflorestamento e outros projetos de restauração de sumidouros de carbono . Projetos de restauração de sumidouros de carbono podem fazer parte dos planos de contribuições determinados nacionalmente , a fim de atingir as metas do acordo nacional de Paris
O software de auditoria de compras governamentais também pode ser usado. As auditorias são realizadas em alguns países após o recebimento dos subsídios .
Algumas agências governamentais fornecem sistemas de rastreamento e rastreamento para os serviços que oferecem. Um exemplo é o rastreamento e rastreamento de solicitações feitas por cidadãos (ou seja, aquisição de carteira de habilitação).
Alguns serviços do governo usam o sistema de rastreamento de problemas para manter o controle de problemas em andamento. Os sistemas de rastreamento de problemas podem mostrar todas as tarefas ainda a serem realizadas pelo governo (em uma fila de espera), tarefas concluídas, tarefas em andamento, sequência de pedidos, ... Tarefas concluídas também podem ser previsto com o relatório, mostrando o que exatamente tem sido feito sobre o assunto.
Justiça por algoritmo
O software COMPAS é usado nos EUA para avaliar o risco de reincidência nos tribunais.
De acordo com a declaração do Tribunal da Internet de Pequim, a China é o primeiro país a criar um tribunal da Internet ou um tribunal cibernético. A juíza chinesa de IA é uma recriação virtual de uma juíza real. Ela "ajudará os juízes do tribunal a concluir o trabalho básico repetitivo, incluindo a recepção de litígios, permitindo assim que os profissionais se concentrem melhor em seu trabalho de julgamento".
A Estônia também planeja empregar inteligência artificial para decidir casos de pequenas causas de menos de € 7.000.
Lawbots podem realizar tarefas que normalmente são feitas por paralegais ou jovens associados em escritórios de advocacia. Uma dessas tecnologias usadas por escritórios de advocacia dos EUA para auxiliar em pesquisas jurídicas é da ROSS Intelligence, e outras variam em sofisticação e dependência de algoritmos de script . Outro aplicativo de chatbot de tecnologia legal é o DoNotPay .
IA na educação
Devido à pandemia COVID-19 em 2020, os exames finais presenciais eram impossíveis para milhares de alunos. A escola pública Westminster High empregou algoritmos para atribuir notas. O Departamento de Educação do Reino Unido também utilizou um cálculo estatístico para atribuir notas finais nos níveis A , devido à pandemia.
Além do uso na avaliação, os sistemas de software e IA também estão otimizando os cursos e são usados na preparação para os exames de admissão à faculdade.
Assistentes de ensino de IA estão sendo desenvolvidos e usados para a educação (por exemplo, Jill Watson da Georgia Tech) e também há um debate em andamento sobre se talvez os professores possam ser totalmente substituídos por sistemas de IA (ou seja, no ensino doméstico ).
Políticos de IA
Em 2018, um ativista chamado Michihito Matsuda concorreu a prefeito na área da cidade de Tama, em Tóquio, como representante humano de um programa de inteligência artificial . Enquanto cartazes eleitorais e material de campanha usavam o termo robô e exibiam imagens de estoque de um andróide feminino , o "prefeito de IA" era na verdade um algoritmo de aprendizado de máquina treinado usando conjuntos de dados da cidade de Tama. O projeto foi apoiado pelos executivos de alto nível Tetsuzo Matsumoto, da Softbank, e Norio Murakami, do Google . Michihito Matsuda ficou em terceiro lugar na eleição, sendo derrotado por Hiroyuki Abe . Os organizadores alegaram que o 'prefeito da IA' foi programado para analisar petições de cidadãos apresentadas ao conselho municipal de uma forma mais 'justa e equilibrada' do que os políticos humanos.
Em 2019, o messenger chatbot SAM com IA participou das discussões nas redes sociais conectadas a uma corrida eleitoral na Nova Zelândia. O criador do SAM, Nick Gerritsen, acredita que o SAM estará avançado o suficiente para se candidatar até o final de 2020, quando a Nova Zelândia terá sua próxima eleição geral.
Manejo da infecção
Em fevereiro de 2020, a China lançou um aplicativo móvel para lidar com o surto de Coronavirus chamado "detector de contato próximo". Os usuários são solicitados a inserir seu nome e número de ID. O aplicativo é capaz de detectar "contato próximo" usando dados de vigilância (ou seja, usando registros de transporte público, incluindo trens e voos) e, portanto, um risco potencial de infecção. Cada usuário também pode verificar o status de três outros usuários. Para fazer esta consulta, os usuários escaneiam um código de resposta rápida (QR) em seus smartphones usando aplicativos como Alipay ou WeChat . O detector de contato próximo pode ser acessado por meio de aplicativos móveis populares, incluindo Alipay. Se um risco potencial for detectado, o aplicativo não apenas recomenda a auto-quarentena, mas também alerta as autoridades de saúde locais.
Alipay também possui o Código de Saúde Alipay, que é usado para manter os cidadãos seguros. Este sistema gera um código QR em uma das três cores (verde, amarelo ou vermelho) depois que os usuários preenchem um formulário no Alipay com dados pessoais. Um código verde permite que o titular se mova sem restrições. Um código amarelo exige que o usuário fique em casa por sete dias e vermelho significa uma quarentena de duas semanas. Em algumas cidades, como Hangzhou, tornou-se quase impossível se locomover sem mostrar o código Alipay de alguém.
Em Cannes, França, um software de monitoramento foi usado em filmagens feitas por câmeras de CFTV , permitindo monitorar sua conformidade com o distanciamento social local e o uso de máscara durante a pandemia COVID-19. O sistema não armazena dados de identificação, mas permite alertar as autoridades municipais e a polícia quando forem detectadas violações da máscara e das regras de uso da máscara (permitindo que sejam aplicadas multas quando necessário). Os algoritmos utilizados pelo software de monitoramento podem ser incorporados aos sistemas de vigilância existentes em espaços públicos (hospitais, estações, aeroportos, shopping centers, ...)
Dados de telefones celulares são usados para localizar pacientes infectados na Coréia do Sul, Taiwan, Cingapura e outros países. Em março de 2020, o governo israelense permitiu que agências de segurança rastreassem dados de telefones celulares de pessoas que supostamente tinham coronavírus. A medida foi tomada para impor a quarentena e proteger aqueles que podem entrar em contato com cidadãos infectados. Também em março de 2020, a Deutsche Telekom compartilhou dados privados de telefones celulares com a agência do governo federal, Instituto Robert Koch , a fim de pesquisar e prevenir a disseminação do vírus. A Rússia implantou tecnologia de reconhecimento facial para detectar interrupções de quarentena. O comissário regional italiano de saúde, Giulio Gallera, disse que "40% das pessoas continuam se deslocando de qualquer maneira", conforme informado pelas operadoras de telefonia móvel. Nos EUA, Europa e Reino Unido, a Palantir Technologies é responsável por fornecer os serviços de rastreamento COVID-19.
Prevenção e gestão de desastres ambientais
Tsunamis podem ser detectados por sistemas de alerta de tsunami . Eles podem fazer uso de IA. As inundações também podem ser detectadas usando sistemas de IA. As áreas de reprodução de gafanhotos podem ser aproximadas usando aprendizado de máquina, o que pode ajudar a impedir os enxames de gafanhotos em uma fase inicial. Incêndios florestais podem ser previstos usando sistemas de IA. Além disso, a detecção de incêndios florestais é possível por sistemas de IA (ou seja, por meio de dados de satélite, imagens aéreas e posição do pessoal). e também podem ajudar na evacuação de pessoas durante incêndios florestais.
Recepção
Benefícios
A regulação algorítmica deve ser um sistema de governança em que dados mais exatos, coletados dos cidadãos por meio de seus dispositivos inteligentes e computadores, são usados para organizar de forma mais eficiente a vida humana como um coletivo. Como a Deloitte estimou em 2017, a automação do trabalho do governo dos EUA poderia economizar 96,7 milhões de horas federais anualmente, com uma economia potencial de US $ 3,3 bilhões; na extremidade superior, isso sobe para 1,2 bilhão de horas e economia anual potencial de US $ 41,1 bilhões.
Crítica
Existem riscos potenciais associados ao uso de algoritmos no governo. Isso inclui algoritmos que se tornam suscetíveis a vieses , falta de transparência em como um algoritmo pode tomar decisões e a responsabilidade por tais decisões.
Há também uma séria preocupação de que o jogo pelas partes reguladas possa ocorrer, uma vez que mais transparência é trazida à tomada de decisão pela governança algorítmica , as partes reguladas podem tentar manipular seu resultado em seu próprio favor e até mesmo usar o aprendizado de máquina adversário . De acordo com Harari , o conflito entre democracia e ditadura é visto como um conflito de dois sistemas de processamento de dados diferentes - IA e algoritmos podem levar a vantagem para o último, processando enormes quantidades de informações de forma centralizada.
Em 2018, a Holanda empregou um sistema algorítmico SyRI (Systeem Risico Indicatie) para detectar cidadãos considerados de alto risco para cometer fraudes sociais , que discretamente sinalizou milhares de pessoas para os investigadores. Isso causou um protesto público. O tribunal distrital de Haia encerrou a SyRI referindo-se ao artigo 8 da Convenção Europeia dos Direitos do Homem (CEDH).
Os colaboradores do documentário iHuman de 2019 expressaram apreensão de "ditaduras infinitamente estáveis" criadas pelo governo AI.
Em 2020, algoritmos que atribuem notas de exames a alunos no Reino Unido geraram protestos abertos sob o lema "Foda-se o algoritmo". Este protesto foi um sucesso e as notas foram retiradas.
Em 2020, o software ATLAS do governo dos Estados Unidos , executado no Amazon Cloud , gerou polêmica entre ativistas e funcionários da própria Amazon.
Em 2021, a Eticas Foundation lançou um banco de dados de algoritmos governamentais denominado Observatório de Algoritmos com Impacto Social (OASI).
Polarização de algoritmos e transparência
Uma abordagem inicial para a transparência incluiu o código aberto de algoritmos . O código do software pode ser examinado e melhorias podem ser propostas por meio de recursos de hospedagem de código-fonte .
Aceitação pública
Uma pesquisa de 2019 conduzida pelo Centro para a Governança da Mudança da Universidade IE, na Espanha, descobriu que 25% dos cidadãos de países europeus selecionados eram parcial ou totalmente a favor de deixar uma inteligência artificial tomar decisões importantes sobre como seu país é administrado. A tabela a seguir lista os resultados por país:
| País | Percentagem |
|---|---|
| França | 25% |
| Alemanha | 31% |
| Irlanda | 29% |
| Itália | 28% |
| Holanda | 43% |
| Portugal | 19% |
| Espanha | 26% |
| Reino Unido | 31% |
Os pesquisadores encontraram algumas evidências de que, quando os cidadãos percebem seus líderes políticos ou provedores de segurança como não confiáveis, decepcionantes ou imorais, eles preferem substituí-los por agentes artificiais, que consideram mais confiáveis. A evidência é estabelecida por experimentos de pesquisa com estudantes universitários de todos os gêneros.
Na cultura popular
Os romances Daemon and Freedom ™ de Daniel Suarez descrevem um cenário fictício de regulação algorítmica global.
Veja também
Referências
links externos
- Governo por algoritmo? por Data for Policy 2017 Conference
- Governo pelo Algoritmo pela Universidade de Stanford
- Uma estrutura de governança para a responsabilidade algorítmica e transparência pelo Parlamento Europeu
- Governo Algorítmico por Zeynep Engin e Philip Treleaven, University College London
- Governo Algorítmico pelo Prof. Philip C. Treleaven da University College London
- Artificial Intelligence for Citizen Services and Government, de Hila Mehr, da Harvard University
- The OASI Register , algoritmos com impacto social
- iHuman (Documentário, 2019) por Tonje Hessen Schei
- Como o Blockchain pode transformar a Índia: Jaspreet Bindra
- Uma IA pode projetar nossa política tributária?
Bibliografia
Código: Versão 2.0 (Basic Books, 2006) ISBN 978-0-465-03914-2
Yeung, Karen; Lodge, Martin (2019). Regulação Algorítmica . Imprensa da Universidade de Oxford. ISBN 9780198838494.