Tomada de decisão automatizada - Automated decision-making

A tomada de decisão automatizada (ADM) envolve o uso de dados, máquinas e algoritmos para tomar decisões em uma variedade de contextos, incluindo administração pública, negócios, saúde, educação, direito, emprego, transporte, mídia e entretenimento, com vários graus de humano supervisão ou intervenção. ADM envolve dados em grande escala provenientes de bancos de dados, texto, mídia social, sensores, imagens ou fala que são processados ​​usando uma variedade de tecnologias, incluindo software de computador, algoritmos, aprendizado de máquina , processamento de linguagem natural , inteligência artificial , inteligência aumentada e robótica . O uso crescente de sistemas automatizados de tomada de decisão (ADMS) em uma variedade de contextos apresenta muitos benefícios e desafios para a sociedade humana, exigindo consideração das consequências técnicas, legais, éticas, sociais, educacionais e econômicas.

Visão geral

Embora algumas definições de ADM sugiram que envolve decisões tomadas por meios puramente tecnológicos, na realidade ADM pode assumir muitas formas, que vão desde sistemas de apoio à decisão que fazem recomendações para os tomadores de decisão humanos agirem, às vezes conhecido como inteligência aumentada ou 'decisão compartilhada- tomada ', para processos de tomada de decisão totalmente automatizados que tomam decisões em nome de instituições ou organizações sem envolvimento humano. Os modelos usados ​​em sistemas automatizados de tomada de decisão podem ser tão simples como listas de verificação e árvores de decisão até inteligência artificial e redes neurais profundas (DNN).

Desde a década de 1950, os computadores deixaram de fazer processamento básico e passaram a ter a capacidade de realizar tarefas complexas, ambíguas e altamente qualificadas, como reconhecimento de imagem e fala, jogos, análises científicas e médicas e inferência em várias fontes de dados. A ADM está sendo cada vez mais implantada em todos os setores da sociedade e em muitos domínios diversos, desde entretenimento até transporte.

Dados e tecnologias

A tomada de decisão automatizada usa uma variedade de fontes de dados e tecnologias para tomar decisões que conduzem o comportamento de sistemas complexos em muitos contextos diferentes, incluindo carros autônomos, robótica, sistemas de segurança, administração pública, saúde, legislação e comércio.

Qualidade de dados

A qualidade dos dados que estão disponíveis e podem ser usados ​​em sistemas ADM é fundamental para os resultados e muitas vezes é altamente problemática por vários motivos. Os conjuntos de dados costumam ser altamente variáveis, controlados por empresas ou governos, restritos por motivos de privacidade ou segurança, incompletos, tendenciosos, limitados em termos de tempo ou cobertura, medindo e descrevendo os termos de maneiras diferentes e muitas outras questões.

Para que as máquinas aprendam com os dados, muitas vezes são necessários grandes corpos, o que pode ser difícil de obter ou computar; no entanto, quando disponíveis, têm fornecido avanços significativos, por exemplo, no diagnóstico de radiografias de tórax.

Aprendizado de máquina

Artigo principal: Aprendizado de máquina

O aprendizado de máquina (ML) envolve o treinamento de programas de computador por meio da exposição a grandes conjuntos de dados e exemplos para aprender com a experiência e resolver problemas. O aprendizado de máquina pode ser usado para gerar e analisar dados, bem como fazer cálculos algorítmicos, e foi aplicado ao reconhecimento de imagem e voz, traduções, texto, dados e simulações. Embora o aprendizado de máquina já exista há algum tempo, está se tornando cada vez mais poderoso devido aos avanços recentes no treinamento de redes neurais profundas (DNNs) e aumentos dramáticos na capacidade de armazenamento de dados e poder computacional com coprocessadores GPU e computação em nuvem.

Formulários

ADM está sendo usado para substituir ou aumentar a tomada de decisão administrativa por organizações do setor público e privado por uma série de razões, incluindo para ajudar a aumentar a consistência, melhorar a eficiência e permitir novas soluções para problemas complexos.

Em sistemas jurídicos em todo o mundo, ferramentas algorítmicas, como instrumentos de avaliação de risco (RAI), estão sendo usadas para complementar ou substituir o julgamento humano de juízes, funcionários públicos e policiais em muitos contextos. Nos Estados Unidos, os RAs estão sendo usados ​​para gerar pontuações para prever o risco de reincidência em decisões de prisão preventiva e sentenciamento, avaliar liberdade condicional para prisioneiros e prever “pontos críticos” para crimes futuros. Essas pontuações podem resultar em efeitos automáticos ou podem ser usadas para informar as decisões tomadas por funcionários do sistema de justiça. No Canadá, a ADM tem sido usada desde 2014 para automatizar certas atividades conduzidas por oficiais de imigração e para apoiar a avaliação de algumas solicitações de imigrantes e visitantes.

As plataformas digitais de informação e entretenimento fornecem cada vez mais recomendações automatizadas ( sistemas de recomendação ) aos usuários com base em informações demográficas, seleções anteriores, filtragem colaborativa ou filtragem baseada em conteúdo. Isso inclui plataformas de música e vídeo, publicações acadêmicas, conselhos de saúde, bancos de dados de produtos e mecanismos de pesquisa. Muitos sistemas de recomendação fornecem autonomia aos usuários na aceitação de recomendações e incorporam ciclos de feedback algorítmico orientados por dados com base nas ações do usuário do sistema.

Veículos autônomos , como carros autônomos e outras formas de transporte, é outra área em que sistemas automatizados de tomada de decisão estão sendo usados ​​para substituir vários aspectos do controle humano, variando do nível 0 (direção humana completa) ao nível 5 (totalmente autônomo). No nível 5 a máquina é capaz de tomar decisões para controlar o veículo com base em modelos de dados e mapeamento geoespacial e sensores em tempo real e processamento do ambiente. Carros com níveis 1 a 3 já estão disponíveis no mercado. Os carros que dirigem sozinhos levantam muitas questões em termos de responsabilidade e tomada de decisões éticas em caso de acidentes, bem como questões de privacidade. O governo alemão estabeleceu uma 'Comissão de Ética sobre direção automatizada e conectada' em 2016, que apresentou um relatório com 20 regras éticas para a adaptação da direção automatizada e conectada.

Questões éticas e legais

Existem muitas implicações sociais, éticas e legais dos sistemas automatizados de tomada de decisão. As preocupações levantadas incluem a falta de transparência e contestabilidade de decisões, incursões na privacidade e vigilância, agravamento do viés sistêmico e desigualdade devido a dados e viés algorítmico , direitos de propriedade intelectual, a disseminação de desinformação por meio de plataformas de mídia, discriminação administrativa, risco e responsabilidade, desemprego e muitos outros. À medida que o ADMS se torna mais onipresente, há maior necessidade de abordar os desafios éticos para garantir a boa governança nas sociedades da informação.

Os sistemas ADM são freqüentemente baseados em aprendizado de máquina e algoritmos que não podem ser facilmente visualizados ou analisados, levando a preocupações de que eles são sistemas de 'caixa preta' que não são transparentes ou responsáveis.

Um relatório do Citizen lab no Canadá defende uma análise crítica dos direitos humanos da aplicação do ADM em várias áreas para garantir que o uso da tomada de decisão automatizada não resulte em violações de direitos, incluindo os direitos à igualdade e à não discriminação; liberdade de movimento, expressão, religião e associação; direitos de privacidade e os direitos à vida, liberdade e segurança da pessoa.

As respostas legislativas ao ADM incluem:

  • O regulamento europeu Geral Protecção de Dados ( PIBR ), introduzido em 2016, é uma regulação na legislação da UE sobre a protecção de dados e privacidade na União Europeia (UE). O n.º 1 do artigo 22.º consagra o direito das pessoas em causa de não serem sujeitas a decisões com efeitos jurídicos ou outros significativos, baseando-se unicamente na tomada de decisão individual automática.

Veja também

Referências