Confiança computacional - Computational trust
Na segurança da informação , a confiança computacional é a geração de autoridades confiáveis ou a confiança do usuário por meio da criptografia . Em sistemas centralizados, a segurança é normalmente baseada na identidade autenticada de partes externas. Mecanismos de autenticação rígidos, como infraestruturas de chave pública (PKIs) ou Kerberos , permitiram que esse modelo fosse estendido a sistemas distribuídos em alguns domínios de colaboração estreita ou em um único domínio administrativo. Durante os últimos anos, a ciência da computação mudou de sistemas centralizados para computação distribuída. Essa evolução tem várias implicações para os modelos, políticas e mecanismos de segurança necessários para proteger as informações e recursos dos usuários em uma infraestrutura de computação cada vez mais interconectada.
Os mecanismos de segurança baseados em identidade não podem autorizar uma operação sem autenticar a entidade reivindicadora. Isso significa que nenhuma interação pode ocorrer a menos que ambas as partes sejam conhecidas por suas estruturas de autenticação. As interações espontâneas, portanto, exigiriam uma única ou algumas autoridades de certificação (CAs) confiáveis . No contexto atual, a PKI não foi considerada uma vez que eles apresentam problemas, portanto, é improvável que se estabeleçam como um padrão de referência em um futuro próximo. Um usuário que deseja colaborar com outra parte pode escolher entre habilitar a segurança e, portanto, desabilitar a colaboração espontânea ou desabilitar a segurança e habilitar a colaboração espontânea. É fundamental que usuários e dispositivos móveis possam se autenticar de forma autônoma, sem depender de uma infraestrutura de autenticação comum. Para enfrentar este problema, temos de examinar os desafios introduzidos pela "computação global", um termo cunhado pela UE para o futuro da sociedade da informação global, e de identificar o seu impacto na segurança.
Criptomoedas , como Bitcoin , usam métodos como prova de trabalho (PoW) para obter confiança computacional dentro da rede de transações.
História
A Computational Trust aplica a noção humana de confiança ao mundo digital, que é visto como malicioso em vez de cooperativo. Os benefícios esperados, segundo Marsh et al., Resultam no uso da habilidade dos outros por meio da delegação e no aumento da cooperação em um ambiente aberto e menos protegido. A pesquisa na área de mecanismos computacionais de confiança e reputação em sociedades virtuais é direcionada ao aumento da confiabilidade e do desempenho das comunidades digitais.
Uma decisão baseada na confiança em um domínio específico é um processo de vários estágios. A primeira etapa desse processo consiste em identificar e selecionar os dados de entrada adequados, ou seja, a evidência de confiança. Em geral, eles são específicos do domínio e são derivados de uma análise conduzida no aplicativo envolvido. Na próxima etapa, um cálculo de confiança é executado na evidência para produzir valores de confiança, ou seja, a estimativa da confiabilidade das entidades naquele domínio específico. A seleção de evidências e o subsequente cálculo de confiança são informados por uma noção de confiança definida no modelo de confiança. Finalmente, a decisão de confiança é tomada considerando os valores computados e fatores exógenos, como a disposição ou avaliações de risco .
Definindo confiança
Esses conceitos ganharam relevância na última década na ciência da computação, principalmente na área de inteligência artificial distribuída . O paradigma do sistema multiagente e o crescimento do comércio eletrônico aumentaram o interesse pela confiança e reputação. Na verdade, os sistemas de confiança e reputação foram reconhecidos como os principais fatores para o comércio eletrônico. Esses sistemas são utilizados por agentes de software inteligentes como incentivo na tomada de decisões, na decisão de honrar ou não contratos, e como mecanismo de busca de parceiros de troca confiáveis. Em particular, a reputação é usada em mercados eletrônicos como um mecanismo de reforço da confiança ou como um método para evitar trapaceiros e fraudes.
Outra área de aplicação desses conceitos na tecnologia de agentes é o trabalho em equipe e a cooperação. Várias definições da noção humana de confiança foram propostas durante os últimos anos em diferentes domínios da sociologia , psicologia à ciência política e empresarial . Essas definições podem até mudar de acordo com o domínio do aplicativo. Por exemplo, a definição recente de Romano tenta abranger o trabalho anterior em todos esses domínios:
A confiança é uma avaliação subjetiva da influência de outra pessoa em termos da extensão da percepção de alguém sobre a qualidade e a importância do impacto de outra pessoa sobre os resultados de alguém em uma determinada situação, de modo que a expectativa, a abertura e a inclinação para tal influência fornecem uma sensação de controle sobre os resultados potenciais da situação.
A confiança e a reputação têm um valor social. Quando alguém é confiável, pode-se esperar que essa pessoa tenha um desempenho benéfico ou pelo menos não suspeito que garanta aos outros, com alta probabilidade, boas colaborações com ele. Ao contrário, quando alguém parece não ser confiável, os outros se abstêm de colaborar, pois há um nível menor de probabilidade de que essas colaborações sejam bem-sucedidas.
A confiança é um nível particular de probabilidade subjetiva com a qual um agente avalia que outro agente ou grupo de agentes realizará uma ação particular, tanto antes que ele possa monitorar tal ação (ou de forma independente ou sua capacidade para ser capaz de monitorá-la) e em um contexto em que afeta sua própria ação.
A confiança está fortemente ligada à confiança e implica alguns graus de incerteza, esperança ou otimismo. Eventualmente, Marsh abordou a questão da formalização da confiança como um conceito computacional em sua tese de doutorado. Seu modelo de confiança é baseado em fatores sociais e psicológicos.
Classificação do modelo de confiança
Muitas propostas têm surgido na literatura e aqui é apresentada uma seleção de modelos computacionais de confiança e reputação, que representam uma boa amostra da pesquisa atual.
A confiança e a reputação podem ser analisadas de diferentes pontos de vista e podem ser aplicadas em muitas situações. A próxima classificação é baseada considerando as características peculiares desses modelos e o ambiente onde eles evoluem.
Modelo conceitual
O modelo de confiança e reputação pode ser caracterizado como:
Em modelos baseados em uma abordagem cognitiva, a confiança e a reputação são formadas por crenças subjacentes e são função do grau dessas crenças. Os estados mentais, que levam a confiar em outro agente ou a atribuir uma reputação, são parte essencial do modelo, assim como as consequências mentais da decisão e do ato de confiar em outro agente;
Em modelos de confiança neurológica, teorias neurológicas baseadas na interação entre estados afetivos e cognitivos são modelados em um nível neurológico, bem como usando teorias sobre a personificação das emoções. Nestes modelos, a dinâmica da confiança relaciona-se com as experiências com fontes (externas), tanto de uma perspectiva cognitiva como afetiva. Mais especificamente para sentir a emoção associada a um estado mental, são modelados loops corporais recursivos convergentes. Além disso, com base no aprendizado Hebbian (para a força das conexões com as respostas emocionais), diferentes processos de adaptação são introduzidos, os quais são inspirados pela Hipótese do Marcador Somático.
Confiança e reputação são consideradas probabilidades subjetivas pelas quais o indivíduo A espera que o indivíduo B execute uma determinada ação da qual depende seu bem-estar.
Nessa abordagem, confiança e reputação não são o resultado de um estado mental do agente no sentido cognitivo, mas o resultado de um jogo mais pragmático com funções de utilidade e agregação numérica de interações passadas.
Fontes de informação
É possível classificar os modelos considerando as fontes de informação usadas para calcular os valores de confiança e reputação. As fontes de informação tradicionais são experiências diretas e informações de testemunhas, mas modelos recentes começaram a considerar a conexão entre a informação e o aspecto sociológico do comportamento do agente. Quando o modelo contém várias fontes de informação, ele pode aumentar a confiabilidade dos resultados, mas, inversamente, pode aumentar a complexidade do modelo.
Experiências diretas
A experiência direta é a fonte de informação mais relevante e confiável para um modelo de confiança / reputação. Dois tipos de experiências diretas podem ser reconhecidas:
- a experiência baseada na interação direta com o interlocutor;
- a experiência baseada na interação observada dos outros membros de uma comunidade.
Informação de testemunha
As informações das testemunhas, também chamadas de informações indiretas, são provenientes da experiência de outros membros da comunidade. Pode ser baseado em sua própria experiência direta ou em outros dados que coletaram da experiência de outras pessoas. As informações de testemunhas são geralmente as mais abundantes, mas seu uso é complexo para modelagem de confiança e reputação. Na verdade, ele introduz incerteza e os agentes podem manipular ou ocultar partes das informações para seu próprio benefício.
Informação sociológica
Pessoas que pertencem a uma comunidade estabelecem diferentes tipos de relações. Cada indivíduo desempenha um ou vários papéis naquela sociedade, influenciando seu comportamento e a interação com outras pessoas. Em um sistema multiagente, onde há muitas interações, as relações sociais entre os agentes são um reflexo simplificado das relações mais complexas de suas contrapartes humanas. Apenas alguns modelos de confiança e reputação adotam essas informações sociológicas, usando técnicas como a análise de redes sociais . Esses métodos estudam as relações sociais entre os indivíduos em uma sociedade que surgiu como um conjunto de métodos de análise de estruturas sociais, métodos que permitem especificamente uma investigação dos aspectos relacionais dessas estruturas.
Preconceito e preconceito
O preconceito é outro mecanismo, embora incomum, que influencia a confiança e a reputação. De acordo com esse método, um indivíduo recebe propriedades de um grupo particular que o torna reconhecível como um membro. Estes podem ser sinais como um uniforme, um comportamento definido, etc.
Como a maioria das pessoas hoje usa a palavra, preconceito se refere a uma atitude negativa ou hostil em relação a outro grupo social, muitas vezes definido racialmente. No entanto, essa conotação negativa deve ser revisada quando aplicada às comunidades de agentes. O conjunto de signos usados em modelos computacionais de confiança e reputação geralmente está fora da discussão ética, diferentemente dos signos usados nas sociedades humanas, como a cor da pele ou o gênero.
A maior parte da literatura em ciências sociais e cognitivas afirma que os humanos exibem um comportamento não racional e tendencioso com relação à confiança. Modelos de confiança humana enviesados recentemente foram projetados, analisados e validados com base em dados empíricos. Os resultados mostram que esses modelos de confiança tendenciosa são capazes de prever a confiança humana significativamente melhor do que os modelos de confiança imparcial.
Discussão sobre modelos de confiança / reputação
As fontes de informação mais relevantes consideradas pelos modelos de confiança e reputação apresentados anteriormente são as experiências diretas e as informações de testemunhas. Nos mercados eletrônicos, a informação sociológica é quase inexistente e, para aumentar a eficiência dos modelos reais de confiança e reputação, deve ser considerada. No entanto, não há razão para aumentar a complexidade dos modelos introduzindo evidências de confiança se, posteriormente, eles tiverem que ser usados em um ambiente onde não seja possível realizar suas capacidades. A agregação de mais evidências de confiança e reputação é útil em um modelo computacional, mas pode aumentar sua complexidade, dificultando uma solução geral. Vários modelos são dependentes das características do ambiente e uma possível solução poderia ser o uso de mecanismos adaptativos que podem modificar a forma de combinar diferentes fontes de informação em um determinado ambiente. Muitas definições de confiança e reputação foram apresentadas e existem vários trabalhos que dão sentido a ambos os conceitos.
Há uma relação entre os dois conceitos que deve ser considerada em profundidade: reputação é um conceito que ajuda a construir a confiança nos outros. Hoje em dia, a teoria dos jogos é o paradigma predominante considerado para projetar modelos computacionais de confiança e reputação. Com toda probabilidade, essa teoria é levada em consideração porque um número significativo de economistas e cientistas da computação, com uma sólida formação em teoria dos jogos e técnicas de inteligência artificial, estão trabalhando em contextos de multiagentes e e-commerce. Modelos teóricos de jogos produzem bons resultados, mas podem não ser adequados quando a complexidade dos agentes, em termos de relações sociais e interação aumenta, torna-se muito restritiva. A exploração de novas possibilidades deve ser considerada e, por exemplo, deve haver uma fusão das abordagens cognitivas com as teóricas dos jogos. Além disso, mais evidências de confiança devem ser consideradas, bem como métricas de confiança sensíveis ao tempo . representam o primeiro passo para encorajar a melhoria da confiança computacional.
Uma questão importante na modelagem de confiança é representada pela transferibilidade dos julgamentos de confiança por diferentes agentes. Cientistas sociais concordam em considerar valores de confiança não qualificados como intransferíveis, mas uma abordagem mais pragmática concluiria que julgamentos de confiança qualificados valem a pena ser transferidos, na medida em que as decisões tomadas considerando a opinião de outros são melhores do que aquelas tomadas isoladamente. Nos autores investigou o problema da transferibilidade de confiança em ambientes abertos distribuídos, propondo um mecanismo de tradução capaz de tornar as informações trocadas de um agente para outro mais precisas e úteis.
Avaliação de modelos de confiança
Atualmente, não existe uma estrutura de avaliação ou benchmark comumente aceito que permita uma comparação dos modelos sob um conjunto de condições representativas e comuns. Uma abordagem teórica do jogo nesta direção foi proposta, onde a configuração de um modelo de confiança é otimizada assumindo atacantes com estratégias de ataque ótimas; isso permite, em uma próxima etapa, comparar a utilidade esperada de diferentes modelos de confiança. Da mesma forma, uma estrutura analítica baseada em modelo para prever a eficácia dos mecanismos de reputação contra modelos de ataques arbitrários em modelos de sistemas arbitrários foi proposta para sistemas ponto a ponto.