Durante anos, a segurança cibernética teve um problema familiar na sala de reuniões.
A segurança pede dinheiro para evitar algo que todos esperam que nunca aconteça.
Uma violação.
Fraude.
Ransomware.
Roubo de identidade.
Sanções regulatórias.
Danos de reputação.
Todas as preocupações legítimas. Mas quando os orçamentos ficam apertados, a conversa muitas vezes se torna difícil porque a segurança geralmente é posicionada como uma Custo de prevenção de perdasEm vez de um investimento capaz de criar valor.
A inteligência artificial pode estar mudando essa conversa.
Recentemente me deparei com uma pergunta interessante sobre o CIO:
Pode investir em confiança em IA realmente impulsionar o crescimento da receita do negócio?
Minha reação foi imediata.
Porque não o faria?
Já sabemos que a confiança afeta se as pessoas estão dispostas a entregar a uma organização seu dinheiro, suas informações, seus registros de saúde e, cada vez mais, suas decisões.
A IA simplesmente aumenta as apostas.
Quanto mais as empresas pedirem aos clientes para interagir com máquinas, confiar em decisões automatizadas e permitir que os agentes de software ajam em seu nome, mais importante uma pergunta muito antiga se torna:
Posso confiar nisto?
E eu acredito que as empresas que respondem a essa pergunta de forma convincente podem descobrir que a confiança não é apenas um requisito de segurança.
É uma vantagem competitiva.
Temos tratado a confiança como um investimento defensivo
Pergunte à maioria dos executivos por que eles investem em IA confiável ou responsável e você ouvirá respostas sensatas.
Conformidade.
Privacidade.
Gestão de riscos.
Governança.
Segurança.
Reputação.
Tudo importante.
Mas repare em alguma coisa.
Quase todas essas respostas são defensivas.
Que coisa ruim estamos tentando evitar?
Talvez devêssemos acrescentar outra pergunta:
Que coisa boa se torna possível quando os clientes confiam em nós o suficiente para dizer sim?
É aí que a economia fica interessante.
Um cliente que não confia em um serviço financeiro alimentado por IA pode não usá-lo.
Um paciente que não confia em uma interação de saúde com IA pode se recusar a compartilhar informações.
Um funcionário que não confia em uma ferramenta de IA empresarial pode contornar isso.
Uma empresa que não confia em um agente autônomo pode nunca lhe dar autoridade significativa.
A confiança não impede simplesmente resultados negativos.
A confiança permite que transações aconteçam.
E as transações são onde a receita vive.
O que os clientes realmente estão comprando
As pessoas raramente compram tecnologia simplesmente porque a tecnologia existe.
Eles compram um resultado.
Um cliente bancário quer movimentar dinheiro.
Um paciente precisa de cuidados.
Um comprador quer comprar alguma coisa.
Uma empresa quer concluir uma transação.
Uma empresa que adota a IA quer produtividade, automação ou insight.
A tecnologia está por trás dessa experiência.
A confiança também.
Considere o sistema bancário online.
Há vinte e cinco anos, convencer as pessoas a realizar transações financeiras por um navegador exigia mais do que tecnologia.
As pessoas tinham que se sentir confortáveis com a ideia de que o dinheiro poderia passar com segurança por algo que não podiam ver.
Adoção habilitada pela confiança.
O e-commerce seguiu um caminho semelhante.
A computação em nuvem também.
Agora, a IA enfrenta sua própria versão dessa jornada.
Mas há uma diferença.
A IA não apenas armazena informações ou transações de transporte.
Cada vez mais, AI age.
E no momento em que a tecnologia começa a agir em nosso nome, a confiança se torna consideravelmente mais conseq ⁇ ente.
O agente de IA muda a economia da confiança
Imagine um assistente de IA que possa resumir seu e-mail.
⁇ til.
Agora, permita que ele responda às mensagens.
Mais útil.
Deixe-o agendar reuniões.
Aprovar compras.
Acesse os registros dos clientes.
Alterar informações da conta.
Iniciar transações financeiras.
Comunique-se com o agente de IA de outra organização.
Cada capacidade adicional aumenta o valor potencial.
Também aumenta a quantidade de confiança necessária.
O fator limitante pode não ser o que pode Faz.
Pode ser o que as empresas e os clientes estão dispostos a permitir que ele faça.
É um problema muito diferente.
E sugere algo que eu acho que vamos ouvir muito mais sobre:
O valor econômico da IA será, em última análise, limitado pela quantidade de confiança que estamos dispostos a colocar nela.
Se isso for verdade, investir em confiança não está retardando a adoção da IA.
Pode ser o que permite que a adoção da IA acelere.
Mas em que exatamente estamos confiando?
É aqui que eu acho que a conversa precisa ser mais profunda.
“Inteligência Artificial Confiável” pode se tornar uma daquelas frases que todo mundo usa até que ninguém saiba exatamente o que isso significa.
Precisamos ser mais específicos.
Posso confiar no modelo?
Posso confiar nos dados?
Posso confiar na resposta?
Posso confiar que informações confidenciais não serão expostas?
Posso entender por que uma decisão importante foi tomada?
Posso confiar que a IA está autorizada a realizar essa ação?
Todas as boas perguntas.
Mas há outra camada que me interessa enormemente:
Posso confiar na identidade de todos que participam da interação?
Quem é o humano?
Qual agente de IA está agindo?
Quem autorizou esse agente?
Que organização representa?
Que autoridade lhe foi delegada?
O destino é legítimo?
O pedido em si é autêntico?
Será que a pessoa realmente pretende autorizar a ação?
AI confiável sentado em cima de uma fundação de identidade incerta ainda é uma transação incerta.
É por isso que continuo a acreditar:
A identidade verificável é a pedra angular da confiança digital.
A IA torna a personificação um problema de negócios
Já começamos a ver o que acontece quando a IA reduz o custo do engano.
As vozes podem ser clonadas.
Rostos podem ser gerados.
Os e-mails podem ser personalizados.
Documentos podem ser fabricados.
Executivos podem ser representados.
As interações de serviço ao cliente podem ser falsificadas.
E destinos digitais fraudulentos podem se tornar notavelmente convincentes.
O problema não é mais simplesmente se algo parece legítimo.
Precisamos cada vez mais de evidências de que é legítimo.
Isso muda o papel da identidade.
A autenticação era tradicionalmente sobre a proteção do acesso.
Em uma economia de IA, a autenticação pode se tornar cada vez mais parte da proteção O próprio comércio.
Porque antes de duas partes transacionarem, alguém tem que estabelecer que as partes são quem elas afirmam ser.
Autentificamos apenas metade do relacionamento
Isso me leva a uma pergunta sobre a qual tenho escrito recentemente:
Por que a autenticação tradicionalmente me obriga a provar quem eu sou sem exigir que o destino se prove para mim?
Pense em serviços bancários online.
O banco pede que você autentique.
Senha.
MFA.
Biométrico.
Passkey.
Qualquer que seja o mecanismo que utilize.
O banco razoavelmente quer confiança de que você é realmente você.
Mas você também precisa ter confiança de que O banco é realmente o banco.
Historicamente, colocamos grande parte dessa responsabilidade no cliente.
Verifique a URL.
Reconheça o site.
Não clique no link errado.
Não caia no phishing.
Isso está se tornando cada vez mais difícil à medida que a personificação melhora.
E aponta para algo que acredito que se tornará muito mais importante na economia da IA:
confiança mútua.
A organização me verifica.
Eu verifiquei a organização.
E eventualmente:
O agente de IA verifica o sistema.
O sistema verifica o agente.
Ambos verificam a autoridade por trás da ação solicitada.
A confiança começa a se tornar recíproca, em vez de assumida.
É aqui que o Full Duplex Authentication se encaixa Into a Conversa Maior
Anos atrás, essa assimetria na autenticação tradicional nos incomodou o suficiente no Identité® que abordamos o problema de forma diferente.
Contribuiu para a nossa patente Full Duplex Authentication® Arquitetura.
A ideia subjacente é simples:
A confiança deve funcionar nos dois sentidos.
A organização legítima precisa de confiança na identidade que participa da interação.
Mas a pessoa também deve ter evidências de que está interagindo com o destino legítimo e aprovando o pedido pretendido.
Usuário ⁇ Destino legítimo
Eu menciono o FDA aqui não porque ele resolve todos os problemas associados à IA confiável. Claramente não.
Integridade do modelo, governança de dados, privacidade, autorização, explicabilidade e segurança da IA permanecem problemas separados e importantes.
A conexão é mais fundamental.
⁇ medida que as interações digitais se tornam cada vez mais automatizadas, A confiança unilateral torna-se mais difícil de justificar.
Se a IA vai realizar transações cada vez mais valiosas, precisamos de maneiras mais fortes de estabelecer quem e o que está em ambos os lados dessas transações.
A confiança também pode reduzir a fricção
Há outro benefício comercial que não recebe atenção suficiente.
Uma melhor confiança pode realmente tornar as transações legítimas mais fáceis.
As organizações muitas vezes introduzem atrito porque são incertas.
Mais um aviso de autenticação.
Outra aprovação.
Outro passo de verificação.
Mais uma revisão de fraude.
Mais uma chamada para o atendimento ao cliente.
Cada um pode ser justificado.
Mas cada passo também cria uma oportunidade de abandono.
Clientes deixam carrinhos de compras.
Os funcionários encontram soluções alternativas.
Transações são atrasadas.
Custos de suporte aumentam.
A conversão sofre.
E se as melhores evidências nos permitissem distinguir a atividade legítima da atividade suspeita com maior confiança?
Então talvez não precisemos incomodar todos igualmente.
Já disse antes:
A fricção deve seguir a incerteza e conseq ⁇ ência.
Alta confiança, interação de rotina?
Deixe-o prosseguir em silêncio.
Alguma coisa muda?
Introduzir a verificação apropriada.
Isso não é simplesmente melhor segurança.
Pode ser uma melhor experiência do cliente.
E melhores experiências do cliente têm valor econômico.
Confiança pode se tornar parte do produto
É aqui que eu acho que os executivos devem prestar especial atenção.
Imagine duas plataformas financeiras alimentadas por IA que oferecem capacidades comparáveis.
Um diz essencialmente aos clientes:
Confie em nós. Nossa IA está segura.
O outro pode demonstrar:
Quem participa,
quais dados estão sendo utilizados,
Qual a autoridade que um agente possui,
que ações estão sendo solicitadas,
se o destino é legítimo,
e quando a aprovação humana é necessária.
Qual cliente de uma empresa estaria mais confortável implantando?
Qual deles poderia ter maior autoridade?
Qual deles poderia passar por compras mais facilmente?
Quais clientes podem usar para transações mais consequentes?
De repente, a confiança não está sentada ao lado do produto como um recurso de conformidade.
A confiança torna-se parte do produto.
E isso muda a conversa sobre receita.
Confiança pode aumentar o teto sobre o que a IA pode fazer
Este pode ser o argumento econômico mais importante.
Imagine um sistema de IA em que os clientes confiam o suficiente para responder a perguntas.
Isso é valioso.
Agora imagine que eles confiam o suficiente para fazer recomendações.
Mais valioso.
Agora faça compras.
Programação de serviços.
Mover informação.
Iniciar fluxos de trabalho.
Negocie com outro agente.
Aprovar transações de rotina.
Cada passo aumenta o valor econômico potencial.
Mas cada passo requer mais confiança.
Então, talvez a relação se pareça algo assim:
Confiança mais verificável ⁇ maior autoridade delegada ⁇ casos de uso de IA mais valiosos ⁇ maior oportunidade econômica.
É por isso que não vejo a confiança apenas como um freio colocado na IA para mantê-la segura.
devidamente desenhado, A confiança pode ser o acelerador que permite que as empresas usem a IA para coisas que, de outra forma, não estariam dispostas a delegar.
Há um custo de receita para a incerteza
As empresas geralmente calculam o custo da fraude.
Isso é relativamente fácil.
Quanto dinheiro perdemos?
Quanto custou a remediação?
O que custou a violação?
Mas há outro número que é muito mais difícil de ver:
Quanto negócio nunca aconteceu porque alguém não confiava na interação o suficiente para prosseguir?
O cliente que abandonou o registro.
A empresa que não permitiria o acesso de um agente de IA.
O paciente que reteve a informação.
O comprador que não confiava no site.
O executivo que recusou a automação porque o modelo de autorização não estava claro.
A transação foi interrompida para revisão manual.
A oportunidade atrasou porque a segurança não conseguiu estabelecer confiança suficiente.
Não necessariamente aparecem no orçamento de segurança.
Eles aparecem como oportunidades econômicas perdidas.
E é por isso que a confiança pertence a conversas com CEOs, CFOs e líderes de receita, não simplesmente CISOs.
Confiança não é algo que você declara
Há um aviso importante aqui.
As empresas não podem simplesmente colocar:
“AI Confiada”
em um site e esperar que os clientes acreditem nele.
Confiança não é um adjetivo de marketing.
Tem que ser obtida através de provas.
É por isso que eu prefiro cada vez mais a palavra verificável.
Não me diga para confiar na identidade.
Deixe-me verificar.
Não me diga que o agente está autorizado.
Dá-me provas da sua autoridade.
Não me diga que o destino é legítimo.
Estabeleça-o.
Não me diga que a transação é segura.
Mostra-me o que estou a aprovar.
Há uma enorme diferença entre:
“Confie em mim”.
e:
“É por isso que você pode.”
As empresas que entendem essa distinção podem ter uma vantagem.
O ROI da confiança pode ser maior do que o orçamento de segurança
Então, pode investir em confiança em IA realmente impulsionar o crescimento da receita?
Eu acho que a resposta é sim, mas talvez não no sentido simplista de gastar $1 em confiança e gerar imediatamente $3 em vendas.
A confiança funciona mais fundamentalmente do que isso.
Permite que os clientes adotem.
Permite que as organizações se automatizem.
Isso permite que os funcionários deleguem.
Permite que as máquinas atuem.
Reduz a fricção desnecessária.
Pode melhorar a conversão.
Pode reduzir a fraude.
Pode diferenciar um fornecedor de outro.
E talvez o mais importante, expande a gama de coisas que as pessoas estão dispostas a permitir que a tecnologia faça em seu nome.
Esse último ponto pode se tornar extremamente valioso.
Porque o potencial econômico da IA não é determinado apenas pela inteligência.
É determinado por permissão.
E a permissão depende da confiança.
A confiança começa antes da transação
Passamos grande parte do histórico de segurança cibernética protegendo o que acontece depois que alguém tenta entrar em um sistema.
A economia da IA pode exigir algo mais amplo.
Antes que uma transação digital significativa ocorra, precisamos cada vez mais de confiança em:
Identidade.
Destino.
Autoridade.
Intenção.
Contexto.
Quando apropriado, aprovação humana.
Esses não são obstáculos ao comércio.
Eles são o que permitem que o comércio digital de maior valor aconteça com segurança.
É por isso que eu acho que a conversa da nossa indústria sobre a confiança da IA precisa mudar.
Não pergunte apenas:
“Quanto é que a IA de confiança nos vai custar?”
Perguntar:
“O que poderíamos permitir com segurança que a IA fizesse se confiássemos mais nela?”
Essa segunda questão abre uma discussão muito diferente.
Porque na próxima fase da IA, as empresas podem descobrir que a confiança não é simplesmente algo que a segurança protege.
A confiança pode ser algo que a empresa vende.
E as organizações capazes de tornar a confiança verificável podem, em última análise, ser aquelas que os clientes permitem fazer mais.