Durante años, la ciberseguridad ha tenido un problema familiar en la sala de juntas.
La seguridad pide dinero para evitar algo que todos esperan que nunca suceda.
Una brecha.
Fraude.
Ransomware.
Robo de identidad.
Sanciones reglamentarias.
Daños reputacionales.
Todas las preocupaciones legítimas. Pero cuando los presupuestos se ponen apretados, la conversación a menudo se vuelve difícil porque la seguridad se coloca generalmente como un costo de la prevención de las pérdidas, en lugar de una inversión capaz de crear valor.
La inteligencia artificial puede estar cambiando esa conversación.
Hace poco me encontré con una pregunta interesante sobre CIO:
¿Puede la inversión en la confianza en IA realmente impulsar el crecimiento de los ingresos de las empresas?
Mi reacción fue inmediata.
¿Por qué no lo haría?
Ya sabemos que la confianza afecta si la gente está dispuesta a entregar a una organización su dinero, su información, sus registros de salud y cada vez más, sus decisiones.
IA simplemente aumenta las apuestas.
Cuanto más piden las empresas a los clientes que interactúen con las máquinas, dependan de decisiones automatizadas y permitan que los agentes de software actúen en su nombre, más importante es una pregunta muy antigua:
¿Puedo confiar en esto?
Y creo que las empresas que responden a esa pregunta convincentemente pueden descubrir que la confianza no es simplemente un requisito de seguridad.
Es una ventaja competitiva.
Hemos estado tratando la confianza como una inversión defensiva
Pregúntele a la mayoría de los ejecutivos por qué invierten en IA confiable o responsable y usted escuchará respuestas sensatas.
Cumplimiento.
Privacidad.
Gestión de riesgos.
Gobernanza.
Seguridad.
Reputación.
Todo importante.
Pero note algo.
Casi todas esas respuestas son defensivas.
¿Qué cosa mala estamos tratando de prevenir?
Tal vez deberíamos añadir otra pregunta:
¿Qué bien se vuelve posible cuando los clientes confían en nosotros lo suficiente como para decir que sí?
Ahí es donde la economía se pone interesante.
Un cliente que no confía en un servicio financiero impulsado por IA puede no usarlo.
Un paciente que no confía en una interacción de atención médica con IA puede negarse a compartir información.
Un empleado que no confía en una herramienta de IA empresarial puede trabajar en torno a ella.
Un negocio que no confía en un agente autónomo puede nunca darle autoridad significativa.
La confianza no solo evita resultados negativos.
La confianza permite que las transacciones sucedan.
Y las transacciones son donde viven los ingresos.
Piense en lo que los clientes están comprando realmente
La gente rara vez compra tecnología simplemente porque la tecnología existe.
Compran un resultado.
Un cliente bancario quiere mover dinero.
Un paciente quiere atención.
Un comprador quiere comprar algo.
Un negocio quiere completar una transacción.
Una empresa que adopta IA quiere productividad, automatización o información.
La tecnología está debajo de esa experiencia.
La confianza también.
Considere la banca en línea.
Hace veinticinco años, convencer a las personas de realizar transacciones financieras a través de un navegador requería algo más que tecnología.
La gente tenía que sentirse cómoda con la idea de que el dinero podía moverse con seguridad por algo que no podían ver.
La confianza permitió la adopción.
El comercio electrónico siguió un camino similar.
La computación en la nube también lo hizo.
Ahora AI se enfrenta a su propia versión de ese viaje.
Pero hay una diferencia.
AI no sólo almacena información o transacciones de transporte.
Cada vez más, Actos de IA.
Y en el momento en que la tecnología comienza a actuar en nuestro nombre, la confianza se vuelve considerablemente más consecuente.
El agente de IA cambia la economía de la confianza
Imagine un asistente de IA que pueda resumir su correo electrónico.
Útil.
Ahora permitid que responda a los mensajes.
Más útil.
Que programe las reuniones.
Aprobar las compras.
Acceda a los registros de clientes.
Cambiar la información de la cuenta.
Iniciar transacciones financieras.
Comuníquese con el agente de inteligencia artificial de otra organización.
Cada capacidad adicional aumenta el valor potencial.
También aumenta la cantidad de confianza necesaria.
Eventualmente, el factor limitante puede no ser lo que AI puede Hazlo.
Puede ser lo que las empresas y los clientes están dispuestos a permitir que lo haga.
Ese es un problema muy diferente.
Y sugiere algo que creo que vamos a escuchar mucho más sobre:
El valor económico de la IA se verá en última instancia limitado por la cantidad de confianza que estamos dispuestos a depositar en ella.
Si eso es cierto, invertir en confianza no está ralentizando la adopción de IA.
Puede ser lo que permite que la adopción de IA se acelere.
Pero, ¿en qué confiamos exactamente?
Aquí es donde creo que la conversación tiene que ir más profundo.
“La IA confiada” puede convertirse en una de esas frases que todo el mundo usa hasta que nadie sabe exactamente lo que significa.
Tenemos que ser más específicos.
¿Puedo confiar en el modelo?
¿Puedo confiar en los datos?
¿Puedo confiar en la respuesta?
¿Puedo confiar en que la información sensible no será expuesta?
¿Puedo entender por qué se tomó una decisión importante?
¿Puedo confiar en que la IA está autorizada para realizar esta acción?
Todas buenas preguntas.
Pero hay otra capa que me interesa enormemente:
¿Puedo confiar en la identidad de todos los que participan en la interacción?
¿Quién es el humano?
¿Qué agente de inteligencia artificial está actuando?
¿Quién autorizó a ese agente?
¿Qué organización representa?
¿Qué autoridad se le delegó?
¿Es el destino legítimo?
¿Es auténtica la petición en sí misma?
¿La persona realmente tenía la intención de autorizar la acción?
La IA confiable sentada encima de una base de identidad incierta sigue siendo una transacción incierta.
Por eso sigo creyendo:
La identidad verificable es la piedra angular de la confianza digital.
La IA hace de la imitación un problema de negocio
Ya hemos empezado a ver lo que sucede cuando IA reduce el costo del engaño.
Las voces pueden ser clonadas.
Se pueden generar caras.
Los emails pueden ser personalizados.
Los documentos pueden ser fabricados.
Los ejecutivos pueden ser suplantados.
Las interacciones cliente-servicio pueden ser disimuladas.
Y los destinos digitales fraudulentos pueden ser notablemente convincentes.
El problema ya no es simplemente si algo Parece legítimo..
Cada vez más, necesitamos pruebas de que es legítimo.
Eso cambia el papel de la identidad.
La autenticación se refería tradicionalmente a la protección del acceso.
En una economía de IA, la autenticación puede convertirse cada vez más en parte de la protección comercio en sí mismo.
Porque antes de que dos partes hagan transacciones, alguien tiene que demostrar que las partes son quienes afirman ser.
Hemos estado autenticando sólo la mitad de la relación
Esto me lleva a una pregunta que he estado escribiendo recientemente:
¿Por qué la autenticación tradicionalmente me requiere para probar quién soy sin requerir el destino para demostrar a sí mismo a mí?
Piensa en la banca online.
El banco te pide que autentifiques.
Contraseña.
MFA.
Biométrico.
Passkey.
Cualquiera que sea el mecanismo que utilice.
El banco razonablemente quiere confianza en que eres realmente tú.
Pero también necesitas confianza en que el banco es realmente el banco.
Históricamente, hemos puesto gran parte de esa responsabilidad en el cliente.
Compruebe la URL.
Reconocer el sitio web.
No haga clic en el enlace equivocado.
No caigas en el phishing.
Eso se está volviendo cada vez más difícil a medida que mejora la suplantación.
Y apunta hacia algo que creo que se volverá mucho más importante en la economía de la IA:
Confianza mutua.
La organización me verifica.
Verifico la organización.
Y finalmente:
El agente de IA verifica el sistema.
El sistema verifica al agente.
Ambos verifican la autoridad que respalda la acción solicitada.
La confianza comienza a ser recíproca en lugar de asumida.
Aquí es donde encaja Full Duplex Authentication En la conversación más grande
Hace años, esta asimetría en la autenticación tradicional nos molestó lo suficiente en Identité® como para que nos acercamos al problema de manera diferente.
Contribuyó a nuestro patentado Full Duplex Authentication® arquitectura.
La idea subyacente es simple:
La confianza debe funcionar en ambos sentidos.
La organización legítima necesita confianza en la identidad que participa en la interacción.
Pero la persona también debe tener pruebas de que está interactuando con el destino legítimo y aprobando la solicitud prevista.
Usuario ↔ Destino legítimo
Menciono FDA aquí no porque resuelve todos los problemas asociados con la IA confiable. Claramente no lo hace.
La integridad del modelo, la gobernanza de los datos, la privacidad, la autorización, la explicabilidad y la seguridad de la IA siguen siendo problemas separados e importantes.
La conexión es más fundamental.
A medida que las interacciones digitales se automatizan cada vez más, La confianza en un sentido se hace más difícil de justificar.
Si AI va a llevar a cabo transacciones cada vez más valiosas, necesitamos formas más fuertes de establecer quién y qué se sienta en ambos lados de esas transacciones.
La confianza también puede reducir la fricción
Hay otro beneficio comercial que no recibe suficiente atención.
Una mayor confianza puede facilitar las transacciones legítimas.
Las organizaciones a menudo introducen fricción porque son inciertas.
Otro aviso de autenticación.
Otra aprobación.
Otro paso de verificación.
Otra revisión de fraude.
Otra llamada al servicio al cliente.
Cada una de ellas puede estar justificada.
Pero cada paso también crea una oportunidad para el abandono.
Los clientes dejan los carritos de compras.
Los empleados encuentran soluciones.
Las transacciones se retrasan.
Aumento de los gastos de apoyo.
La conversión sufre.
¿ Qué nos permitiría distinguir mejor la actividad legítima de la actividad sospechosa con mayor confianza?
Entonces tal vez no tendríamos que molestar a todos por igual.
He dicho antes:
La fricción debe seguir la incertidumbre y las consecuencias.
¿Confianza alta, interacción de rutina?
Que siga en silencio.
¿Algo cambia?
Introducir la verificación adecuada.
Eso no es simplemente mejor seguridad.
Puede ser una mejor experiencia de cliente.
Y mejores experiencias de clientes tienen valor económico.
La confianza puede convertirse en parte del producto
Aquí es donde creo que los ejecutivos deberían prestar especial atención.
Imagine dos plataformas financieras impulsadas por IA que ofrezcan capacidades comparables.
Básicamente se dice a los clientes:
Confía en nosotros, nuestra IA está segura.
El otro puede demostrar:
que participa,
qué datos se están utilizando,
¿Qué autoridad posee un agente,
qué medidas se solicitan,
si el destino es legítimo,
y cuando se requiera la aprobación humana.
¿Cuál sería un cliente empresarial más cómodo de implementar?
¿A cuál se le podría dar mayor autoridad?
¿Cuál podría pasar por la adquisición más fácilmente?
¿Cuál podría ser el uso de los clientes para transacciones más consecuentes?
De repente la confianza no está al lado del producto como una característica de cumplimiento.
La confianza forma parte del producto.
Y eso cambia la conversación de ingresos.
La confianza puede aumentar el techo de lo que la IA puede hacer
Este puede ser el argumento económico más importante.
Imagine un sistema de IA clientes confían lo suficiente para responder preguntas.
Eso es valioso.
Ahora imaginen que confían lo suficiente para hacer recomendaciones.
Más valioso.
Ahora haz compras.
Servicios de programación.
Mover la información.
Iniciar flujos de trabajo.
Negociar con otro agente.
Aprobar las transacciones rutinarias.
Cada paso aumenta el valor económico potencial.
Pero cada paso requiere más confianza.
Así que tal vez la relación se ve algo así:
Más confianza verificable → mayor autoridad delegada → casos de uso de IA más valiosos → mayor oportunidad económica.
Es por eso que no veo la confianza como un simple freno puesto en la IA para mantenerla segura.
Diseñados de manera adecuada, la confianza puede ser el acelerador que permite a las empresas utilizar IA para cosas que de otra manera no estarían dispuestos a delegar.
Hay un costo de ingresos para la incertidumbre
Las empresas suelen calcular el costo del fraude.
Eso es relativamente fácil.
¿Cuánto dinero perdimos?
¿Cuánto costó la rehabilitación?
¿Cuánto costó la brecha?
Pero hay otro número que es mucho más difícil de ver:
¿Cuánto negocio nunca pasó porque alguien no confiaba en la interacción lo suficiente como para proceder?
El cliente que abandonó el registro.
La empresa que no permitiría el acceso de un agente de IA.
El paciente que retuvo la información.
El comprador que no confiaba en el sitio web.
El ejecutivo que rechazó la automatización porque el modelo de autorización no estaba claro.
La transacción se detuvo para revisión manual.
La oportunidad se retrasó porque la seguridad no pudo establecer suficiente confianza.
No necesariamente aparecen en el presupuesto de seguridad.
Aparecen como oportunidades económicas perdidas.
Y es por eso que la confianza pertenece a las conversaciones con CEOs, CFOs y líderes de ingresos, no simplemente CISOs.
La confianza no es algo que declares
Hay una advertencia importante aquí.
Las empresas no pueden simplemente poner:
“Iniciativa de la confianza”
en un sitio web y esperar que los clientes lo crean.
La confianza no es un adjetivo de marketing.
Tiene que ser ganado a través de pruebas.
Es por eso que cada vez prefiero la palabra verificables.
No me digas que confíe en la identidad.
Déjame verificarlo.
No me digas que el agente está autorizado.
Dame evidencia de su autoridad.
No me digas que el destino es legítimo.
Asómalo.
No me digas que la transacción es segura.
Muéstrame lo que estoy aprobando.
Hay una enorme diferencia entre:
Confía en mí.
y:
“Aquí está la razón por la que puedes”.
Las empresas que entienden esa distinción pueden tener una ventaja.
El ROI de la confianza puede ser más grande que el presupuesto de seguridad
Por lo tanto, puede invertir en IA confianza en realidad impulsar el crecimiento de los ingresos?
Creo que la respuesta es sí, pero tal vez no en el sentido simplista de gastar $1 en confianza y generar inmediatamente $3 en ventas.
La confianza funciona más fundamentalmente que eso.
Permite a los clientes adoptar.
Permite a las organizaciones automatizar.
Permite a los empleados delegar.
Permite que las máquinas actúen.
Reduce la fricción innecesaria.
Puede mejorar la conversión.
Puede reducir el fraude.
Puede diferenciar un proveedor de otro.
Y quizás lo más importante, amplía la gama de cosas que la gente está dispuesta a permitir que la tecnología haga en su nombre.
Ese último punto puede llegar a ser enormemente valioso.
Porque el potencial económico de AI no está determinado sólo por la inteligencia.
Está determinado por permiso.
Y el permiso depende de la confianza.
La confianza comienza antes de la transacción
Hemos pasado gran parte de la historia de ciberseguridad protegiendo lo que pasa después de que alguien intenta entrar en un sistema.
La economía de la IA puede requerir algo más amplio.
Antes de que se lleve a cabo una transacción digital significativa, cada vez necesitamos más confianza en:
Identidad.
Destino.
Autoridad.
Intención.
Contexto.
Y cuando sea apropiado, aprobación humana.
Esos no son obstáculos para el comercio.
Son lo que permite que el comercio digital de mayor valor suceda con seguridad.
Es por eso que creo que la conversación de nuestra industria sobre la confianza en la IA necesita cambiar.
No preguntes sólo:
¿Cuánto nos costará la IA confiable?
Preguntar:
¿Qué podríamos permitir con seguridad que hiciera AI si confiáramos más en ella?
Esa segunda pregunta abre un debate muy diferente.
Porque en la siguiente fase de IA, las empresas pueden descubrir que la confianza no es simplemente algo que protege la seguridad.
La confianza puede ser algo que el negocio vende.
Y las organizaciones capaces de hacer la confianza verificable puede ser en última instancia las que los clientes permiten hacer más.