Como projetar sistemas de IA que os clientes não odeiem?
As preocupações com a privacidade atraem a atenção dos céticos técnicos, mas algoritmos preditivos poderosos podem gerar séria resistência, ameaçando a autonomia do consumidor. Encontre neste artigo 3 recomendações para o desenvolvimento de sistemas de IA que agradem os seus clientes.
O nexo da análise de big data, aprendizado de máquina e IA pode ser o ponto mais brilhante da economia global no momento. A McKinsey Global Research estima que o uso da IA acrescentará até US $ 13 trilhões ao PIB global até 2030. Os benefícios não econômicos para a humanidade serão igualmente dramáticos, levando a um mundo mais seguro e oferecendo às pessoas uma melhor qualidade de vida. Mesmo que a próxima interrupção dos mercados de trabalho, impulsionada pela automação, seja tão séria quanto muitos temem, ainda estaremos em melhor situação do que hoje.
Mas nem todo mundo está convencido. As previsões negativas centram-se em duas preocupações gerais que são relacionadas ainda que distintas. Primeiro, há a questão da privacidade de dados. Afinal, a IA utiliza dados e as pessoas ficam compreensivelmente desconfortáveis com o que as tecnologias de automação estão aprendendo sobre elas e como suas informações privadas podem ser usadas.
No entanto, há outra consideração que muitas empresas ainda precisam pensar seriamente: autonomia. Embora a tecnologia autônoma tenha uma gama ampla e crescente de aplicativos em potencial, quando levada longe demais, também pode ameaçar o senso de autonomia e livre arbítrio dos usuários ou a crença de que eles podem decidir como levar suas vidas livremente.
Infelizmente, a ameaça que as pessoas sentem provavelmente piora à medida que a inovação tecnológica se acelera e os dispositivos autônomos passam para novas áreas da vida dos clientes. A boa notícia é que após análise, foram identificadas três recomendações sobre como as empresas podem desenvolver sistemas de IA que seus clientes não odeiem.
Proteja a individualidade de seus clientes nos sistemas de IA
Um aspecto fundamental da autonomia é a individualidade - a ideia de que cada um de nós tem uma identidade central única e que não somos intercambiáveis. Essa ideia é especialmente proeminente nas sociedades ocidentais, embora não restritas a elas. Mas agora, vivemos em uma era de algoritmos, que podem traçar previsões altamente precisas sobre preferências e comportamentos individuais com base em dados provenientes das massas e desafiar o senso de individualidade dos consumidores.
Por exemplo, as empresas estão cada vez mais usando bots de atendimento ao cliente habilitados para IA para fornecer respostas básicas a problemas e perguntas. Para muitos clientes, os bots são mais convenientes; eles podem resolver problemas para muito mais pessoas em muito menos tempo do que um representante do call center. No entanto, alguns consumidores resistem a interagir com os bots. Quando as pessoas precisam de ajuda com um problema, muitas desejam atenção pessoal. De maneira mais ampla, muitas pessoas não gostam de ser tratadas como se seus problemas fossem genéricos o suficiente para garantir soluções padronizadas de um bot.
Alguns defensores da tecnologia acreditam que esse problema pode se resolver, porque os aplicativos de IA podem avançar de tal forma que os consumidores não conseguirão distinguir entre um humano e um robô. Mas mesmo essa estratégia tem potencial de sair pela culatra.
Esse tipo de convencimento pode não ser necessário quando as medidas corretas do projeto são tomadas. Por exemplo, os robôs de IA podem ser criados para amenizar os medos baseados na autonomia, tomando medidas menores para personalizar cada encontro. Mesmo um toque pessoal modesto pode ter um efeito enorme: um estudo de 2016 descobriu que os consumidores mostraram uma maior afinidade por uma série de produto quando o fabricante se dirigiu a eles por seus primeiros nomes. Em outras pesquisas em andamento, os clientes de ensaios clínicos randomizados fizeram menos ligações para um centro de serviços quando um algoritmo forneceu explicações simples para o motivo de ter rejeitado as transações dos clientes, comparado com quando não forneceu nenhuma explicação.
Da mesma forma, as empresas podem salvaguardar a individualidade dos clientes projetando interações - mesmo com um bot habilitado para IA - de maneira a dar aos usuários algum senso de agência durante o processo. Quando as empresas tentam tornar as interações dos consumidores extremamente suaves e convenientes, elas podem estar perdendo oportunidades de permitir que os consumidores expressem sua individualidade e autonomia - e, assim, aprofundar sua conexão com o produto ou serviço. A inteligência artificial é mais palatável quando permite que os usuários sintam que sua experiência é de alguma forma deles e de mais ninguém.
Proteja a liberdade de seus clientes para não serem previsíveis
Um aspecto fundamental da liberdade é a capacidade de mudar de ideia e abandonar os padrões de comportamento pré-estabelecidos - o que os filósofos chamam de “a liberdade de fazer o contrário”. Para os desenvolvedores de sistemas de IA, isso apresenta um problema inerente, porque mesmo os algoritmos de aprendizado de máquina mais refinados acharão difícil prever o capricho humano. Quanto mais os consumidores sentem que uma empresa espera que eles ajam seguindo suas escolhas passadas, mais alguns desejam interromper essas escolhas.
Mensagens inteligentes podem ajudar. Estudos em andamento mostram que as ameaças percebidas pelos consumidores à sua autonomia diminuíram quando seu comportamento foi descrito como "consistente" (que tem uma conotação positiva) em vez de "previsível" (que é negativo). Dada essa diferença, é menos provável que as empresas atinjam a resistência dos consumidores com as recomendações se forem posicionadas como convites para concluir uma tarefa em andamento ou adquirir conhecimentos mais aprofundados. Essa abordagem recompensaria implicitamente os consumidores por continuar seguir um caminho escolhido, em vez de pressioná-los a se desviar dele, a fim de afirmar sua autonomia.
Às vezes, desviar-se dos hábitos passados é do interesse dos consumidores. Por exemplo, considere um consumidor que reduziu recentemente os refrigerantes açucarados devido a problemas de saúde. Se essa pessoa chegasse em casa e descobrisse que os algoritmos da Amazon haviam pedido automaticamente garrafas de seu antigo refrigerante favorito - com base em compras anteriores - ele poderia sentir que a tecnologia estava minando sua força de vontade.
No entanto, em vez de fazer parte do problema, a IA pode ajudar os consumidores a romper com hábitos indesejáveis - e aumentar seus sentimentos de autonomia e lealdade do consumidor. De fato, pesquisa sugere que os algoritmos podem ser treinados para identificar pessoas que estão prontas para fazer mudanças positivas no estilo de vida, mas precisam de uma pequena ajuda para fazê-lo. Os consumidores dessa categoria exibem comportamentos reveladores de compra que os pesquisadores apelidaram de "pré-compromisso".
As empresas que desejam capitalizar os sinais de comportamento de pré-compromisso podem configurar algoritmos para identificar os consumidores que podem receber opções mais formais e rigorosas, projetadas para ajudá-los a fazer mudanças duradouras no estilo de vida. Além disso, as empresas poderiam convencer os consumidores a declarar suas metas de longo prazo e aspirações mais elevadas por suas vidas. Obviamente, as próprias recomendações precisam ser sensíveis e atenciosas. À medida que as pessoas usam o produto ou a plataforma, a IA pode ajudar a identificar situações em que os consumidores podem ser receptivos para experimentar opções alinhadas com suas metas de longo prazo.
Proteja a privacidade de seus clientes dentro de sistemas de IA
Privacidade e autonomia são conceitos discretos, mas relacionados, que se sobrepõem. A falta de confidencialidade restringe as opções das pessoas para fazer coisas que elas podem não querer que outras pessoas saibam. Para se sentir seguro em sua autonomia, as pessoas devem ter um certo grau de privacidade. As configurações de privacidade fornecidas pelo Facebook, Google e outros serviços habilitados para Internet fornecem um pouco de proteção, desde que se saiba como navegar neles.
De um modo mais geral, a Internet confunde a linha entre a existência pública e privada de uma pessoa. À medida que realizamos negócios em nossos dispositivos digitais, transmitimos automaticamente informações reveladoras sobre nós mesmos - por meio de pesquisas no Google, visualizações do YouTube, consultas Siri e praticamente tudo o que fazemos online, que pode ser interceptado e usado para nossa desvantagem.
À medida que as preocupações com a privacidade digital atingem um ponto crítico, o equilíbrio de poder está mudando para as empresas de tecnologia e a favor dos usuários. Em vez de resistir a essa mudança, sugerimos que as empresas a adotem e comecem a buscar ativamente maneiras de oferecer aos usuários maior controle sobre como seus dados são usados. Se executadas corretamente, políticas de privacidade mais equitativas e transparentes podem beneficiar todos os envolvidos.
Proteger a privacidade e a autonomia requer repensar não apenas como informações confidenciais são obtidas, mas também como elas são usadas em última análise. Apesar de alguns incidentes notórios, os algoritmos geralmente estão melhorando em antecipar o que os usuários podem querer e precisar com base em informações como pesquisas na Internet e curtidas nas mídias sociais. As empresas devem ter cautela em agir de forma muito agressiva com relação a esses pontos de dados e devem continuar a promover um sentimento de autonomia para que os usuários formem suas preferências confidencialmente.
