Os perigos reais da IA no atendimento (e como não virar manchete ruim)

Todo fornecedor te mostra o lado bonito da IA. Este texto é sobre o outro lado — o que ninguém coloca no slide de vendas, mas que já derrubou empresas grandes. Conhecer os riscos é o que separa quem usa IA com vantagem de quem vira notícia ruim.

1. Alucinação: quando a IA inventa com convicção

O erro mais perigoso não é a IA dizer “não sei”. É ela afirmar com segurança algo falso — um preço que não existe, uma política que você nunca teve. Pesquisas recentes mostram que o consumidor até tolera um erro comum, mas reage muito pior a uma alucinação. O Gartner chega a recomendar tratar qualquer taxa de alucinação acima de 2% como sinal de alerta para revisar a base de conhecimento. A defesa: prender a IA à sua base de fatos (só responde do que você aprovou) e proibi-la de improvisar preço, prazo e política.

2. Automação demais: a lição da Klarna

A Klarna virou o caso mais citado do mundo — nos dois sentidos. No começo, o assistente de IA fez o trabalho de ~700 atendentes e cortou o tempo de resolução de 11 para menos de 2 minutos. Meses depois, o próprio CEO admitiu que o foco excessivo em cortar custo gerou “qualidade inferior”, e a empresa voltou a contratar humanos. A moral não é “IA não presta” — é que IA sem humano no lugar certo troca satisfação por economia de curto prazo. O equilíbrio é o produto.

3. Voz clonada e fraude

A mesma tecnologia que dá uma voz linda para o seu atendimento é usada por golpistas: hoje um clone convincente sai de poucos segundos de áudio, e as tentativas de fraude por voz sintética explodiram em 2025 (o FBI associou centenas de milhões de dólares em perdas a golpes com IA no ano). Duas regras de ouro: só clone uma voz com consentimento explícito, e nunca use a voz sozinha como prova de identidade — sempre combine com outra verificação.

4. Fingir que não é IA

Esconder que o cliente fala com uma máquina saiu de “esperteza” para risco jurídico. Na Europa, o AI Act passa a exigir, a partir de agosto de 2026, que o usuário seja avisado de que interage com IA logo no início. E não é só lei: dado do setor mostra que interações de IA declaradas pontuam mais alto em confiança do que as escondidas. Assumir que é IA não afasta o cliente — engana ele afasta.

5. Dado do cliente é responsabilidade sua

Jogar conversa de cliente numa IA sem cuidado é problema de LGPD esperando acontecer. A ANPD colocou “inteligência artificial” entre os eixos prioritários de fiscalização para 2026-2027. Base legal, minimização de dados e transparência não são burocracia — são o que evita a multa e o vazamento.

O resumo honesto: IA no atendimento é uma alavanca poderosa e uma faca. Usada com base de fatos, humano no lugar certo, transparência e cuidado com dado, ela vira vantagem. Sem isso, vira a próxima manchete.