Ai viés exemplos e estratégias para mitigar o viés

Se você trabalha em RH ou marketing, a última coisa que você quer ouvir é alguém dizendo (ou provando) que você é tendencioso. Na verdade, sabemos que 24% dos consumidores dos EUA Parou de fazer compras em algumas lojas devido à política, sugerindo uma nova tendência de clientes votando com suas carteiras.

E ainda assim 70% das empresas Nos continentes e indústrias, convidaram um novo colega para suas fileiras. Ele é um trabalhador esforçado, nunca tira uma folga e todos nós lhe damos mais responsabilidades do que qualquer funcionário sã jamais poderia suportar. Ele só tem uma fraqueza, e esse é seu preconceito conhecido. Você adivinhou. Estou falando do algoritmo AI Todo -Poderoso.

Agora, dado que todos nós usamos esse acrônimo cativante para descrever um mar de aplicações mais amplo do que a definição de “engajamento” de um profissional de marketing, vamos analisar objetivamente diferentes tipos de viés e estratégias de IA que você pode implementar para evitá -lo.

Os números não mentem (mas às vezes, a IA generativa faz)

Nesse ponto, mesmo um modelo de IA não conseguiu acompanhar as mudanças nos aplicativos, regulamentos e sentimentos do cliente do setor. Sim, é verdade que mais e mais empresas estão usando Aplicações de IA como ChatGpt Para qualquer coisa, desde a criação de conteúdo até a ciência de dados.

E sim, aqueles que abordam qualquer modelo de aprendizado de máquina com um nível saudável de críticas já sabem que você precisa considerar fases de treinamento adequadas, privacidade ou problemas de fornecimento de dados.

Mas quando nos envolvemos com a tecnologia de uma maneira que imita a interação humana, alguns trocam em nosso cérebro de macacos parecem virar. Então, quando falamos sobre IA tendenciosa, há os fatos difíceis relacionados aos resultados discriminatórios e, em seguida, existem crenças dos usuários (também conhecidos como viés humano).

Primeiro, vamos discutir o que sabemos sobre o viés prejudicial no desempenho do modelo. Não há dúvida de que todo sistema de IA sofre de algum nível de viés implícito – seja relacionado à falta de métricas de justiça, algoritmos tendenciosos ou comportamento do usuário e fatores contextuais.

Os pesquisadores mostraram repetidamente que os modelos de idiomas agem apenas como espelhos, exceto que nem sempre percebemos quais valores eles nos mostram – como no caso de um estudo provando O viés inerente ao Chatgpt em relação aos democratas dos EUA e ao Partido Trabalhista do Reino Unido. Não é por acaso que os governos ao redor do mundo estão reagindo.

Na UE, por exemplo, o recentemente imposto Lei de Inteligência Artificial está abordando o viés, proibindo a tecnologia de IA usando pontuação social, compilações de bancos de dados de reconhecimento facial ou aqueles que dependem da exploração de vulnerabilidades relacionadas à demografia, entre outras coisas.

E ainda, quase metade (47%) dos norte -americanos Preveja que o Gen AI será menos tendencioso do que os humanos no futuro.

Agora, a menos que você seja um fabricante de bola de cristal, você não saberá melhor do que essas pessoas. Então, vamos olhar para os saídas da IA ​​danos pode estar causando hoje, Portanto, sua empresa pode tomar precauções.

Imagem imperfeita: exemplos visuais de viés de algoritmo

Se você é ativo em redes sociais como o LinkedIn, sabe que as marcas não estão apenas gerando imagens. Suas criações iniciam ondas inteiras, como as mais recentes tendência da figura de ação. E animado como sua criança interior pode conseguir criar brinquedos digitais no piloto automáticoespecialmente quando parece se relacionar com sua estratégia de marketing, há um problema. Bem, vários, na verdade.

Além do fato de que uma estratégia baseada apenas em ferramentas generativas de IA tornará impossível para sua marca se destacar, o pêndulo de viés pode balançar em direções que você não prevê.

Como muitos exemplos ilustram, você nem sempre pode assumir que o viés de um modelo (ou crenças) permanecerá coerente da maneira que o humano faria. Um momento, você receberá imagens com viés sexual ou racial. Em seguida, você está lidando com viés histórico no outro extremo do espectro, como modelos de excesso de compensação Colocando pessoas de cor em cenas históricas sem considerar a precisão factual.

Independentemente do modelo que você esteja usando, casos como esses mostram que você simplesmente não pode usar um modelo de IA generativo para geração de imagens em um ambiente profissional sem os correios de proteção adequados e o treinamento de ética da IA. Mas os problemas não param por aí.

O custo humano de automatizar a justiça: quando a AI fica pessoal

Talvez você já esteja montando a onda de desenvolvimento da IA ​​além das campanhas de marketing e narrativa. Mas quando você está assando a automação em suas principais ofertas e serviços de negócios, o risco de viés inconsciente é ainda maior. O problema é que até a IA explicável só pode abordar esse resultado tendencioso em seu nicho até certo ponto.

Hoje em dia, nossos amigos robóticos podem se sentir como eletricidade ou água da torneira – estão por toda parte. Infelizmente, isso também significa que as histórias de viés de medição estão surgindo em um milhão de facetas diferentes.

Exemplos de alcance algoritmos discriminando milhões de pacientes por causa de Viés racial e ferramentas de recrutamento categoricamente rejeitando as candidatas para Ferramentas de triagem de inquilino causando um novo tipo de crise imobiliária.

Tão ruim quanto cada um deles pode parecer em nível organizacional ou de uma perspectiva de relações públicas, o nível de dor imposto ao cliente individual (ou destinatário inconsciente das decisões de IA) é ainda pior. Não é surpresa, então, que vemos os primeiros assentamentos de IA.

E se você acha que esses ganhos doces e doces de produtividade valem a pena e só precisamos arar até a IA superar seu viés, faça as contas. Se Apenas um A liquidação custa seis dígitos, como foi para ItutorGroup E muitos outros, esse gráfico de ROI de marketing fica um grande dente, sem mencionar a reputação da sua marca.

Quando a ferramenta de IA errar: falhas de serviço

Também vale a pena notar a rapidez com que os sistemas de IA podem ficar fora de controle se sua organização não tiver as diretrizes ou verificações de qualidade adequadas. Multiplique o acordo médio com sua base de clientes e você terá uma noção da escala do problema.

No último ano, nós, os ratos de laboratório do público, processamos as companhias aéreas por causa de seus Políticas de taxa de aplicação de chatbotgritou com raiva Sistemas de pedidos que foram um pouco criativos e Recebeu aconselhamento jurídico de portais de informações que foram … digamos questionáveis.

O argumento aqui não é que a IA seja ruim ou que todos devemos voltar ao nosso tear de tecelagem de confiança. É que a produtividade escala ao lado de erros, preconceitos e discriminação não intencional. Então, se você fazer Adote a IA, especialmente se estiver em um nível operacional, é melhor garantir que o controle de qualidade corresponda à velocidade e controle do seu sistema em execução.

Com a IA sangrando em todas as partes do seu negócio, separar o gerenciamento de reputação e o marketing do negócio é um luxo que você não pode pagar.

O balanço patrimonial: impacto comercial do viés e soluções algorítmicas

No caso de tudo isso faz Faça você PINE para os dias dourados do tear confiável da vovó, não se preocupe, alma corajosa. Nosso pergaminho de sabedoria aguarda, escrito na tinta da experiência (e talvez um toque de cafeína).

Entre todas as histórias tristes, frustrantes ou hilárias de IA errando, podemos encontrar um vislumbre de esperança – como o fato de que a IA está melhorando o acesso a Serviços de microfinanças para femininas empresárias. Alguns críticos dirão que essas são as exceções à regra e que estamos usando a IA sem verdadeira compreender os benefícios Eles estão entregando.

De qualquer forma, você ou eu provavelmente não faremos ai ir embora, e pelo menos podemos ter certeza de que algumas empresas gostam JP Morgan está investindo milhões para combater o viés.

Mas por enquanto, o que você pode fazer?

• Educar -se sobre a natureza do viés: Realmente, esta postagem do blog deve ser apenas o seu ponto de partida. Com tantos fatores que afetam o viés potencial, os regulamentos mudam diariamente e sua indústria dependendo de dados diferentes dos seguintes, fica claro que a mitigação de viés deve fazer parte do gerenciamento de negócios saudáveis ​​agora.
• Entenda como suas ferramentas de IA operam: Como mencionamos, a IA não é inerentemente má. Algumas ferramentas, como o Google Notebooklm, entregam a você um comentário sintetizado dos documentos que você alimenta no modelo. Outros podem extrair dados recentes, e outros novamente podem lutar com sua mais recente atualização de algoritmo. Compreender as diferentes origens do viés e discriminação de IA é o primeiro passo para abordá -lo.
• Use IA para revidar: É isso mesmo, você pode realmente usar ferramentas de mitigação de polarização para identificar e abordar vieses em conjuntos de dados e algoritmos. Por mais contra -intuitivo que possa parecer, você deve considerar a escala do problema que está tentando resolver. Você também não pode segurar uma avalanche com uma pá dobrável, por isso é aconselhável pesquisar ferramentas que possam ajudar diferentes departamentos a abordar o viés do seu negócio.
• Peça ao redor de colaboração cruzada: Na maioria dos casos, a IA muda a própria natureza da tarefa que está resolvendo. Para você, isso significa que você precisa de novos conhecimentos para vigiar. Isso pode significar repensar as estruturas da equipe para permitir trocas mais regulares entre seus departamentos. Também pode significar trazer especialização de ética externa, sociólogos ou outros especialistas em domínio para ajudá -lo a desenvolver soluções que façam mais bem do que mal.
• Escolha uma solução que corresponda à sua tolerância ao risco: Se você se apaixonou pelo oeste selvagem da adoção da IA, vá em frente. Mas se você não puder pagar, simplesmente por causa da indústria em que está operando, coloque as estratégias de mitigação corretas em vigor, seja um sistema de gerenciamento de direitos digitais, técnicas de anonimização ou controles de acesso ao usuário. Para marketing de conteúdo, implemente os fluxos de trabalho de verificação de fatos e promova a alfabetização digital em toda a sua equipe para interromper o viés antes que possa afetar toda a equipe.

Se tudo isso parecer esmagador, permita -me fornecer uma última palavra de consolo e alguma perspectiva.

Desde a suspeita de Platão de escrever até os críticos de Gutenberg, torcendo as mãos no final do controle, até a Kodak Shutterbugs sendo marcada como pragas sociais – sempre fomos um pouco dramáticos sobre novas ferramentas.

Mas aqui estamos nós – ainda pensando, lendo, tirando fotos de nossos cães. Ai é apenas o próximo convidado à mesa. Vamos ensinar algumas maneiras.

Observação: Este artigo foi publicado originalmente em ContentMarketing.ai.