Home Banco da Inglaterra alerta sobre ameaça de parcialidade da IA ​​ao setor financeiro
Notícias

Banco da Inglaterra alerta sobre ameaça de parcialidade da IA ​​ao setor financeiro

genelypse

The Tech Report - Português Por Que Confiar em Tech Report Arrow down

O Tech Report é um dos sites de análise de hardware, notícias e tecnologia mais antigos da Internet. Escrevemos guias de tecnologia úteis, fazemos análises imparciais de produtos e trazemos até si as últimas notícias sobre tecnologia e criptografia. Mantemos a independência editorial e não abdicamos da qualidade do conteúdo e da precisão factual.

IA e bancos

Um recente relatório sobre IA de um especialista em tecnologia financeira do Banco da Inglaterra levantou uma bandeira vermelha contra a utilização extensiva da Inteligência Artificial ​​em vários setores, incluindo o financeiro. 

Embora o início da IA ​​prometa melhor eficiência, os riscos são grandes para as instituições financeiras que a adotam. O relatório, publicado por Kathleen Blake, explora o problema do viés da IA ​​e as suas potenciais consequências. 

Ele também incentiva a indústria a abordar esta questão importante. O relatório categoriza o viés da IA ​​em dois grupos distintos. Estes são vieses originados dos dados de treinamento subjacentes e vieses decorrentes dos resultados produzidos por modelos de IA.

Eventualmente, essas questões refletem os vieses inerentes de seus criadores e desenvolvedores.

Blake observa ainda que é impossível mitigar o viés com base na saída do modelo, visto que o viés enraizado nos dados de treinamento é muito mais complexo.

A remoção de pontos de dados associados a características como gênero ou etnia muitas vezes revela-se ineficaz. Blake também comparou esse viés de dados à prática histórica de redlining nos empréstimos imobiliários.

Ele explica: “Em outras palavras, os recursos restantes não protegidos poderiam atuar como proxies para características protegidas”.

Viés social e o papel dos dados

O preconceito social, conforme descrito no relatório, surge quando normas e legados negativos da sociedade se infiltram involuntariamente nos sistemas de IA.

Por exemplo, Blake citou o algoritmo de recrutamento da Amazon que recomenda mais candidatos do sexo masculino do que do sexo feminino devido aos dados históricos que mostram que os homens eram tradicionalmente contratados com mais frequência.

Este exemplo mostra como os sistemas de IA tendem a manter os preconceitos existentes. O relatório também destaca que o setor financeiro está ameaçado pela parcialidade da IA. 

Por exemplo, em financiamentos imobiliários, os modelos de IA cobram taxas de juro mais elevadas dos clientes negros e latinos em comparação com os brancos. Isto alimenta a desigualdade financeira, levando a uma desconfiança no mecanismo bancário.

Além disso, a natureza de “caixa preta” dos modelos proprietários de IA continua a ser uma preocupação. Muitas instituições financeiras dependem desses modelos para diversos fins. Mas as suas ações coletivas podem ter um impacto significativo na economia. Dado que estes modelos são opacos, os resultados tendem a ser imprevisíveis.

Embora qualquer evento catastrófico ainda não tenha ocorrido, há uma hipótese de esta desestabilização se tornar real, como no caso de 2021, em que a Apple e ao Goldman Sachs foram investigados por oferecerem linhas de crédito menores às mulheres com base na tomada de decisões algorítmicas.

As instituições financeiras não devem ignorar as preocupações relacionadas ao viés da IA

O relatório do Banco da Inglaterra destaca a necessidade urgente de abordar a questão do viés da IA ​​no setor financeiro. Embora o potencial da IA ​​seja imenso, os seus problemas na alimentação de vieses não podem ser ignorados.

As consequências do viés não controlado da IA, conforme explicado no relatório, podem levar a uma instabilidade nas instituições financeiras e na indústria em geral. Portanto, é fundamental dar prioridade à justiça e à transparência ao implementar a Inteligência Artificial para enfrentar estes riscos e garantir um sistema financeiro igualitário.

The Tech Report - Editorial ProcessNosso processo editorial

A política editorial do Tech Report é centrada em fornecer conteúdo útil e preciso que ofereça verdadeiro valor aos nossos leitores. Trabalhamos apenas com escritores experientes que possuem conhecimento específico nos tópicos que cobrem, incluindo os últimos desenvolvimentos em tecnologia, privacidade online, criptomoedas, software e muito mais. Nossa política editorial garante que cada tópico seja pesquisado e selecionado por nossos editores internos. Mantemos padrões jornalísticos rigorosos e cada artigo é 100% escrito por autores reais.

Genelypse

Genelypse

Gabriel é um especialista em conteúdo sobre tecnologia em geral. Formado em redes de computadores, seu grande interesse por novidades tecnológicas alimenta pesquisas sobre os mais diversos setores, desde internet, blockchain, robótica, a lançamentos espaciais. Por acreditar no enorme potencial da tecnologia de transformar a vida das pessoas (pra melhor), Gabriel especializou-se em redação, tradução e edição de conteúdo especializado, de modo que ajude os leitores a obterem informações valiosas e que podem auxiliar na educação, profissionalização e muito mais. Sua experiência inclui redação de conteúdo para diversos sites importantes, como Business 2 Community Brasil, CryptoNews, Trading Platforms, entre outros.