NOT√ćCIAS

Garantir a integridade de dados é essencial para uma empresa segura e orientada por IA

Garantir a integridade de dados é essencial para uma empresa segura e orientada por IA

by 13 de dezembro de 2019 0 comments

por Rajesh Ganesan*

Nos √ļltimos anos, a Intelig√™ncia Artificial (IA) vem desempenhando um papel significativo na transforma√ß√£o de opera√ß√Ķes de neg√≥cios em empresas de todos os tamanhos ao redor do mundo. No Brasil, por exemplo, o Instituto Avan√ßado de Intelig√™ncia Artificial (AI2) foi fundado no in√≠cio deste ano com o objetivo de aproximar pesquisadores e companhias privadas, os ajudando a entender mais profundamente a IA e outras tecnologias da nova era.

Embora a IA esteja ganhando mais terreno, ainda existem alguns desafios em rela√ß√£o √† ado√ß√£o de sistemas com essa tecnologia. De acordo com um estudo recente realizado pela Deloitte, 16% dos l√≠deres de TI entrevistados classificaram quest√Ķes relacionados a dados como o principal desafio em IA, acima de qualquer outro problema; e 39% listou dados entre as tr√™s principais √°reas de preocupa√ß√£o.

As empresas que tentam alavancar a IA devem entender que os resultados dependem diretamente do volume, da qualidade e da diversidade dos dados a partir dos quais os sistemas de IA podem aprender de forma otimizada e cont√≠nua. Quanto melhor o aprendizado, mais precisas ser√£o as predi√ß√Ķes, e √© por isso que √© extremamente importante que os dados permane√ßam dispon√≠veis.

Esse √© fundamentalmente o maior desafio dos l√≠deres de tecnologia que buscam impulsionar a IA: poder coletar, armazenar, manter e proteger os dados que os sistemas precisam. Enquanto o sistema de IA estiver em uso, toda a intelig√™ncia adquirida √© armazenada como ‚Äúmodelos‚ÄĚ.

Desafios de segurança da IA
Tanto os dados corporativos quanto os modelos de IA podem armazenar dados sens√≠veis, incluindo informa√ß√Ķes pessoais, e, portanto, tornar-se um alvo atraente para criminosos interessados em roub√°-los. √Č essencial tratar esse conjunto de informa√ß√Ķes da mesma maneira que outros materiais confidenciais e criar m√ļltiplas camadas de seguran√ßa, incluindo criptografia.

E, onde a criptografia dos dados impedir que os sistemas de IA sejam eficientes, as organiza√ß√Ķes devem buscar tecnologias como a criptografia homom√≥rfica para equilibrar os benef√≠cios do sistema de IA e a seguran√ßa da informa√ß√£o.

Abaixo estão os três problemas de segurança mais comuns relacionados à IA

Ataques advers√°rios
Al√©m de proteger a infraestrutura de armazenamento de dados, as organiza√ß√Ķes devem conhecer peculiaridades que podem ser exploradas pelos criminosos para enganar o sistema de IA.

A mais proeminente delas √© o ataque advers√°rio, que pode ser usado por um √ļnico ou por um grupo de invasores motivados a enganar intencionalmente um sistema de IA, fornecendo dados incorretos que resultam no sistema aprendendo erroneamente e aplicando esse aprendizado em seu eventual comportamento.

Mudanças não previstas
Tamb√©m problem√°tico √© o fen√īmeno de deriva de conceito (do ingl√™s concept drift), em que a intelig√™ncia adquirida em um modelo de IA baseado em dados operacionais podem mudar drasticamente, tornando o modelo irrelevante.

Qualquer predição ou ação subsequente, feita por um sistema de IA com base nesse modelo irrelevante, leva a problemas de segurança, como exposição, roubo ou até exclusão de dados.

A deriva de conceito tamb√©m pode ser programada ao fornecer intencionalmente dados errados para aplica√ß√Ķes de neg√≥cios, j√° que normalmente os sistemas de IA n√£o possuem a intelig√™ncia para determinar se est√£o aprendendo a partir de uma fonte de dados certa ou errada.

Viés de engenharia humana
Igualmente importante √© estar ciente de que os humanos podem projetar orienta√ß√Ķes no sistema de IA, tamb√©m ao injetar intencionalmente dados injustos e n√£o inclusivos nas aplica√ß√Ķes de neg√≥cios, especialmente durante o treinamento do sistema de IA para a constru√ß√£o dos modelos. Fazendo isso, os hackers podem controlar o funcionamento da aplica√ß√£o para causar vi√©s de g√™nero, favoritismo, entre outros, para favorec√™-los.

Uma maneira definitiva para as organiza√ß√Ķes se protegerem dos problemas acima √© investir em ‚ÄúIA explic√°vel‚ÄĚ, que nada mais √© do que a capacidade adicional de um sistema de IA de tamb√©m justificar o por qu√™ de suas v√°rias previs√Ķes e a√ß√Ķes, antes de realmente faz√™-las.

Isso dá a chance de combater, em tempo real, fatores manipulados, como ataques adversários, desvios de conceito ou preconceitos plantados intencionalmente. Uma organização bem informada, com uma liderança bem-intencionada, entenderá as nuances de todos esses conceitos e a necessidade de investir em um sistema robusto para poder aproveitar totalmente os benefícios das tecnologias de IA.

*Rajesh Ganesan é Vice-presidente da ManageEngine

Nenhum Coment√°rio

Seja o Primeiro a Comentar Este Post

Nenhum Coment√°rio Ainda!

Seja o Primeiro a fazer um coment√°rio.

Deixe uma resposta

<

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *