Antes do evento TechEx North America de 4 a 5 de junho, tivemos a sorte de falar com Kieran Norton, o líder da Deloitte Cyber AI & Automation, que será um dos palestrantes na conferência em 4 de junho. Os mais de 25 anos de Kieran no setor significam que, além de falar com autoridade em todos os assuntos, sua segurança cibernética, suas funções mais recentes incluem aconselhar os clientes da Deloitte em muitas questões em torno da segurança cibernética ao usar a IA em aplicativos de negócios.
A maioria das organizações existe pelo menos o mínimo de segurança cibernética e, felizmente, na maioria dos casos, opera uma série de maneira decente de medidas de segurança cibernética que cobrem as comunicações, armazenamento de dados e defesas de perímetro.
No entanto, nos últimos dois anos, a IA mudou a imagem, tanto em termos de como as empresas podem alavancar a tecnologia internamente e na maneira como a IA é usada na segurança cibernética – na detecção avançada e nas novas maneiras pelas quais a tecnologia é usada por maus atores.
Como um Ferramenta de segurança cibernéticaA IA pode ser usada na detecção de anomalia de rede e na mancha inteligente de mensagens de phishing, entre outros usos. Como um facilitador de negóciosIA significa que a empresa deve ser proativa para garantir que a IA seja usada com responsabilidade, equilibrar a IA da inovação oferece privacidade, soberania de dados e risco.
Considerado uma área relativamente nova, IA, automação inteligente, governança e segurança de dados habitam um nicho atualmente. Mas, dada a crescente presença de IA na empresa, esses nichos devem se tornar questões convencionais: problemas, soluções e conselhos que precisarão ser observados em todas as organizações, mais cedo ou mais tarde.
Governança e risco
A integração da IA nos processos de negócios não é apenas sobre a tecnologia e os métodos para sua implantação. Os processos internos precisarão mudar para fazer o melhor uso da IA e para proteger melhor os negócios que estão usando a IA diariamente. Kieran atrai um paralelo às mudanças anteriores necessárias pelas novas tecnologias: “Eu me correlacionaria (AI) com a adoção da nuvem, onde foi uma mudança bastante significativa. As pessoas entendiam as vantagens e estavam se movendo nessa direção, embora às vezes levassem mais tempo do que outros para chegar lá”.
Essas mudanças significam lançar a rede em ampla, para abranger a atualização das estruturas de governança, estabelecendo arquiteturas seguras, até mesmo alavancando uma nova geração de especialistas para garantir a IA e os dados associados a ele são usados com segurança e responsabilidade. As empresas que usam ativamente a IA precisam detectar e corrigir preconceitos, testar alucinações, impor guardrails, gerenciar onde e por quem a IA é usada e muito mais. Como Kieran coloca: “Você provavelmente não estava fazendo muitos testes para alucinação, viés, toxicidade, envenenamento por dados, vulnerabilidades de modelos etc. que agora precisam fazer parte do seu processo”.
São grandes assuntos e, para a imagem mais completa, defendemos que os leitores participam das duas palestras na TechEx North America que a de Kieran dar. Ele estará explorando os dois lados da moeda da IA-emitidos em torno da implantação da IA para os negócios e os métodos que as empresas podem implementar para deter e detectar a nova geração de malware e vetores de ataque a IA.
Os casos de uso certos
Kieran defende que as empresas começam com implementações de IA de menor risco de menor risco. Enquanto alguns dos primeiros avistamentos de IA ‘in the Wild’ foram chatbots, ele foi rápido em diferenciar entre um chatbot que pode responder de maneira inteligente perguntas dos clientes e agentes, que podem agir por meio de desencadear interações com os aplicativos e serviços que a empresa opera. “Portanto, há um delineamento (…) chatbots tem sido um dos principais locais de partida (…) quando entramos em agentes e agênticos, que muda a imagem. Isso também muda a complexidade e o perfil de risco.”
As instâncias agênticas de IA voltadas para o cliente são riscos indubitavelmente mais altos, pois um passo em falso pode ter efeitos significativos em uma marca. “Esse é um cenário de risco mais alto. Principalmente se o agente estiver executando transações financeiras ou fazendo determinações com base na cobertura de assistência médica (…), esse não é o primeiro caso de uso que você deseja experimentar”.
“Se você conectar 5, 6, 10, 50, cem agentes juntos, estará entrando em uma rede de agência (…), as interações se tornam bastante complexas e apresentam questões diferentes”, disse ele.
De certa forma, os problemas em torno das interfaces de automação e sistema a sistema já existem há uma década. Os desafios de silos de dados e RPA (automação de processos robóticos) são as empresas de obstáculos tentam pular há vários anos. “Você ainda precisa saber onde está seus dados, sabe quais dados você tem, tenha acesso a eles (…) os fundamentos ainda são verdadeiros.”
Na era da IA, questões fundamentais sobre infraestrutura, visibilidade dos dados, segurança e soberania são indiscutivelmente mais relevantes. Quaisquer discussões sobre a IA tendem a circular em torno dos mesmos problemas, o que lança as declarações de Kieran de que uma conversa sobre a IA na empresa deve ser ampla e preocupando muitos dos fundamentos operacionais e infraestruturais da empresa.
Kieran, portanto, enfatiza a importância da praticidade e uma avaliação fundamentada da necessidade e da habilidade como precisando de um exame cuidadoso antes que a IA possa ganhar uma posição. “Se você entende o caso de uso (…), deve ter uma boa idéia do ROI (…) e, portanto, se vale a pena ou não a dor e sofrimento de construí -lo.”
Na Deloitte, a IA está sendo usada para usar onde houver um caso de uso claro com um retorno mensurável: na triagem inicial de ingressos SoC. Aqui a IA atua como um mecanismo de análise de incidentes de nível I. “Sabemos quantos ingressos são gerados por dia (…) se pudermos levar de 60 a 80% do tempo do processo de triagem, isso tem um impacto significativo”. Dada a nascença da tecnologia, demarcando uma área de operações específicas, onde a IA pode ser usada atua como protótipo e prova de eficácia. A IA não está voltada para o cliente e há especialistas altamente qualificados em seus campos que podem verificar e supervisionar as deliberações da IA.
Conclusão
A mensagem de Kieran para profissionais de negócios que investigam a IA usa para suas organizações não era criar um programa de avaliação e gerenciamento de risco de IA a partir do zero. Em vez disso, as empresas devem evoluir sistemas existentes, ter uma compreensão clara de cada caixa de uso e evitar a armadilha da construção de valor teórico.
“Você não deve criar outro programa apenas para a segurança da IA, além do que já está fazendo (…), deve estar modernizando seu programa para abordar as nuances associadas às cargas de trabalho da IA”. O sucesso na IA começa com objetivos claros e realistas, construídos sobre fundações sólidas.
Você pode ler mais sobre TechEx North America aqui e inscreva -se para participar. Visite a equipe da Deloitte no estande nº 153 e entre em suas sessões em 4 de junho: ‘proteger a pilha de IA’ no estágio de IA e big data das 9:20 às 9:50 da manhã e ‘alavancar a IA em segurança cibernética para transformação de negócios’ no estágio de segurança cibernética, 10:20-10:50.
Saiba mais sobre as soluções e ofertas de serviços da Deloitte para a IA em negócios e segurança cibernética ou envie um e -mail para a equipe em Uscyberai@deloitte.com.
(Fonte da imagem: “Symposium Cisco Ecole Polytechnique 9-10 A abril de 2018 Inteligência e segurança cibernética” de Ecole Polytechnique / Paris / França é licenciada sob CC BY-SA 2.0.)
