Os 3 maiores riscos da IA generativa – e como lidar com eles
Os 3 maiores desafios da Inteligência Artificial generativa - e como enfrentá-los
Às vezes parece que todo mundo está se aventurando na inteligência artificial generativa (IA). De desenvolvedores que estão produzindo código a profissionais de marketing que estão criando conteúdo, pessoas em todos os tipos de funções estão encontrando maneiras de aumentar sua produtividade com a tecnologia em ascensão.
A corrida para aproveitar a IA significa que a analista Gartner acredita que mais de 80% das empresas estarão usando interfaces de programação de aplicativos, modelos e software de IA generativa em ambientes de produção até 2026.
Também: IA está transformando organizações em todos os lugares. Como essas 6 empresas estão liderando o caminho
Mas vale lembrar que, apesar do hype associado à IA generativa, muitas empresas não estão se aventurando na tecnologia – pelo menos oficialmente.
A IA generativa ainda está na fase exploratória para a maioria das empresas, com a Gartner relatando que menos de 5% das empresas utilizam a tecnologia em produção.
- O MacBook Air M2 de 2023 acabou de cair para um novo preço mínimo d...
- Garanta um Meta Quest 2 por $200 Melhor oferta da Cyber Monday de 2...
- O Lenovo ThinkPad L14 Gen 3 caiu para 77% de desconto nesta enorme ...
Lily Haake, gerente de tecnologia e busca executiva digital na empresa de recrutamento Harvey Nash, diz em uma conversa por vídeo com a ENBLE que seu trabalho com clientes sugere que projetos de IA de grande escala ainda não estão em pauta.
“Estou vendo pilotos pequenos realmente impressionantes, como clientes jurídicos usando IA para gerar documentos e analisar casos para tornar as pessoas mais produtivas”, diz ela. “É tudo muito empolgante e positivo. Mas é em uma escala pequena. E isso acontece porque meus clientes não parecem estar explorando a IA generativa em uma escala tão grande que seja transformadora para todo o negócio”.
Em vez de usar a IA para mudar as operações organizacionais e melhorar o atendimento ao cliente, a maioria dos líderes digitais está experimentando nas margens da empresa antes de pensar em como incorporar novos serviços generativos no cerne do negócio.
No entanto, só porque o negócio não exigiu o uso da IA generativa não significa que os profissionais já não estejam utilizando a tecnologia – com ou sem a aprovação do chefe.
Também: Avanços em IA generativa forçarão as empresas a pensar grande e agir rapidamente
Pesquisas do especialista em tecnologia O’Reilly sugerem que 44% dos profissionais de TI já usam IA em seu trabalho de programação e 34% estão experimentando. Quase um terço (32%) dos profissionais de TI estão usando IA para análise de dados e 38% estão experimentando.
Mike Loukides, autor do relatório, diz que a O’Reilly está surpresa com o nível de adoção.
Porém, enquanto ele descreve o crescimento da IA generativa como “explosivo”, Loukides diz que as empresas podem cair em um “inverno da IA” se ignorarem os riscos e perigos que vêm com a adoção apressada da tecnologia.
Essa é uma opinião que ressoa com Avivah Litan, vice-presidente distinta de análise da Gartner, que sugere que os CIOs e seus parceiros de alto escalão não podem se dar ao luxo de apenas esperar e ver.
Também: Os melhores chatbots IA: ChatGPT e outras alternativas importantes
“Você precisa gerenciar os riscos antes que eles te gerenciem,” ela diz em uma entrevista de vídeo individual com a ENBLE.
Litan diz que a Gartner pesquisou mais de 700 executivos sobre os riscos da IA generativa em um webinar recente e descobriu que os CIOs estão mais preocupados com a privacidade dos dados, seguida por alucinações e, em seguida, segurança.
Vamos considerar cada uma dessas áreas, uma de cada vez.
1. Riscos de privacidade e proteção de dados
Os CIOs e outros gerentes seniores que implementam uma versão empresarial da IA generativa provavelmente enviarão seus dados para os ambientes hospedados do fornecedor.
Litan reconhece que esse tipo de acordo não é novidade – as organizações têm enviado dados para a nuvem e provedores de software como serviço por uma década ou mais.
No entanto, ela diz que os CIOs acreditam que a IA envolve um tipo diferente de risco, principalmente em relação à forma como os fornecedores armazenam e usam informações, como para treinar seus próprios grandes modelos de linguagem.
Também: Cybersegurança 101: Tudo sobre como proteger sua privacidade e permanecer seguro online
Litan diz que a Gartner concluiu uma análise detalhada de muitos dos fornecedores de TI que estão oferecendo serviços habilitados para IA.
“A questão fundamental da proteção de dados é que, se você está usando um modelo de referência de terceiros, tudo se resume à confiança, mas você não pode verificar”, ela diz. “Portanto, você deve confiar que os fornecedores possuem boas práticas de segurança e que seus dados não vão vazar. E todos sabemos que erros são cometidos em sistemas em nuvem. Se seus dados confidenciais vazarem, os fornecedores não serão responsabilizados – você será.”
2. Riscos de entrada e saída
Além de avaliar os riscos de proteção de dados em processos externos, as organizações precisam estar cientes de como os funcionários usam os dados em aplicativos e modelos de IA generativa.
Litan diz que esses tipos de riscos envolvem o uso inaceitável de dados, que podem comprometer o processo de tomada de decisão, incluindo ser negligente com as entradas confidenciais, produzir alucinações imprecisas como saída e usar propriedade intelectual de outra empresa.
Também: A ética da IA generativa: Como podemos aproveitar essa poderosa tecnologia
Adicione questões éticas e o medo de que os modelos possam ser tendenciosos, e os líderes de negócios enfrentam uma confluência de riscos de entrada e saída.
Litan diz que os executivos que gerenciam a implementação da IA generativa devem garantir que as pessoas em toda a empresa não considerem nada como garantido.
“Você precisa garantir que está usando dados e IA generativa de uma forma que seja aceitável para sua organização; você não está entregando as chaves do seu reino e o que está voltando está verificado quanto a imprecisões e alucinações”, ela diz.
3. Novos riscos de cibersegurança
As empresas lidam com diversos riscos de cibersegurança diariamente, como hackers obtendo acesso a dados empresariais devido a uma vulnerabilidade do sistema ou um erro cometido por um funcionário.
No entanto, Litan diz que a IA representa uma ameaça diferente.
“Esses são riscos novos”, ela diz. “Existem ataques de injeção rápidos, ataques de banco de dados vetorizados e hackers podem obter acesso a estados e parâmetros do modelo.”
Também: Como a IA pode melhorar a cibersegurança aproveitando a diversidade
Embora os riscos potenciais incluam perda de dados e dinheiro, os atacantes também podem escolher manipular modelos e trocar dados bons por dados ruins.
Litan diz que esse novo vetor de ameaças significa que as empresas não podem lidar com novos riscos simplesmente usando medidas antigas e testadas.
“Os atacantes podem contaminar o modelo”, ela diz. “Você terá que garantir a segurança em torno do modelo e é um tipo diferente de segurança. A proteção do ponto de extremidade não vai ajudar com a proteção do modelo de dados.”
O que sua empresa precisa fazer agora
Essa combinação de riscos da IA generativa pode parecer um desafio intratável para CIOs e outros executivos seniores.
No entanto, Litan diz que estão surgindo novas soluções tão rapidamente quanto os riscos e oportunidades associados à IA generativa estão surgindo.
“Você não precisa ficar sentado lá entrando em pânico”, diz ela.
“Existe um novo mercado em evolução. Como você pode imaginar, quando há problemas, há empreendedores que querem ganhar dinheiro com esses problemas.”
Além disso: IA e automação: líderes empresariais adotam soluções em pequena escala para maior impacto
A boa notícia é que soluções viáveis estão a caminho. E enquanto o mercado de tecnologia se estabiliza, Litan diz que os líderes empresariais devem se preparar.
“O conselho fundamental que damos aos CIOs é: ‘Organize-se e defina suas políticas de uso aceitáveis. Certifique-se de classificar seus dados e ter um gerenciamento de acesso'”, diz ela.
“Crie um sistema onde os usuários possam enviar seus pedidos de aplicação, saber quais dados eles estão usando, as pessoas certas aprovam esses pedidos e você verifica o processo duas vezes por ano para garantir que esteja sendo aplicado corretamente. Apenas leve a IA generativa passo a passo.”
