Kong Lança Gateway de IA de Código Aberto para Desenvolvedores

A Kong, uma empresa de API, está lançando hoje o seu Gateway de IA de código aberto. Isso é uma expansão do seu atual gateway de API, que possibilita aos desenvolvedores e equipes de operações...

O último AI Gateway da Kong simplifica a criação de aplicativos multi-LLM.

Kong AI Gateway

A empresa de API Kong recentemente revelou seu AI Gateway de código aberto, uma extensão de seu gateway de API existente que permite que desenvolvedores e equipes de operações integrem suas aplicações com modelos de linguagem grandes (LLMs) e acessem-os por meio de uma única API. Essa iniciativa é uma resposta à crescente demanda por capacidades de IA em várias indústrias e organizações.

“As APIs são impulsionadas por casos de uso: móveis, microsserviços — IA é apenas o mais recente. Quando olhamos para a IA, estamos realmente olhando para APIs em todos os lugares. Estamos olhando para APIs quando se trata de consumir IA, estamos olhando para APIs para ajustar a IA e a própria IA. Portanto, quanto mais IA, mais uso de API teremos no mundo”, explicou Marco Palladino, co-fundador e CTO da Kong.

Uma das principais preocupações das organizações que usam IA é o vazamento potencial de dados. A Kong aborda esse problema estendendo seu gateway para permitir que as empresas executem seus modelos de IA localmente, com a opção de backup na nuvem. Para gerenciar efetivamente esses modelos de IA, as empresas também precisam lidar com credenciais, controle de tráfego, registro e gerenciamento de cota. O gateway de API da Kong fornece uma solução que permite que desenvolvedores consumam vários provedores de LLMs sem modificar seu código existente.

O AI Gateway atualmente suporta populares provedores de LLMs como Anthropic, Azure, Cohere, modelos LLaMA do Meta, Mistral e OpenAI. Ao adicionar recursos adicionais específicos de IA ao topo da API, a Kong visa permitir novos casos de uso e simplificar a implementação dos existentes.

🔍 Perguntas e Respostas:

P: Por que a Kong está lançando um AI Gateway? R: A Kong reconhece a demanda crescente por capacidades de IA e tem como objetivo fornecer uma solução baseada em API para integrar aplicativos com modelos de linguagem grandes (LLMs).

P: Qual é a vantagem do AI Gateway da Kong? R: O AI Gateway da Kong permite que os desenvolvedores consumam vários provedores de LLMs sem precisar modificar seu código existente. Ele também aborda preocupações sobre vazamento de dados, permitindo que as empresas executem seus modelos de IA localmente.

P: Quais provedores de LLMs são suportados pelo AI Gateway? R: O AI Gateway atualmente suporta populares provedores de LLMs como Anthropic, Azure, Cohere, modelos LLaMA do Meta, Mistral e OpenAI.

A engenharia de prompts é um recurso-chave do AI Gateway, permitindo que as empresas apliquem diretrizes sobre esses modelos. Isso centraliza a gestão de diretrizes e prompts, oferecendo uma maneira mais eficiente de garantir a conformidade.

Enquanto outros provedores de APIs geralmente lidam com APIs de IA de maneira semelhante a outras APIs, a abordagem da Kong se concentra em aprimorar a experiência da API com recursos específicos de IA. Com os transformadores de resposta e solicitação de IA, os desenvolvedores podem fazer alterações em tempo real nos prompts e resultados, como tradução automática ou remoção de informações de identificação pessoal.

🌐 Análise Adicional:

A introdução do AI Gateway de código aberto da Kong reflete a importância crescente da IA em diversas indústrias. Ao integrar capacidades de IA em seu gateway de API existente, a Kong oferece aos desenvolvedores uma maneira mais simplificada e eficiente de acessar e utilizar modelos de linguagem. Além disso, a capacidade de executar modelos de IA localmente aborda preocupações com privacidade de dados e fornece às organizações mais controle sobre sua infraestrutura de IA.

Essa iniciativa está alinhada com a crescente tendência de aproveitar APIs para desbloquear capacidades de IA. Conforme a IA se torna mais presente, a demanda por APIs para consumir, ajustar e interagir com a IA continuará a aumentar. A ênfase da Kong em soluções de IA baseadas em API posiciona-a como uma das principais atuantes nesse cenário em constante evolução.

💡 Desenvolvimentos Futuros:

À medida que as tecnologias de IA e modelos de linguagem continuam a avançar, é provável que o AI Gateway da Kong evolua para suportar mais provedores e oferecer recursos premium robustos. A natureza de código aberto do gateway permite contribuições adicionais da comunidade de desenvolvedores, impulsionando a inovação e ampliando os limites do que é possível com a integração de IA.

O lançamento do AI Gateway da Kong também levanta especulações sobre as possibilidades futuras de APIs impulsionadas por IA. Com a convergência da tecnologia de IA e API, podemos esperar ver mais casos de uso criativos e transformadores em diversos campos, desde processamento de linguagem natural até visão computacional e além disso.

📚 Lista de Referências:

  1. Plataforma de Gerenciamento de API Kong
  2. Anthonic
  3. Azure AI
  4. Cohere
  5. Modelos LLaMA do Meta
  6. Mistral
  7. OpenAI

🙌 Interaja e Compartilhe:

O que você acha do novo Kong Open Source AI Gateway? Compartilhe suas opiniões e junte-se à discussão nas redes sociais! #KongAI #APIGateway #AIIntegration