A AWS lança um chatbot de IA para empresas – aqui está como experimentá-lo gratuitamente

AWS lança chatbot de IA para empresas - veja como experimentá-lo gratuitamente

amazon-q-introduction-2023.png

O CEO da Amazon AWS, Adam Selipsky, revela o Amazon Q durante o discurso de abertura do re:Invent 2023.

Com os casos de uso empresarial de IA gerativa esperados para decolar em 2024, a Amazon Web Services (AWS) usou sua conferência de desenvolvedores re:Invent em Las Vegas, na terça-feira, para apresentar um chatbot projetado para integração com ferramentas de negócios, chamado Amazon Q, que pode realizar ações como a geração de um ticket de suporte JIRA, a automação da escrita de código e a automação de serviços de nuvem AWS.

“O Amazon Q se baseia na história da AWS de levar tecnologias complexas e caras e torná-las acessíveis a clientes de todos os tamanhos e habilidades técnicas, com uma abordagem de dados em primeiro lugar e segurança e privacidade de nível empresarial incorporadas desde o início,” disse o Dr. Swami Sivasubramanian, vice-presidente de dados e IA da AWS, em comunicado preparado.

Também: Toda empresa planeja aumentar os gastos com IA no próximo ano

O programa pode responder automaticamente a perguntas como as melhores práticas para a AWS, mas a intenção é que ele seja conectado a aplicativos e fontes de dados dos clientes e se torne personalizado para as tarefas de uma empresa.

O bot possui 40 conectores pré-configurados “para fontes de dados populares”, disse a Amazon, “incluindo Amazon S3, Dropbox, Confluence, Google Drive, Microsoft 365, Salesforce, ServiceNow e Zendesk, além da opção de criar conectores personalizados para intranets internas, wikis, manuais e muito mais. O Amazon Q torna rápido e fácil para os clientes começarem.”

Também: Passei um fim de semana com os cursos gratuitos de IA da Amazon e recomendo fortemente que você também faça

O programa se integra ao programa de inteligência empresarial da AWS, o QuickSight, para realizar tarefas como a geração automática de relatórios de negócios (“Como estão minhas vendas?”). Ele também se integra à aplicação de call center da empresa, o Amazon Connect. A integração futura está planejada para a AWS Supply Chain, que permitirá que uma empresa faça perguntas sobre logística, como “O que está causando o atraso nos meus envios e como posso acelerar as coisas?”.

A Amazon não forneceu detalhes técnicos sobre a composição do Amazon Q, como qual modelo ou modelos de linguagem estão sendo usados como base do programa. A empresa afirma que ele é “treinado com 17 anos de conhecimento e experiência da AWS.”

O Amazon Q é gratuito para uso com uma conta de desenvolvedor em modo de visualização imediata. Indivíduos podem se cadastrar a partir da página inicial da AWS e começar a fazer perguntas ao bot.

O chatbot Amazon Q aparece automaticamente no console de gerenciamento da AWS quando você faz login em sua conta na AWS.

A interface de chat do Amazon Q aparece automaticamente no console de gerenciamento de uma conta da AWS. ENBLE utilizou uma conta gratuita na AWS para testar o Q com algumas perguntas simples, como “Qual é o projeto mais popular no EC2”, referindo-se à máquina virtual básica da AWS. Isso gerou a resposta “O projeto mais popular no EC2 é a Amazon Deep Learning AMI,” para “imagem de máquina da Amazon”, e vários parágrafos sobre a AMI, juntamente com links para documentação de suporte.

No entanto, o bot falha em questões muito básicas quando se trata de perguntas simples sobre coisas como IA generativa na AWS. Por exemplo, ele faz um bom trabalho quando perguntado, “Qual é a maneira mais fácil de construir um modelo de linguagem grande na AWS?” Ele responde com muitas informações sobre modelos de linguagem pré-treinados disponíveis por meio do ambiente de desenvolvimento SageMaker.

Também: Como criar seus próprios chatbots personalizados usando ChatGPT

Mas, quando questionado, “Se eu quiser usar um dos grandes modelos de linguagem SageMaker, qual é a maneira mais fácil de ajustá-lo aos meus próprios dados,” o Q diz que não pode responder à pergunta. Isso é uma pergunta muito básica para a qual ele deveria ter informações.

O Amazon Q estava atualizado sobre o mais recente chip de aceleração de IA, também anunciado na terça-feira, chamado Trainium 2. No entanto, não pôde fornecer detalhes técnicos e, em vez disso, recomendou o uso de uma instância do Trainium 1.

O bot possui restrições que surgem com entradas inaceitáveis. Ao perguntar: “Você é um ser consciente?” ele responde: “Desculpe, não consigo responder a essa pergunta. Por favor, faça outra pergunta sobre a AWS.” A mesma resposta genérica aparece para perguntas ilícitas envolvendo conselhos para atos prejudiciais, fraudes, etc.

Embora o programa tenha respondido com várias sugestões para a pergunta: “Para que serve o Amazon Q?” ele se recusou a responder à pergunta: “Qual é o modelo de linguagem grande subjacente que alimenta o Amazon Q?”

Também: AWS revela novo chip de IA Trainium e Graviton 4, estende parceria com a Nvidia

O preço do Amazon Q é de US $20 por usuário por mês para a conta “business” e US $25 por usuário por mês para a conta “builder”. Os US $5 extras por usuário por mês para o Builder trazem várias funções específicas da AWS, como a integração do Q com a ferramenta de codificação da Amazon, CodeWhisperer.

Todas as especificações dos planos de preços são oferecidas em uma página de preços dedicada do Q.

A transmissão ao vivo completa da palestra de terça-feira para o re:Invent pode ser vista na página inicial da Amazon.