Na CI&T, você terá a oportunidade de evoluir os componentes centrais da AI Platform do CI&T Flow, contribuindo para uma plataforma multi-cloud, observável, resiliente e escalável. Você atuará com orquestração de modelos e integrações com provedores de LLM, participando de decisões técnicas e da resolução de desafios complexos. Para quem reside na Região Metropolitana de Campinas, a presença nos escritórios da cidade é obrigatória, conforme a política de frequência vigente.

Responsabilidades

• Desenvolver e aprimorar componentes da plataforma para governança de modelos, provedores, tenants e políticas de uso
• Criar mecanismos de roteamento, balanceamento de carga, contingência e controle do consumo e dos custos de LLMs
• Integrar LiteLLM e provedores de modelos em ambientes de nuvem pública
• Evoluir APIs, serviços e recursos de observabilidade, com foco em desempenho, disponibilidade, escalabilidade e confiabilidade
• Investigar incidentes em produção, identificar causas-raiz e propor melhorias estruturais
• Contribuir para decisões arquiteturais, considerando riscos, alternativas técnicas e impactos nos produtos que utilizam a plataforma
• Apoiar a evolução técnica do time, compartilhando padrões e boas práticas de engenharia
• Colaborar com os times que utilizam a plataforma para aprimorar soluções e resolver desafios de integração

Requisitos obrigatórios

• Experiência sólida em desenvolvimento backend com Kotlin, Java e/ou Node.js
• Experiência com sistemas distribuídos, APIs e serviços de alta disponibilidade
• Experiência com nuvem pública, Docker, Kubernetes e pipelines de integração e entrega contínuas
• Conhecimento de LLMs e aplicações de inteligência artificial generativa
• Experiência integrando modelos com ao menos um provedor de nuvem, como Azure OpenAI, Azure AI Foundry, AWS Bedrock ou GCP Vertex AI
• Conhecimento de roteamento, contingência, streaming e gestão de consumo de LLMs
• Experiência em observabilidade e investigação de problemas em sistemas distribuídos, usando métricas, registros e rastreamentos
• Conhecimento de PostgreSQL e/ou MongoDB
• Conhecimento de RAG, agentes de IA e IA agêntica
• Experiência com decisões técnicas e arquiteturais e atuação como referência técnica em ambientes complexos

Diferenciais

• Experiência prática com LiteLLM e arquiteturas de AI Gateway, LLM Gateway ou Model Gateway
• Experiência com múltiplos provedores de LLM em produção
• Conhecimento de MCP (Model Context Protocol)
• Experiência com LangChain, LangGraph, Semantic Kernel ou ferramentas similares
• Conhecimento de observabilidade de LLMs com ferramentas como Langfuse, OpenTelemetry, Prometheus ou Grafana
• Conhecimento de bancos de dados vetoriais, busca semântica e arquiteturas RAG
• Experiência com proteções, segurança e controle de acesso em aplicações de IA
• Experiência com Helm, GitOps ou desenvolvimento de ferramentas e agentes para programação com IA

O que esperamos
Buscamos uma pessoa com sólida experiência em engenharia de software e sistemas distribuídos, que tenha interesse em inteligência artificial generativa e arquiteturas baseadas em LLMs. Você contribuirá com autonomia técnica, colaboração e atenção à confiabilidade da plataforma, apoiando também a evolução das pessoas desenvolvedoras do time.