LiveKit Agents

O LiveKit Agents é um framework para agentes de IA de voz e vídeo em tempo real. A Bayle faz o papel do LLM pelo plugin da OpenAI.

Copia as instruções de configuração desta página, para colar no seu agente de código.

Ver o prompt

Me ajude a configurar isto para usar a Bayle AI, uma API compatível com a OpenAI. Guia completo: https://docs.bayle.ai/pt-br/guides/sdks/livekit-agents/

Objetivo: usar um modelo da Bayle como LLM do meu agente de voz do LiveKit Agents (https://docs.livekit.io/agents/).

1. Instale o plugin da OpenAI se `python -c "from livekit.plugins import openai"` falhar:
   pip install "livekit-agents[openai]"
2. Escolha um modelo. Agentes de voz são sensíveis a latência e o LiveKit faz streaming da resposta, então prefira um pequeno e rápido:
   curl -s "https://api.bayle.ai/models?type=text" | jq -r '.data[].id'
   Me mostre a lista, deixe eu escolher e use esse id como MODEL_ID.
3. No código do meu agente, passe este LLM para a sessão. Use openai.LLM, que chama chat completions; openai.responses.LLM chama a Responses API, que a Bayle não serve. Deixe as minhas configurações de stt, tts e vad como estão, porque a Bayle fornece só o modelo de linguagem:
   import os
   from livekit.agents import AgentSession
   from livekit.plugins import openai

   session = AgentSession(
       llm=openai.LLM(
           model="MODEL_ID",
           base_url="https://api.bayle.ai",
           api_key=os.environ["BAYLE_API_KEY"],
       ),
       # stt=..., tts=..., vad=... as usual
   )
4. Verifique construindo o LLM e mandando uma requisição de chat curta (ou rodando o meu agente em modo console, se ele suportar) e me mostre o resultado.

Regras:
1. A base URL é https://api.bayle.ai exatamente como está escrita. Não acrescente nenhum caminho a ela.
2. Leia a key da variável de ambiente BAYLE_API_KEY. Nunca escreva a key em um arquivo que você criar, em um comando, em um commit nem no chat. Onde a ferramenta guarda a key na própria tela de configurações, me diga onde colar. Se BAYLE_API_KEY não estiver definida, pare e peça que eu crie uma key em https://chat.bayle.ai/developers e a exporte.
3. Pegue os ids de modelo só de GET https://api.bayle.ai/models (sem key). Nunca chute um.
4. Termine com uma requisição de teste de verdade, me mostre o resultado e liste os arquivos que você alterou.

Instalação

pip install "livekit-agents[openai]"

Veja o guia oficial da configuração OpenAI-compatible.

Uso

Ainda não tem uma chave da Bayle?Obter chave de API

Passe a URL base e a key da Bayle para o openai.LLM e entregue-o à sessão:

import os
from livekit.agents import AgentSession
from livekit.plugins import openai

session = AgentSession(
    llm=openai.LLM(
        model="MODEL_ID",
        base_url="https://api.bayle.ai",
        api_key=os.environ["BAYLE_API_KEY"],
    ),
    # stt=..., tts=..., vad=... as usual
)

Use openai.LLM, que chama chat completions. O openai.responses.LLM chama a Responses API, que a Bayle não serve.
A Bayle fornece só o modelo de linguagem. Fala para texto e texto para fala vêm dos outros plugins que você configura na sessão.

Agentes de voz são sensíveis a latência. O LiveKit faz streaming da resposta, então escolha um modelo pequeno e rápido; os primeiros tokens chegam assim que o modelo os produz.

Escolha um modelo

curl -s "https://api.bayle.ai/models?type=text" | jq -r '.data[].id'