Aplicação em JavaScript

import Groq from "groq-sdk";
import { guardCast } from "magearmor";

const groq = new Groq();

export async function main() {
  const chatCompletion = await getGroqChatCompletion();
  // Imprime a resposta gerada pelo modelo
  console.log(chatCompletion.choices[0]?.message?.content || "");
}

export async function getGroqChatCompletion() {
  // Variável com o conteúdo do prompt do usuário
  const userPrompt = "Explain the importance of fast language models";
  
  // Passando o prompt pela função guardCast para segurança
  const safeUserPrompt = guardCast(userPrompt);

  return await groq.chat.completions.create({
    messages: [
      // Mensagem de sistema para configurar o comportamento do assistente
      {
        role: "system",
        content: "You are a helpful assistant.",
      },
      // Mensagem do usuário, filtrada por guardCast para garantir a segurança
      {
        role: "user",
        content: safeUserPrompt,
      },
    ],

    // Configuração do modelo de linguagem
    model: "llama3-8b-8192",

    // Parâmetros opcionais para controle de geração do modelo
    temperature: 0.5,  // Controla a aleatoriedade das respostas
    max_tokens: 1024,  // Limite máximo de tokens para a resposta
    top_p: 1,          // Controle de diversidade via nucleus sampling
    stop: null,        // Definir uma sequência de parada, se necessário
    stream: false,     // Configura o envio de mensagens parciais
  });
}