Налаштування безкоштовного LLM API GROQ з додатком на Rails - javascript.org.ua

Цей посібник проведе вас через процес налаштування безкоштовного API LLM GROQ з використанням Rails. GROQ пропонує потужну модель мови, яку можна інтегрувати у вашу Rails програму для забезпечення можливостей обробки природної мови (NLP).

Налаштування безкоштовного API LLM GROQ з Rails додатком

Попередні вимоги

Встановлений Ruby (бажано версія 3.0 або пізніше).
Встановлений Rails (бажано версія 7.0 або пізніше).
Базове розуміння Rails і API.
Перейдіть на https://groq.com/ і виберіть Developer > Free API Key.
Доступ до безкоштовного API LLM GROQ. Зареєструйтесь і отримайте свій API ключ на їхній платформі.

Зображення, як згенерувати безкоштовний API ключ:

Безкоштовний Groq API ключ

Крок 1: Створення нового Rails додатку

Відкрийте термінал і створіть новий Rails додаток:

rails new groq_llm_app --api

Перейдіть в директорію вашого додатку:

cd groq_llm_app

Крок 2: Встановлення необхідних гемів

Відкрийте файл Gemfile та додайте наступні геми:

gem 'httparty'  
gem 'dotenv-rails', groups: [:development, :test]

Встановіть геми, запустивши:

bundle install

Крок 3: Налаштування змінних середовища

Створіть файл .env у кореневій директорії вашого Rails додатку:

touch .env

Додайте ваш GROQ API ключ у файл .env:

GROQ_API_KEY=your_groq_api_key_here

Переконайтесь, що .env додано до файлу .gitignore, щоб ваш API ключ залишався захищеним:

# .gitignore  
.env

Завантажте змінні середовища в ваш додаток, додавши наступний рядок до файлу config/application.rb:

Dotenv::Railtie.load

Крок 4: Створення сервісу для взаємодії з GROQ API

Створіть нову папку для сервісів:

mkdir app/services

Створіть новий файл сервісу для GROQ API:

touch app/services/groq_api_service.rb

Додайте наступний код у groq_api_service.rb:

class GroqApiService  
 include HTTParty  

 base_uri 'https://api.groq.com'  

 def initialize  
 @headers = {  
 'Authorization' => "Bearer #{ENV['GROQ_API_KEY'] || 'your_default_api_key'}",  
 'Content-Type' => 'application/json'  
 }  
 end  

 def chat_completions(model, messages)  
 body = {  
 model: model,  
 messages: messages  
 }.to_json  

 self.class.post('/openai/v1/chat/completions', headers: @headers, body: body)  
 end  
end

Крок 5: Створення контролера для використання сервісу GROQ

Згенеруйте контролер:

rails generate controller Api::V1::Groq

Відкрийте щойно створений контролер (app/controllers/api/v1/groq_controller.rb) та оновіть його наступним кодом:

module Api  
 module V1  
 class GroqController < ApplicationController  
 def query  
 service = GroqApiService.new  
 response = service.query(params[:prompt])  
 render json: response.parsed_response  
 rescue StandardError => e  
 render json: { error: e.message }, status: :internal_server_error  
 end  
 end  
end

Крок 6: Визначення маршрутів

Відкрийте config/routes.rb і додайте наступне:

namespace :api do  
 namespace :v1 do  
 post 'groq/query', to: 'groq#query'  
 end  
end

Крок 7: Тестування інтеграції API

Запустіть сервер Rails:

rails server

Використовуйте інструменти, як Postman або cURL для тестування API. Надішліть POST запит на http://localhost:3000/api/v1/groq/query з наступним JSON тілом:

{  
 "prompt": "What is the capital of France?"  
}

Якщо все налаштовано правильно, ви повинні отримати відповідь від GROQ API з відповіддю на ваше запитання.

Ви успішно інтегрували безкоштовне API LLM GROQ у ваш Rails додаток. Це налаштування дозволяє надсилати запити до API та отримувати відповіді, забезпечуючи потужні можливості NLP для вашого додатку.
Відтепер ви можете розширити свій додаток, додавши функції, такі як чат-боти, генерація контенту або складний аналіз тексту.

Перекладено з: Setting Up GROQ Free LLM API with a Rails Application