Cara Kerja RAG, dengan Bahasa Sederhana

Berikut alur dasarnya, tanpa istilah yang ribet:

Ambil dokumenmu (FAQ, artikel, catatan internal, apa pun yang berbasis teks) dan pecah jadi potongan-potongan kecil.
Ubah tiap potongan jadi deretan angka yang disebut embedding, yang merepresentasikan makna dari teks itu.
Simpan embedding-embedding itu di database yang mendukung pencarian kemiripan (similarity search).
Saat user tanya sesuatu, ubah juga pertanyaannya jadi embedding.
Cari di database potongan mana yang embedding-nya paling mirip maknanya dengan pertanyaan tadi.
Kirim potongan-potongan yang cocok itu, bersama pertanyaan aslinya, ke AI sebagai konteks.
AI-nya jawab pakai konteks itu, bukan menebak-nebak dari data training umum.

Bayangkan ini seperti kasih AI setumpuk sticky notes yang relevan sebelum kamu tanya sesuatu, bukannya berharap dia ingat semuanya dari memori.

Kenapa PostgreSQL + pgvector

Ada vector database khusus seperti Pinecone atau Weaviate, dan search engine seperti Meilisearch juga sudah mendukung vector search sekarang. Di artikel ini, kita pakai PostgreSQL dengan extension pgvector karena:

Kalau aplikasi Laravel kamu sudah pakai PostgreSQL, kamu nggak perlu database service terpisah lagi.
Setup-nya cukup mudah baik di lokal maupun di kebanyakan hosting.
Ada package PHP yang solid untuk ini dan cocok dipakai bareng Eloquent.

Langkah 1: Aktifkan pgvector

Pastikan kamu pakai PostgreSQL sebagai database. Lalu install extension pgvector di server database-mu. Di kebanyakan sistem yang sudah ada PostgreSQL, caranya:

Terminalbash

# Contoh untuk Ubuntu/Debian, sesuaikan dengan versi PostgreSQL kamu

sudo apt install postgresql-16-pgvector

2 baris•108 chars

UTF-8•Spaces: 4

Kalau kamu pakai Docker, cara paling gampang adalah ganti image Postgres-mu ke

PLAINTEXT Snippetplaintext

pgvector/pgvector:pg16

1 baris•22 chars

UTF-8•Spaces: 4

, yang sudah datang dengan extension-nya terinstall.

Langkah 2: Install Package PHP

Terminalbash

composer require pgvector/pgvector

1 baris•34 chars

UTF-8•Spaces: 4

Publish dan jalankan migration yang mengaktifkan extension-nya di database kamu:

Terminalbash

php artisan vendor:publish --tag="pgvector-migrations"

php artisan migrate

2 baris•74 chars

UTF-8•Spaces: 4

Langkah 3: Buat Tabel Documents

Buat migration untuk menyimpan potongan dokumen dan embedding-nya:

Terminalbash

php artisan make:migration create_document_chunks_table

1 baris•55 chars

UTF-8•Spaces: 4

extends.phpphp

use Illuminate\Database\Migrations\Migration;

use Illuminate\Database\Schema\Blueprint;

use Illuminate\Support\Facades\Schema;

return new class extends Migration

{

    public function up(): void

{

        Schema::create('document_chunks', function (Blueprint $table) {

            $table->id();

            $table->string('source')->nullable();

            $table->text('content');

            $table->vector('embedding', 1536);

            $table->timestamps();

});

// Index untuk pencarian kemiripan yang cepat

        DB::statement('CREATE INDEX document_chunks_embedding_idx ON document_chunks USING hnsw (embedding vector_cosine_ops)');

}

    public function down(): void

{

        Schema::dropIfExists('document_chunks');

}

};

25 baris•767 chars

UTF-8•Spaces: 4

Kita pakai

PLAINTEXT Snippetplaintext

1536

1 baris•4 chars

UTF-8•Spaces: 4

dimensi di sini karena itu cocok dengan model

PLAINTEXT Snippetplaintext

text-embedding-3-small

1 baris•22 chars

UTF-8•Spaces: 4

milik OpenAI. Kalau kamu pakai model embedding yang berbeda, sesuaikan angka ini.

Langkah 4: Buat Model

DocumentChunk.phpphp

<?php

namespace App\Models;

use Illuminate\Database\Eloquent\Model;

use Pgvector\Laravel\Vector;

use Pgvector\Laravel\HasNeighbors;

class DocumentChunk extends Model

{

    use HasNeighbors;

    protected $fillable = ['source', 'content', 'embedding'];

    protected $casts = [

        'embedding' => Vector::class,

];

}

18 baris•328 chars

UTF-8•Spaces: 4

Langkah 5: Generate Embedding dan Simpan Chunk

Buat service untuk menangani proses ubah teks jadi embedding dan menyimpannya:

RagService.phpphp

<?php

namespace App\Services;

use App\Models\DocumentChunk;

use Illuminate\Support\Facades\Http;

use Illuminate\Support\Str;

class RagService

{

    public function embed(string $text): array

{

        $response = Http::withToken(config('services.openai.key'))

            ->post('https://api.openai.com/v1/embeddings', [

                'model' => 'text-embedding-3-small',

                'input' => $text,

]);

        return $response->json('data.0.embedding');

}

    public function ingest(string $source, string $content): void

{

// Pecah konten jadi chunk kasar berdasarkan paragraf

        $chunks = Str::of($content)->trim()->explode("\n\n");

        foreach ($chunks as $chunk) {

            $chunk = trim($chunk);

            if ($chunk === '') {

                continue;

}

            DocumentChunk::create([

                'source' => $source,

                'content' => $chunk,

                'embedding' => $this->embed($chunk),

]);

}

41 baris•1032 chars

UTF-8•Spaces: 4

Ini strategi chunking sederhana berdasarkan paragraf. Untuk dokumen beneran, apalagi yang panjang, kamu butuh chunking yang lebih pintar (panjang karakter tetap dengan overlap, atau dipecah berdasarkan heading), tapi ini sudah cukup untuk memahami konsepnya.

Sekarang kamu bisa ingest dokumen seperti ini:

script.phpphp

$rag = app(RagService::class);

$rag->ingest('company-faq.md', file_get_contents(storage_path('docs/company-faq.md')));

2 baris•118 chars

UTF-8•Spaces: 4

Langkah 6: Ambil Chunk yang Relevan dan Tanya ke AI

Tambahkan method untuk mencari chunk paling relevan dan menyusun prompt dengan chunk-chunk itu:

script.phpphp

public function ask(string $question): ?string

{

    $questionEmbedding = $this->embed($question);

    $relevantChunks = DocumentChunk::query()

        ->nearestNeighbors('embedding', $questionEmbedding, \Pgvector\Laravel\Distance::Cosine)

        ->take(4)

        ->get();

    $context = $relevantChunks->pluck('content')->implode("\n\n");

    $prompt = "Jawab pertanyaan berikut hanya berdasarkan konteks di bawah ini. Kalau jawabannya tidak ada di konteks, katakan kamu tidak tahu.\n\n"

        . "Konteks:\n{$context}\n\n"

        . "Pertanyaan: {$question}";

    $response = Http::withToken(config('services.openai.key'))

        ->post('https://api.openai.com/v1/chat/completions', [

            'model' => config('services.openai.model'),

            'messages' => [

                ['role' => 'user', 'content' => $prompt],

]);

    return $response->json('choices.0.message.content');

}

25 baris•923 chars

UTF-8•Spaces: 4

Perhatikan instruksi di prompt-nya: "kalau jawabannya tidak ada di konteks, katakan kamu tidak tahu." Ini penting. Tanpa instruksi itu, AI-nya bisa saja balik menebak dari pengetahuan umumnya, bukannya mengakui kalau jawabannya memang nggak ada di dokumenmu, yang malah menghilangkan tujuan dari RAG itu sendiri.

Cara Mengetesnya

script.phpphp

$rag = app(RagService::class);

echo $rag->ask('Bagaimana kebijakan refund kami?');

2 baris•82 chars

UTF-8•Spaces: 4

Kalau kamu sudah ingest dokumen yang menyebutkan kebijakan refund, AI-nya seharusnya jawab pakai konten itu, bukan ngarang sendiri.

Hal yang Perlu Ditingkatkan Nanti

Ini versi dasar yang sudah jalan. Untuk pemakaian production, ada beberapa hal yang perlu kamu pikirkan nanti:

Chunking yang lebih baik. Pecah per paragraf itu masih kasar. Pertimbangkan chunk ukuran tetap dengan overlap supaya konteksnya nggak terpotong secara janggal.
Ingestion lewat queue. Generate embedding untuk dokumen besar butuh waktu. Pindahkan ini ke queued job, jangan dijalankan secara synchronous.
Re-ranking hasil. Kadang embedding yang paling dekat bukan berarti chunk yang paling berguna. Beberapa setup menambahkan langkah re-ranking setelah retrieval.
Mencantumkan sumber. Kembalikan info dokumen mana asal jawabannya, supaya user bisa verifikasi informasinya.

Selanjutnya

Sekarang, chatbot kita nunggu seluruh respons AI selesai dulu baru ditampilkan, yang bisa kerasa lambat untuk jawaban panjang. Di artikel selanjutnya, kita akan implementasikan streaming response, supaya teksnya muncul kata demi kata seiring AI-nya generate, mirip seperti interface ChatGPT.

Ini adalah Part 5 dari series "Laravel + AI Integration".

Membangun Sistem RAG Sederhana dengan Laravel + Vector Database

Laravel & AI Integration

Cara Kerja RAG, dengan Bahasa Sederhana

Kenapa PostgreSQL + pgvector

Langkah 1: Aktifkan pgvector

Langkah 2: Install Package PHP

Langkah 3: Buat Tabel Documents

Langkah 4: Buat Model

Langkah 5: Generate Embedding dan Simpan Chunk

Langkah 6: Ambil Chunk yang Relevan dan Tanya ke AI

Cara Mengetesnya

Hal yang Perlu Ditingkatkan Nanti

Selanjutnya

Timur Dian Radha Sejati

Punya Masalah Arsitektur atau Ingin Membangun Sistem yang Benar?

Artikel Rekayasa Terkait

Streaming Respons AI di Laravel (SSE)

Dari Satu Perintah Jadi Banyak Langkah

Bikin AI yang Bisa "Baca" Website dalam Hitungan Detik