LocalAI — API OpenAI-Compatible Lokal

Pengganti drop-in OpenAI API yang berjalan di hardware sendiri (CPU/GPU), mendukung teks, gambar, dan audio.

API Self-hosted OpenAI Docker

1 Jalankan dengan Docker (CPU)

bash

docker run -d --name localai \
  -p 8080:8080 \
  localai/localai:latest-aio-cpu

Versi "aio" sudah berisi paket model siap pakai.

2 Uji Endpoint

Kompatibel penuh dengan format OpenAI:

bash

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-4",
    "messages": [{"role":"user","content":"Halo!"}]
  }'

Untuk performa lebih tinggi gunakan image GPU (NVIDIA/AMD) yang sesuai.