LocalAI

LocalAI ialah pisau tentera Swiss untuk AI tempatan. Pelayan API sumber terbuka di bawah lesen MIT ini muncul sebagai pengganti langsung API OpenAI, mampu menjalankan model bahasa, penjanaan imej, teks-ke-ucapan, embeddings dan banyak lagi — semuanya pada perkakasan anda sendiri.\n\nDengan lebih 42,000 bintang GitHub, LocalAI telah membina reputasi kukuh dalam ekosistem AI yang dihoskan sendiri. Falsafahnya: anda tidak perlu GPU mewah atau akaun awan untuk memanfaatkan AI. LocalAI berfungsi pada perkakasan pengguna biasa, termasuk mod CPU sahaja.\n\nEkosistem LocalAI berkisar pada tiga komponen pelengkap: LocalAI (enjin inferens dan API), LocalAGI (platform ejen autonomi tanpa kod) dan LocalRecall (carian semantik dan pengurusan memori). Bersama-sama, mereka membentuk timbunan AI tempatan yang lengkap.\n\nLocalAI menyokong pelbagai backend inferens (llama.cpp, transformers, vLLM, dll.), galeri model terbina dalam memudahkan muat turun, dan inferens teragih membolehkan anda menyebarkan beban merentas pelbagai mesin. Penyebaran melalui Docker, Podman, Kubernetes atau pemasangan tempatan.\n\nIa adalah alat pilihan untuk pembangun dan pasukan DevOps yang ingin memindahkan aplikasi mereka dari API OpenAI ke penyelesaian tempatan tanpa mengubah satu baris kod klien.