Cara Install LLM Lokal di macOS dalam 10 Menit dan Gunakan di NeoVim

Ingin punya asisten AI untuk coding yang berjalan sepenuhnya offline di Mac Anda? Artikel ini akan memandu langkah demi langkah bagaimana menginstal model LLM lokal (Codestral 22B) hanya dalam waktu 10 menit dan langsung menggunakannya di editor NeoVim tanpa biaya API dan tanpa berbagi data ke server mana pun.

1. Persiapan Sistem

1.1 Pastikan Anda menggunakan macOS dengan Homebrew terinstal.
1.2 Terminal sudah dapat dijalankan.

2. Instalasi Ollama

2.1 Jalankan satu perintah berikut di terminal:
brew install ollama

2.2 Tunggu hingga proses selesai.

3. Unduh Model Codestral

3.1 Aktifkan layanan Ollama:
ollama serve

3.2 Di jendela terminal lain, unduh model Codestral (ukuran ±12 GB):
ollama pull codestral

3.3 Untuk tugas umum non-coding, Anda bisa juga mengunduh Gemma2 27B:
ollama pull gemma2:27b

4. Uji Coba Cepat

4.1 Jalankan model langsung dari terminal:
ollama run codestral
4.2 Ketik pertanyaan dan lihat jawaban langsung di terminal.

5. Integrasi dengan NeoVim

5.1 Plugin yang digunakan adalah ollama.nvim.

5.2 Tambahkan kode konfigurasi berikut ke file konfigurasi NeoVim (misalnya lazy.nvim):

{
nomnivore/ollama.nvim,
dependencies = {
nvim-lua/plenary.nvim,
},
cmd = { Ollama },
keys = {
{
mm,
:lua require(ollama).prompt(Raw),
desc = ollama prompt,
mode = { n, v },
},
{
mc,
:lua require(ollama).prompt(General),
desc = ollama prompt for a general question,
mode = { n, v },
},
},

opts = {
model = codestral,
prompts = {
General = {
prompt = $input,
input_label = > ,
model = gemma2:27b,
action = display,
},
},
},
}

5.3 Simpan file konfigurasi dan restart NeoVim.

6. Penggunaan di NeoVim

6.1 Tekan mm untuk menanyakan sesuatu kepada Codestral.
6.2 Tekan mc untuk mengaktifkan Gemma2 27B untuk pertanyaan umum.
6.3 Jawaban akan muncul langsung di jendela NeoVim tanpa perlu beralih ke aplikasi lain.

Keuntungan menggunakan solusi ini:
- Tidak memerlukan kunci API berbayar
- Semua data diproses sepenuhnya lokal
- Tidak ada ketergantungan Python yang rumit
- Ringkas dan cepat, cocok untuk pengembang yang ingin tetap fokus di alur kerja

Jika Anda merasa butuh dukungan profesional untuk mengoptimalkan infrastruktur IT, pengembangan AI, atau solusi cloud lokal, tim Morfotech siap membantu. Hubungi Morfotech melalui WhatsApp +62 811-2288-8001 atau kunjungi https://morfotech.id untuk konsultasi lebih lanjut.