Cara Instal LLM Lokal di macOS Hanya 10 Menit dan Gunakan di NeoVim

Hari ini kita akan membahas cara cepat menjalankan model bahasa besar secara lokal di macOS tanpa biaya tambahan, lalu mengintegrasikannya langsung ke dalam editor NeoVim agar proses coding semakin lancar.

Permasalahan klasik
Ketika belajar bahasa pemrograman baru, dokumentasi bisa sangat membingungkan. Biasanya kita membuka browser, mengunjungi ChatGPT, lalu copy-paste kode. Sayangnya, plugin NeoVim yang tersedia mayoritas membutuhkan kunci API OpenAI berbayar. Selain itu, data kita dikirim ke server pihak ketiga, yang berisiko dari segi privasi dan kecepatan.

Solusi yang ditemukan
Solusi sederhana hadir berkat dua komponen: model Codestral dan alat Ollama.

1. Model Codestral
- Dikembangkan MistralAI
- 22 miliar parameter
- Optimasi untuk tugas pemrograman
- Mendukung puluhan bahasa pemrograman

2. Alat Ollama
- Seperti Docker untuk model AI
- Instalasi satu baris via Homebrew
- REST API lokal yang kompatibel OpenAI

Langkah instalasi

Langkah 1: Pasang Ollama
brew install ollama

Langkah 2: Mulai layanan Ollama
ollama serve

Langkah 3: Unduh model Codestral (sekitar 12 GB)
ollama pull codestral

Alternatif model umum: gemma2:27b
ollama pull gemma2:27b

Langkah 4: Jalankan percakapan cepat di terminal
ollama run codestral

Integrasi NeoVim
Plugin yang digunakan adalah ollama.nvim.
Manfaat yang didapat:
1. Tidak perlu berpindah jendela
2. Shortcut keyboard cepat
3. Konfigurasi prompt fleksibel
4. Privasi terjaga sepenuhnya

Cara menambahkan ke konfigurasi NeoVim:
{
nomnivore/ollama.nvim,
dependencies = {
nvim-lua/plenary.nvim,
},
cmd = { Ollama },
keys = {
{
mm,
:lua require(ollama).prompt(Raw),
desc = ollama prompt,
mode = { n, v },
},
{
mc,
:lua require(ollama).prompt(General),
desc = ollama prompt for a general question,
mode = { n, v },
},
},

opts = {
model = codestral,
prompts = {
General = {
prompt = $input,
input_label = > ,
model = gemma2:27b,
action = display,
},
},
},
}

Setelah konfigurasi selesai, tekan mm untuk bertanya kepada Codestral atau mc untuk pertanyaan umum kepada Gemma2. Jawaban akan muncul langsung di jendela NeoVim.

Kesimpulan
Cukup 10 menit, laptop macOS Anda berubah menjadi mesin AI lokal. Tanpa biaya bulanan, tanpa jaringan internet, dan tanpa khawatir data bocor. Cobalah solusi ini dan rasakan perbedaan produktivitas saat bekerja.

Paragraf Iklan Morfotech
Jika Anda ingin solusi AI yang lebih lengkap untuk bisnis atau tim developer, Morfotech siap membantu. Konsultasikan kebutuhan AI Anda di WhatsApp +62 811-2288-8001 atau kunjungi https://morfotech.id untuk informasi layanan terkini.