MIPDEVP Technology Studio

Gak Perlu Bayar Mahal! Eksperimen Gila Menjalankan AI Coding Qwen3.5 Langsung di Komputer Sendiri

2026-04-05 · Artificial Intelligence

Pernah kepikiran buat menjalankan AI coding canggih langsung di komputer sendiri tanpa biaya langganan cloud? Ternyata bisa, tapi jangan kaget dengan hasilnya!

Mengapa Harus Lokal?

Banyak pengembang saat ini mulai risih dengan ketergantungan pada cloud-based AI services seperti Claude Code. Selain biaya langganan token yang menguras kantong, ada kekhawatiran soal privasi data saat harus mengunggah kode sumber ke server pihak ketiga. Menurut laporan dari InfoWorld, tren local LLM kini semakin relevan. Dengan spesifikasi hardware yang tepat, model AI sekarang bisa dijalankan langsung di desktop, memberikan kontrol penuh tanpa harus terikat pada layanan black-box.

Persiapan Senjata Tempur

Penulis eksperimen ini menggunakan PC dengan prosesor AMD Ryzen 5 3600 dan kartu grafis RTX 5060. Untuk menjalankan model, ia menggunakan aplikasi LM Studio sebagai host inference. Tantangan utamanya adalah VS Code secara bawaan tidak mendukung model lokal, sehingga ia harus memasang ekstensi pihak ketiga bernama Continue. Tanpa alat ini, menghubungkan model lokal ke IDE akan menjadi mimpi buruk teknis.

Memilih Model yang Pas

Tidak semua model diciptakan sama. Penulis mencoba tiga varian dari seri Qwen3.5:

  • qwen3.5-9b@q5_1: Varian 9,5 miliar parameter dengan kuantisasi 5-bit.
  • qwen3.5-9b-claude-4.6-opus-reasoning-distilled: Versi yang dioptimalkan dengan data penalaran.
  • qwen3.5-4b: Varian terkecil 4 miliar parameter dengan kuantisasi 6-bit.

Hasil Eksperimen: Antara Harapan dan Realita

Secara teori, model ini mampu memberikan saran penulisan kode yang cukup baik. Namun, ada tembok besar saat mencoba melakukan aksi otomatis. Ketika model diminta untuk "mengedit" kode secara langsung, ia seringkali gagal total, terjebak dalam loop internal, atau bahkan menghapus file proyek secara tidak sengaja. Hal ini menunjukkan bahwa meskipun AI lokal hebat untuk konsultasi, mereka belum cukup tangguh untuk bertindak sebagai autonomous coding agent.

"Menggunakan model lokal untuk mendapatkan wawasan tentang basis kode bekerja paling baik saat Anda memiliki cukup VRAM untuk menampung seluruh model dan konteks yang dibutuhkan." - Penulis laporan.

Kesimpulan Akhir

Eksperimen ini membuktikan bahwa kita sudah sangat dekat dengan era local-first AI development. Namun, untuk tugas-tugas kritis yang melibatkan manipulasi file secara otonom, kita masih harus bersabar. Untuk saat ini, gunakan AI lokal untuk memberi masukan atau ide, tapi jangan biarkan mereka menjadi satu-satunya eksekutor di dalam proyek Anda. Baca selengkapnya di sini.

Sumber berita https://www.infoworld.com/article/4144487/i-ran-qwen3-5-locally-instead-of-claude-code-heres-what-happened.html