Cara menjalankan deepseek prover v2 7b di windows

Deepseek Prover v2 adalah model LLM canggih yang dirancang untuk teorema formal yang dibuktikan  Lean 4.  Tidak seperti Deepseek R1, Deepseek Prover V2 tidak dapat diinstal langsung ke komputer Windows; Sebaliknya, seseorang perlu menggunakan WSL untuk mengaksesnya. Dalam posting ini, kita akan melihat bagaimana Anda bisa Jalankan Deepsek V2 7B di Windows.

Apa itu deepseek prover v2

Deepseek Prover V2 adalah model bahasa besar yang canggih, dan terutama digunakan untuk memecahkan persamaan matematika dengan bantuan Lean 4. Lean 4 adalah bahasa pemrograman fungsional dan pepatah teorema interaktif yang dirancang untuk verifikasi formal dan bukti matematika. 

Metode ini menggunakan pendekatan langkah demi langkah untuk memecahkan masalah matematika yang kompleks dengan memecahnya menjadi bagian yang lebih kecil dan lebih mudah dikelola. Ini juga menciptakan bukti terorganisir. Model ini meningkatkan keterampilan penalaran dengan pembelajaran penguatan, yang membantu menghubungkan matematika informal dan formal. Fitur-fitur canggihnya memungkinkannya untuk berkinerja sangat baik pada tes pembuktian teorema, seperti Minif2F dan Putnambench.

Kami akan menggunakan parameter 7B karena versi ini menawarkan keseimbangan yang baik antara daya dan efisiensi. Ini cocok untuk pembuktian teorema formal dan dapat diakses oleh para peneliti yang memiliki sumber daya perangkat keras terbatas.

Jalankan Deepseek Prover V2 7B di Windows 11/10

cara legal untuk mengunduh musik

Anda tidak bisa hanya menginstal Deepseek Prover V2 7B di komputer Windows Anda. Anda harus menggunakan WSL. Kami telah memberikan panduan langkah demi langkah tentang cara menjalankan model LLM:

1. Memenuhi persyaratan sistem
2. Konfigurasikan lingkungan
3. Unduh dan instal Anaconda
4. Siapkan Lingkungan
5. Unduh Deepseek Prover V2 7B.

1] memenuhi persyaratan sistem

Anda tidak bisa hanya menggunakan komputer apa pun untuk menjalankan Deepseek Prover V2; Anda perlu memastikan bahwa mesin Anda memenuhi persyaratan perangkat keras tertentu. Kami telah menyebutkan persyaratan sistem di bawah ini.

• Grafik: NVIDIA RTX A6000 atau setara dengan 32GB atau lebih VRAM.
• Ruang yang tersedia:  100 GBS
• Ingatan:  64 GB
• Prosesor: Mordern Intel I7/I9 atau AMD Ryzen 7/9
• Perangkat lunak:  Subsistem Windows 11/10 dan Windows untuk Linux.

Setelah memenuhi persyaratan sistem yang diberikan, mari kita mulai dengan instalasi.

2] Konfigurasikan lingkungan

Seperti yang disebutkan sebelumnya, kita membutuhkan WSL untuk instalasi ini. WSL memungkinkan kami untuk menjalankan distribusi Linux secara asli tanpa membutuhkan mesin virtual atau boot ganda. Untuk menginstal WSL, Anda dapat menggunakan Perintah CLI atau mendapatkannya dari Microsoft Store .

Anda dapat membuka Command prompt  dan jalankan perintah berikut untuk menginstal WSL.

Sekarang, kita perlu menginstal Ubuntu juga.

Untuk melakukannya, jalankan perintah berikut di Command Prompt atau PowerShell.

windows 10 restart loop

Anda harus menunggu Windows mengunduh dan menginstal di komputer Anda.

3] Unduh dan instal Anaconda

Anaconda adalah alat sumber terbuka yang populer untuk Python dan R. ini dirancang untuk ilmu data, pembelajaran mesin, dan pengembangan AI. Anda bisa pergi ke Anaconda.com untuk mengunduh distribusi Anaconda.

4] Siapkan lingkungan

Sekarang kami memiliki Anaconda, kami baik untuk mengatur lingkungan Python dan memasang dependensi lainnya. Untuk melakukannya, buka  Anaconda prompt  atau  Terminal WSL Ubuntu, yang dapat Anda lakukan dengan mencarinya di menu start. Kemudian, jalankan perintah berikut.

Ini akan membutuhkan sedikit waktu, dan bahkan akan meminta izin Anda untuk memasang paket yang hilang. Setelah selesai, Anda dapat menjalankan perintah yang diberikan di bawah ini untuk mengaktifkan lingkungan.

Setelah selesai, kita perlu menginstal dependensi. Untuk melakukannya, di lingkungan yang kami aktifkan, jalankan perintah berikut.

Perintah -perintah ini menginstal Pytorch dengan dukungan CUDA, penting untuk pembelajaran yang mendalam, bersama dengan TorchVision dan Torchaudio untuk pemrosesan gambar dan audio. Mereka juga mengatur transformator, Accelerate, Bitsandbytes, Einops, dan Jupyter Notebook dengan widget interaktif, memungkinkan pengembangan dan eksperimen model AI yang efisien.

Membaca:  Cara menggunakan deepseek r1 dengan bingung

tombol skype

5] Unduh Deepseek Prover V2 7B

Sekarang kita semua telah menginstal dependensi, mari kita lanjutkan dan mengunduh Deepseek Prover V2 7B. Buka a Jupytt Novovook  dan gunakan untuk menjalankan skrip berikut.

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_id = "deepseek-ai/DeepSeek-Prover-V2-7B"
# Load the tokenizer
tokenizer = AutoTokenizer.from_pretrained(model_id)
# Load the model with optimal settings
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map="auto",
torch_dtype=torch.bfloat16,
trust_remote_code=True
)

Pengaturan device_map = 'otomatis' Memungkinkan model untuk secara otomatis menetapkan pemrosesan ke GPU atau CPU, mengoptimalkan kinerja berdasarkan perangkat keras yang tersedia. Pada eksekusi pertama, baik model dan tokenizer akan diunduh dari wajah memeluk, memastikan versi terbaru diambil untuk digunakan.

Sekarang, Anda dapat menjalankan skrip Anda. Berikut ini adalah skrip Python sederhana yang dapat Anda jalankan setelah menjalankan skrip yang disebutkan sebelumnya.

Mudah -mudahan, dengan bantuan posting ini, Anda akan dapat menjalankan Deepseek V2 7B di Windows. Yang sedang berkata, tidak setiap komputer akan dapat mencocokkan tuntutan berat model bahasa besar ini, jika perangkat Anda adalah salah satunya, kunjungi app.nodeshift.com dan membuat mesin virtual dengan konfigurasi yang disebutkan sebelumnya. Perlu diingat bahwa itu tidak gratis, Anda mungkin harus membayar sedikit untuk mencapai persyaratan GPU dan CPU yang disebutkan dalam persyaratan sistem. Setelah Anda memiliki mesin yang diperlukan, Anda bisa mengikuti langkah -langkah yang disebutkan sebelumnya untuk menginstal Deepseek Prover V2 7B.

Membaca:  Cara menjalankan deepseek secara lokal di windows 11

Bagaimana cara menjalankan deepseek prover v2 7b setelah instalasi?

Aktifkan lingkungan Conda Anda menggunakan Conda Active Deepseek, lalu mulai Jupyter Notebook (opsional) dengan Jupyter Notebook. Muat model dalam Python dengan AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", torch_dtype=torch.bfloat16, trust_remote_code=True), memastikan model_id = "deepseek-ai/DeepSeek-Prover-V2-7B". Untuk menghasilkan bukti, jalankan input_text = "Prove that the sum of two even numbers is even" diikuti oleh 36A4ECAF58953D36D4646FE8D5DB3BE5DB88237, kemudian 62ED284FF0160A524A20B7BC519ACDID7E023850, dan akhirnya BA1494B63E933CAE3BD20F98519319456629750 untuk menampilkan bukti formal.

Baca juga: Cara menggunakan coder deepseek v3 di windows 11 .