GitHub repo xịn · Vui Coding chọn
MakazhanAlpamys/Soup
Soup là công cụ tối ưu hóa fine-tune và huấn luyện các mô hình LLM từ một file YAML duy nhất, giúp đơn giản hóa quá trình huấn luyện mà không cần SSH hoặc cấu hình phức tạp. Nó cho phép huấn luyện mô hình 8B trên GPU laptop 4GB một cách hiệu quả, giảm thiểu sử dụng VRAM và dễ tiếp cận.
Tóm tắt nhanh
Repo này làm được gì?
Soup là công cụ tối ưu hóa fine-tune và huấn luyện các mô hình LLM từ một file YAML duy nhất, giúp đơn giản hóa quá trình huấn luyện mà không cần SSH hoặc cấu hình phức tạp. Nó cho phép huấn luyện mô hình 8B trên GPU laptop 4GB một cách hiệu quả, giảm thiểu sử dụng VRAM và dễ tiếp cận.
Mô tả từ GitHub
Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.
Bắt đầu với repo
Cài đặt và sử dụng
Hướng dẫn cài đặt
1. Cài đặt Soup bằng pip:
pip install soup-cli2. Thêm phần huấn luyện:
pip install "soup-cli[train]"3. Khởi tạo cấu hình:
soup init --template chatHướng dẫn sử dụng
1. Tạo file cấu hình:
soup init2. Huấn luyện mô hình:
soup train --config soup.yaml3. Tương tác với mô hình:
soup chat --model ./output
