Comments (2)
5.8B GPTQ 파일입니다. https://huggingface.co/qwopqwop/KoAlpaca-Polyglot-5.8B-GPTQ/tree/main
12.8B GPTQ파일입니다. https://huggingface.co/qwopqwop/KoAlpaca-Polyglot-12.8B-GPTQ/tree/main
from koalpaca.
메인 README에 HF에 통합된, QLoRA를 통해 4bit 학습 저장 및 실행하는 예제가 추가되었습니다 :)
from koalpaca.
Related Issues (20)
- LLaMA & Polyglot 백본 모형의 학습 방법에 대한 문의 HOT 2
- [참고] KoAlpaca Polyglot-Ko-12.8B PEFT Finetune
- KoChatAlpaca inference 세팅에 대해 질문드립니다. HOT 2
- 개인 컴에서
- transformers 버전 문제 HOT 4
- Fine-tuning 문의
- dockerfile
- Polyglot-ko 12.8B 모델을 QLora 방식 파인 튜닝 하는 것은 Baseline 모델이 몰랐던 정보를 학습하는 것인가요? HOT 2
- ChatKoAlpaca 인퍼런스 문의 HOT 7
- 7월 10일 기준, beomi/polyglot-ko-12.8b-safetensors 모델 성능에 이상이 생긴 것 같습니다. HOT 3
- bnb_4bit_koalpaca_v1_1a_on_polyglot_ko_12_8b 학습 데이터 질문 HOT 1
- poly glot 12.8 또는 llama 65b 하드웨어 사양
- 학습을 시켰는데 제대로된 답을 안해줘서 문의 드립니다 HOT 4
- Polyglot-KoAlpaca-5.8B모델과 langchain을 이용한 인덱스 저장 및 로드 방식에 대해 문의 드립니다.
- Few-shot 평가 문의
- index.json 파일 문의 드립니다 HOT 1
- beomi/KoAlpaca-Polyglot-12.8B 로 inference를 진행하기 위해서는 48GB의 VRAM이 필요한가요? HOT 3
- prompt 관련 ko_alpaca_data.json 형식 문의 드립니다. HOT 1
- 학습 결과 inference시 질문좀 드리겠습니다.! HOT 3
- 모델 저장 및 허깅페이스에 올리는법..이것때문에 문제가 생기네요 ㅠㅠ HOT 1
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from koalpaca.