cpp - llama.cppがAI言語モデルに使用するファイル形式「GGUF」にはウェイト以外に何が含まれているのか？ [SnapMato.Me]

llama.cppがAI言語モデルに使用するファイル形式「GGUF」にはウェイト以外に何が含まれているのか？	ITã¢ã³ãã
C++とかいうcpp意外にhファイルも作らないといけない欠陥言語が嫌いなんだが	ãã²ããã²
LLM「Llama3」8Bモデルと70Bモデル発表！改造した場合はモデル名を先頭に付ける必要あり！有志がLlama.cppにLlama3モデルのgguf変換のプルリク公開	ã¡ã¿ãã¼ã¹éå ±ãã¡ã¿ãã¼ã¹ã¾ã¨ã
AIチャット「CAMEL」AIとAIが対話して問題解決！インストール方法を解説「LLaMA.cpp」GPU演算サポート開発中！	ã¡ã¿ãã¼ã¹éå ±ãã¡ã¿ãã¼ã¹ã¾ã¨ã
AIチャット「chatRWKV」4bit量子化で軽量型「RWKV Raven14B」RWKV.cppでモデルサイズ10GBに縮小！モバイル環境でも動く可能性	ã¡ã¿ãã¼ã¹éå ±ãã¡ã¿ãã¼ã¹ã¾ã¨ã
AIチャット「Vicuna-13B」60GBのハードル下げる「Vicuna-13B 4bit量子化版」llama.cppで要求メモリ10GB未満で動くと判明！	ã¡ã¿ãã¼ã¹éå ±ãã¡ã¿ãã¼ã¹ã¾ã¨ã

#cpp