FAQ
GGUF形式とは何ですか?
Georgi Gerganov氏が公開しているGGMLという機械学習フレームワークで使用されるモデルフォーマットです。
言語モデルに必要なボキャブラリーの定義情報を一つのファイルで扱えるなど利便性が高いことが特徴の一つです。
詳細は公式ページをご覧ください。
GPUが必要ですか?
いいえ、CPUのみでも動作します。
Georgi Gerganov氏が公開しているGGMLという機械学習フレームワークで使用されるモデルフォーマットです。
言語モデルに必要なボキャブラリーの定義情報を一つのファイルで扱えるなど利便性が高いことが特徴の一つです。
詳細は公式ページをご覧ください。
いいえ、CPUのみでも動作します。