Quantisierung は、大規模言語モデル (LLM) の管理と KI-Modellen の生成を管理するものであり、完全な品質管理を行うための大きな LLM 標準です。 28 億のパラメータを含む 28 億 K3 のパラメータを使用して、4 ビットのトレーニングを開始し、4 ビットのステータスを確認します。 Üblich waren früher 32-Bit-Gleitkommazahlen fürs Training、ausgeliefert wurden FP16-Gewichte。 FP8 […]