Tetherは、消費者向けGPUおよびスマートフォンでの大規模モデルのトレーニングと推論をサポートするクロスプラットフォームBitNet LoRAフレームワークを発表しました。

TetherのCEOパオロ・アルドイーノは、Tether AIチームが新しいバージョンのQVAC Fabricを発表し、クロスプラットフォームのBitNet LoRAフレームワークを統合し、消費者向けGPUおよびスマートフォンで10億パラメータ規模の大規模モデルのトレーニングと推論を実現したと明らかにしました。

新しいQVAC Fabric LLMは、初めてBitNet LoRAの微調整と推論をAMD、Intel、Apple MetalおよびモバイルGPU上でクロスプラットフォームで実行しました。フラッグシップデバイスでは、GPUの推論速度がCPUに比べて2倍から11倍向上し、メモリ使用量は全精度モデルに比べて最大90%削減されました。Tetherチームは、Pixel 9、S25、iPhone 16などのフラッグシップスマートフォンで最大38億パラメータモデルの微調整を完了し、iPhone 16では最大130億パラメータモデルの微調整を実現しました。関連コードはGitHubにオープンソースとして公開されています。

本コンテンツは、一般的な情報提供のみを目的としたものであり、金融、投資、法律、または税務に関する助言を構成するものではありません。ここに記載されているイベント、報酬、オンラインキャンペーン、またはそれらに関連する情報は、暗号資産の購入、売却、取引、その他いかなる取引の推奨、勧誘、または招待とみなされるべきではありません。暗号資産は価格変動が非常に大きく、損失が発生する可能性があります。WEEXのサービス、プロダクト、および関連イベントの提供状況は、地域によって異なる場合があります。お客様は、ご自身の参加が適用される現地の法令を遵守していることを自ら確認する責任を負うものとします。