既存のLLM（大規模言語モデル）に追加学習や構造変更を一切行わずに、推論速度を大幅に向上させる新たなフレームワークSPECTRAを提案。SPECTRAは、SPECTRA-CORE と SPECTRA-RETRIEVAL という2つの革新的なモジュール（単位）で構成され、それぞれがSOTA（最先端手法）を上回る性能を発揮。両者の組み合わせにより、様々なタスクやアーキテクチャにおいて最大 4.08倍の推論速度向上を達成。複数のLLMファミリー、タスク、およびGPU（グラフィック処理装置）環境での大規模実験により、元のLLMと同等の生成品質を維持しながら損失なく高速化できるこ...