レイテンシ
レイテンシとは、AIシステムにおいてデータ入力から処理結果が出力されるまでに要する遅延時間を指します。リアルタイム処理や音声認識、自動運転などの分野においてユーザー体験や安全性に直結する極めて重要な性能指標です。
性能評価のAI用語一覧
3件性能評価に関するAI用語を3件掲載しています。意味や使い方、関連用語を一覧から確認できます。
スループット
スループットとは、単位時間あたりに処理できるデータ量やリクエスト数のことです。AIや機械学習の分野では、推論処理において1秒間に生成できるトークン数や処理可能なリクエスト数を示します。システムの処理能力やコストパフォーマンスを評価する重要な指標であり、GPUなどのハードウェア選定やWebサービスの運用設計で重視されます。
MMLU
MMLUは大規模言語モデルの総合的な知識と問題解決能力を測るための代表的なベンチマークテストです。人文科学や社会科学、STEM分野など幅広い専門知識を問う選択式問題で構成されており、AIの学力測定における標準指標として広く利用されています。