温度
AIの温度(Temperature)とは、テキスト生成モデルが出力する単語のランダム性や多様性を制御するためのハイパーパラメータです。温度を高くすると創造的で予測不可能な文章になり、低くすると一貫性のある確実な出力が得られます。
大規模言語モデルに関するAI用語を101件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は5ページ目です。
AIの温度(Temperature)とは、テキスト生成モデルが出力する単語のランダム性や多様性を制御するためのハイパーパラメータです。温度を高くすると創造的で予測不可能な文章になり、低くすると一貫性のある確実な出力が得られます。
推論パラメータとは、AIモデルが学習済みデータをもとに回答や画像を生成する際、出力のランダム性や長さなどを制御するために調整する設定値です。代表的なものに温度パラメータやTop-pサンプリングなどがあり、これらを変更することで、AIの応答の創造性や正確性を用途に応じて柔軟に調整できます。
高密度モデルとは、入力データに対してすべてのパラメータが常に活性化され処理を行うニューラルネットワーク構造のことです。計算効率の面で課題がある一方で、緻密な表現力を持ちます。
インストラクション・チューニングとは、事前学習済みの大規模言語モデルに対し、指示と応答のペアを用いたファインチューニングを行うことで、ユーザーからの複雑な指示に対する追従性を高める機械学習の手法です。
フルファインチューニングとは、事前学習済みモデルのすべてのパラメータを更新して再学習を行う手法です。高い適応力を持ちますが、膨大な計算資源とメモリが必要になるという特徴があります。