AWS認定資格 無料問題集

解答

正しい解答：Ｂ. 学習率やバッチサイズなどのハイパーパラメーターを体系的に調整する。

　URL を直接入力して「解答・解説」画面を表示した場合、何を選択・解答したかを特定できないため、解答の正誤判定ができません。必要に応じて「同じ問題に再挑戦」ボタンをクリックして、この問題に再チャレンジしてみてください。

徹底解説

　限られた時間とコストの中で、この事前トレーニング済みの基盤モデル（FM：Foundation Models）の応答性能を向上させるためのファインチューニングの最も有効なアプローチは、「学習率やバッチサイズなどのハイパーパラメーターを体系的に調整する」 ことです。ハイパーパラメーターは、機械学習（ML：Machine Learning）モデルの構築や学習の際に、事前に設定するパラメーターであり、モデルの学習プロセスや構造、推論時の出力の特性を決定する要素です。これは重みやバイアスのように、モデル自体がトレーニング中に学習するものではなく、開発者やエンジニアがあらかじめ決めておく必要のある値です。モデルの性能や汎化能力に大きな影響を与えるものであり、適切な値を設定することによって、モデルの精度や効率を改善することができます。学習関連の主なハイパーパラメーターを下表に示します。

　その他の選択肢は、FMの応答性能を向上させるための有効なアプローチではありません。トークン（Token）は、テキストデータを処理する際の基本単位であり、単語やサブワードなどに分割されてモデルに入力されるものです。生成AI（Generative AI）モデルは、これらのトークンをもとに文脈を理解して、応答を生成します。モデルにはトークンの最大長が設定されており、これは一度に扱える入力や出力の長さを制限します。最大長を拡張すれば、計算コストやメモリ使用量が増加しますが、より長い文脈を保持できます。一方で、今回の課題は文脈の長さではなく、専門用語や複雑な取引への理解不足です。そのため、トークン長を調整しても応答性能の改善に直接的に繋がるものではなく、効果は限定的でしょう。
　エポック数（Epochs）は、データセット全体をどれだけ繰り返して学習させるかを示す指標です。エポック数が、少なすぎると未学習、多すぎると過学習のリスクとなるため、適切な設定とする必要があります。本問題の場合、商品固有の専門用語や複雑な取引に関する応答の正確性と文脈に応じた表現力が不十分であり、むしろ学習機会が必要な状況であると考えられるため、「トレーニングのエポック数を現在の値から削減して、過学習のリスクを抑える」 ことは誤りです。
　限られた時間とコストの中であっても、データセットのサイズを削減することは、期待される改善にはつながりません。商品固有の専門用語や複雑な取引に関する学習機会が減少して、応答性能が低下するリスクがあるため、「データセットのサイズを削減して、より厳選されたデータでモデルを学習させる」 ことは適切ではありません。一般的に、学習データの削減はモデルの性能や汎化能力に悪影響を及ぼす可能性があるため、目的に応じた慎重な判断が求められます。

Step Up！
　時間とコストが限られているという記載から、追加のデータ収集や大規模な再トレーニングを行う余裕がない状況であることが読み取れます。したがって、既存のFMを活用しながら性能を高める手段として、ハイパーパラメーターの調整を推測できると、正答に近づくことができます。
　なお、Amazon SageMaker には、MLモデルの応答性能を最大化するために、ハイパーパラメーターを自動的に調整・最適化する HPO（Hyperparameter Optimization）機能が提供されています。