AWS認定資格 無料問題集

解答

正しい解答：Ｂ. 記事をセクションごとに分割して、それぞれを独立した要約ジョブとして実行した上で、最終的にまとめ直す。

　URL を直接入力して「解答・解説」画面を表示した場合、何を選択・解答したかを特定できないため、解答の正誤判定ができません。必要に応じて「同じ問題に再挑戦」ボタンをクリックして、この問題に再チャレンジしてみてください。

徹底解説

　大量のニュース記事をモデルに投入した際に発生したトークン制限を超える課題に対する最も有効な対策は、「記事をセクションごとに分割して、それぞれを独立した要約ジョブとして実行した上で、最終的にまとめ直す」 ことです。トークン制限（Token Limit）とは、生成AIモデル（Generative AI）が入力と出力を合わせて一度に処理できるトークンの合計数の上限を指します。長いテキストをそのままモデルに渡すとトークン制限を超過して、長い文脈を適切に処理できなくなったり、出力が途中で切れたりする可能性があります。その場合、入力を複数のチャンクに分割することによって、個別の処理をそれぞれ実施した後に統合する方法が最も一般的かつ実践的な対応策となります。特に、大量のテキストを取り扱う大規模言語モデル（LLM：Large Language Model）では、合計トークン数が上限を超えやすいため、チャンク分割や要約粒度の最適化などに注意が必要です。

　その他の選択肢は、トークン制限を超える課題に対する有効な対策ではありません。「効率を優先して、記事全文を一括で渡す方式はこのままで、トークン制限の上限がより大きい別モデルに切り替える」 ことでトークン制限の上限を広げることができたとしても、それによって制限を回避できる保証はなく、根本解決にはなっていません。さらに、トークン上限の大きいモデルはコストも高く、現実問題としては採用が難しい場合もあります。もちろん、コストを掛ければ、非常に大きなコンテキストウィンドウを持ち、分割なしでも処理可能な場合がありますが、本問題の趣旨としてはコストとのトレードオフが問われていると考えましょう。
　「記事全文を外部ストレージに保管しておき、キーワード検索で事前に絞り込んだ記事セクションだけをプロンプトに渡す」 ことは、ひとつのアイデアたと思う方もいらっしゃるかもしれませんが、この方法を採用した場合、必要な文脈や詳細情報が除外されて、要約に必要な文脈が欠落するかもしれません。このような事象が発生した場合、品質や一貫性が著しく低下するリスクがあり、最適な対策とはいえません。また、「記事全文をトークン制限いっぱいまでモデルに渡して、出力長を短く指定することによって、一度の呼び出しでの処理を試みる」 という対策では、入力トークン数自体を削減しないため、依然として上限超過のエラーや切り落としが発生します。これらも最適な対策とはいえません。

Step Up！
　キーワード検索で事前に絞り込んだ記事セクションだけをプロンプトに渡すという手法は、検索拡張生成（RAG：Retrieval-Augmented Generation）に準じたアプローチと捉えることができます。すべての情報を直接モデルに渡すのではなく、関連性の高い部分だけを抽出して活用することで、効率的かつ目的に沿った応答が可能になります。特に、質問応答や情報検索のようにユーザーの意図に応じて必要な情報が異なるユースケースでは有効です。ニュース要約においても、「経済」 や 「環境」 といった特定のテーマに絞って処理することで、トークン数を抑えつつ、的確な要約を生成する手法として活用できます。RAGの有効性はユースケース依存であり、有効となる場合があることに注意しましょう。