データアウェアテストとは、REST API を LLM ツールとしてテストし適応させるためのフレームワーク で提案されたテストケース生成手法であり、LLM が生成するテスト入力を、LLM に入力値を独自に作り出させるのではなく、同じカタログ内の他のツールから得られる企業固有のデータに基づかせるものである。LLM だけで生成したテストケースは、構文上は妥当であっても、たとえば捏造されたユーザー ID のような無関係なデータを含むことがある。同論文によれば、これは空のレスポンス、自明な出力、あるいは「結果が見つかりません」というエラー(例: 404 レスポンス)を生み、とりわけ有効な入力(実在するレコード ID や既存の口座番号)が実行時にしか得られず、API 仕様だけからは推測できないツールでその傾向が強い。

用法

対象ツールのデータアウェアなテスト入力を生成するために、このフレームワークはまずツール依存グラフを構築する。LLM がツールカタログの docstring を調べ、ツールの各組について、一方のツールの出力パラメータが他方のツールの入力パラメータを供給できるかどうかを推論する。推論されたパラメータの対応付けを人間のツール開発者が検証した後、ツールをノード、特定された依存関係をエッジとするグラフが永続化される。1 つの対象ツールをテストする際、フレームワークはそのツールに値を供給するツールの順序付きの連鎖を特定してその連鎖を実行し、対象ツール自身の仕様を満たす値に到達するまで、各親ツールの変換済みの出力を次のツールの入力へと対応付けていく。こうして得られた値がデータアウェアなテスト入力となる。承認済みの依存グラフを用いた 705 件のテストケースでの評価では、LLM が作り出した入力の代わりにデータアウェアな入力を用いることで、データアウェアな入力なしで生成した同じテストケースと比べて、空出力のエラー率と出力不一致のエラー率がそれぞれ約 10 パーセントポイント低下し、エラーなしで実行されたテストケースの割合が増加した。

適用される場面

データアウェアテストが適用されるのは、特に、ツール間に実際のデータ依存関係 — あるツールのレスポンスが別のツールの入力として供給する値 — があり、それが API 仕様だけからは見えない企業のツールカタログである。使用前に、ツール依存グラフが人間のツール開発者によってすでに構築・レビューされていることを前提とする。同論文は、依存関係の推論に用いる LLM がツールの docstring に依拠するため、ツール自身の docstring に詳細なパラメータ説明が欠けている場合には、依存関係やパラメータ対応付けの推論が信頼できないものになりうると指摘している。