非線形回帰について ～GAM、RCSの違い～

非線形回帰には様々なモデルがあります。

今回はGeneralized Additive Model (GAM)とRestricted Cubic Spline (RCS)、この2つの非線形の関係をモデル化するための方法の違いについて説明します。

定義:
- GAM: データに基づいて非線形の関係をモデル化するための一般的なフレームワークです。GAMは線形回帰を拡張したもので、スムージングスプラインや他の非線形関数を使用して、予測変数と応答変数の関係を捉えます。
- RCS: 3次以上の多項式を使用して、データにフィットする曲線を作成する方法です。ただし、その曲線は両端で線形に制約されています（これが「restricted」の由来です）。
目的:
- GAM: 非線形の関係をモデル化するためのもので、予測変数が非線形に応答変数に影響を及ぼすときや、関係がデータから直接推測される必要がある場合に使用されます。
- RCS: 特定の区間で非線形な関係を持つデータをモデル化するためのものですが、曲線は両端で線形になるように制約されています。
使用場面:
- GAM: 非線形の関係が予想され、その関係の形状が事前に知られていない場合によく使用されます。
- RCS: 端点での非線形性を制御したい場合や、特定の範囲での非線形関係を捉えたい場合に使用されます。
柔軟性:
- GAM: GAMは、データにフィットするための非常に柔軟なモデルを提供します。GAMのスムージング関数は、データのパターンに合わせて自動的に調整されます。
- RCS: RCSは柔軟性が高いとは言えません。制約に従った特定の形状の曲線を得ることができます。

これらの違いを理解した上で、特定の分析の目的やデータの性質に応じて最適な方法を選択することが重要です。

Restricted Cubic Spline（RCS）の大きな制約の一つ、「ノット」をどこにするかは特に重要です。ノットの位置は、曲線の形状や滑らかさを制御する重要な要素です。その選択によっては恣意的なグラフになってしまいます。

ノットの選択に関する一般的なアプローチは以下の通りです：

事前知識: ある問題領域の事前知識がある場合、その知識に基づいてノットの位置を選択することができます。たとえば、ある生物学的な過程に関連する変動点がある場合、その点をノットとして使用することができます。
データ: データ自体に基づいてノットを配置する方法もあります。例えば、変数の四分位数やデシルをノットとして使用することが考えられます。
クロスバリデーション: データに統計的な手法を加えます。クロスバリデーションを使用してノットの数や位置を選択することができます。これにより、過度なフィットを避けつつ、モデルの予測精度を最適化するノットの配置が可能となります。

ただし、一般的にはノットの個数は恣意的ですが、位置はデータ、分位点を用いて自動的に決定されるパッケージが多いかと思います。

参考文献：