数値地形モデルの標高値の点検を，現地の5 地点で計測した標高値との比較により実施したい。各地点における数値地形モデルの標高値と現地で計測した標高値は表16のとおりである。標高値の精度を点検するための値σは幾らか。式16を用いて算出し，最も近いものを次の中から選べ。
なお，関数の値が必要な場合は，巻末の関数表を使用すること。
σ＝√｛（地点1 の標高値の差）2＋（地点2 の標高値の差）2＋…＋（地点N の標高値の差）2｝÷ N ････････式16
N：計測地点の数
| 地点番号 | 現地で計測した標高値（m） | 数値地形モデルの標高値（m） |
|---|---|---|
| 1 | 29.3 | 29.5 |
| 2 | 72.1 | 71.5 |
| 3 | 11.8 | 12.2 |
| 4 | 103.9 | 103.4 |
| 5 | 56.4 | 56.3 |
👇 解答を選ぶキー 1〜5 で選択・Enter で次へ
解説
💡 差を二乗して合計0.82、÷5で0.164、√で約0.40m。
与えられた式は、差の二乗を平均して平方根をとる「二乗平均平方根（RMS）」。地点ごとの差を出し、二乗して足し、N＝5 で割ってから √ をとる。
① 標高値の差と二乗
| 地点 | 差（モデル－現地） | 差の二乗 |
|---|---|---|
| 1 | ＋0.2 | 0.04 |
| 2 | －0.6 | 0.36 |
| 3 | ＋0.4 | 0.16 |
| 4 | －0.5 | 0.25 |
| 5 | －0.1 | 0.01 |
| 計 | 0.82 |
② 式16に代入
σ ＝ √（0.82 ÷ 5）＝ √0.164
③ 平方根を求める
√0.164 ＝ √16.4 ÷ 10。関数表の √16＝4.00000、√17＝4.12311 の間なので √16.4 は約 4.05。よって σ ≒ 0.40 m。
σ は約 0.40 m。よって 選択肢 4。
※ √ をとり忘れると 0.164 → 0.16 m（選択肢1）、差の絶対値の平均をとると 0.36 m になる。式の形どおりに計算すること。