公共測量におけるトータルステーションを用いた 1 級基準点測量において，図 7 に示すように，点 A，点 B 間の斜距離及び高低角の観測を行い，観測結果を得た。点 A，点 B 間の基準面上の距離を示す数式として最も適当なものはどれか。次の 1 ～ 5 の中から選べ。
ただし，数式中の記号が示すものは表 7 のとおりとし，点 A 及び点 B における器械高，目標高及び反射鏡高は，図 7 のとおりそれぞれ同じとする。
| 記号が示すもの | 記号 |
|---|---|
| 点 A の標高 | HA |
| 点 B の標高 | HB |
| 点 A と点 B の間の斜距離 | D |
| 点 A から点 B 方向の高低角 | αA（ただし，αA ＞ 0） |
| 点 B から点 A 方向の高低角 | αB（ただし，αB ＜ 0） |
| 点 A，点 B における器械高 | iA，iB |
| 点 A，点 B における目標高及び反射鏡高 | fA，fB |
| 地球の平均曲率半径 | R |
| 点 A，点 B のジオイド高を平均した値 | N |
解説
斜距離を基準面（楕円体面）上の距離に直す手順は 2 段階。①高低角で水平距離にする、②平均の楕円体高を使って基準面に投影する。選択肢はこの 2 か所の「＋ か − か」を入れ替えたものなので、それぞれ理由を持って決める。
A から B を見た高低角 αA は上向きなので正、B から A を見た αB は下向きなので負（表 7 の条件）。両端で観測した高低角を平均して使うが、符号が逆なので、角の大きさの平均は (αA − αB) / 2 になる。たとえば αA ＝ ＋2°、αB ＝ −2° なら (2 − (−2)) / 2 ＝ 2° で、確かに大きさの平均になっている。もし (αA ＋ αB) / 2 とすると 0° になってしまい、水平距離が斜距離と同じになる。よって選択肢 1・2 は除外。
観測した視線の高さは、器械の高さぶんを含めて HA ＋ iA、HB ＋ iB（標高）。その平均に、ジオイド高の平均 N を加えると視線の平均楕円体高になる。地球の曲率半径 R に対して、半径 R ＋（楕円体高）の高さにある長さを半径 R の面に縮小するので、
分母の標高は 2 点の和の半分（平均）であって差ではないので、選択肢 4 は除外。選択肢 5 の相乗平均（√ の形）はそもそも使わない。
※ 準則第40条が「基準面上の距離の計算は楕円体高を用いる」としているのが分母に N が入る理由。標高（H）だけでは楕円体面からの高さにならない。