次の文の ［ア］ 及び ［イ］ に入る数値の組合せとして最も適当なものはどれか。次の中から選べ。
なお，関数の値が必要な場合は，巻末の関数表を使用すること。
三角形ABCで∠ABCの角度を同じ条件で5回測定し，表3の結果を得た。このとき，∠ABCの角度の最確値の標準偏差の値は ［ア］ となる。
また，表3の測定値の最確値を∠ABCの角度とし，辺ABの辺長を3.0 m，辺BCの辺長を8.0 mとしたとき，辺CAの辺長は ［イ］ となる。
| 測定値 |
|---|
| 59° 59′ 57″ |
| 60° 0′ 1″ |
| 59° 59′ 59″ |
| 60° 0′ 5″ |
| 59° 59′ 58″ |
👇 解答を選ぶキー 1〜5 で選択・Enter で次へ
解説
💡 最確値の標準偏差は √(Σv²／n(n−1)) ＝ √2 ≒ 1.4″。CA² ＝ 9 ＋ 64 − 24 ＝ 49。
同じ条件（等しい精度）で5回測った角について、最確値とその標準偏差を出し、続いて余弦定理で残りの辺を求める2段構えの問題。
① 最確値
60° 00′ 00″ を基準にして秒の部分だけ見ると −3″、＋1″、−1″、＋5″、−2″。合計が 0 なので平均も 0″、最確値は 60° 00′ 00″。
② 残差の二乗和
残差 v（測定値 − 最確値）は ① の値そのもの。Σv² ＝ 9 ＋ 1 ＋ 1 ＋ 25 ＋ 4 ＝ 40
③ 最確値の標準偏差（ア）
m ＝ √{Σv² ÷ (n(n − 1))} ＝ √{40 ÷ (5 × 4)} ＝ √2 ＝ 1.41421 ≒ 1.4″
√{Σv² ÷ (n − 1)} ＝ √10 ≒ 3.2″ は「1回の測定の標準偏差」で、最確値の標準偏差ではない。選択肢 5 の 3.2″ はこの取り違えをねらっている。
④ 辺 CA（イ）
余弦定理 CA² ＝ AB² ＋ BC² − 2·AB·BC·cos∠B に、cos 60° ＝ 0.50000 を入れる。
CA² ＝ 9 ＋ 64 − 2 × 3 × 8 × 0.5 ＝ 73 − 24 ＝ 49 → CA ＝ 7.0 m
最後の項を足してしまうと √97 ≒ 9.8 m（選択肢 2・4）になる。符号に注意。
ア ＝ 1.4″、イ ＝ 7.0 m。よって 選択肢 1。