航海數(shù)值計算，不僅用來分析和研究航海領域的有關數(shù)學理論和實踐問題，還須建立表達各種量與量之間的關系示，并根據(jù)已知量或測定值利用這些公式進行數(shù)值計算。
在實踐中，絕對準確的觀測或度量是沒有的。任何定值，包括某些物理和化學常量，按其本質(zhì)來說都含有一定的誤差，永遠是近似值。盡管可以根據(jù)人們的要求，要多準確就取小數(shù)多少位。但在實用中，總是取有限的小數(shù)位，因而仍然是近似值。

　　因此，數(shù)值計算，一般來說，都是近似計算。這就產(chǎn)生一個如何計算才是科學的態(tài)度，既不無緣無故地降低計算結果的準確度，又不致盲目地進行繁瑣的運算。同時還產(chǎn)生對計算結果的準確度如何作出正確的估價，從而確定其可信賴程度的問題。www.sol.com.cn

一、有效數(shù)字與湊整
　　如36.45元，四位數(shù)字都是準確數(shù)，稱為有效數(shù)字。
　　測量結果36.45米，其末位可能有±0.005米的誤差，其前三位是準確的，是有效數(shù)字，而末位數(shù)是湊整得來，可能差半個單位，但它仍然有實際意義，不能隨意舍去。故仍可以認為是有效的（有時也稱為疑存數(shù)字）。所以仍是四位有效數(shù)字。
　　在測量或數(shù)值運算中，為避免追求虛構的精確度，一般都根據(jù)實際要求保留最必須的有效數(shù)字。特別對一些無理數(shù)，更是要根據(jù)實際需要截取有限的長度，這種舍去多余尾數(shù)的方法就稱為湊整。舍入法則，一般地講是“四舍五入”。但嚴格地說卻應該是“四舍六入五成雙”。

3.14653500
湊整誤差可正可負，正誤差與負誤差出現(xiàn)的機會相等；
湊整誤差不超過湊整后近似數(shù)末位的0.5單位；
小的誤差與大的誤差出現(xiàn)的機會相等。www.sol.com.cn

二、近似計算及其誤差
小角度函數(shù)可用函數(shù)的冪級數(shù)展開式表達，在容許的誤差范圍內(nèi)，可以忽略某些高次項近似地進行計算，根據(jù)展開式，有
若根據(jù)要求，可以忽略二次及以上諸項，則
于是 www.sol.com.cn
若只能忽略四次及以上的項，則
為了保證實際上所要求的準確度，小角度函數(shù)的近似計算必須使角度保持在一定的界限內(nèi)。也就是說使近似計算所導致的誤差不超過所容許的誤差。
由于sin函數(shù)的展開式是收斂的交錯級數(shù)，若取n項部分和，其誤差不超過第（n＋1）項的絕對值。
因此，若容許的誤差是1′，在僅取第一項而忽略二次及其以上諸項，其第二項的值不應超過1′。即
對于sinx來說，
同樣可以計算在只取第一項時，要求達到0.′1和0.°1度所對應的界限值，見下表：
角度界限www.sol.com.cn

容許范圍
近似式0.′11′0.°1
Sinx＝x3°12′6°54′12.°5

如果運算中取其前兩項部分和，準確度要求達到0.′1時，則
對sinx來說，x≤13.°5。
這就是說，在航海學和航海天文學中推導近似公式時為什么有時只取第一項，有時卻要取兩項的道理。