“天文单位”一词出现于1903年。1938年以前，天文单位是指在没有大行星摄动作用（见摄动理论）下，从地月系质心到太阳的平均距离，或者说地月系质心绕太阳公转的无摄动椭圆轨道的半长径。

1976年国际天文学联合会颁布了一系列天文研究采用的最重要单位，其中之一就是被称为“天文单位”（简写为AU）的日地距离。按照国际天文学联合会的原始定义，日地距离是“在太阳引力作用下沿以太阳中心为圆心的圆轨道，以每天0.01720209895弧度的角速度运动的无质量粒子的轨道半径”。当时公布的数据为1天文单位等于149597870.691千米。

这样定义的日地距离除了定义本身晦涩难懂外，还有个让人很难接受的问题：既然是“基本单位”，似乎应该是个定数，但按照1976年国际天文学联合会的定义，天文单位是个不断变化的数值。首先，太阳的质量在不断减小，导致天文单位的数值也在缓慢改变。其次，根据广义相对论，时空的定义是相对的，与观测者所处的时空有关。按照上述定义，在太阳系内不同地方测量到的天文单位数值就会不同，比方说在木星（太阳系内质量最大的行星）上测得的天文单位与在地球上测得的要相差1000多千米。