日本原來并不叫日本。在古代日本神話中，日本人稱其為“八大洲”“八大島國”等。據《漢書》《后漢書》記載，我國古代稱日本為“倭”或“倭國”。公元五世紀，日本統一后，國名定為“大和”。因為古代日本人崇尚太陽神，所以將太陽視為本國的圖騰。相傳在七世紀初，日本的圣德太子在致隋煬帝的國書中寫道：“日出處天子致日落處天子”，這就是日本國名的雛形。直到七世紀后半葉，日本遣唐史將其國名改為“日本”，意為“太陽升起的地方”，其后沿用，成為日本的正式國名。《新唐書·日本傳》中有記載：咸亨元年（670年），倭國遣使入唐，此時倭國已“稍習夏言，惡倭名，更號日本。使者自言，因近日出，以為名。”此外，在漢語中，“扶桑”“東瀛”也是日本國名的別稱。

約公元1世紀，日本各地有100多個小國（其中有的與東漢建立了外交關系）。后來，這些小國逐漸得到統一。

到了公元4世紀，在關西地方建立了比較大的國家，據說最終將它們統一起來的是當今天皇族的祖先。當時，日本國的范圍包括本州西部、九州北部及四國。

于是，經過了漫長的歲月，國家才得以統一。所以很難對日本國誕生的確實年代作出準確的判定。據《古事記》和《日本書紀》記載，第一代天皇——神武天皇于公元前660年建國并即位，即位日相當于現在的公歷2月11日，因此就把這一天定為“建國紀念日”。