Japonya'nın ilk sakinlerinin Doğu Asya ve Güney Pasifik adalarından gelen göçmenler olduğu sanılmaktadır. Japon halkının atalarının şimdi Yamato ırkı diye bilinen ve M.S. 3 ve 4. asırda savaşçı kabileler ve klanlar üzerine giderek üstünlük kuran aynı ırka ait insanlar olduğu zannedilmektedir.

Dördüncü yüzyılın sonunda Japonya ve Kore Yarımadasındaki krallıklar arasında temas kurulmuştu. Bu tarihten sonra Japonya'da Çin'in kültür etkileri görüldü. Önce Konfüçyüs dini ve sonra Budizm, Hindistan, Çin, Kore yoluyla 538 yılında buraya girmişti.

Ülkenin ilk ve devamlı hükumet merkezi 8. yüzyılın başında Nara'da kuruldu. 710 ile 784 yılları arasında 74 sene bu imparatorluk devam etti. 794 yılında ise Kyoto'da yeni bir hükumet merkezi kuruldu. Burası bin yıl kadar imparatorun oturduğu yer olmuştur. Başkentin Kyoto'ya taşınması, 1192 yılına kadar devam etmiş olan Heian devrinin başlangıcı olmuştur.

1185 yılında Danoura Savaşında Minamotolar rakip Taira Kralını yok ederek galip gelmişlerdir. Minemotoların iktidarı ele geçirmesi, Shogun denilen askeri liderler idaresi altında yedi asırlık bir feodal hakimiyet devrinin başlangıcı olmuştur. 1192 yılında Minamotolar hükumet merkezini Tokyo yakınındaki Kamakura'ya kurdular.

1213 yılında iktidar Minamotolardan, 1333 yılına kadar askeri yönetimi sürdüren Hogoların eline geçti. Bu dönemde Moğollar, 1274 ve 1281 yıllarında olmak üzere iki defa Kuzey Kyushu'ya saldırdılar. Her iki savaşta başarılı olamayan Moğollar, ayrıca meydana gelen tayfunların tesiri ile Japonya'dan çekildiler.

1333 ile 1338 yılları arasında görülen kısa süreli imparatorlukları, Ashikaga Takauji tarafından Kyoto'da Muromachi'de kurulan yeni bir askeri yönetim takip etti. Bu kurulan hükumet 1338'den 1578'e kadar iki yüz yıldan fazla bir süre devam etmiştir.

On altıncı yüzyılda Avrupalılar Japonya topraklarına ayak bastılar. Bu arada misyonerler, Hıristiyanlığı burada yaymaya çalıştılar. Bunun üzerine Japon liderleri Hıristiyanlığın ve batı düşüncelerinin Japonya için zararlı olacağına inandıkları için Hollanda ve Çin tüccarı haric olmak üzere bütün yabancıların Japonya'ya girişini yasakladılar. İki buçuk yüzyıl süresince Hollandalı tüccarların bulunduğu bu küçük ada, Japonya ile dış dünya arasında tek temas noktası olmuştur.

1853 yılında Amerikalı Komodor Matthev C.Perry dört gemiden meydana gelen donanmasıyla Tokyo Körfezine girmiş, ertesi yıl tekrar Japonya'ya gelerek, Japonları kendi ülkesiyle bir dostluk anlaşması imzalamaya ikna etmiştir. Bu anlaşmayı, aynı yıl içinde Rusya, Büyük Britanya veHollanda ile imzalanan anlaşmalar takip etmiştir. Bu anlaşmalar dört yıl sonra ticaret anlaşmalarına dönüşmüştür.

Tokogaua Shogunluğunun derebeylik sistemi 1867 yılında yıkılmasına kadar geçen on yıllık süre içinde büyük bir karışıklık hüküm sürmüş ve 1868 yılında Meigi döneminin tekrar teşkilatlanmasıyla bütün hakimiyet yeniden imparatorun eline geçmiştir.

İmparator Meigi'nin idaresinde japonya, batıda gelişmesi yüzyıllar süren şeyleri kısa bir sürede başarmaya koyulmuş, modern sanayileri, politik kuruluşları ve modern bir toplum modeli ile modern bir millet meydana getirmiştir. Japonya 1894-1895 yıllarında Çinlilerle, 1904 ve 1905 yıllarında da Ruslarla savaşmıştır. Japonya her iki savaşı da kazanarak 1875'te Rusya'ya verdiği Sahalin Adalarını geri almış, Formosa ve Kore'yi ele geçirmiş ve Mançurya'da bazı çıkarlar elde etmişti. 1920 yılında Japonya, Anglo-Japon Birleşmesi kararları gereğince Birinci Dünya Savaşına girmişti.

1937'de Japonya-Çin Savaşı başladı. Birinci Dünya Savaşında Almanlara karşı savaşan Japonya, 1939'da Almanya ve İtalya ile askeri bir ittifak kurdu ve 7 Aralık 1941'de Hawai Adalarına baskın yaparak Amerikan donanmasını yok etti. Savaşın ilk yıllarında üstün görünen Japonlar, sonraki yıllarda ağır kayıplara uğradılar. Amerikan uçaklarının 6 Ağustos 1945'te Hiroshima ve 9 Ağustosta Nagasaki'ye attıkları atom bombaları İkinci Dünya Savaşının neticesini belli etmişti. 14 Ağustos 1945'te kayıtsız şartsız teslim olmayı kabul eden Japonya ile 2 Eylül 1945'te resmi teslim anlaşması imzalandı.

Yedi yıl sonra, 1951 yılı Eylül ayında Japonya 48 devletle San Francisko'da Barış Antlaşmasını imzaladı. 1952 yılı Nisan ayında yürürlüğe giren bu anlaşma ile Japonya tekrar istiklalini kazandı. 1956 yılında ise Japonya 80. devlet olarak Birleşmiş milletlere tam üyeliğe kabul edilmiştir.

Bağımsızlığını kazandıktan sonra büyük bir ekonomik gelişme ile bugünkü refah düzeyine ulaşmış ve teknik ve bilimde çok ileri gitmiş olan Japonya, hemen hemen bütün dünya pazarlarını ele geçirmiş bir devlettir. Liberaller İkinci Dünya Savaşından bu yana iktidardadır. 1926'da tahta geçen İmparator Hirohito, 7 Ocak 1989'da öldü. Yerine büyük oğlu Prens Akihito tahta geçti ve 1990 Kasım ayında taç giydi.