Vid stängning hade Topix-index backat 0,2 procent medan det bredare Nikkei 225-index sjönk 0,7 procent.
Fallet lindrades något av att aktiemarknaderna i Kina öppnat efter det kineska nyårsfirandet med tydliga uppgångar.
Kompositindex i Shanghai stiger 1,8 procent efter ledigheten medan Hang Seng-index i Hongkong är ned 0,6 procent i sluthandeln.