日本政府在停派“遣庸使”船的同时，也禁止一切日船外航。日本政府推行闭关政策使日中关系中断，而且也给民间往来带来诸多困难。所幸此后中国商船去日颇多，有不少日本僧就便搭乘到中国访问，两国民间联系得以继续下来。后来中国五代时，越国(公元893年—公元974年)统治者曾几次通过中国商人向日本政府致意，赠送礼物，以示友好，日本左大臣藤原忠平等也都曾书信回礼。天德元年(公元957年)和3年(公元959年)，吴越国曾两次遣使赴日访问。
图 藤原忠平
公元960年宋王朝建立，公元979年宋太宗统一了中国。日本东大寺僧裔然于永观元年(公元983年)乘吴越陈仁爽、陈仁满的船到中国，受到宋太宗的接见。永延元年(公元987年)商然回国；带回构檀释迦像及经论置于莲台寺。次年商然派弟子嘉因来宋，向宋帝献礼物。延久4年(公元1072年)，成寻及其弟子7人搭宋商船入宋，到天台山国清寺巡拜，还受到宋神宗的接见。神宗委托成寻的弟子带给日本朝廷一封亲笔信和不少礼物，表示谋求睦邻友好的意愿。承历2年(公元1078年)日本政府遣答礼使僧仲回乘宋商孙忠的船只持复信回访。
随着两国关系走向正常化，中国商船赴日更多，从10世纪中期至12世纪初时150年间，驶日船只不下六七十次。中国商船大抵皆在九州博多停泊卸货。交易一如过去，由大宰府主持，在京都派去的“交易唐物使”监督下，严格按先官后私的准则进行。然而实际京都贵族和地方豪族们总是干犯禁令，争先派人到博多抢购所渴望的“唐物”。平清盛执政后，在他鼓励下，日商船开始驶宋并与日俱增。宋商运往日本的货物主要有生丝、锦缎、生铁、瓷器、药材、香料，还有宋版书、佛画、佛具、铜钱等。日本运来中国的货物主要有铜、硫黄、木材、砂金、刀剑、漆器、扇等。日本的工艺品在中国市场颇受欢迎，尤其日本刀坚锐美观，为中国人所喜爱。宋代文学家欧阳修曾作《日本刀歌》赞之。