开元初年，他又和贺知章、张旭、鲍溶四人并称“吴中四士”。张若虚的诗作大多散佚，在《全唐诗》中仅收录有他的《春江花月夜》和《代答闺梦还》。从其诗作来看，他的诗歌一洗六朝诗歌的脂粉浓艳之气，呈现出一种清新明丽的风格，其诗歌创作影响深远。千百年来，无数的人对它迷恋，为它倾倒，闻一多说：它是顶峰上的顶峰。
其实《春江花月夜》是一个旧题。在《乐府诗集》中，除过收录有张若虚的这首《春江花月夜》之外，还收有隋炀帝的两首、诸葛颖的一首、张子容的两首、温庭筠的一首。与后面几位的同名诗作相比，张若虚的这首《春江花月夜》则具有一种前所未有的艺术感染力。它宛如一幅山水画卷，展现在我们眼前的是春天静谧的夜晚，明月在东山升起，渔舟在江面荡漾，花影在徐徐和风下轻摆摇曳的迷人景色。
《春江花月夜》作为张若虚的经典代表诗作，非常鲜明地体现出了他的艺术特色。全诗紧扣春、江、花、月、夜五种背景，以月为纽带将月洒西天、月启天问、月照无眠串联起来，江水、沙滩、天空、白云、扁舟、楼台、鸿雁以及不眠的闺人等等一一点染开来。其中有动态的描写也有静态的刻画，春江花月美景下的人生期待，就像潺潺流水一般抒写出来。如此以来在咏叹良辰美景的同时，又穿插以对游子思妇的关切以及对人生宇宙的怅惘感慨，让人读来哀而不伤，韵味悠长，因此人们评价张若虚是凭此“孤篇压全唐”。