马诗二字，起初出自李白诗句“十年一觉扬州梦，赢得青楼薄幸名。马诗愁草千里绿，燕草如碧丝。”中的“马诗”。在《玉溪编事》中提到：“马诗谓百首。今人马诗，多百首。嘉靖中翰林饶权，在侍讲坊，题曰十二楼，为《马诗》之祖。”
其实，马诗的起源可能更为久远，在青楼中供人演唱的诗歌都称为“马诗”。陈辉《元遗山诗集笺注》卷三十二：“‘马诗’者，青楼中供人演唱之歌曲也。何则？唐时士大夫，好蓄骏马，青楼娼妓，往往骑马游行。一日之中，马常更数乘，故称‘马诗’。”
到了南宋时期，“马诗”的含义开始逐渐发生变化，不再局限于青楼诗歌，而成为一种用来描绘长期游历生活的词语。如陆游《书愤》：“马诗自笑非关俗，燕草如碧丝。”
自此以后，“马诗”的本义逐渐淡化，甚至成为一种用来泛指旧诗词的代称。