常衮登第后由太子正字授补阙起居郎，永泰元年（765年）授中书舍人。大历十二年（777年）拜相，杨绾病故后，独揽朝政。以文辞出众而又登科第为用人标准，堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后，被贬为河南少尹，又贬为潮州刺史。不久为福建观察使。常衮注重教育，增设乡校，亲自讲授，闽地文风为之一振。建中四年（785年）死于任上。享年五十五岁，追赠为尚书左仆射。
静忆溪边宅，知君许谢公。晓霜凝耒耜，初日照梧桐。
涧鼠喧藤蔓，山禽窜石丛。白云当岭雨，黄叶绕阶风。
野果垂桥上，高泉落水中。欢荣来自间，羸贱赏曾通。
月满珠藏海，天晴鹤在笼。馀阴如可寄，愿得隐墙东。
云戟曙沈沈，轩墀清且深。家传成栋美，尧宠结茅心。
玉佩多依石，油幢亦在林。炉香诸洞暖，殿影众山阴。
草奏风生笔，筵开雪满琴。客从龙阙至，僧自虎溪寻。
潇洒延清赏，周流会素襟。终朝惜尘步，一醉见华簪。
可怜云木丛，满禁碧濛濛。色润灵泉近，阴清辇路通。
玉坛标八桂，金井识双桐。交映凝寒露，相和起夜风。
数枝盘石上，几叶落云中。燕拂宜秋霁，蝉鸣觉昼空。
翠屏更隐见，珠缀共玲珑。雷雨生成早，樵苏禁令雄。
野藤高助绿，仙果迥呈红。惆怅缭坦暮，兹山闻暗虫。
塞外悲风切，交河冰已结。瀚海百重波，阴山千里雪。
迥戍危烽火，层峦引高节。悠悠卷旆旌，饮马出长城。
寒沙连骑迹，朔吹断边声。胡尘清玉塞，羌笛韵金钲。
绝漠干戈戢，车徒振原隰。都尉反龙堆，将军旋马邑。
扬麾氛雾静，纪石功名立。荒裔一戎衣，灵台凯歌入。
执契静三边，持衡临万姓。玉彩辉关烛，金华流日镜。
无为宇宙清，有美璇玑正。皎佩星连景，飘衣云结庆。
戢武耀七德，升文辉九功。烟波澄旧碧，尘火息前红。
霜野韬莲剑，关城罢月弓。钱缀榆天合，新城柳塞空。
花销葱岭雪，縠尽流沙雾。秋驾转兢怀，春冰弥轸虑。
书绝龙庭羽，烽休凤穴戍。衣宵寝二难，食旰餐三惧。
翦暴兴先废，除凶存昔亡。圆盖归天壤，方舆入地荒。
孔海池京邑，双河沼帝乡。循躬思励己，抚俗愧时康。
元首伫盐梅，股肱惟辅弼。羽贤崆岭四，翼圣襄城七。
浇俗庶反淳，替文聊就质。已知隆至道，共欢区宇一。
开元二十六年，客有从御史大夫张公出塞而还者；作《燕歌行》以示适，感征戍之事，因而和焉。
汉家烟尘在东北，汉将辞家破残贼。
男儿本自重横行，天子非常赐颜色。
摐金伐鼓下榆关，旌旆逶迤碣石间。
校尉羽书飞瀚海，单于猎火照狼山。
山川萧条极边土，胡骑凭陵杂风雨。
战士军前半死生，美人帐下犹歌舞。
大漠穷秋塞草腓，孤城落日斗兵稀。
身当恩遇常轻敌，力尽关山未解围。(常轻敌 一作：恒轻敌)
铁衣远戍辛勤久，玉箸应啼别离后。
少妇城南欲断肠，征人蓟北空回首。
边庭飘飖那可度，绝域苍茫更何有。(飘飖 一作：飘飘)
杀气三时作阵云，寒声一夜传刁斗。
相看白刃血纷纷，死节从来岂顾勋。
君不见沙场征战苦，至今犹忆李将军。