常衮登第后由太子正字授补阙起居郎，永泰元年（765年）授中书舍人。大历十二年（777年）拜相，杨绾病故后，独揽朝政。以文辞出众而又登科第为用人标准，堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后，被贬为河南少尹，又贬为潮州刺史。不久为福建观察使。常衮注重教育，增设乡校，亲自讲授，闽地文风为之一振。建中四年（785年）死于任上。享年五十五岁，追赠为尚书左仆射。
静忆溪边宅，知君许谢公。晓霜凝耒耜，初日照梧桐。
涧鼠喧藤蔓，山禽窜石丛。白云当岭雨，黄叶绕阶风。
野果垂桥上，高泉落水中。欢荣来自间，羸贱赏曾通。
月满珠藏海，天晴鹤在笼。馀阴如可寄，愿得隐墙东。
穆穆上清居，沈沈中秘书。金铺深内殿，石甃净寒渠。
花树台斜倚，空烟阁半虚。缥囊披锦绣，翠轴卷琼琚。
墨润冰文茧，香销蠹字鱼。翻黄桐叶老，吐白桂花初。
旧德双游处，联芳十载馀。北朝荣庾薛，西汉盛严徐。
侍讲亲花扆，征吟步绮疏。缀帘金翡翠，赐砚玉蟾蜍。
序秩东南远，离忧岁月除。承明期重入，江海意何如。
云辟御筵张，山呼圣寿长。玉阑丰瑞草，金陛立神羊。
台鼎资庖膳，天星奉酒浆。蛮夷陪作位，犀象舞成行。
网已祛三面，歌因守四方。千秋不可极，花发满宫香。
灵飙动阊阖，微雨洒瑶林。复此新秋夜，高阁正沉沉。
旷岁恨殊迹，兹夕一披襟。洞户含凉气，网轩构层阴。
况自展良友，芳樽遂盈斟。适悟委前妄，清言怡道心。
岂恋腰间绶，如彼笼中禽。
塞外悲风切，交河冰已结。瀚海百重波，阴山千里雪。
迥戍危烽火，层峦引高节。悠悠卷旆旌，饮马出长城。
寒沙连骑迹，朔吹断边声。胡尘清玉塞，羌笛韵金钲。
绝漠干戈戢，车徒振原隰。都尉反龙堆，将军旋马邑。
扬麾氛雾静，纪石功名立。荒裔一戎衣，灵台凯歌入。
广庭独闲步，夜色方湛然。丹阁已排云，皓月更高悬。
繁露降秋节，苍林郁芊芊。仰观天气凉，高咏古人篇。
抚己亮无庸，结交赖群贤。属予翘思时，方子中夜眠。
相去隔城阙，佳期屡徂迁。如何日夕待，见月三四圆。