常衮登第后由太子正字授补阙起居郎，永泰元年（765年）授中书舍人。大历十二年（777年）拜相，杨绾病故后，独揽朝政。以文辞出众而又登科第为用人标准，堵塞买官之路。对朝中众官俸禄亦视其好恶而酌定。封河内郡公。德宗即位后，被贬为河南少尹，又贬为潮州刺史。不久为福建观察使。常衮注重教育，增设乡校，亲自讲授，闽地文风为之一振。建中四年（785年）死于任上。享年五十五岁，追赠为尚书左仆射。
林香雨气新，山寺绿无尘。遂结云外侣，共游天上春。
鹤鸣金阁丽，僧语竹房邻。待月水流急，惜花风起频。
何方非坏境，此地有归人。回首空门外，皤然一幻身。
云辟御筵张，山呼圣寿长。玉阑丰瑞草，金陛立神羊。
台鼎资庖膳，天星奉酒浆。蛮夷陪作位，犀象舞成行。
网已祛三面，歌因守四方。千秋不可极，花发满宫香。
见说南来处，苍梧指桂林。过秋天更暖，边海日长阴。
巴路缘云出，蛮乡入洞深。信回人自老，梦到月应沈。
碧水通春色，青山寄远心。炎方难久客，为尔一沾襟。
前年见君时，见君正泥蟠。去年见君处，见君已风抟。
朝趋赤墀前，高视青云端。新登麒麟阁，适脱獬豸冠。
刘公领舟楫，汴水扬波澜。万里江海通，九州天地宽。
昨夜动使星，今旦送征鞍。老亲在吴郡，令弟双同官。
鲈鲙剩堪忆，莼羹殊可餐。既参幕中画，复展膝下欢。
因送故人行，试歌行路难。何处路最难，最难在长安。
长安多权贵，珂珮声珊珊。儒生直如弦，权贵不须干。
斗酒取一醉，孤琴为君弹。临岐欲有赠，持以握中兰。
秦川雄帝宅，函谷壮皇居。绮殿千寻起，离宫百雉馀。
连薨遥接汉，飞观迥凌虚。云日隐层阙，风烟出绮疏。
岩廊罢机务，崇文聊驻辇。玉匣启龙图，金绳披凤篆。
韦编断仍续，缥帙舒还卷。对此乃淹留，欹案观坟典。
移步出词林，停舆欣武宴。雕弓写明月，骏马疑流电。
惊雁落虚弦，啼猿悲急箭。阅赏诚多美，于兹乃忘倦。
鸣笳临乐馆，眺听欢芳节。急管韵朱弦，清歌凝白雪。
彩凤肃来仪，玄鹤纷成列。去兹郑卫声，雅音方可悦。
芳辰追逸趣，禁苑信多奇。桥形通汉上，峰势接云危。
烟霞交隐映，花鸟自参差。何如肆辙迹，万里赏瑶池。
飞盖去芳园，兰桡游翠渚。萍间日彩乱，荷处香风举。
桂楫满中川，弦歌振长屿。岂必汾河曲，方为欢宴所。
落日双阙昏，回舆九重暮。长烟散初碧，皎月澄轻素。
搴幌玩琴书，开轩引云雾。斜汉耿层阁，清风摇玉树。
欢乐难再逢，芳辰良可惜。玉酒泛云罍，兰殽陈绮席。
千钟合尧禹，百兽谐金石。得志重寸阴，忘怀轻尺璧。
建章欢赏夕，二八尽妖妍。罗绮昭阳殿，芬芳玳瑁筵。
佩移星正动，扇掩月初圆。无劳上悬圃，即此对神仙。
以兹游观极，悠然独长想。披卷览前踪，抚躬寻既往。
望古茅茨约，瞻今兰殿广。人道恶高危，虚心戒盈荡。
奉天竭诚敬，临民思惠养。纳善察忠谏，明科慎刑赏。
六五诚难继，四三非易仰。广待淳化敷，方嗣云亭响。
相识应十载，见君只一官。家贫禄尚薄，霜降衣仍单。
惆怅秋草死，萧条芳岁阑。且寻沧洲路，遥指吴云端。
匹马关塞远，孤舟江海宽。夜眠楚烟湿，晓饭湖山寒。
砧净红鲙落，袖香朱橘团。帆前见禹庙，枕底闻严滩。
便获赏心趣，岂歌行路难。青门须醉别，少为解征鞍。