相传，在四川的大山里，有一对苦命的小姐妹，姐姐叫黄芩，妹妹叫黄连。父亲早丧，其母为了养活这对小姐妹，为人做活，也累得疾病缠身。母亲快要断气时，把黄芩和黄连叫到跟前嘱咐说：“我不行了，你们姐妹两个以后要互相照料，相依为命，不管谁找到好地方，都要有福同享。”姐妹俩对着母亲的面都点头答应了。母亲死后，黄芩带着黄连，四处流浪，以乞讨为生，饱受风寒之苦。开始姐妹俩相处还可以，时间久了，黄芩总觉得带着小妹妹是个拖累，便产生了遗弃妹妹的邪念。于是，就把弱小的黄连撇在了四川的大山里，她独自一人去寻找她的幸福生活。可怜年幼瘦弱的小黄连。因无人照料，连冻带饿，不久便饿死在山里了。后来，在小黄连丧生的地方，长出了许多瘦弱的小草，其形状很像小黄连那枯瘦的身形，人们就把这种草取名为黄连。由于小黄连的一生饱受苦寒，所以这种草的性味也是极苦寒的。

黄芩呢，她自从抛弃了妹妹黄连，独自去寻求幸福，后来她虽找到了一个较好的地方，但她每每想到黄连，总觉得心中有愧。夜里睡觉总是噩梦纷纭，不久便因心中空虚而死。就在黄芩死去的地方，也出了一种小草，这种草的根也是黄色的，小时坚实，稍一长大，它的根就变得心黑而中空，人们就说这是黄芩的化身，就把这种草取名为黄芩。