東漢靈帝在位時，有位大臣蔡邕，為人耿直，總是勇於向靈帝直言相諫。因為頂撞的次數多了，靈帝也就漸漸和他疏遠。靈帝身邊的宦官對於蔡邕的正直也是又恨又怕，常常在靈帝面前進讒言。蔡邕自知隨時有被加害的危險，於是就打點行李，逃出京城，隱居吳地。

蔡邕愛好音樂，也通曉音律，即使在彈奏中有一點小小的差錯，都逃不過他的耳朵。蔡邕尤擅彈琴，對琴很有研究，無論是琴的選材、製作、調音等，他都有一套精闢獨到的見解。從京城逃出來的時候，他唯一帶在身邊的就是那把心愛的琴。

在隱居的日子裏，蔡邕常常借用琴聲，抒發自己壯志難酬的悲憤。有一天，蔡邕聽見女房東在隔壁的灶間燒火做飯，她將木柴塞進灶膛裏，火星亂蹦，木柴被燒得「劈哩啪啦」地響。忽然，傳來一陣清脆的爆裂聲，不由得心中一驚，抬頭豎起耳朵細細聽了幾秒鐘，大叫一聲「不好」，跳起來就往灶間跑。

來到爐火邊，顧不得火勢，蔡邕伸手就將那塊剛塞進灶膛當柴燒的桐木拽了出來，大聲喊道：「快別燒了，別燒了，這可是一塊難得一見的做琴的好材料啊！」蔡邕的手雖被燒傷了，也不覺得疼，驚喜地在桐木上又吹又摸。
幸好搶救及時，桐木還很完整，蔡邕就將它買了下來，然後精雕細刻，終於將這塊桐木做成了一把琴。這把琴彈奏起來，音色美妙絕倫，舉世無雙，流傳下來，成了世間罕有的珍寶。因為它的琴尾被燒焦了，人們稱它為「焦尾琴」。