Происхождение вещи овеяно романтической легендой. Германский император Оттон III якобы нашел саблю при вскрытии в 1000 году погребения Карла Великого в Аахене. Со временем эта легенда обросла фантастическими подробностями. Так , по одной версии, возникшей в XV III веке, сабля была подарена первому средневековому императору халифом Гарун аль Рашидом, по другой — захвачена Карлом на войне с аварами. Сколько-нибудь достоверные сведения о сабле относятся к более позднему времени. До 1794 года она в числе других церемониальных инсигний немецкой короны хранилась в Аахене, а затем попала в 1801 году в Вену.
Среди вещественных древностей западного средневековья, где в качестве традиционного клинкового оружия выступал меч, сабля Карла Великого всегда казалась необычной и чужеродной. Оружиеведы давно усомнились в ее принадлежности Карлу Великому и установили, что аахенская реликвия изготовлена где-то вне пределов Западной Европы, на Востоке, много позже смерти в 814 году ее предполагаемого венценосного владельца. При этом высказывались суждения, поражающие своей неустойчивостью и произвольностью.
