Gesichertes Wissen über die Sackpfeife vor der Zeit um 1000 gibt es nicht. Einige Wissenschaftler vermuten, die Sackpfeife stamme aus der Balkanhalbinsel/Kleinasien und habe ihren Ursprung bei den Thrakern. In einem Text des römischen Historikers Sueton, wird überliefert, dass Kaiser Nero die tibia utricularis gespielt hat. Diese wird als ein Rohrblattinstrument mit Ledersack übersetzt und als Sackpfeife gedeutet. In der Bibel werden Sackpfeifen im Buch Daniel erwähnt (Daniel Kapitel 3 Verse 5,7,10 und 15), und zwar im Zusammenhang mit dem Babylonischen Reich.
Im Mittelalter verbreitete sich die Bordunmusik und damit auch die Sackpfeife in ganz Europa und Teilen Asiens. Die ältesten Belege in Deutschland finden sich in zwei Urkunden aus dem Kloster St. Blasien aus dem 8. oder 9. Jahrhundert.
Die mittelalterlichen Sackpfeifen sind nicht im Original überliefert, aber durch viele Beispiele in der Kunst erschließbar. Bis ins 15. Jahrhundert waren es überwiegend einbordunige, mundgeblasene Sackpfeifen.
Im Frankreich des 18. Jahrhunderts war die Sackpfeife in Form der Musette de Cour wichtiges Instrument der höfischen Musik, viele Originalkompositionen für das Instrument sind in dieser Zeit entstanden. In Schottland hat die Sackpfeife eine besondere Tradition als Instrument am Hof. Im britischen „Disarming Act“ nach der Schlacht bei Culloden wurde die schottische Tradition großteils untersagt. Dies betraf die Hochland-Kleidung, aber nicht die Sackpfeife selbst. Die Sackpfeife lebte auch als Militärinstrument weiter und wird oft als schottisches Nationalinstrument bezeichnet. Auch in Südosteuropa wird das Instrument verbreitet gespielt, eine ungebrochene Tradition hat auch die Zampognia in Süditalien.
In Nordwestspanien sind in den lokalen Musikschulen mit Sackpfeifenunterricht, zehntausende Sackpfeifenschüler registriert.
In der tschechischen Volksmusik steht der Böhmische Bock in ungebrochener Tradition.
Auch in Deutschland und Österreich gewinnt die Sackpfeife durch zahlreiche mittelalterliche / schottische Feste und Märkte wieder an Bedeutung. Besonders die Great Highland Bagpipe findet in Deutschland wie auch in anderen Ländern in jüngerer Zeit viele Anhänger.