Üzeri gerilmiş tellerle dolu olan ve insanın baktığında hangisine basacağını şaşırdığı, fakat ehlinin elinden muhteşem melodiler çıkartan kanunun, ilk kez kim tarafından yapıldığı hakkında değişik görüşler bulunmaktadır. Bazı kaynaklara göre ünlü Türk Bilgini Farabi tarafından icat edilmiş olduğu ve yine Farabi’nin üzerinde birçok değişiklikler yaptığı varsayılmaktadır.
Antik Çağ’da Mısır ve Sümerliler tarafından kullanıldığını gösteren bazı tarihi belgeler de vardır. Bir rivayete göre ise İbn-i Hallegan tarafından icat edilmiştir.
Kanunun icadı hakkında da efsaneler bulunmaktadır. Bunlardan biri hakikaten “Efsane işte…” dedirtecek niteliktedir. Buna göre; bir ağacın üzerinde bir kuş ölüyor ve bağırsakları ağaçtan aşağı sallanıyor. Zamanla bu bağırsaklar kuruyor ve rüzgarda sallanırken bir takım sesler çıkartıyor ve çıkan bu seslerden esinlenerek “Yok artık!” tekniğiyle kanun yapılıyor.
Evliya Çelebi seyahatnamesinde, kanunun meşhur üstatlardan Ali Şah tarafından icat edildiğini söylemektedir. Genel bir görüş ise kanunun “çeng” adındaki çalgıyla beraber bulunduğudur.
İsmi Yunanca “kanon” (tek telli saz) olmasına rağmen Asya’da icat edildikten sonra Türklerin Orta Asya’dan Anadolu’ya göç etmeleri ile Anadolu’ya getirilen kanunun bu ismi almasındaki sebep, bir bakıma akustik kanunları ile ilgisinin bulunmasındandır.
Kanunda, yirminci asır başlarına kadar bağırsaktan yapılmış ve adına kiriş denilen teller kullanılıyordu. Bu kirişler, naylon tellerin daha dayanıklı olmaları ve daha güçlü ses vermeleri, ayrıca çeşitli kalınlıklarda ve bol
miktarda bulunması nedeniyle tamamen terk edilmiş, yerini naylon tellere devretmiştir.
On sekizinci yüzyılda yaşamış yazarlardan Laborde’un, konser çalgıları arasında gösterdiği kanunun sevilip sayılmasında öncülük etmiş olan Ömer Efendi’nin ve Kanuni Hacı Arif Bey’in, bu enstrümanın popüler olmasında da çok büyük katkıları olmuştur.
Ve 1950 yılında ilk kanun konçertosu bestelenmiş ve bu mevzu da burada sona ermiştir.