关于“爵士”（jazz）这个词的起源有多种说法，比较可信的一种说法是源于法语词汇jaser。前面提到过，美国南方的这几个州的居民当时是说法语的，jaser的原意是七嘴八舌地闲聊、贫嘴；音乐是黑人奴隶的主要娱乐方式，他们凑在一起，用土造的乐器随意弹奏，唱着杂七杂八的歌曲，用手边的随便什么东西敲打着节奏，既没有大家都要遵循的记谱或是和声，也没有任何技术方面的限制，就像一群人聚在一起聊天一样，这正是jaser这个词的意思。其他的说法还有很多，比如，有人说是出自一个鼓手的名字，由于他能用激动人心的鼓点将音乐推向高潮，所以每逢观众想要更刺激的效果时便大声呼喊他的名字，久而久之，就成了这种音乐的名称；还有人认为，根据爵士乐在当时表演的场所（*院）和参与者（黑人奴隶）的文化背景分析，这个词是源自当地黑人土话中与性行为有关的词汇。这个字已知的第一次正式出现是在1914年，芝加哥的一个乐队起名为“老迪克西兰爵士乐队”，1917年胜利公司为该乐队录制的唱片即使用了“爵士乐”这个名称。
早期的爵士乐队的乐器有班卓琴、钢琴、小提琴、萨克斯管、简陋的铜管乐器和打击乐器。乐手们根本不用乐谱，全凭自己的记忆和想象来演奏。常见的情形是，先由钢琴弹出一段大家都知道的歌曲，其他的乐器则一个接一个地表演，歌曲的轮廓虽然没有改变，但是经过这样的即兴演奏之后，它已经被“爵士化”，变成了谁也没有听过的另一个东西。