では、このような多彩な山車は、どのようにして生まれてきたものでしょうか。ここで、山車の形の持つ意味について解説することにする。
山車の起源としてよく挙げられるものに、古代の大嘗会（大嘗祭）に作られ た標山（しめやま）や、長徳4年(998)の祇園会（祇園祭）に无骨法師によって作られた大嘗会の標山に似た飾り物がある。
これらは山車を考える上で重要なものであるが、山車の起源は多種多様であり、一つのはっきりした原型がある訳ではない。前章で述べたように太鼓に簡単な車をつけたようなものでも山車と呼ばれたりする。
伊勢宗治氏はその著書『高岡御車山と日本の曳山』の中で、山車の形態による分類を行っており、そこでは山車を大きく「山」「鉾」「船」「屋台」「太鼓台」の五つに分けている。
山車の起源を考える上で、この分類は参考になる。ここでは、この５つに「行灯」を加えた６分類とし、その成り立ちについてまとめた（細かい分類の定義は伊勢氏と異なる）。
山は神が降臨する地であり、山を模した飾り物（築山）を祭場に作って 神を迎える神事がかつて多く行われた。先に述べた大嘗会の標山（車輪がついていた）はその例であり、姫路市の射楯兵主神社で21年に1度作られる「三つ山」（築山）はこれに似たものだという。
また、富山県新湊市の放生津八幡宮や、同じく高岡市の二上射水神社にも築山神事が伝えられている。愛知県でも、かつては西尾市の米津神社で築山に近いものが作られた。
このような神の依りしろである山をかついだり車をつけて引っ張ったりしたのが「だし」であり、それゆえに「山車」という字があてられ、「曳山」とよばれる。これらの山には御神体として人形を飾る人形山が多い。
山の中には茨城県日立市の風流物、栃木県烏山町の山あげ祭、北九州地方の山笠のように本当に山の形をしたものもある。また京都祇園祭の山や中京地方の車楽のように中世に成立した山では松の木を立て山を象徴する。
しかし、江戸時代以後の多くの曳山では松の木などの山を示すものがなく、人形を置くことで人形山から発達したものであることがわかる。