我国是一个多山的国家，形形色色、高低起伏的山脉构成了我国纵横交错、层次丰富的地质风貌。汉字中用来记录这一自然形态的首先就是“山”字。

甲骨文用线条勾勒出几个并排的山峰的轮廓来表示“山”，形象地描绘出自然界中大山的典型形态。后来的各种字体尽管发生变化，但基本上都保留了这种象形的意味。

“山”最初的意思是“地面上由土、石形成的高耸的部分”。许慎说得好：“有石而高（《说文解字》”）。由石头构成、高耸于地面之上，是“山”的两个典型特征。《诗经·小雅·节南山》用精美的语句诠释了“山”的这两种典型特征：“节彼南山，维石岩岩。”巍巍终南山，山石层叠，巍然耸立。

后来，形状像山的东西也可以用“山”来称呼。自然界有“冰山、云山”等；人类制作或建造的有“山墙”，或曰“房山”，在有些地区，把蚕蔟叫做“蚕山”；文献或文学作品中则有“刀树剑山（《南齐书·高逸传论》）”“刀山火海”等，比喻极其艰难和危险的地方。

山通常是高大的，所以，“山”又发展出“巨大的”意思。