铁矿石在自然界中分布广泛,但是当人类开始使用它时,只利用了赤铁矿的颜色。由于对红色的崇拜,将它作为装饰品的涂料,还把它撒在尸体的旁边,以实现某种仪式。这表明原始人已经有了新的想法,地球的物质不仅可以为生者服务,也可以服务于死人,灵魂不朽的概念应运而生。有人统计,旧石器时代,包括赤铁矿,原始人已经熟知了13种矿物和岩石。
到了新石器时代,生产技术发展最显著的就是石器与陶器。河南渑池仰韶村和西安半坡遗址发现以粘土为原料,用红色赤铁矿或铁赭石与黑色铁锰氧化物为着色剂烧制彩陶,彩陶用红色与黑色两色绘画。后来随着古人对自然铜的认识,对铜冶炼技术的逐步提高,对铁矿石的使用便开始发生了改观。
从夏商周至春秋末期,这一期间,已经开始使用孔雀石炼铜,用铅锡配置青铜或制造铅器锡器,并开始利用陨铁与磁铁矿等金属制造青铜器物。河北藁城台西村发现的铁刃青铜钺,其刃便是由铁陨石锻造而成,还出现了用高岭土烧制的硬陶、白陶和釉陶以及已经达到瓷器标准的青釉(郑州二里岗),而河南安阳殷墟的炼铜遗址中曾发现重达18.8千克的孔雀石矿石,其中便混有赤铁矿。这里还要重点强调的是,西周时期出现了釉瓦,其烧制的温度可以高达1200℃左右,为以后炼铁技术的形成创造了先决条件。
虽说许多学者都试图确定铁器冶炼的确切时间,但都没有一个让人满意的答案。而三代以后的春秋时期,考古发现已经有了大量铁器的存在。到了战国时期,由于大量用铁,即已进入了铁器的时代,所用的原料包括了褐铁矿、赤铁矿和磁铁矿。而当时生产的展性铸铁早于欧洲两千年。而这一时期的青铜器也向着质地轻薄的精致化方向发展。
磁铁矿除了做冶炼铁之外,对其磁性的应用更早一些。根据宋代刘恕《通鉴外纪》,皇帝战蚩尤于涿鹿时已经用指南针,时间在三代以前,到了秦始皇修阿房宫,用天然磁铁做门卫预警装置。在《山海经·北山经》中磁石(磁铁矿)条下提到:“可以巳(治)聋”,说明磁铁石在春秋战国之间已经开始用于药物,这大概是炼金术的开始时期。另外西汉时期刘安在《淮南万毕术》中提到:“白青(水胆矾)得铁则化为铜。”这一时期古人对矿物的生成理解大约开始有了化学的意味了。