现在的铅笔并不含铅，而是用石墨和黏土制造的，之所以这样叫法，是由于其历史沿革造成的。 古希腊、罗马曾用金属铅制成类似铅笔的铅棒。它们多为锥形，与其他物体磨擦后留下铅的痕迹，用来划线做标记。 14世纪，欧洲出现类似现在的铅笔。 1565年，英国开始以石墨为笔芯，手工制出最原始的木杆铅笔。 1662年，德国建成世界上第一座铅笔厂。 1790~1793年，法国康德采用黏土将石墨黏结制成笔芯，奠定了现代铅笔工业基础。在铅笔的笔杆上通常都有硬度标志，h表示硬质铅笔，前面的数字越大硬度越大：b表示软质铅笔，前面的数字越大笔芯越软。hb则表示软硬适中的铅笔，适合日常书写之用。
铅笔芯不含铅，其主要成分是石墨。
由於铅在岩石或墙壁上书写时，会有黑色痕迹，因此在古希腊及罗马时代，人们使用铅作为绘图及写字工具。中国古时，书写於绢帛及纸上，若有错误，则以铅粉涂改，所以古文中确有「铅笔」一词，但与现代的铅笔不同。
十五世纪时，石墨矿被发现，当时的人并不知道石墨的成分，就称石墨为「黑铅(blacklead)。
大约在1492年，英国开始有人使用石墨制成的笔，就称为铅笔。一直到1779年，科学家才知道石墨是碳的一种形式。」 由石墨研磨成粉后，与黏土混合，再灌入两片半圆型的木管中制成，近年也有塑胶制的笔杆上市。
为了适应各种需要，铅笔笔芯中石墨与黏土可以用各种不同的比例混合，混合比例不同，笔芯的性质与用途也不同。
例如作为素描用的笔芯须要软一点、黑一点；学生写作业用的笔芯需要硬一点、颜色浅一点。我们在买铅笔时，要注意笔上的标示，其中H代表坚硬(hard)，F代表坚实(firm)，B代表黑体(bold)。根据厂商提供的资料，各种铅笔由软到硬的顺序为
HB-B-2B-(*)-9B-F-H-2H-(*)-9H
其中(*)化表介於2B与9B或2H与9H之间的代号。
