硫含量是石油焦的重要质量指标之一，硫主要来自原油，石油焦含硫量直接与原油含硫量及硫的存在形式有关。石油焦中硫的存在形式通常可分为有机硫及无机硫两种，而无机硫又可分为硫化铁及硫酸盐两类。石油焦中的有机硫的形态尚未完全搞清，有机硫主要有硫醇RSH、硫酸RSR、二硫化物RSSR、磺酸RSO₃H、噻吩类及硫化噻吩类等。石油焦中的硫多数以有机硫形式存在，其次是形成硫化铁，而硫酸盐的含量是很少的。

高温煅烧有利于脱硫，如石油焦煅烧到1700℃，绝大部分硫可以除去。这主要是有机硫的大量分解排出，而硫化铁及硫酸盐需在石墨化的高温下才能分解挥发，但即使经过2300℃左右的高温，也不能将全部硫都除掉，这是因为有少量的有机硫形成热稳定性很高的杂环硫，这种稳定的杂环硫只有用各种还原剂处理才能除去。

对生产炭和石墨制品而言，硫是一种有害元素。用含硫量过多的石油焦生产的制品在石墨化过程中易产生“晶胀”现象，容易导致裂纹，而且这种含硫较高的制品其比电阻比较高。由多硫焦生产的石墨电极在电炉炼钢过程中消耗较快，如果用于生产电解铝工业的阳极糊，则情况会好一些，但也会引起阳极棒与焙烧阳极之间的接触电阻升高，导电棒、集气罩受到硫化物的腐蚀，导致缩短使用寿命。