Pero quizá lo más sorprendente para el grupo no fuera el éxito del disco, sino que una canción que habían compuesto en apenas media hora de descanso entre sesiones de grabación, y que apenas contaba para ellos, se convirtiera en el tema más exitoso de su carrera. La canción surgió cuando Tony Iommi, mientras esperaba a que el resto de la banda volviera de buscar unas cervezas, empezó a tocar un riff que surgió de la nada. No tenía grabadora, así que estuvo tocando el riff hasta que los demás volvieron, para que no se le olvidara. La letra vino después, y en línea con el resto del disco, se centró en la parte más negativa de la condición humana. En el caso de "Paranoid", y como su propio nombre indica, lo que se cuenta es la angustia y la desesperación de un enfermo mental.
El sencillo de "Paranoid" se completó con la canción "The Wizard" en la cara B, y alcanzó el nº4 de las listas de Reino Unido, siendo nº1 en Alemania y nº2 en Países Bajos, Bélgica y Suiza. Sorprendentemente, fue en Estados Unidos, la tierra de los mencionados Stooges y Ramones, dónde peores resultados obtuvo, quedándose en el puesto 61 de las listas USA, pero ese pequeño traspiés no hizo que Ozzy Osbourne y compañía se volvieran "paranoicos" al respecto, y acabaron por conquistar también a los oyentes del otro lado del Atlántico.
