Em certas condições, e durante um período de tempo muito longo, os sedimentos tornam-se compactados e cimentados em rochas sedimentares. Os fósseis são mais comuns em alguns tipos de rochas sedimentares do que em outros. Há muitos factores que podem contribuir para a probabilidade de um organismo ser preservado como um fóssil. Os fósseis são mais comuns nas rochas calcárias. Isto porque a maioria dos calcários consiste em parte ou na sua maioria nas conchas dos organismos. No entanto, por vezes, as conchas gastam-se tanto que se parecem mais com grãos de sedimentos do que com fósseis “reais”. Os fósseis são também comuns nos xistos, que se formam a partir de lama. Fósseis de excelente impressão podem ser formados em sedimentos de grão fino, como lodos. Apenas alguns xistos contêm fósseis, no entanto, porque muitas áreas do fundo do oceano lamacento tinham condições que não eram adequadas para a vida animal. Neste caso, apenas organismos nadadores ou à deriva que morrem e caem na lama têm uma hipótese de se fossilizarem. Embora isto aconteça, é uma ocorrência muito rara. Alguns arenitos também contêm fósseis. A maioria dos arenitos não contém fósseis, por várias razões. As correntes de água no ambiente podem ter sido demasiado fortes para que os animais sobrevivessem. Além disso, as areias são muito porosas, pelo que a água que infiltra através da areia pode ter dissolvido as conchas muito antes de a areia ter sido enterrada e transformada em arenito.