O termo "fossilizado" é importante. Não são os ossos de dinossauros em si que os paleontologistas encontram, mas réplicas ósseas deles. Os ossos fósseis são criados pela lenta substituição das moléculas ósseas por moléculas de minerais contidas na água que existe sob a terra. O processo ocasionalmente preserva até mesmo a delicada estrutura celular dos ossos. Em outras ocasiões, os ossos se dissolvem completamente, e restam apenas suas impressões nas rochas.

Ossos e dentes são as partes mais duráveis do corpo de um vertebrado. Podem sobreviver muito depois que as partes macias do animal apodreceram ou foram comidas. Excetuadas as pegadas fossilizadas, restos de esqueletos são os fósseis mais comuns. Infelizmente, poucos animais se fossilizaram, comparados aos milhões que um dia viveram.
Os animais raramente morrem em lugares que permitam fossilização. Um animal morto há pouco tempo que fique na superfície será dissolvido pelos produtos químicos que a terra contém e transformado em nutriente de plantas. É por isso que raramente são encontrados corpos de animais, mesmo de grande porte, em bosques - e por isso que fósseis costumam ser mais encontrados em desertos e outros lugares muito secos onde não exista vida vegetal.
A fim de que um esqueleto possa se tornar fóssil, é preciso que uma camada sedimentar recubra o corpo rapidamente. Isso impede que o esqueleto seja destruído por outros animais ou pela natureza. Ao longo dos milhares e milhões de anos que se seguem, esse sedimento se enrijece em uma camada produtora de rocha, como xisto, rocha calcária ou rocha porosa.
Os ossos de dinossauros podem ter sido cobertos por sedimento em águas paradas, como fundos de lagos, rios lentos, mares rasos e costas. O sedimento teria sido trazido pelo ar, como areia em tempestades de areia ou cinzas vulcânicas. Os lugares nos quais as condições são apropriadas para que esqueletos se tornem fósseis representam apenas uma pequena porcentagem da área terrestre mundial. Muitas espécies de dinossauros viveram em áreas que não permitem a formação de fósseis. Em parte por esse motivo, existem tantos "elos perdidos" na evolução entre diferentes grupos de dinossauros. Assim, temos um quadro incompleto sobre os dinossauros, com base no registro fóssil.