Het OM is een landelijke organisatie verdeeld over tien arrondissementen. Deze zijn gelijk aan de tien regionale eenheden van de politie. Daarnaast richt het Landelijk Parket zich op de bestrijding van (internationaal) georganiseerde misdaad, bestrijdt het Functioneel Parket criminaliteit op het gebied van milieu, economie en fraude en worden alle beroepen tegen verkeersboetes door het Parket Centrale Verwerking OM beoordeeld. Het Ressortsparket behandelt alle zaken in hoger beroep. De Rijksrecherche houdt zich primair bezig met opsporingsonderzoeken tegen (semi-) overheidsfunctionarissen (ambtenaren) en vertolkt de rol van onpartijdige instantie die (vermeend) strafbaar gedrag binnen de overheid onderzoekt.
Deze onderdelen worden bestuurlijk ondersteund vanuit het Parket-Generaal. De DVOM (Dienstverleningsorganisatie OM) ondersteunt op gebied van HR, facilitaire en financieel-administratieve diensten en IVOM (Informatievoorziening OM) verzorgt de ICT en informatievoorziening.
Op de tien arrondissementsparketten beoordelen officieren van justitie, ondersteund door administratieve en juridische specialisten, jaarlijks enkele honderdduizenden zaken. De zaken waarin hoger beroep wordt aangetekend komen bij een van de vier vestigingen van het Ressortsparket. Daar heet de vertegenwoordiger van het OM 'advocaat-generaal'. De arrondissementsparketten worden geleid door hoofdofficieren van justitie en aan het hoofd van het Ressortsparket staat de hoofdadvocaat-generaal.