Het OM is een landelijke organisatie, verdeeld over 10 regionale arrondissementen. Deze zijn gelijk aan de 10 regionale eenheden van de politie. Daarnaast zijn er een aantal landelijk opererende onderdelen. Het Landelijk Parket richt zich op de bestrijding van de (internationaal) georiënteerde misdaad, het Functioneel Parket bestrijdt criminaliteit op het gebied van milieu, fraude en economie. Alle verkeerszaken worden behandeld door het Parket CVOM, en het Ressortsparket behandelt zaken waarin hoger beroep wordt aangetekend.

Op de parketten beoordelen officieren van justitie – ondersteund door juridische en administratieve professionals – jaarlijks enkele honderdduizenden zaken. De parketten worden geleid hoofdofficieren van justitie (en aan het hoofd van het ressortsparket staat een hoofdadvocaat-generaal).

Het OM wordt bestuurd door het College van procureurs-generaal. Zij worden daarin bijgestaan door een ambtelijke staf. Deze ambtelijke staf werkt vanuit het Parket-Generaal. Vanuit de DVOM – wat staat voor dienstverleningsorganisatie OM – worden uitvoerende bedrijfsvoeringstaken verricht, voor alle parketten en onderdelen van het OM. Denk bijvoorbeeld aan diensten op het gebied van ICT, financiën en facilitaire zaken.