Aan het hoofd van het Openbaar Ministerie staat het College van procureurs-generaal dat uit 3 tot 5 leden bestaat. Het College bepaalt het landelijke opsporings- en vervolgingsbeleid van het OM. Samen met de staf vormt het College het Parket-Generaal; het landelijk hoofdkantoor van het OM. De minister van Justitie is politiek verantwoordelijk voor het OM.
Het OM heeft 21 parketten waarvan 19 arrondissementsparketten en twee landelijke parketten, het Functioneel Parket en het Landelijk Parket. Deze parketten zijn landelijk verdeeld over 11 regio’s.
Op de parketten beoordelen officieren van justitie de enkele honderdduizenden zaken die jaarlijks binnenkomen. Ze worden hierbij ondersteund door parketsecretarissen en administratief en juridisch specialisten. Het Landelijk Parket richt zich op de bestrijding van (internationaal) georganiseerde misdaad en het Functioneel Parket bestrijdt criminaliteit op het gebied van milieu, economie en fraude.
Tenslotte kent het OM een vijftal landelijke diensten. Het Bureau Verkeershandhaving OM (BVOM) adviseert over wet- en regelgeving op verkeersgebied. Het Bureau Ontnemingswetgeving Openbaar Ministerie (BOOM) heeft als taak om ervoor te zorgen dat criminele winsten worden afgenomen. Binnen het OM is het Wetenschappelijk Bureau van het OM (WBOM) het centrum voor de ontwikkeling en verspreiding van juridisch-inhoudelijke kennis. De Centrale Verwerking Openbaar Ministerie (CVOM) zorgt voor de landelijke verwerking van drie zaakstromen:
De Dienstverleningsorganisatie OM ( DVOM) verricht de uitvoerende bedrijfsvoeringstaken voor alle OM-onderdelen. Het gaat hierbij om producten en diensten op de terreinen Personeel, Financiën, Informatiebeheer en Facilitair Beheer.