Pompeius Kr. e. 106. szeptember 29-én született egy nagyon gazdag családban, [[Cnaeus Pompeius Strabo]] fiaként. Bár születése szerint [[patríciuspatricius]], de a Pompeius család egyik ága nem volt nemesi származású, emiatt a római elit előítélettel viseltetett iránta. Ennek ellenére köztiszteletben álló személy volt, de hatalmi harcaiban származása miatt mindvégig hátrányos helyzetben volt a nagyhatalmú római [[patrícius]]okkal szemben. Apja, Pompeius Strabo szintén hadvezér, akit [[I. e. 89|Kr. e. 89]]-ben consullá választottak. Pompeius apja mellett nevelkedett katonai táborokban, ezért már fiatal korától kezdve részt vett a katonai és politikai ügyekben, amiket Strabo elég radikális módon kezelt. Pompeius Strabo kétszínű módon először Marius, majd Sulla mellett harcolt Kr. e. 88-87-ben. Pompeius 17 évesen szintén részt vett ebben a háborúban.
Strabo valószínűleg villámcsapás következtében életét vesztette a [[GaiusCaius Marius]] és [[Lucius Cornelius Sulla]] közti csatában, így magára hagyta a fiatal Pompeiust. Ifjú kora ellenére Pompeius Sulla oldalára állt miután visszatért az első mithriadeszi háborúból, [[I. e. 83|Kr. e. 83]]-ban. Sulla Rómába visszatérve összeütközésre számított a [[Lucius Cornelius Cinna]] vezette kormányzattal, de nagy segítségre lelt a 23 éves Pompeiusban. Sulla politikai szövetsége segítette Pompeius karrierjét. Sulla, Róma diktátoraként kényszerítette terhes mostohalányát, Aemilia Scaurát, hogy váljon el és menjen feleségül fiatal szövetségeséhez. Pompeius szívesen elvált akkori feleségétől Antistiatól, hogy feleségül vehesse a nemesi származású Aemiliat.
Az ifjú Pompeius magas beosztást kapott Sulla mellett, egy idő után Sulla személyes tanácsadója lett. Sulla itáliai hadjárat folyamán Pompeius két olyan emberrel találkozott aki mind az ő mind pedig Róma jövőjét nagyban befolyásolta: [[Marcus Licinius Crassus]] és [[Caius Iulius Caesar]]. Crassus ugyanúgy mint Pompeius nagy vagyont és katonai hatalmat örökölt apja után és Sulla oldalára állt. Nagy rivalizálás alakult ki Pompeius és Crassus közt, amely éveken keresztül tartott.
