L’ulivo è un albero sempreverde e un albero latifoglie, la cui attività vegetativa è pressoché continua, con attenuazione nel periodo invernale. Ha crescita lenta ed è molto longevo: in condizioni climatiche favorevoli può diventare millenario e arrivare ad altezze di 15-20 metri. La pianta comincia a fruttificare dopo 3-4 anni dall’impianto, inizia la piena produttività dopo 9-10 anni e la maturità è raggiunta dopo i 50 anni; a differenza della maggiore parte dell’altra frutta, la produzione non diminuisce con alberi vetusti, infatti nel meridione si trovano oliveti secolari. Le radici, per lo più di tipo avventizio, sono espanse e superficiali: in genere non si spingono oltre i 0,7-1 metro di profondità.

Il fusto è cilindrico e contorto, con corteccia di colore grigio o grigio scuro e legno duro e pesante. La ceppaia forma delle strutture globose, dette ovoli, da cui sono emessi ogni anno numerosi polloni basali. La chioma ha una forma conica, con branche fruttifere e rami penduli o patenti (disposti orizzontalmente rispetto al fusto) secondo la varietà.