Alain Ollivier entre dans la vie professionnelle en 1960 après avoir suivi les cours de Georges Wilson et de Alain Cuny à l’école Charles Dullin .
En 1967, le Concours des Jeunes Compagnies de la ville d’Arras lui décerne son prix pour la mise en scène de La Poudre d’intelligence de Kateb Yacine.
Cependant il interrompt son activité de metteur en scène pour privilégier celle d’acteur. Il interprète auteurs classiques et contemporains, notamment sous la direction de Bernard Sobel, Jacques.Lassalle, Roger Planchon, Philippe Adrien, Peter Brook, Antoine Vitez. La critique lui décerne le prix du « meilleur acteur » en 1977.
C’est à partir de 1979 qu’il revient progressivement à la mise en scène.
Il a introduit en France le théâtre de Thomas Bernhard (en réalisant successivement – 1982 et 1983 — deux mises en scène de L’Ignorant et le fou ), et celui de Nelson Rodrigues, fondateur du théâtre brésilien (Valse numéro 6 en 1995, Ange Noir en 1996 et Toute nudité sera châtiée en 1999).
Il a collaboré avec Pierre Guyotat à la réalisation de deux spectacles, Bond en avant en 1973 et Bivouac en 1987.
De 1983 à 2002 il a dirigé le Studio-Théâtre de Vitry, qu’il a établi dans un entrepôt de chiffonnier de papiers reconverti par Patrick Bouchain. Il y a mis en scène des spectacles de grande réputation : La Métaphysique d'un veau à deux têtes de Witkiewicz, Les Bonnes de Jean Genet, Le Partage de Midi de Paul Claudel, La Révolte de Villiers de l'Isle-Adam, Les Nègres de Jean Genet, etc. Il a ouvert le lieu à des compagnies en répétition, il y a animé des ateliers d'acteurs, et produit deux jeunes metteurs en scène, Éric Didry (Boltanski Interview) et Frédéric Fisbach (Le gardien de tombeau).
De 2002 à 2007, il a dirigé le Théâtre Gérard Philipe de Saint-Denis, Centre dramatique national : il y a recréé l'atelier de construction de décors, construit avec Patrick Bouchain une salle de répétition dans l'ancien cinéma "L'Écran". Il y a mis en scène la reprise des Nègres de Genet, L'Exception et la règle de Brecht, Pelléas et Mélisande de Maeterlinck, Les Félins m'aiment bien de Olivia Rosenthal (création mondiale), Le Marin de Fernando Pessoa, et Le Cid de Pierre Corneille. Il y a associé Jean Boillot et Daniel Jeanneteau, produit de jeunes metteurs en scène (Marc Paquien, Célie Pauthe, Richard Brunel, Aurélia Guillet, Antoine Caubet, Mikaël Batz, etc.) et des metteurs en scène confirmés tels Roger Planchon, Daniel Jeanneteau et Lukas Hemleb. Il y a initié une collaboration avec l'Atelier Lyrique de l'Opéra de Paris et les Rencontres chorégraphiques de Seine-Saint-Denis, et confié la scène Roger Blin à des spectacles amateurs sous la direction de Pierre Hoden.
Il a dirigé la Compagnie Alain Ollivier de janvier 2008 à mai 2010 : il préparait La Trilogie des Coûfontaine de Paul Claudel quand il est décédé, à Paris, des suites d'une très douloureuse maladie le 21 mai 2010.
Alain Ollivier a publié Piétiner la scène aux Éditions Verticales en janvier 2002.