奥利弗·古尔迈出生于比利时圣·于贝尔附近阿登高地的一个小村庄，父亲是贩卖牲畜的农民，母亲则掌管着一家小旅馆。13岁时的奥利弗就表现出表演天份，在学校的演出中替代一位生病的同学，他的表演让在座观众哑然失笑。　　
　　长大后的奥利弗在两种理想间作出选择，放弃了体育记者的话筒，转投戏剧舞台。当时他的决定遭到父亲的坚决反对，后来他一意孤行并且热情高涨，保守的父亲才无计可施。19岁，奥利弗进入列日戏剧学院，两年后以优异成绩毕业，前往巴黎，准备报考由帕特里斯·夏洛尔开设的戏剧学校，不过遗憾的是，他在戏剧殿堂的深造只持续了几个月。回到比利时的奥利弗开始频频出现在列日和布鲁塞尔的剧院，从1986年到1999年间出演了21部戏剧。1994年，他与导演让·皮埃尔·达登结识，随后在影片《一诺千金》(La promesse)扮演了一位居心险恶的父亲，这部当年反响热烈的影片不但奏响了奥利弗大银幕生涯的序曲，还为他赢得了那穆尔法语电影节的最佳男演员奖。
　　在之后的10年间，他出演了40多部电影，其中包括戛纳金棕榈奖影片《美丽罗赛塔》(Rosetta)、为他赢取戛纳最佳男演员奖的《儿子》(Le fils)等。表演之外，奥利弗从1999年开始回到家乡居住，并和妻子一起经营一家旅馆，悠然自得的生活在演艺圈的是非喧嚣之外。