Олег Ефремов пользовался популярностью у женщин и отвечал им взаимностью. Зачастую он не хранил своим избранницам верность, но при этом не был из тех, кто о своих отношениях болтал. «Говорят... Андрюха Кончаловский написал в книжке про свои романы. Ну зачем?» — недоумевал Олег Николаевич. Как-то артиста спросили, правда ли, что у него было что-то со всей женской частью труппы «Современника», он ответил только: «Лиля Толмачева — моя первая жена. А больше я ничего говорить не стану».
Лилия Толмачева была покорена харизмой Ефремова, они оба на тот момент учились в Школе-студии МХАТ. Молодые люди поженились, но этот брак продержался всего полгода. Толмачева не выдержала пьянства супруга и его увлечений другими женщинами. Вначале Олег Николаевич обиделся, но они все же смогли остаться друзьями. Ефремов даже пригласил бывшую жену в «Современник», сделав ее одной из ведущих актрис театра.
«Не хочется говорить об этом подробно, но наше отношение к семье, к дому было абсолютно разным. Кажется, была очередная ссора, и я решила уехать, к тому же мама в Саратове тяжело заболела. Я спросила Олега: "Ты меня любишь?" "Ну!" — ответил Олег и добавил: "Я хочу быть с тобой". "Ты меня любишь как Ромео Джульетту?" — не унималась я. "Ну и дура ты, — сказал Олег, — и погибнешь оттого, что дура". Кстати, эту фразу он говорил чуть ли не при каждой нашей встрече до конца своей жизни...» — вспоминала Толмачева.
Затем у режиссера был мимолетный роман с актрисой Галиной Волчек, она на тот момент заканчивала Школу-студию МХАТ. После этого Ефремов встретил студентку сценарного факультета ВГИКа Ирину Мазурук. Официально они браком не сочетались, но прожили вместе три года. В этом союзе у мэтра родилась дочь Анастасия, впоследствии она стала театральным критиком.
Ефремов был не готов становиться отцом, но врачи говорили Ирине, что, если она не родит, то, возможно, больше не сможет иметь детей. Девочку Олег Николаевич удочерил только, когда она пошла в 1-й класс. Мазурук долго терпела и проблемы с алкоголем гражданского мужа, и неверность. В какой-то момент она пыталась покончить с собой. «Ее спасли. Конечно, папе обо всем тут же сообщили. Но он приехал — и уехал. Давить на него было бесполезно», — рассказывала Анастасия Ефремова.
Следующей любовью режиссера стала актриса Нина Дорошина. Они познакомились на съемках фильма «Первый эшелон». Нина тогда училась в Щукинском училище, и Олег Николаевич посещал все ее учебные спектакли. Ефремов говорил, что ни с одной женщиной ему не было так хорошо и комфортно. Но вскоре влюбленные стали ссориться из-за ветрености артиста. Нина назло вышла замуж за коллегу по цеху Олега Даля. Ефремов на свадьбе устроил скандал: посадил невесту к себе на колени и заявил, что любит она только его. Через пару месяцев Даль и Дорошина расстались.
Второй официальной женой Ефремова стала Алла Покровская. Молодая актриса была принята в труппу театра «Современник» и, попав под обаяние Олега Николаевича, ради него бросила мужа. У пары родился сын Михаил, который в будущем тоже станет известным актером. Этот брак продлился восемь лет, на бумаге — шестнадцать. О личной жизни и причинах развода Покровская не рассказывала, а о Ефремове спустя годы скажет: «Я ему не мешала». Артистам удалось сохранить дружеские отношения после расставания.
В 1969 году на гастролях в Ташкенте Олег Николаевич заметил Анастасию Вертинскую. Звезда «Алых парусов» сразила режиссера, и он залез к ней в номер через балкон, чтобы прочесть монолог Сирано де Бержерака. Между актерами начался роман, чему не помешал женатый статус Ефремова. Вертинская стала частью жизни мэтра — делала в его квартире ремонт, подбирала ему гардероб. Их отношения продлились много лет.
Олег Николаевич был очень пьющим человеком. Это тяжкий крест, и я его взвалить на себя не могла
«Олег Николаевич с его огромным жизненным опытом дал мне жизнь как актрисе. Я его обожала. Ему не было нужно, чтобы я готовила ему супы, всегда находилось, где поесть. Но в тот период, когда я хотела выйти за него замуж, это было невозможно, так как он был женат. А когда он этого сам захотел, я его уже не любила», — говорила Вертинская.
