Северный Йемен когда-то входил в состав Османской империи. После распада империи в 1918 году страна стала независимой под названием Мутаваккилийское королевство Йемена. В 1962 году революционеры-националисты устроили переворот и объявили о создании Йеменской Арабской Республике. Переворот вызвал гражданскую войну, которая длилась восемь лет.
Южный Йемен был британской колонией. В 1967 году, когда Соединенное Королевство начало дистанцироваться от оставшихся у него колоний, Южный Йемен стал независимым государством Народная Демократическая Республика Йемен.
Первоначально отношения между двумя странами были относительно дружественными. Затем последовала череда коротких конфликтов, а в 1988 году правительства стали вести переговоры об объединении.
Республика Йемен была официально создана 22 мая 1990 года. Этот день отмечается как национальный праздник — речами, поднятием флага, церемониями награждения, парадами и культурными мероприятиями.