北海中学始建于1926年，最早称为合浦县立中学校，由地方乡绅集资创办，第二年陈铭枢将军当年在校内捐建了“合浦图书馆”（现为国家级文物），并亲自题写馆名，原校址设于千年古郡合浦县城内，当年招收初中一年级两个班（含一个预备班），由县政府委派中山大学毕业的岑福祥为第一任校长。
1929年3月至1951年2月，更名为合浦县立第一中学，又称北海县立一中，其中1942年秋至1946年夏曾改名称县立一中“北海分校”，隶属合浦县；1951年3月至1952年8月改名为北海市中学，兼并私立新民中学（原旭初中学），隶属北海市；1952年9月至1955年5月，广西省北海中学（广西省代管时期），属省立重点中学；1955年6月至1965年12月，因回归广东，更名为广东北海中学；1966年1月至1966年8月，划归广西省立，更名为广西北海中学；1966年9月起，正式改名为北海市北海中学。
1996年学校撤销初中部，只设高中部。1984年学校被确定为自治区十六重点中学之一，2003年5月列为自治区首批示范性普通高中，2009年12月通过首批示范性普通高中复查评估验收。