北海市历史悠久，文化遗存丰富。从考古发掘出的新石器时代器物中可以反映出，北海的先民在距今数千年前就开始以“舟楫为家”，耕海为生的海洋活动。
西汉元鼎六年（公元前111年），汉武帝平南越，划出南海、象郡交界地方置合浦郡，同时设合浦县。合浦县辖地为今北海全域、钦州、防城港和广东廉江的部分地区。从那时开始算起，有记录的北海信史有2100多年。
唐武德五年（622年），合浦郡改称越州。唐贞观八年（634年），越州改称廉州。天宝元年（742年），廉州改称合浦郡。乾元元年（758年）复称廉州，驻地在合浦县城。
宋元明清民国时期，合浦建制多次改动，管辖区域变化不大。
1949年新中国成立后，合浦县隶属广东省钦州专区，1951年5月10日将合浦县辖的东镇、西镇、高德乡、涠洲乡设北海市。1958年将北海市和浦北县并归合浦县，属广东湛江专区。1965年再属广西钦州地区。1987年7月合浦县划归北海市管辖。
北海是著名的汉代海上丝绸之路的始发港。《汉书·地理志》明确记录，搭载着黄金和各种中原丝绸制品的船只从合浦出发，远航越南、缅甸、泰国、印度，斯里兰卡、印度尼西亚等国家和地区，进行友好访问和对外贸易活动，换回大量的珍珠玛瑙、玉石琉璃等奢侈品。
北海的名胜古迹非常丰富。有纪念汉朝还珠太守孟尝的海角亭、有宋代大文豪苏轼曾经居住过的清乐轩旧址东坡亭、香火鼎盛的东山寺、历经千年的廉州府学，还有合浦南郊的汉代文化博物馆，徜徉其间有一种穿越时空的感悟。而合浦山口镇国家级红树林生态保护区旁的乌坭古珠池是七大古珠池中唯一存名存址，明确可考的千年珠母海。
