头门东侧有韩愈碑亭，这是南海神庙保存最早的碑刻。唐宪宗元和十二年（817年）和元和十四年（819年），孔子的第38代世孙孔戣来到广州祭扫南海神，并拨款修葺，扩建了庙宇，适逢唐代大文学家韩愈因《谏迎佛骨表》一事在元和十四年被贬往潮州时途经广州，孔、韩二人素来好友，且孔仰慕韩的文学才能，便请韩愈著文纪念修葺神庙之事。韩愈欣然写下了1000多字的《南海神广利王庙碑》。
韩愈碑高2.47米，宽为1.13米，韩愈撰文，陈谏书。韩愈碑刻对研究南海神庙的起源、发展、唐代祭海习俗及当时海上贸易往来，具有重大的参考价值。
头门西侧是北宋开宝碑亭。北来开宝四年（917年），潘仁美率军南下，灭了南汉国，平定了岭南地区。开宝六年（919年），北宋在广州设立南舶司，管理对外贸易，并拨款修葺南海神庙，希望能保佑海上交通、交易顺利。开宝碑亭主要记述了这段时期的祭祖及史事。
仪门
南海神庙第二进叫仪门，即礼仪之门。中间的门只供高官贵族进出，其他官阶低或普通人只能走侧门。仪门门口还有一对石鼓，鼓脚用石头雕刻了鸟雀、梅花鹿、蜜蜂和猴子四种动物，其谐言是“爵禄封侯”之意，祈望来此拜祭南海神的人都能够升官发财。仪门上方是一刻有“圣德咸沾”的横匾。对联是“镇海神休永，司南庙貌崇”。
从仪门庭院到第四进大殿的东西两侧，各有一条复廊，廊中陈列了自唐、宋、元、明、清各代碑刻共45块，除了头门韩愈碑、宋开宝碑外，庙内著名的碑还有明洪武碑，清康熙碑，等等。南海神庙的这些历代诗碑、石刻，对研究中国古代书法艺术、神庙的历史渊源都起到十分重大的作用。因此南海神庙又被誉称为“南方碑林”。
相传唐朝时，古波罗国有来华朝贡使，回程时经过广州到南海神庙，登庙谒南海神，并将从古波罗国带来的两颗波罗树种子种在庙中，他因迷恋庙中秀丽的景致，流连忘返，因而误了返程的海船。其人于是望江悲泣，并举左手于额前作望海状，希望海船回来载他，后来立化在海边。人们认为朝贡使是来自海上丝绸之路的友好使者，即将其厚葬，并按他生前左手举额前望海舶归状，塑像祀于南海神庙中，并给他穿上中国的衣冠，封为达奚司空，宋高宗绍兴年间，还封达奚为助利候。由于他是波罗国来的人，又在庙中植下波罗树，还天天盼波罗国船回来载他返国，所以村民俗称此像为“番鬼望波罗”，神庙也因此被称为“波罗庙”了。明代憨山禅师有一首咏达奚司空诗，写得十分生动和贴切。诗云：
临流斫额思何穷，西去孤帆望眼空。
屹立有心归故国，奋飞无翼御长风。
忧悲钟鼓愁王膳，束缚衣冠苦汉容。
慰尔不须怀旧上，皇天雨露自来同。
关于达奚司空的身份，历来亦有不少人考证。唐朝时期。广州的海外贸易已非常繁盛，不少外国人亦来华经商。以上关于波罗树、波罗庙以及达奚司空的传说，充分反映了唐宋以来的广州对外贸易繁荣、中外友好往来频繁的史实。
礼亭
出了仪门，就进入了第三进的礼亭。礼亭是古代官员拜祭南海神的地方。这是一座木结构建筑，单檐歇山顶，面阔与进深各3间。
第三进中最引人注目的是庭园西侧的康熙御碑亭。碑上“万里波澄”四个金色大字豪迈奔放。在阳光的映照下熠熠生辉。这是清康熙四十二年（1703年）由康熙皇帝亲笔书写，制成匾之后派专人送到南海神庙，并专门为此而立碑记事。
庭园东侧是明洪武御碑。该碑立于洪武三年（1370年），由明太祖朱元障授意，礼部情郎王玮撰文。朱元障因繁就简，取消南海神庙以往一切封号，重新加封南海神为“南海之神”。
这两块御碑前各栽种的一株古木棉树，据说已有二三百年的历史了。在古代，南海神庙树木葱茏，光是木棉树就有10多株。岭南著名诗人屈大均当年就曾在《广东新语》一书中将南海神庙的木棉树比喻为“十丈珊瑚”。两株当然是后人补种的。由于栽种历史年代久远，它们均被列为广州的古树名木。
大殿
礼亭的背后是南海神庙中规格最高，也是最重要的建筑物。
大殿是南海神庙的第四进。它是仿明代木结构琉璃瓦歇山顶建筑。屋顶用绿色的琉璃瓦覆盖；中间有双凤飞翔、鳌鱼倒悬等纹饰的琉璃瓦脊；上部有两条躯体弯曲作腾飞疾走状的苍龙造型，它正在争夺当中的宝珠。据说，双凤代表美丽，整鱼代表自由，苍龙代表权力，而宝珠代表智慧。
大殿正中安放了连座3．8米高的南海神祝融。他头戴王冠，身着龙袍，手执玉圭，体态丰硕，神情却十分端庄，一派和蔼的王者风度。
