A Mercury szintaxisa hasonló a Prolog szintaxisához, kibővítve a típusokra, módokra, determinizmusra, a modulrendszerre és a pragmákra vonatkozó deklarációkkal, valamint azzal a különbséggel, hogy függvényszimbólumok nem csak a felhasználó által definiált függvényekben használhatóak, hanem adat konstruktorként is.
A Mercury-ban írt programok modulok sorozatából állnak. Minden modul egy file, amely elemek (deklarációk és klózok) sorozatát tartalmazza. Minden elem egy kifejezés (term), melyet ponttal zárunk le. Minden termet tokenek sorozatából állítunk össze, és minden token karakterek sorozata. Mint Prolog-ban, Mercury-ban is használható a Definite Clause Grammar (DCG) jelölésrendszer.