물시계의 구조와 원리는 사실 간단하다. 크게 두 가지로 나뉘는데, 유출식(流出式)과 유입식(流入式)이 있다. 유출식은 물통에서 물이 빠져나가면서 낮아지는 수위를 보고 시간을 재는 것이고, 유입식은 반대로 물통에 물을 부어 높아지는 수위를 보고 시간을 재는 방식이다. 동아시아에서는 유출식 물시계가 먼저 사용되었지만, 한(漢)나라 이후부터는 유입식 물시계가 주로 사용되었다. 일반적으로 사용하던 유입식은 물을 받는 물통에 눈금이 새겨진 잣대를 부표를 붙여 띄우고, 물을 유입시켜 올라가는 수위에 따라 잣대의 눈금을 읽는 방식이었다.
유입식이든 유출식이든 물시계에서 가장 중요한 관건은 유압을 일정하게 유지해야 수위가 일정한 간격으로 변하고, 그래야 정확한 시간 간격을 얻을 수 있다는 점이다. 유압을 일정하게 하는 데에는 여러 가지 방법이 모색되었다. 가장 간단하게는 물통을 여러 개 설치해서 유압을 일정하게 하는 방식이었다. 즉, 잣대가 들어 있는 물을 받는 물통과 처음에 물을 대는 물통 사이에 하나 이상의 물통을 설치해서 여러 단계를 거치게 하여 일정한 유압을 꾀하는 방식이다. 대표적으로 당(唐)나라 때 여재(呂才)가 만들었다는 물시계가 이러한 방식을 채용하였다. 이 여재의 물시계는 잣대를 띄운 수수호(受水壺) 이외에 네 개의 물통을 더 이용해서 물을 댔다.
유압을 일정하게 하는 조금 더 정교한 방식으로는 플로트밸브(float-valve) 방식이나 오버플로(overflow) 방식이 있다. 이는 모두 물을 대는 물통(播水壺)의 수면을 일정하게 유지하는 장치를 설치하는 방식이다. 물을 대는 물통의 수면이 일정하면 수압이 일정하게 되고, 그러면 물이 유입되는 시간 간격도 일정하기 때문이다. 오버플로 방식은 물이 일정 높이에 도달하면 넘쳐서 밖으로 흘러 버리도록 물통의 특정 높이에 구멍을 뚫어 놓는 방식이다. 플로트밸브 방식은 물통의 수면 위에 플로트밸브를 띄워 놓고 수면이 일정 높이만큼 차오르면 물이 빠져나가는 구멍을 막도록 하고, 다시 물이 빠지면 구멍을 열어 특정 높이의 수면이 유지되도록 하는 것이다. 중국에서 만들어진 물시계들은 대부분 오버플로 방식을 사용하였다. 송(宋)나라 때 연숙(燕肅)이 만들었다는 물시계 연화루(蓮花漏)가 대표적인 예이다.
