Сущность инструмента состояла в том, что воздух из насоса или, как в устройстве Герона, миниатюрной ветряной мельницы вдувался в металлическую шаровидную камеру, погруженную в воду; с усилением давления воздух вытесняет воду из шара, поднимая уровень воды в окружающем сосуде, а избыточный воздух поступает внутрь трубы, поднимающейся над водой. Между ходами насоса давление воздуха в металлическом шаре сохраняется постоянным за счет воды во внешнем бассейне.

В римском варианте, описанном Витрувием, поток воздуха, направленный по отдельным трубкам, регулируется клапанами, находящимися в квадратной камере, закрываемой квадратной деревянной затворкой; каждая затворка имела соответствующую клавишу, на которую органист нажимал, выпуская тем самым воздух. Как и в современном органе, разные тона производились с помощью трубок разного размера, которых в римских образцах было до 19.

Начиная со II в. н. э. существовал римский орган, приводимый в действие воздуходувными мехами; он был меньше по размеру и мощности, чем гидравлис. Преимущество водяного органа заключалось в том, что металлический шар внутри резервуара с водой выполнял функцию регулятора давления воздуха. Неважно, насколько сильно давили на поршень мехов, одним этим невозможно было обеспечить такое давление воздуха, чтобы привести в действие огромный инструмент.

Кроме того, его использовали в театрах и амфитеатрах, во время игр, процессий и цирковых представлений, на пиршествах и свадьбах знатных людей и даже как обязательное сопровождение церемонии принятия присяги при вступлении на государственную должность. То, что на водяном органе играли почти на каждом публичном мероприятии, доказывают его остатки, найденные в развалинах здания гильдии ткачей в Будапеште, сожженного в III в. н. э.