水下考古学的萌芽可上溯到16世纪意大利人在海底探寻沉船。到了20世纪初期，水下的考古调查在世界各地进行，最有名的是在墨西哥奇琴伊察玛雅文化遗址的“圣池”中寻找牺牲人和祭品，在突尼斯马赫迪耶港的海上探寻满载古希腊美术品的罗马沉船。但由于潜水条件的限制，调查时不能做精细的操作和记录。1943年发明了潜水肺，第二次世界大战后又改进了各方面的设备和条件，这才使真正的水底考古学得以成立。从60年代起，先是法国人在马赛附近海底发掘沉船，接着美国考古队在土耳其附近海底发掘希腊罗马时代和青铜时代晚期的沉船，不仅获得船中许多古物，而且还为研究古代造船术、航海术、海上交通和贸易提供了重要的新资料。水底考古学的对象从沉没物、沉船扩大到淹没于湖底、海中的都市和港市等的遗址，而勘察、发掘及摄影记录等的手段和方法也大为改善，使水底考古学以显著的速度不断取得成果。可以认为，水下考古学是田野考古学在水域的延伸。