艦船の中に神仏を祀る風習は、日本古来の「船玉（ふなだま）信仰」にまで遡ります。古くから船乗りたちは、船の航海安全や豊漁を願って帆柱の根元などに女性の毛髪や賽銭、人形などを納めてきました。これが近代軍艦という鋼鉄の浮城に組織的・制度的に取り入れられたのは、明治後期の旧日本海軍時代です。
当時、世界屈指の海軍大国であったイギリス海軍の軍艦内にチャプレン（従軍牧師）が乗艦し、礼拝堂が設置されていた影響を受けつつ、日本の国家神道および伝統的な祖霊信仰が結びつきました。1898年（明治31年）頃、戦艦「富士」や「八島」といった英国製戦艦の就役を契機に、艦内に神棚を設けてゆかりの神社から御分霊を勧請する慣例が定着したと記録されています。
戦後、大日本帝国海軍が解体され、日本国憲法下で海上自衛隊が創設されると、政教分離の原則（憲法第20条）との兼ね合いが議論されることとなりました。公費で神棚を設置したり、部隊として公式に参拝を強制したりすることは禁じられています。しかし、建造を手掛けた造船所や自治体、有志の協力団体からの寄贈品という形で神棚が艦内に納められ、現在も「乗組員有志による航海安全の私的祈願」という伝統として大切に受け継がれています。
