少佐的军衔相当于自卫队的三佐也就是通用的少校，第二次世界大战结束前，日本军衔分为将官、佐官、尉官、准士官、下士官和兵，计6等16级。佐官又包含大佐，中佐，少佐。

二战后，日本于1950年开始重建军队，至1954年建成陆，海，空三军，称陆上自卫队，海上自卫队，航空自卫队。军衔分干部，曹士两大类。其干部仍为将，佐，尉，三等九级，但军衔称谓与旧日军有所不同，将官分为将一，将二，将补，分别相当于上，中，少将；佐官称一佐（上校）,二佐（中校），三佐（少校）；尉官称一尉（上尉），二尉（中尉），三尉（少尉）；曹士称一曹（上士），二曹（中士），三曹（下士），士长（上等兵），一士（一等兵），二士（二等兵），三士（三等兵）。1970年增设准尉，1980年又增设曹长（即军士长），日军官兵的军衔共有六等十八级。