打著&ldo;關東軍防疫給水部&rdo;招牌的石井部隊，歷時三年在平房鎮建成。從表面上看，它只是背蔭河細菌工廠的搬遷，實質上它是日軍細菌部隊的擴編與發展。1938年，其本部正式移駐平房鎮。哈爾濱市內的&ldo;南棟&rdo;成為它的第3部。此時，對外使用的&ldo;加茂部隊&rdo;這一名稱也改為&ldo;東鄉部隊&rdo;。秘密番號是&ldo;滿洲第659部隊&rdo;。1941年法西斯德國侵犯蘇聯兩個月後，啟用了&ldo;滿洲第731部隊&rdo;的番號。1945年5月，德國投降後，為掩人耳目，又改為&ldo;滿洲25202部隊&rdo;。儘管番號變化頻繁，但實際上是同一支部隊在不同時期的不同名稱，因此在目前的一些論著中，均統稱為&ldo;731部隊&rdo;。
731部隊在規模上遠遠超過了德國納粹建立的&ldo;波茲南細菌學研究所&rdo;，據731部隊林口支隊少佐隊長癨原秀夫在筆供上說，731部隊的隸屬關係是：大本營（陸軍大臣）→關東軍司令官→關東軍防疫給水部部長→各分部部長及衛生研究所所長。
從編制上來看，名義上它屬於關東軍，但實質上是日本參謀本部直接領導的特種部隊。因此731部隊人員配備比其他部隊略高一等。全部人員有2600人，編配有1名中將、4名少將、800多名佐級軍官和300多名技師等。
731部隊的部隊長，1933年至1942年7月為石井四郎少將，1942年7月石井四郎因貪汙軍費被撤職後，8月由北野政次少將接任，直至1945年2月。1945年隨著日本在戰場上的漸漸失利，為進行最後的掙扎，3月1日石井四郎又重新調回哈爾濱{擔任部隊長，並晉升為中將。
731部隊下設8個部、4個支隊和1個所。
8個部是細菌研究部、細菌實驗部、防疫給水部、細菌生產部、總務部、訓練教育部、器材供應部、診療部、憲兵室。
4個支隊是林口支隊、孫吳支隊、海拉爾支隊、牡丹江支隊。
1個所是大連滿鐵衛生研究所。
此外還有一些野外實驗靶場。
下面分別予以介紹。
第1部為細菌研究部，設在平房鎮，部長依次是田部井和、北上正隆和菊池齋。其中菊池齋是少將軍銜。其任務是研究能夠用於細菌戰的細菌種類、細菌的毒性、細菌戰中作為傳播媒介的昆蟲及危害農作物的病原菌。此外還研究傳染病新種的病原體，調查在關東軍管轄區域內的傳染病及凍傷等。
部內基本實行的是以負責人命名的班制度。以笠原技師為首的&ldo;笠原班&rdo;從事病毒研究，以田中技師為為首的&ldo;田中班&rdo;從事細菌傳播媒介物‐‐‐昆蟲的研究，以吉村技師為為首的&ldo;吉村班&rdo;從事凍傷研究，以江島技師為為首的&ldo;江島班&rdo;從事赤痢研究，以湊正男為為首的&ldo;湊班&rdo;從事霍亂研究，以岡本技師和石川技師為為首的&ldo;岡本班&rdo;和&ldo;石川班&rdo;從事病理研究，以內海技師為為首的&ldo;內海班&rdo;從事血清研究，以四部技師為首的&ldo;四部班&rdo;從事傷寒研究，&ldo;二木班&rdo;從事結核研究，&ldo;笠原班&rdo;從事立克次氏體(包括跳蚤)研究，&ldo;川上班&rdo;從事細菌對人傳染適應性研究。其中川上班由於川上技師病死而停止，僅存在四個月。此外，還有一個與各部平行的管理監獄&ldo;特別班&rdo;。它由石井四郎的二哥石井剛男負責