儘管並沒有參加發生在歐洲的殘酷陸戰，但作為協約國成員，日本還是觀摩了當時代表世界最先進軍事科技和思想的一戰，對飛機、坦克和毒氣這些新出現的武器表現出了很高的興趣，不過，對於德軍MP-18“伯格曼”衝鋒槍這種武器日本人並沒有過多關注。
究其原因，衝鋒槍的設計太為複雜，造價昂貴，而且遠距離射擊幾乎沒有精度可言，這與舊日本陸軍一直強調的精準射擊背道而馳。同時其彈藥消耗量也太大，這一點倒是跟當年李鴻章第一次見到馬克辛機槍時候的態度一樣，不過差別是李鴻章驚歎之後還是購買了少量，而日本人對此基本就置之高閣了。
1932年，為了轉移國際社會對九一八事變的注意力，日本選擇在國際大都市上海發動了一二八事變，在這次衝突中，儘管日本陸海軍佔據了絕對的火力優勢，但在巷戰中，裝備三八式步槍和十一年式輕機槍的日軍步兵遇到了強大的對手，中國軍隊不僅大量裝備德國毛瑟自動手槍，而且還裝備了一部分美國湯姆森衝鋒槍和MP-18、MP-28衝鋒槍，衝鋒槍是絕對的近戰利器，日軍步兵在巷戰中傷亡慘重，長期嚴格的野戰訓練在巷戰中幾乎沒什麼用武之地，除了將繳獲的國軍自動手槍和衝鋒槍臨時拿來使用外，日軍基層還要求上級部門研發衝鋒槍配備使用。
事實上，日本陸軍早在1930年就要求南部槍械製造所研究製造衝鋒槍，不過一直到1935年才正式研發，定型時間為1940年，按照日軍武器命名傳統，這一年因為是日本神武紀年2600年，自然被稱之為百式衝鋒槍。
百式衝鋒槍使用8毫米南部手槍彈，彈匣容彈量30發，二戰期間大多數衝鋒槍使用的彈匣都為二三十發左右，彈匣位於槍身左側，這一點倒是與後來的英國斯登衝鋒槍一樣，原因也很簡單，臥射方便，減少射手被彈面，該槍於1941年開始少量裝備日軍。
百式衝鋒槍採用自由式槍機原理，沒有安裝保險，很容易走火，由於這種武器產量稀少，不知道日軍士兵是如何防止其走火的，估計很可能跟德軍、英軍一樣，在彈匣的第一發裝的不是實彈而是空彈殼。
百式衝鋒槍全長約900毫米，重4.2公斤，外形類似MP-34衝鋒槍，有趣的是，作為近戰速射武器，日軍為百式衝鋒槍安裝了刺刀和兩腳架，前者說明日軍對白刃突擊的狂熱，後者則說明了日軍對射擊精度的變態追求。
在整個第二次世界大戰中，日本的百式衝鋒槍並沒有什麼突出表現，戰爭末期，日軍曾經為本土守軍大量配發這種武器，但並沒等美軍登陸就投降了，百式衝鋒槍也沒用上。
在整個二戰期間，百式衝鋒槍共生產了約3萬支左右，產量少的原因主要是製造複雜，造價高昂，百式衝鋒槍的造價是三八步槍的3倍，甚至採用了槍管鍍鉻技術，而且彈藥消耗量驚人。要知道，日軍在二戰中總共才生產了約22億發子彈，貧弱不堪的中國還生產了11億發呢，此外還外購了大量子彈，到了豫湘桂戰役時候，日軍基層步兵甚至開始大量裝備繳獲的中國武器，日軍輕武器和彈藥嚴重不足，大量的資金和生產能力都被海軍艦艇飛機佔據，日軍根本沒錢裝備百式衝鋒槍和其需要的彈藥量。
