最早的汤姆逊冲锋枪是由1919年组建的美国自动武器公司研制的，公司创始人兼经理是美军退役准将约翰•托利弗•汤姆逊（JohnTaliaferroThompson，1860-1940）。研制该枪的初衷是为了给堑壕战中的士兵提供一种质量轻、体积小、火力猛烈的自动武器。因为在一战那种胶着僵持的对垒中，进攻一方的士兵要想压制敌方火力并占领其工事，仅靠手中的单发步枪显然是不可能的。
1927年1月，美国海军陆战队出兵尼加拉瓜。M1921冲锋枪在丛林游击战中取得了比预想还好的效果，但实战表明该枪的射速偏高，军方建议最好能降到600发／分以下，因此自动武器公司于1928年对M1921进行了改进，将连发射速下降到700发／分左右，并安装了枪口防跳器，这一改型就是汤姆逊M1928式海军型冲锋枪。自动武器公司于1928年公布了该枪和若干种变型，有不带枪口防跳器而带有前握把的M1928A，有同时带有枪口防跳器和前握把的M1928AC，此外还制造了带水平护木、枪背带的海军使用的M1928AC式。美国海军购买了包括M1921在内的多种型号的汤姆逊冲锋枪武装军舰和海军陆战队，这些产品机匣上均刻有美国海军印记。但是美国陆军仍旧对此枪反映冷淡，只装备了极少量，只是后来陆军骑兵部队急需要操作简便的小型自动武器，才采购了一部分汤姆逊M1928冲锋枪。1938年美国陆军将所采用的M1928命名为M1928A1式冲锋枪，并在机匣上刻有“M1928A1”字样。不过在1939年之前，美国陆军中冲锋枪的保有量始终未超过400支。除决策者认识上的原因外，汤姆逊的价格也妨碍了它的大量装备，1939年M1928的报价为209美元，相对同时代的轻武器来说，这个价格是相当高的。
因为种种原因，美军最后未成为M1928系列的最大主顾，取而代火的是英国和欧洲的其他盟国。二战初期，英国在欧洲大陆的战斗中丧失了大量的轻武器，面对大量装备MP系列冲锋枪的德军，不得不请求美国提供包括冲锋枪在内的军事援助，其他一些欧洲国家也是如此。到1941年8月不列颠之战爆发时，各盟国政府订购的汤姆逊冲锋枪总数高达318900支，其中英国订购了107500支，但其中大多数因为德军潜艇的攻击在半途沉入了大西洋。M1928冲锋枪火力猛烈、结实耐用，因此很受士兵欢迎，一直到1943年中期才停产，被生产性能更好的M1和M1A1所取代。
臭名昭著的“芝加哥小提琴”
汤姆逊冲锋枪是上世纪二三十年代美国黑帮及犯罪分子的常用武器，因此曾一度恶名远扬。最早背上“帮派枪”骂名的是M1927卡宾枪，因为当时美国国内对于该枪的销售没有任何限制，任何人只要花上175美元，即可以由火车快递送至家门口，同时还可以买到大容量弹鼓，而将M1927恢复到全自动状态也很容易，很多匪徒买到手后就立即改装，用于帮派争斗、打家劫舍，甚至与警察公然对抗。具有讽刺意味的是，当时它的另一类主顾却是私人厂主或农场主，目的是为了保护自己的财产不受罪犯的袭扰。随后，M1928等其他型号的汤姆逊冲锋枪不断充实着罪犯们的军火库，一时间与该枪有关的谋杀和抢劫新闻充斥着美国各大报纸的头条。因为这种冲锋枪拆下木托和弹鼓后，可以方便地藏进小提琴盒里，因此犯罪分子将其称为“芝加哥小提琴”（芝加哥是当时黑帮活动最猖撅的地区），又因为其连发时“嗒嗒嗒”的有节奏的枪声，常常又被叫做“芝加哥打字机”。
使汤姆逊冲锋枪一举成名的是发生在1929年2月14日的“圣瓦伦丁节大屠杀”，在那起案件中，伪装成警察的罪犯用汤姆逊一次打死了7名黑道对手。对于专事抢劫的悍匪而言，汤姆逊冲锋枪也是他们的得力帮凶。早期的绑架犯和酒贩子乔治•凯利，由于时常使用这种武器得了一个“冲锋枪凯利”的绰号。不过，与汤姆逊有关的最有名的罪犯却是约翰•迪林杰，在1934年在芝加哥一家电影院门口被警察击毙之前，迪林杰一直在中西部行劫，他在一年中凭着一支汤姆逊冲锋枪所掠夺的钱财比当初著名银行劫犯詹姆斯16年所干的还要多。当时另一个著名的枪击要犯是“娃娃脸”纳尔逊，他嗜血成性，每次抢完银行，总是一手提着钱袋，一手拿着汤姆逊冲锋枪出门，只要看到一名警察，他就会用汤姆逊向着整个人群扫射。1934年2名联邦调查局特工追踪纳尔逊至伊利诺斯州的乡间，“娃娃脸”开枪还击，将2人打死，自己也身中17弹毙命。随着暴力犯罪的激增，联邦调查局和警察部门不得不向他们的对手学习，订购汤姆逊冲锋枪来武装自己，以便在火力上压制猖狂的犯罪分子。目前美国的一些较早成立的警察局中，往往库存有早期的汤姆逊M1923、M1927和M1928等型号，它们都是上世纪二、三十年代禁酒令颁布后那段动荡时期的见证。
