1937年，胡佛发现，与经验丰富的外国间谍机构相比，他所执掌的联邦调查局只能相形见绌。早在数年前，苏联、德国和日本就已经开始对美国的造船厂、飞机制造厂、军事基地以及大西洋和太平洋地区的演习进行监视。令胡佛感到悲哀的是，他居然直到现在才知道。
　　
　　他是从军方的密码破译工作中了解到这一情况的。当时，陆军信号情报部正在对外国的无线电通讯进行窃听。海军也想要破译日本军方的密码和暗号，以便提前预知太平洋地区可能发生的袭击。他们与美国无线电公司达成了秘密协议，从后者那里获取日本往来电报的复印件。
　　
　　海军方面取得了一定进展，正是他们提供的线索使联邦调查局逮捕了哈里•汤普森。这是第一次世界大战后美国首次对一名间谍审判并定罪。海军密码破译专家阿吉•德里斯克尔注意到，在一份日本无线电电报中出现了一个奇怪的单词“TO-MI-MU-RA”，于是便对此展开了调查。“mura”在日语中的意思是“城镇”或者“儿子”，对应的英语单词分别是“town”和“son”。她自言自语地嘟囔这两个单词，忽然发现它们连起来的读音就像是“Thompson”，即“汤普森”。而哈里•汤普森是一名前海军士兵，曾经为在加利福尼亚州攻读英文的日本皇家海军少佐宫崎敏夫从事间谍活动。根据德里斯克尔提供的信息，联邦调查局发现，汤普森把美国高度机密的武器和海军工程的有关资料卖给了日本。
　　
　　此外，在军方的密码破译工作协助之下，联邦调查局还逮捕了海军学院毕业的前海军少校约翰•法恩斯沃斯。他不仅酗酒成性，而且曾因行为不端遭到军方遣散。法恩斯沃斯经常出现在太平洋沿岸的海军基地，一边拿出大把钞票替别人结账，一边打探有关海军密码、武器和军舰设计的消息。最后，海军方面把这起案件移交联邦调查局处理。1937年，由于向日本出售军事机密获得2万美元，法恩斯沃斯在接受审判后被判处有罪。
　　
　　但是，与联邦调查局开展的第一次大规模国际间谍调查“鲁姆里希案”相比，上述案件只不过是小巫见大巫。