中央情报局和联邦调查局虽然互相看对方不顺眼，但在工作中还是需要配合的。因此，双方都设有专人负责与对方联络。在很多时候，双方关系与这个联络人密切相关。胡佛曾指派他的亲信德克·德洛奇担任这项工作，这对双方的关系实在是大有损害。
德洛奇不喜欢中央情报局，他明知胡佛对中央情报局的权力很嫉妒，还对胡佛暗示说，中央情报局打算把活动范围扩大到整个美国。这完全是火上浇油，胡佛愤怒得不得了，联邦调查局和中央情报局的隔阂也越来越大了。联邦调查局中有一些人看到了问题所在，可他们毫无办法。
胡佛一直没有放弃在国外开展情报活动的想法。1965年，当林登·约翰逊总统为多米尼加问题发愁的时候，胡佛获得了在那里开展活动的授权。后来他又说服尼克松总统，允许联邦调查局在海外多开设一些办事处，并保证“提供比中央情报局更好的情报”。
这样做引起了另外一起纠纷，因为胡佛要求把一切情报直接寄给他，而不是先送给大使、中央情报局或国务院审核。有一次在以色列的特工送来了一些错误情报，并被胡佛直接送给尼克松和基辛格，惹来一堆麻烦，国务院的人吵翻了天，中央情报局也非常不满。尼克松不得不指示胡佛，这些特工的情报寄回美国之前，必须先送大使和中央情报局审核。
联邦调查局与美国许多家小型报纸和周刊有秘密联系，那上面经常发表表扬联邦调查局的大作，有时也登载一些故事和文章批评胡佛想攻击的对象，中央情报局就在其中占很大分量。胡佛非常乐于把一些罪名推到他的死对头身上。
胡佛在晚年时期开始禁止联邦调查局使用“非法手段”调查，结果很快就遭到其他情报机构，尤其是中央情报局的抗议。联邦调查局本来就很少向其他部门提供情报，现在更是根本不提供了。这严重地损害了中央情报局的工作。因为在国内，它没有合法权利和特许状从事任何调查，必须需要联邦调查局的协助。
有一次，有两个已被察觉的苏联间谍在美国活动，中央情报局要求联邦调查局监视这两个人并窃听他们的电话。但是胡佛拒绝了，并且吼了起来：“我们又不是为中央情报局服务的！”他对手下的人说：“告诉他们，如果他们想监视这两个人，他可以自己干。”
而胡佛得到的回复是：“我不打算命令我的人在纽约城里搞监视活动。我们无权干这种事。所以，你们要是不搞，那就干不成了。”
中央情报局的人非常清楚，如果他们下令在纽约搞监视活动，胡佛会立刻告诉新闻界，他最乐意给别人设置这种圈套了。
胡佛不止和中央情报局一家闹矛盾。几乎华盛顿所有情报机构的主要领导人都和他吵过架。美国设有全国情报委员会，中央情报局局长任主席，负责协调全国13个军队和政府部门的主要情报机构，包括联邦调查局。但是“协调”只是一个虚名，他没有实际权力命令和调动联邦调查局。而胡佛在很多时候总不愿意与大家合作，他总认为自己是正确的，领导权不容干涉。
有一次，情报委员会主席赫尔姆斯要求各个机构成员把自己部门的印章牌带去，并且全都做成直径为12英寸的圆形，这样就可以把它们并排挂在会议室的墙上。萨利文作为联邦调查局的代表，负责这项工作。一个星期以后，在去情报委员会开会之前，他去局总部取印章牌。包装印章牌的硬纸盒的尺寸太大，他觉得有点不对劲，想要检查一下是否有差错。但是工作人员说这是经胡佛局长本人同意的印章牌，他只好用手拎着这个大包装盒上了汽车。来到会议室打开纸盒一看，他最担心的事情发生了：联邦调查局的印章牌直径足足有3英尺，几乎比其他机构的印章牌大三倍。挂在那里特别突兀。他感到十分难堪，却无可奈何。委员会的成员开始