卡纳里斯还是意识到野心勃勃的海德里希所构成的威胁。有一天,他的邻居毛雷尔正往车站走去,突然从拐角处窜出一个人和一条狗。那条狗猛扑过来。虽然那个人吹了一声口哨,把狗唤回去了,毛雷尔却恼羞成怒,警告那个人:下次再发生这样的事情,他不但要开枪把狗打死,还要把人打死。几天以后,卡纳里斯把毛雷尔介绍给一个人,这个人恰好就是那条狗的主人&ldo;海德里希先生&rdo;。海德里希说他已经认识毛雷尔;他就是曾经想打死他的那个人。卡纳里斯立即问道, &ldo;是吗?什么时候?&rdo;但是这位满头白发的海军上将似乎缺乏个性力量去同魄力粗犷的海德里希进行斗争。有一次,海德里希告诉他,一位新教牧师(卡纳里斯的一位相识)还在继续进行反纳粹活动。卡纳里斯本当要问,这个人在集中营里怎么能进行这样的活动?但是他却保持沉默。另有一次,海德里希表白自己一直是反对砸玻璃窗那天晚上发生的反犹太人暴乱的, 自己参加那次行动,只不过是在执行他的命令,他听了以后照样一声不吭。
卡纳里斯面临的另一个紧急问题,是谍报处的机构在迅速扩大。卡纳里斯就任后不到十一个星期,希特勒宣布恢复征兵和扩军。军区数目从七个增加到十二个,每个军区设一个谍报站。不仅谍报站的数目在增加,每个谍报站的人数也在增加。在二十年代,每个谍报站只有一至两名军官。在一九三七年,仅慕尼黑谍报站就有十名军官。另外还有土兵,文职官员和雇员。
卡纳里斯还预见到,自从一九二八年以来一直是军队的&ldo;唯一情报收集站&rdo;的谍报处,将重新变成纯粹间谍机构。
在他上任的头一年,这个变化过程还未开始之前,谍报处共有六个组:一组,陆军谍报组。二组,密码中心。三组,反谍报组。四组,破坏和暴动组。五组,海军谍报组,包括驻海军通讯情报处联络处。六组,空军谍报组。密码中心和罗韦尔的空中侦察中队脱离谍报处,使这个机构不再起非谍报活动的作用。一九三六年的一次改组把几个谍报组集中起来,从而加强了这个机构在谍报方面的工作。这次改组将一,五、六组划归一组组长指挥。与此同时,六组重新编为七组,驻海军通讯情报处联络处编为四组。二组空缺起来。
一九三八年六月一日谍报处进行的一次新改组,使这个机构朝着专门从事谍报活动的方向发展的趋势达到顶点,因为经过这次改组,谍报处升为谍报局‐‐级别同武装部队最高统帅部其他机构一样得到了提升,目的显然是使这个新指挥机构享有较高威望。谍报局一处专门负责武装部队的全部间谍活动,陆、海、空军的谍报组成为一处的组级机构。七组即破坏和少数民族暴动组成为谍报局二处。三组即反谍报组成为谍报局三处。原来的二组取消。第四组即驻海军通讯情报处联络处,并入纳粹党对外处,对外处在同一天划归卡纳里斯的谍报局。对外处最初处理涉及德国武装部队的国际法和国际条约,后来它的作用逐渐加强。它主要向武装部队最高统帅部提供有关外国政治局势的情报,只要这种情报是涉及军事问题的。它为最高统帅部分析外国报刊,使最高统帅部同外交部保持联系,并且充当德国军队驻外武官和外国武装部队驻柏林武官的联络处。这个处的处长,从一九三八年夏到战争结束时为止是利奥波德&iddot;比尔克纳海军上校(后来升为海军中将)。一九三九年,卡纳里斯在总部增设一个中心组,从而完成了机构的改组。中心组组长是奥斯特上校,就是那个打网球时坐了一屁股泥的奥斯特,从此他成了卡纳里斯的参谋长。这个组处理人事、财政和其他行政问题。比如,它的一个小组集中保管特务的档案,这些档案装在大型金属桶里,桶顶有开口。每个特务都有一张档案卡,如果档案材料太多,一张卡片填不下,就立一个档案袋。
卡纳里斯的工作不仅仅是管理自己的机构,希特勒还利用他作私人使者和收集情报。卡纳里斯在布加勒斯特同罗马尼亚独裁者会谈,在马德里会晤西班牙参谋长和佛朗哥,在罗马会见墨索里尼,墨索里尼倒台后会晤意大利情报头子。
他为了维护自己机构的利益,同其他政府机构进行斗争。法国陷落以后,意大利人企图独霸法国的地中海沿岸地区;卡纳里斯敦促德国参与霸占,因为那里的港口,为同北非和世界其他地方进行联系提供了最优良的交通便利条件,他的这场斗争失败了,但是却赢得了另外一场斗争的胜利。在一次部际会议上,有人认为谍报局特务不应该扮作商人渗入北非,因为这种做法促使法国更加抵制德国的经济活动。卡纳里斯提出异议,他说收集盟军在德国以南地区活动的情报无比重要,外交部终于让步了。
在谍报局内部,那些并非从事收集情报的单位所承担的任务,使他不能专心致力于谍报工作。他同耶路撒冷大穆夫提10磋商如何进行破坏。他亲自承担谍报局对外处在武装部队和外交部之间执行联络的任务,向陆军参谋总长哈尔德报告一位高级美国外交官访问罗马和柏林的情况。看起来,他提供间谍情报,的确还没有他做其他事情来得经常。他向武装部队最高统帅部高级军官频繁递交的报告,很少涉及间谍情报。他时常向哈尔德报告总的形势,他会见希特勒有几十次。他参加过讨论如何攻打比利时要塞,例如&ldo;坚不可摧的&rdo;埃本&iddot;埃马尔要塞的历时两个半小时的会议。他向执行破坏任务的部队介绍了荷兰军服是什么样子。在波兰战役期间,希特勒问西线有什么情况,卡纳里斯说法国正在准备进攻萨尔布吕肯,希特勒不相信这个消息。 &ldo;我不相信法军正好要进攻萨尔布吕肯地区,因为我们在那儿的阵地最坚固。&rdo;