Центральный аппарат БНД имел довольно запутанную организационную структуру. Причины заключались, во-первых, в незнании Геленом и его ближайшими сотрудниками принципов административного устройства и распределения обязанностей и, во-вторых, в разрастании службы, особенно после ее легализации. Гелен не смог заменить прежнюю, временную структуру новой, и служба производила впечатление загородного дома, который в результате всевозможных надстроек и пристроек был превращен в дом, сдаваемый внаем многочисленным квартирантам, запутанный по своему внутреннему устройству и нескладный по расположению помещений. Во главе службы стояли президент и вице-президент. Поскольку Гелен и в первое время существования организации, и позже не умел ладить со своими заместителями (последний из них, генерал Мэркер, он же Хорст Александер фон Меллентин, был вынужден уйти, как и другие), вице-президент превратился в своего рода «свадебного генерала», который приветствует гостей, поздравляет их, то есть представляет руководство, не участвуя в принятии решений.
Руководству службы, при котором имелся небольшой штаб, подчинялись управления, делившиеся на отделы, а отделы — на группы. К компетенции управлений относились следующие сферы деятельности:
оперативная разведка — включает в себя военную, экономическую и политическую разведку против социалистических стран, а также контршпионаж и вопросы безопасности разведывательной работы;
стратегическая служба — разведка против несоциалистических стран, а также «служба связи с заграницей», которая должна организовывать сотрудничество с дружественными иностранными разведслужбами;
разведка средствами связи — то есть обеспечение деятельности службы телефонного и радиоперехвата и криптографической службы, а также обеспечение собственной разведывательной связи, вплоть до создания агентурных радиостанций и всевозможных подслушивающих устройств;
общее руководство — административная служба, занимающаяся вопросами бюджета, юридическими вопросами, вопросами курьерской службы, вопросами деятельности центрального разведывательного архива;
общая безопасность — то есть безопасность центрального аппарата, отдел кадров (к компетенции которого относился только штатный персонал), учреждения прикрытия;
служба использования информации — обработка и использование всей поступающей информации из секретных и открытых источников по всем политическим, военным и экономическим вопросам, а также вопросам вооружения.