Die FMH ist nicht nur der Berufsverband der Schweizer Ärzteschaft, sie ist auch der Dachverband von 26 so genannten Basisorganisationen. Das sind die kantonalen Ärztegesellschaften, der Verband Schweizerischer Assistenz- und Oberärztinnen und -ärzte (VSAO) sowie des Verein der leitenden Spitalärzte der Schweiz (VLSS). Ärztinnen und Ärzte welche Mitglied der FMH werden, erweben gleichzeitig die Mitgliedschaft in einer der zuständigen Basisorganisation. Daneben anerkennt die FMH für jedes Fachgebiet eine entsprechende Fachgesellschaft.
Innerhalb der FMH nehmen verschiedene Organe die Funktionen und Aufgaben wahr, die für eine erfolgreiche Verbandspolitik notwendig sind. Die Kompetenzen sind in den Statuten der FMH geregelt.