Die FMH ist nicht nur der Berufsverband der Schweizer Ärzteschaft, sie ist auch der Dachverband von 26 sogenannten Basisorganisationen. Zu den Basisorganisationen gehören die kantonalen Ärztegesellschaften, der Verband Schweizerischer Assistenz- und Oberärztinnen und -ärzte (VSAO) sowie der Verein der leitenden Spitalärzte der Schweiz (VLSS). Ärztinnen und Ärzte, welche Mitglied der FMH werden, erwerben gleichzeitig die Mitgliedschaft in einer der zuständigen Basisorganisation. Daneben anerkennt die FMH für jedes Fachgebiet eine entsprechende Fachgesellschaft. 

Innerhalb der FMH nehmen verschiedene Organe und Gremien  die Funktionen und Aufgaben wahr, die für eine erfolgreiche Verbandspolitik notwendig sind. Ihre Kompetenzen sind in den Statuten der FMH geregelt.