Подпольной работой ФКП руководили Морис Торез, Жак Дюкло и Бенуа Фрашон. С целью приспособления к условиям подполья еще до поражения Франции в основу партийной структуры была положена группа из трех человек. Один из членов такой группы держал связь со следующим звеном. Вышестоящими организациями были ячейки (из трех групп), секции, секторы и районы, построенные по тому же принципу 57. При подборе руководящих кадров ЦК ФКП рекомендовал прежде всего обращать внимание на то, есть ли у того или иного кандидата связи с трудящимися. Центральный комитет находился в северной зоне. В южной зоне деятельностью партийных организаций руководила делегация ЦК (Виктор Мишо, Гастон Монмуссо, Ален Синьор).
Большое внимание ФКП уделяла нелегальной печатной пропаганде. К моменту поражения она уже накопила в этой области определенный опыт, в дальнейшем он значительно обогатился. Помимо «Юманите» выходил ряд местных и областных газет, продолжался выпуск партийных журналов. Партия издавала много брошюр и листовок , которые расклеивались на стенах, разбрасывались по улицам, раздавались стоящим в очередях.
ФКП изыскивала различные формы объединения французского народа для борьбы за независимость родины. Печать компартии и «Ви увриер» рекомендовали рабочим вступать в профсоюзы, пока они существовали легально, чтобы превратить их в подлинные орудия народной борьбы. По призыву ФКП во многих городах и районах страны были образованы комитеты взаимопомощи, комитеты борьбы за освобождение политических заключенных, народные комитеты на предприятиях. Особо большое распространение получили последние, они часто выступали от имени рабочих, организовывали забастовки и демонстрации. В августе 1940 г. «Ви увриер» сообщала о существовании 70 народных комитетов, а в сентябре того же года в одном лишь Парижском районе их насчитывалось более.