Il suo debutto negli studi linguistici avvenne sotto la guida di Karl Jaberg e Jakob Jud, da cui ricevette l'incarico di un ampio studio sui dialetti dell'Italia Meridionale, che lo portò alla laurea con una tesi dal titolo Griechen und Romanen in Unteritalien (pubblicata nel 1924).

"La fortuna di Rohlfs è legata ai suoi viaggi diretti verso "le fonti delle lingue romanze"; ed i viaggi hanno avuto uno speciale ruolo nei suoi studi. Egli ha ereditato dall'Ottocento il concetto dell'italienische Reise (it.: Viaggio in Italia) e si è dimostrato il migliore erede di Goethe nel suo approccio multidirezionale alla realtà italiana […]".[2]. Le sue foto sono davvero una miniera per tutti gli studiosi di cultura popolare. Ogni foto è corredata di relative informazioni tecniche quali apertura del diaframma, tempi di esposizione, ora della ripresa. Una delle località italiane che annovera il maggior numero di foto è Sperlinga dove Gerhard Rohlfs fece una ricerca sul dialetto galloitalico di Sicilia tra il 13 e 14 aprile del 1924.

Si occupò di glottologia e linguistica delle lingue romanze e dei loro dialetti, principalmente di quelli appartenenti alle aree linguistiche dell'Italia meridionale, in particolar modo quelle dell'area calabro-lucana e salentina (dialetto calabrese, salentino, lucano e cilentano). In tale contesto si inserisce anche l'interesse per i dialetti gallo-italici di Basilicata, che per primo riconobbe nelle loro caratteristiche di Isola linguistica e ai quali dedicò due studi fondamentali nel 1931 e nel 1941.

Pubblicò due vocabolari completi del dialetto calabrese (Milano, 1938-1939) e di quello salentino (Monaco, 1956-1961).