Funde von Schwertern, Gefäßen und Fibeln weisen ab 500 n. Chr. das Volk der Franken als Gebietsherren von Groß-Rohrheim aus. 782 findet man auch bereits die erste urkundliche Erwähnung im Lorscher Codex.

Die Namen für den Ort wechselten im Verlauf der Jahrhunderte. So findet man die Bezeichnung „Rohrheim superior“, „villa Rorheim“, “Ober Rorheim“ und seit 1689 Groß-Rohrheim.

Zu Beginn des Mittelalters war das Kloster Lorsch Ortsherr in Groß-Rohrheim. Es gab seine Rechte, jedoch gegen den Anspruch auf Zehnte und sonstige Dienste an Vasallen und Vögte als Lehen ab. So gab es in Groß-Rohrheim verschiedene Herrschaften. Zuerst waren es die Herren von Bickenbach, deren Lehen sich später die Grafen von Erbach und das Haus Katzenelnbogen bzw. deren Nachfolger, die Landgrafen von Hessen, teilten. Der Anteil der Erbacher ging erst 1714 durch Kauf an Hessen-Darmstadt über. Die Gerichtsbarkeit im Orte teilten sich die beiden Grafenhäuser mit dem Erzbischof von Mainz. Der 30-jährige Krieg forderte große Opfer von der Gemeinde. Er verwandelte den blühenden Marktflecken Groß-Rohrheim in eine Stätte der Zerstörung und des Todes. Die Friedenszeit nach 1648 dauerte nicht lange, als infolge der Raubkriege Ludwigs XIV. unsere Gegend erneut zum Tummelplatz fremder Truppen wurde. Am 04. Februar 1659 verleiht Landgraf Georg II. von Hessen „seinen getreuen Untertanen im Flecken Groß-Rohrheim“ einen freien und offenen Markt, den heute noch existierenden Maimarkt. Den Raubkriegen folgten ein knappes Jahrhundert später die französischen Revolutionswirren und die Napoleonischen Kriege, deren Auswirkungen auch Groß-Rohrheim trafen. Doch brachten diese Kriege auch den Wendepunkt in der Geschichte, der zu einer neuen Entwicklung führte. Über Jahrhunderte hinweg blieb bei allen politischen Umwälzungen die Landwirtschaft der entsprechende Wirtschaftsfaktor in Groß-Rohrheim. Erst in unserem Jahrhundert, als die Industrialisierung auch im hiesigen Raum ihren Einzug hielt, begann sich die Struktur der Gemeinde durch die Einbeziehung in das Spannungsfeld der Industrie allmählich zu ändern. Die damals entstehende Aufwärtsentwicklung konnte jedoch nicht ungehindert fortschreiten, denn die beiden Weltkriege unseres Jahrhunderts unterbrachen den allgemeinen Aufbau. Besonders im Zweiten Weltkrieg hatte Groß-Rohrheim sehr zu leiden:
Mehrere Bombenangriffe zerstörten einige Häuser, und viele Bürger fanden im Verlauf des Krieges den Tod. Noch weit bis in das zweite Jahrzehnt nach Kriegsende blieb der frühere Charakter des Ortes als Bauern- und Arbeitnehmergemeinde erhalten. Durch die Ansiedlung Heimatvertriebener stieg die Einwohnerzahl innerhalb kürzester Zeit von 2.300 auf über 3.000. Seit 1950 ist bis heute eine stetige Aufwärtsentwicklung festzustellen, wobei die Bevölkerungsentwicklung (heute etwa 3.750) nicht Schritt hielt mit der Besiedlung der Gemarkung. In den letzten Jahrzehnten ist man zielstrebig darangegangen, Industriegelände auszuweisen und Industrie und Gewerbe anzusiedeln. Die Anzahl der landwirtschaftlichen Betriebe, die vor dem Zweiten Weltkrieg etwa 500 betrug, ist in der Zwischenzeit auf gut 15 Betriebe zurückgegangen. Waren es im Jahr 1970 noch etwa 300 Arbeitsplätze, die in Groß-Rohrheim angeboten wurden, so sind es im Jahr 2001 über 800 Beschäftige, die in Groß-Rohrheim tätig sind. Fast 40 Vereine prägen heute das Bild von einer kleinen, weiterhin selbständigen Gemeinde, die optimistisch in die Zukunft blickt.