臺灣的農會組織發源於日治時期是無庸置疑的，這樣的合作運動，發端於十八世紀中葉，工業革命的興起促使資本主義蓬勃發展，衍生農民、勞工等弱勢者對抗資本家的剝削與不當得利。一八四四年英國曼徹斯特（Manchester）附近的羅奇代爾（Rochdale）小鎮，二十八位工人為謀求改善經濟困境，以自助與相互扶持原則，共同集資設立羅奇代爾公平先驅社（Rochdale Society of Equitable Pioneers），購買麵粉、糖、牛油等生活物資轉售社員，成為全世界第一個經營成功的合作組織，被稱為合作社之母或近代合作的原點。
一八四六年，德國雷發巽消費合作社設立，一八四八年德國慈善貸款合作社（雷發巽系統農村信用合作社）設立。德國農村合作社之父雷發巽（Friedrich Wilhelm Raiffeisen），堅持農村第一原則，其信用合作運動特徵包括：一、強烈的村落共同體性格，以一村落或教區為區域範圍；二、限定社員職業與居住區域，社員需預先存入款項，方能借出儲蓄貸款；三、採用無限責任制與理監事無給制；四、無股金制度，盈餘全部提存公基金，禁止分配，禁止會員權利讓渡；五、重視社員教育。雷發巽信用合作運動，除了以信用事業為中心外，逐步兼營生產資材供應與農產品運銷等事業，最後終於朝向籌組業務兼營綜合性農業合作社的方向發展。此種信用合作運動模式影響日本及日治臺灣，例如：一市街庄一產業組合以及信用組合兼營購買、販賣、利用等事業。
臺灣的農會組織始於日治時期，但與英、德兩國由民間發起成立截然不同，當時農會是百分之百官製與官治的農業團體，會員無自主權，農會本身亦無自治權，其設立的目的，是為貫徹統治當局由上而下所推動的農業開發相關政策，本質上是專為行政機關所設立的組織，而其事業方針與農民會員的意願及需求之間無直接關聯。彼時農會主要工作包括：協助執政當局徵收地租、改良耕地、獎助養豬養魚等，類似行政官署協助機構。
一九○八年，臺灣總督府公布「臺灣農會規則」，並發布「臺灣農會規則施行規則」，此乃臺灣農會最早之法律依據，農會也正式取得法人資格。隨著日本在太平洋戰爭的戰事惡化，為落實糧食增產與強制徵收米糧的任務，一九四四年公布「臺灣農業會令施行細則」，將臺灣當時的農會、畜產會、產業組合、青果同業組合等各種農業團體，合併為一元化的「農業會」，直到二次世界大戰結束前，未再改變。
一九四五年二次大戰結束，負責接收臺灣的臺灣省行政長官公署所屬農林處，衡量當時經濟社會條件，核准保持原農業會組織。一九四六年依照新的行政區域，陸續成立鄉（鎮）、縣（市）與省之三級制農業會。同年，因農會與合作社在中國大陸各有其法律依據且本質相異，農林處奉令將剛完成改組的臺灣農業會，畫分為農會與合作社兩大系統，且均為三級制。一九四九年，臺灣省政府頒布「臺灣省農會與合作社合併改組辦法」及實施大綱，將農會與合作社合併改組為農會，即現行的農會制度。
