1712年(正徳享保年間)今市町本町で四絡付近にあった小林村から出た初代当主小林友仙が今市町本町で医業を開業し、現在に至るまで医業を継承。
1819年5代当主小林文慶が紀州の華岡青洲の春林軒に入門、8年間の修行で塾頭まで務めて帰雲。麻沸散を用いた華岡流外科手術を実施。1853年、16代友庵も華岡青洲塾に入門。
明治から昭和にかけて8代当主小林仁哉(窪田の石崎医院から入婿)が現在の場所で医院を継承。町会議員として今市小学校移転に土地を提供するなどして尽力、又、細い小路であった現病院の前の高瀬川に通じる道路の拡張にも私財も投じて貢献。また和歌を愛し、耕雲と号して「有斐歌会」を興し、明治45年に歌誌「斐藻」を発刊したほどの数寄者であった。この頃に、蔵に秘蔵されていた頼山陽、菅茶山の書を見つけて「耕雲堂」に改名したと推測される。
1945年慶応大学医学部卒業後6年間中国戦線に軍医として赴任していた10代当主小林文慶が帰国し、文慶の姉の増子(東京女子医専卒)が小林医院を戦時中も含め継続している間、島根県青年団長を組織し初代団長となる。
1948年上京して慶応大学医学部病院で講師、内科総医局長として病院復興、慶應医学部新聞発刊等に活躍。
1953年小林文慶が出雲に帰り小林医院を継承。慶應病院で共同開発した日本で2台目の胸部誘導付心電計を持ち帰り、最新型胃透視装置、胃内視鏡を導入し鳥取大学医学部第二内科の田中弘道講師を招き当時の先端医療を行った。数年後、病室も設置し有床診療所となった。
1965年小林文慶が欧米の病院視察旅行に参加。
1970年文慶の長年の夢であった「思いやりの心」を実現する欧米的な、病院らしくない明るく癒しのある4階建て病院(50床)を木次の福間設計士(6代友庵の妻の実家)と計画、松江土建株式会社に依頼し敷地内に新築。個室も多く、待合室の前には孔雀をはじめとする鳥小屋、二階や屋上には洋蘭が咲き乱れる温室と庭園を設け当時としては画期的な病院であった。文慶の妻の千枝子(今市の高橋医院11代高橋昌造長女、東京女子医専卒)が副院長就任。当時は珍しかった個室での先進的な2泊3日の人間ドックも休養も兼ねられるとあって人気であった。

病院開設の理念は、第一に病院の機能を持ちながら患者の真の相談相手としてホームドクターの機能を果すこと。第二には医学が益々細分化、専門化して到底一人の医師であらゆる部門のエキスパートにならないので、大学病院や研究所など各部門での優れた一流の専門家とパートタイムでオープンシステム式なネットワークを組み、最新最高の治療を受けられるようにすること。
第三には院長の眼が隅々にまで行き届いた暖かい人間愛のこもった看護が行なわれるようにすることであった。この理念は今も受け継がれている。

文慶には優れた画才があり学生時代に慶應病院で個展を開いたほどであり、多くの色紙等を残している。洋蘭を中心とした園芸等でも秀で洋蘭の会会長を務めた。田部長右衛門元島根県知事と共に茶道の細川三斉流の家元の出雲への誘致に貢献。三斉流九曜会初代会長を務めた。元知事の後のボーイスカウト島根連盟長も務めスカウト活動普及に尽力した。武見太郎日本医師会長時代に日本医師会理事も歴任。竹下登元総理の後援会きさらぎ会の会長も長年務めた。
1980年小林祥泰が慶応大学医学部卒業後勤務していた北里大学病院から島根医科大学第3内科講師に赴任。大学勤務の傍ら、教授になった以降も文部科学大臣の兼業許可を得て無報酬で、島根大学病院長就任まで週2回、総合内科、神経内科外来を担当、病棟管理、経営にも参画し経営再建に貢献。妻の小林香子(元安来日立病院長の麦谷碧長女、鳥取大学医学部卒)も医長として勤務、今市小学校校医、特別養護老人ホーム清流園嘱託医等を兼務。
1985年特定医療法人 耕雲堂小林病院に認定
2000年医療制度改革により一般病院から医療療養型病院に移行。
施設基準に合わせて病院の大改装を行い、すべてを多床室(2人、4人部屋)に移行、食堂、リハビリ室を設置。文慶院長のゆとりある設計理念がこの移行を可能とした。

10代小林文慶院長の逝去により小林千枝子が理事長、小林香子が病院長に就任。
2013年病院耐震工事施工
2014年小林千枝子理事長の逝去により小林香子が理事長兼務。
2015年病院外壁改装工事、トイレ等改修工事施工
2015年4月小林祥泰が国立大学法人島根大学長を退任し、小林病院名誉院長、理事に就任
2017年4月小林祥泰が小林病院理事長に就任(11代)
2017年6月祥泰長男の小林祥也(12代)が出雲市立総合医療センターから小林病院副院長に就任。
2018年6月一般医療法人 耕雲堂 小林病院に変更
小林祥也が小林病院院長に就任