Mae tarddiad golff yn cael ei gwmpasu mewn hanes ac mae'n debyg ei fod yn esblygu o gemau eraill lle cafodd gwrthrych bach ei daro gyda ffon. Roedd gan y Rhufeiniaid gêm o'r enw Paganica, a oedd yn cynnwys taro carreg gyda ffon. Roedd gan y Ffrangeg gêm debyg o'r enw chole, tra bod y Saeson wedi cambuca, a oedd yn defnyddio bêl o bren. Mae'n bosib y bydd yr hawliad cryfaf i golff yn dod o'r Iseldiroedd, a oedd yn adnabyddus i chwarae gêm o'r enw Kolfas yn gynnar â 1296. Yn ei ffurf wreiddiol, chwaraeodd kolfwas ar unrhyw dir ar gael, gan gynnwys mynwentydd, priffyrdd a llynnoedd wedi'u rhewi. Y gwrthrych oedd taro olyniaeth o dargedau trwy daro'r bêl gyda chlwb pren â llaw hir. Er mwyn caniatáu saethiad clir, roedd y bêl ychydig yn uwch ar darn o dywod o'r enw tuitje, y cawn y tee dymor modern ohoni.
Mae'r Albaniaid yn honni bod tarddiad y gêm yn cael ei dadlau'n gryf gan yr Albanwyr sy'n nodi eu bod wedi bod yn chwarae golff am gyfnod hir neu hirach na'r Iseldiroedd. Beth bynnag yw'r tarddiad, nid oes unrhyw anghydfod mai yr Albaniaid oedd yn boblogaidd y gêm. Daeth yn hynod boblogaidd bod Senedd yr Alban yn pasio gweithred yn gwahardd golff ym 1467 oherwydd ei fod yn cymryd amser o ymarfer saethyddiaeth angenrheidiol ar gyfer amddiffyn cenedlaethol. Anwybyddwyd y gwaharddiad yn eang. Yn eironig, gwnaed y clwb golff a gynhyrchwyd gyntaf gan wneuthurwr bwa Albanaidd a enwir William Mayne, a benodwyd yn Glwbwr i lys King James yn 1603.
Gwnaed clybiau golff cynnar yn gyfan gwbl o bren. Nid yn unig oedd y deunydd hwn yn hawdd i'w siapio, ond roedd hefyd yn ddigon meddal i beidio â difrodi'r peli golff lledr stwff a ddefnyddiwyd tan ganol y 1800au. Gyda chyflwyniad y bêl golff gutta-percha rwber caled yn 1848, ni ddylai golffwyr beidio â phoeni am niweidio'r bêl mwyach a dechreuodd ddefnyddio clybiau â phenaethiaid haearn. Oherwydd y gellid ffurfio pennau haearn gydag wynebau trawiadol syfrdanol heb golli eu cryfder, roedd clybiau pennawd haearn yn cael eu defnyddio amlaf ar gyfer gwneud lluniau byrrach, uchel, tra bod clybiau pennawd pren, a elwir yn goedwigoedd, yn cael eu defnyddio ar gyfer gwneud darluniau hirach, isel-trajectory.
Tan y 1900au cynnar, roedd gan bob clwb golff siafft bren a oedd ganddynt bennau haearn neu bennau pren. Gwnaethpwyd y clybiau golff cyntaf a siapiwyd yn ddur yn yr Unol Daleithiau yn y 1920au. Yr adeg hon y dechreuodd rhai gwneuthurwyr clwb ddefnyddio'r system rifio gyfredol i nodi gwahanol glybiau, yn hytrach na'r hen enwau lliwgar. Roedd y coed yn cael eu rhifo un i bob pump, ac roedd y llwyni wedi eu rhifo dau trwy naw. Yn uwch y nifer, y mwyaf oedd yn tueddu i wyneb yr wyneb trawiadol. Cafodd y set o glybiau ei rowndio allan a'i gadw ei enw yn hytrach na chael nifer wedi'i neilltuo. Datblygwyd y lletem tywod yn 1931 i helpu golffwyr i dynnu eu trapiau allan o'u ffordd. Mewn pryd, ymunodd nifer o glybiau golff arbenigol eraill i'r lletem tywod.
Yn y 1970au cynnar, cyflwynodd gwneuthurwyr glybiau golff gyda siafftiau a wnaed o ddeunyddiau cyfansawdd atgyfnerthiedig â ffibr a ddatblygwyd yn wreiddiol ar gyfer ceisiadau milwrol ac awyrofod. Roedd y siafftiau hyn yn llawer ysgafnach na dur, ond roeddent yn ddrud ac roedd rhai golffwyr yn teimlo bod y siafftiau newydd yn hyblyg i lawer. Yn ddiweddarach, pan ddatblygwyd ffibrau ultrahigh-gryf i reoli'r siafftiau hyblyg, cyfansawdd a enillwyd yn fwy derbyniol.
Datblygwyd y gyrwyr metel pennawd cyntaf ym 1979. Yn 1989, fe'u dilynwyd gan yrwyr gyrwyr metel rhyfeddol cyntaf. Cafodd y pennau gormod eu castio â chanolfan wag ac wedi'u llenwi â ewyn, a oedd yn gwneud yr un pwysau â phenaethiaid pren llai. Pan gyfunwyd â siafft gyfansawdd pwysau ysgafn hirach, llwyddodd y coedwigoedd metel hynod i gael cyflymder pen uwch yn yr effaith a gyrru'r bêl ymhellach. Roedd gan y pennau clwb dros faint hefyd wynebau trawiadol mwy, a oedd yn eu gwneud yn fwy maddau pe bai'r bêl yn cael ei dynnu oddi ar y ganolfan.
Heddiw, mae dylunio a gweithgynhyrchu clybiau golff yn gelf a gwyddoniaeth. Mae rhai gwneuthurwyr clwb yn defnyddio'r dylunio cyfrifiadurol diweddaraf a thechnegau gweithgynhyrchu awtomataidd diweddaraf i adeiladu cannoedd o filoedd o glybiau y flwyddyn, tra bod eraill yn dibynnu ar brofiad a sgiliau crefftau llaw i adeiladu dim ond ychydig o ddwsin o glybiau a wneir yn y gorffennol y flwyddyn.