林书豪出生于洛杉矶县（Los Angeles County）托伦斯（Torrance）， 却成长于旧金山湾区的帕罗奥多的一个基督教家庭中。
他的父亲林继明（Lin Gie-Ming）和母亲吴信信（Shirley Lin）于20世纪70年代中期从台湾移居到美国，最先到了弗吉尼亚州，之后搬到了印第安纳州，并且两人都在普渡大学读书。 林书豪的父性祖先来自台湾彰化县北斗镇（林家祖先于1707年从中国福建省漳浦县移居到台湾）， 而他的外祖母于20世纪40年代末从中国浙江省嘉兴市平湖移居到南台湾（台湾南部）。 林书豪父母的身高均为1.68米（5英尺6英寸）。 他的外祖母一家的身高很高，他外曾祖父的身高超过1.8米（6英尺）。林书豪有一个哥哥，林书雅（Josh Lin），还有一个弟弟，林书伟（Joseph Lin）。 林继明在当地的基督教青年会（YMCA）教他的儿子们打篮球。 吴信信帮助帕罗奥多建立了一个美国青少年篮球项目（National Junior Basketball program）。为了确信儿子在打篮球的同时不会影响学业，吴信信还经常与教练们做沟通工作。她因为让林书豪打太长时间的篮球而遭到朋友们的指责，但是她允许儿子玩自己喜欢的游戏。 求学之路
林书豪将自己的个人简历和一张记录自己高中篮球生涯的篮球集锦DVD寄给了所有的常春藤联盟学校，加利福尼亚大学伯克利分校（University of California, Berkeley），以及他梦想的学校斯坦福大学、加利福尼亚大学洛杉矶分校（University of California, Los Angeles，简称UCLA）。 太平洋十校联盟（Pac-10）的学校希望林书豪成为球队的替补队员（walk-on），而不是积极招募他或者为他提供体育奖学金。哈佛大学和布朗大学保证林书豪在校队有一席之地，但是常春藤联盟学校不提供体育奖学金。 前NBA篮球运动员、加利福尼亚大学洛杉矶分校男子篮球队教练雷克斯·沃尔特斯（Rex Walters）
表示NCAA限制了教练员物色林书豪的机会。“绝大部分学校开始招收那些一开始就凭借自己跑得快、跳得高，可以做出快速、简单的事情去评价的年轻人”，沃尔特斯说。林书豪补充道，“我只是希望其他人理解我的比赛，他们需要多花一些时间观察我的表现，因为我不想做任何特别耀眼的或者不寻常的运动的事情。”
2005年7月，时任哈佛大学助理教练的比尔·霍顿（Bill Holden）看到了6英尺3英寸（1.91米）的林书豪，身体体格特质符合他的需求，而他高中的GPA分数为4.2分也符合哈佛大学的学术标准。但是霍顿起初对于林书豪的场上能力印象平平，并且告诉林书豪的高中篮球教练皮特·迪彭皮洛克（Peter Diepenbrock），表示林书豪是一个“NCAA三级联盟（Division III）球员”。那一周的晚些时候，霍顿观察了林书豪更多的对抗比赛，他每一次机会都带着“杀手的本能”去冲击篮筐，而后林书豪也成为了他的首选球员。 哈佛大学的教练担心斯坦佛大学因为离林书豪家近的缘故将会为林书豪提供一份奖学金，但是那并没有发生，林书豪选择了哈佛大学。迪彭皮洛克说道，“我不是坐在这说NCAA一级学校的篮球教练们都是傻瓜，那时候对林书豪的质疑确实合情合理。” 后来就任金州勇士队老板、时任斯坦福大学校内体育部负责人（Booster club）的乔·拉科布（Joe Lacob）将斯坦福大学未录取林书豪的做法形容为“十分愚蠢。那个年轻人就在你眼前。[如果]你没有意识到这一点，你就犯大错了。” 曾经为林书豪提供替补队员机会的UCLA助理教练克里·基汀（Kerry Keating）事后说道，林书豪应该很有可能成为UCLA的首发控球后卫。
哈佛大学
一位哈佛大学的教练记得在林书豪的一年级赛季里“是球队中身体最弱的一个”，但是到了二年级赛季的时候（2007—2008赛季），林书豪场均可以得到12.6分并入选了长春藤联盟第二阵容（All-Ivy League Second Team）。 到了他大三年级的2008—2009赛季，他成为美国大学联盟锦标赛（NCAA）第一级别联赛（Division I）中唯一一位在得分（17.8），篮板球（5.5），助攻（4.3），抢断（2.4），盖帽（0.6），投篮命中率（.502），罚球命中率（.744），三分球命中率（.400）均排名联盟前10位的男子篮球球员， 并且全票入选了常春藤联盟的第一阵容。在一场82-70战胜排名第17位的波士顿学院（Boston college）的比赛中，林书豪砍下27分，6个篮板以及8次助攻，而在三天前波士顿学院鹰队（Boston College Eagles）击败了排名第一位的北卡罗来纳大学。 在林书豪大学四年级赛季（2009—2010赛季）中，场均贡献16.4分，4.4个篮板，4.5次助攻，2.4次抢断以及1.1次盖帽，并再一次全票入选了常春藤联盟第一阵容。林书豪成为30位赛季中期约翰·伍登奖（John R. Wooden Award）的候选人之一， 并且入选鲍勃·库西奖（Bob Cousy Award）最终11人候选名单。 他还被邀请参加朴茨茅斯邀请赛（Portsmouth Invitational Tournament）。 ESPN的弗兰·法希纳（Fran Fraschilla）将林书豪列为大学篮球中最全面的12位篮球运动员之一。 在对阵排名第12位的康涅狄格哈士奇（Connecticut Huskies）的比赛中，林书豪得到创生涯纪录的30分并抢到9个篮板，凭借这一战的表现林书豪受到了更多的关注。 比赛结束后，入选奈·史密斯篮球名人纪念堂的康涅狄格教练吉姆·卡洪（Jim Calhoun）谈论到林书豪：“我在这里看过很多支球队，他可以为任何一支球队效力。他很伟大，在球场上他很冷静。他知道该如何打球。”
这个赛季，哈佛大学创造了几项纪录，包括：胜场数（21），非联盟赛程比赛胜场数（11），主场胜场数（11）以及客场胜场数（10）。 在大学篮球生涯结束时，林书豪成为常春藤联盟历史上第一位达到1450分（1483），450个篮板（487），400次助攻（406）以及200次抢断（225）的球员。 林书豪于2010年从哈佛大学毕业，并获得哈佛大学经济学学位，他在大学期间的平均绩点（grade point average，简称GPA）为3.1分。
