柏林1935年9月29日生于湖南省长沙市,自幼双目失明。1946年春进长沙盲校,跟武泗玉(盲人)老师学习二胡、笛子、扬琴,1947年专攻二胡。1950年,在湖南广播电台录制了二胡独奏曲《空山鸟语》、《光明行》,被称为"少年二胡能手"。1951年,被保送南京盲哑学校,随宋廷亮(盲人)老师学习二胡,期间曾得到二胡演奏家张锐、甘涛老师指教。1955年被选送北京中国盲人训练班音乐班,随刘北茂教授学习二胡,并得到蒋凤之、张韶、刘明沅等先生的指导。1956年参加了"第一届全国音乐周",演奏《怀乡行》、《二泉映月》等曲目,被誉为"青年二胡演奏家"。此后,曾先后赴朝鲜、南斯拉夫、西班牙、美国、埃及等国访问演出。在北京、长春、吉林、长沙、台北、台中、香港等地举办二胡独奏音乐会,多次到中央电台、中国唱片社录音,录制唱片,唱片还远销澳大利亚、前苏联、东欧、新加坡等国家,成为驰名中外的盲人二胡演奏家。1986年中国旅行音像社录制甘柏林演奏的阿炳、刘天华作品盒式磁带,1988年太平洋影音公司广西音像公司出版了甘柏林演奏的《马头琴之歌》、《湘江乐》等三十余首二胡名曲的盒式磁带,在国内、外发行,受到好评。1994年,台湾中国龙唱片公司,灌制了甘柏林演奏的《刘天华、华彦均二胡传世名曲》的音乐CD。1979年被评为吉林艺术院音乐系副教授,1985年评为教授,在他的积极倡导下,长春大学创办了残疾人音乐、美术等专业班,现已发展为长春大学特殊教育学院。1989年担任中国特殊艺术团团长赴美演出,为我国特殊艺术事业作出突出贡献。
1988年任中国盲协主席。1992年获得国务院颁发的表演艺术事业中有突出贡献专家待遇。1998年当选中国残联副主席。1998年任第九届全国政协委员。
甘柏林主要著述有:《盲人和音乐》(1982年《人民音乐》10期刊登) 《从时代、作品看二胡演奏风格的形成 与发展》(1985年全国二胡学术讨论会上的讲演)、《缅怀杰出的盲人音乐家华彦钧》(1983年纪念阿炳诞辰90周年学术讨论会上的发言)。甘柏林主要创作作品有:二胡独奏曲《草原情歌》(1959年人民音乐出版社出版二胡曲集第四集),《心向北京唱丰收》(与朱连喜合作,1979年人民音乐出版杜出版)。