本发明属于目标跟踪技术领域,具体涉及一种基于背景剔除的目标跟踪方法及装置。该方法包括在第t帧采集图像中选择跟踪目标区域;对跟踪目标区域的图像进行分块处理以形成多个第一子块;在采集图像中以跟踪目标区域为中心设置背景区域;从背景区域中选取多个采样点,并以采样点为中心形成多个背景区域的第二子块,第二子块与第一子块的大小一致;从跟踪目标区域的边缘位置处的多个第一子块中按照Bhattacharyya系数度量模板剔除与第二子块图像特性相似的第一子块,跟踪目标区域剩余的第一子块形成第t+1帧的目标模型;在第t+1帧图像中根据目标模型定位目标以实现跟踪。本发明利用分块处理方式及Bhattacharyya系数度量模板剔除目标背景,从而实现目标的准确跟踪。