一种基于复合矢量的转子系统全息动平衡方法，包括：利用传感器采集转子两测振面的振动数据，利用全息谱技术判断振动数据是否为不平衡故障数据；采用全息谱技术将具有不平衡故障的转子振动数据提取两个相互独立的参数，构成复合矢量作为平衡目标，将复合矢量分解为力不平衡矢量和力偶不平衡矢量；在转子的两配重面上分别添加试重，得到此时的两振动复合矢量，并进行力与力偶分解；根据步骤二与步骤三中的计算结果，求得转子一阶振动的变化量和转子二阶振动的变化量；计算转子所需平衡配重的力不平衡矢量和力偶不平衡矢量；将步骤五中配重的力不平衡矢量和力偶不平衡矢量进行合成，即得到所需的平衡配重。本发明提高了动平衡效果。