单位不开离职证明是违法的，可以直接向劳动监察大队举报。
《劳动合同法》规定：
第八十九条规定，用人单位违反本法规定未向劳动者出具解除或者终止劳动合同的书面证明，由劳动行政部门责令改正；给劳动者造成损害的，应当承担赔偿责任。
第五十条规定，用人单位应当在解除或者终止劳动合同时出具解除或者终止劳动合同的证明，并在十五日内为劳动者办理档案和社会保险关系转移手续。
劳动者应当按照双方约定，办理工作交接。用人单位依照本法有关规定应当向劳动者支付经济补偿的，在办结工作交接时支付。
用人单位对已经解除或者终止的劳动合同的文本，至少保存二年备查。