根据《劳动合同法》的规定，只有在两种情形下，用人单位可以约定由劳动者承担违约金：
一是在培训服务期约定中约定违约金。用人单位为劳动者提供专项培训费用，对其进行专业技术培训的，可以与该劳动者订立协议，约定服务期。劳动者违反服务期约定的，应当按照约定向用人单位支付违约金。
二是在竞业限制约定中约定违约金。对负有保密义务的劳动者，用人单位可以在劳动合同或者保密协议中与劳动者约定竞业限制条款，并约定在解除或者终止劳动合同后，在竞业限制期限内按月给予劳动者经济补偿。劳动者违反竞业限制约定的，应当按照约定向用人单位支付违约金。
因此，如果劳动者解除劳动合时不存在上述两种情形的，无需支付违约金。
《中华人民共和国劳动合同法》第二十二条
劳动者违反服务期约定的，应当按照约定向用人单位支付违约金。违约金的数额不得超过用人单位提供的培训费用。用人单位要求劳动者支付的违约金不得超过服务期尚未履行部分所应分摊的培训费用。
《中华人民共和国劳动合同法》第二十三条
劳动者违反竞业限制约定的，应当按照约定向用人单位支付违约金。
《中华人民共和国劳动合同法》第二十五条
除本法第二十二条和第二十三条规定的情形外，用人单位不得与劳动者约定由劳动者承担违约金。
