您好，我现在有两个孩子，但没有办结婚证，能不能一起带回女方这边？

你好，建议协商解决

没有结婚证的话双方不存在法律上的夫妻关系，而是属于同居关系，直接解除同居关系就可以了。孩子抚养权问题双方可以协商解决，协商不成的可起诉处理。法律依据：《中华人民共和国民法典》
第一千零五十四条 无效的或者被撤销的婚姻自始没有法律约束力，当事人不具有夫妻的权利和义务。
同居期间所得的财产，由当事人协议处理；协议不成的，由人民法院根据照顾无过错方的原则判决。对重婚导致的无效婚姻的财产处理，不得侵害合法婚姻当事人的财产权益。当事人所生的子女，适用本法关于父母子女的规定。
婚姻无效或者被撤销的，无过错方有权请求损害赔偿。
第一千零七十六条 夫妻双方自愿离婚的，应当签订书面离婚协议，并亲自到婚姻登记机关申请离婚登记。
离婚协议应当载明双方自愿离婚的意思表示和对子女抚养、财产以及债务处理等事项协商一致的意见。
第一千零七十九条 夫妻一方要求离婚的，可以由有关组织进行调解或者直接向人民法院提起离婚诉讼。
人民法院审理离婚案件，应当进行调解；如果感情确已破裂，调解无效的，应当准予离婚。
有下列情形之一，调解无效的，应当准予离婚：
（一）重婚或者与他人同居；
（二）实施家庭暴力或者虐待、遗弃家庭成员；
（三）有赌博、吸毒等恶习屡教不改；
（四）因感情不和分居满二年；
（五）其他导致夫妻感情破裂的情形。
一方被宣告失踪，另一方提起离婚诉讼的，应当准予离婚。
经人民法院判决不准离婚后，双方又分居满一年，一方再次提起离婚诉讼的，应当准予离婚。