如果没有领取结婚证明书，出生的孩子就由男女抚养。

协商不成，到法院起诉，变更抚养权，让女方支付抚养费 中华人民共和国婚姻法 　第三十六条 父母与子女间的关系，不因父母离婚而消除。离婚后，子女无论由父或母直接抚养，仍是父母双方的子女。
　　离婚后，父母对于子女仍有抚养和教育的权利和义务。 　　离婚后，哺乳期内的子女，以随哺乳的母亲抚养为原则。哺乳期后的子女，如双方因抚养问题发生争执不能达成协议时，由人民法院根据子女的权益和双方的具体情况判决。
　　第三十七条 离婚后，一方抚养的子女，另一方应负担必要的生活费和教育费的一部或全部，负担费用的多少和期限的长短，由双方协议；协议不成时，由人民法院判决。 　　关于子女生活费和教育费的协议或判决，不妨碍子女在必要时向父母任何一方提出超过协议或判决原定数额的合理要求。

协议离婚无须到领结婚证的地方办理：

一、当事人自愿离婚，必须双方亲自到一方户口所在地的婚姻登记管理机关申请离婚登记。当事人从取得离婚证起，解除夫妻关系。

二、当事人申请离婚登记时，应当向婚姻登记管理机关提供下列证件和证明：

1、双方户口证明；

2、双方居民身份证；

3、所在单位、村（居）民委员会出具的介绍信；

4、结婚证或者夫妻关系证明书；

5、当事人一寸免冠近照各二张；

6、离婚协议书。协议书应当写明双方当事人的离婚意思，表示子女抚养教育、夫妻一方生活困难的经济帮助、财产及债务等作出妥善安排的，协议内容应有利于保护妇女和未成年子女的合法权益。
三、婚姻登记机关对当事人离婚申请进行审查，对符合离婚条件的在一个月内发给离婚证，并注销结婚证，当事人取得离婚证，即解除夫妻关系。
四、离婚的当事人一方不按照离婚协议履行应尽义务的，另一方可以向人民法院提起民事诉讼。
五、收费标准：工本费20元。

不满2周岁的孩子属于婴儿，从有利于婴儿的健康成长出发，以随哺乳的母亲直接抚养为原则。因此，如果你愿意抚养孩子的话，你是可以争取到孩子的抚养权的。但若你有下列情形的话，孩子可以由其父亲直接抚养：
1、患有久治不愈的传染性疾病或其他严重疾病，孩子不宜与你共同生活的；
2、你有抚养条件而不尽抚养义务的；
3、其他原因：如染有吸毒、赌博等恶习；
4、你与孩子父亲协商后，你同意孩子由孩子父亲直接抚养的。