我和他2001认识谈恋爱到2006春…

我和他2001认识谈恋爱到2006春节办理结婚仪式双方家长及朋友参加了结婚典礼未领取结婚证，后跟他到外地表姐厂里打工并在厂里居住生活，2009年5月份因矛盾我搬出来居住至今，但我出来居住并为要和他解除请问我该怎么办？