Chào bạn!
1. Dưới góc độ pháp lý: Theo quy định của pháp luật thì quan hệ hôn nhân chỉ được xác lập khi nam nữ chung sống có đăng ký kết hôn (trừ trường hợp chung sống như vợ chồng trước ngày 03/01/1987). Theo thông tin bạn nêu thì hai người đó làm đám cưới, chung sống với nhau, có con chung nhưng không đăng ký kết hôn nên pháp luật không công nhận là vợ chồng. Nếu một trong hai bên có quan hệ nam nữ tự nguyện với người khác cũng không vi phạm pháp luật. Vì vậy, hành vi của bạn sẽ không bị xử lý hành chính hay hình sự gì cả.
2. Dưới góc độ đạo đức: Việc đã chung sống như vợ chồng, có con chung với nhau mà lại quan hệ với người thứ ba là quan hệ "bất chính" và không được sự ủng hộ của dư luận xã hội. Vì vậy, cả bạn và người phụ nữ trên đều nên dừng lại quan hệ nam nữ đó cho đến khi việc hôn nhân giữa hai người đó được giải quyết dứt điểm.