#!/usr/bin/env python3 # -*- coding: utf-8 -*- """ Split estratificado por GRUPO com **val/test só do ORIGINAL** e garantia de NÃO VAZAMENTO entre splits (mesma família não cruza splits). Lê de: MODELO/dataset//group//{images,masks} Escreve em: MODELO/dataset/split//group//{images,masks} Definições: - "Família" = todas as variações da MESMA base original: original_.* e augmented__aug_XX.* - Val/Test: só **original_** (sem augmented) - Train: original_ **e** todos augmented__aug_XX Se não houver prefixos (legado), cai para o comportamento antigo (sem família), mas ainda evita colocar augmented em val/test se detectar sufixo "_aug_XX". Uso: python _7_split_grouped_noleak.py python _7_split_grouped_noleak.py --train 0.7 --val 0.29 --test 0.01 --seed 42 python _7_split_grouped_noleak.py --min-train 1 --min-val 1 --min-test 0 python _7_split_grouped_noleak.py --modelo OAK-1-Lite-W --resolucao 640x384 """ import os import re import json import shutil import random import argparse # ⚙️ Configurações with open("config.json", "r", encoding="utf-8") as f: config = json.load(f) MODELO = config.get("camera") RESOLUCAO = tuple(config.get("resolucao")) # Pastas pasta_origem = os.path.join(MODELO, "dataset", f"{RESOLUCAO[0]}x{RESOLUCAO[1]}", "group") pasta_destino = os.path.join(MODELO, "dataset", "split") IMG_EXTS = (".jpg", ".jpeg", ".png") MSK_EXT = ".png" # máscaras normalizadas em PNG (recomendado) # Regex para identificar famílias RE_ORIGINAL_PREFIX = re.compile(r'^original_(.+)$', re.IGNORECASE) RE_AUGMENTED_FAMILY = re.compile(r'^augmented_(.+?)(?:_aug_\d+)?$', re.IGNORECASE) RE_AUG_SUFFIX = re.compile(r'_aug_\d+$', re.IGNORECASE) def garantir(p): os.makedirs(p, exist_ok=True) def lista_grupos(root): if not os.path.isdir(root): return [] out = [] for g in sorted(os.listdir(root)): gdir = os.path.join(root, g) if not os.path.isdir(gdir): continue if os.path.isdir(os.path.join(gdir, "images")) and os.path.isdir(os.path.join(gdir, "masks")): out.append(g) return out def listar_imagens(img_dir): if not os.path.isdir(img_dir): return [] fs = [] for f in os.listdir(img_dir): ext = os.path.splitext(f.lower())[1] if ext in IMG_EXTS: fs.append(f) return sorted(fs) def mask_from_image_name(img_name): base, _ = os.path.splitext(img_name) return base + MSK_EXT def classify_source_and_family(filename_no_ext): """ Retorna (source, family_key) source ∈ {"original", "augmented", "unknown"} family_key = base associada ao original (sem prefixo/sufixos), ex: "foo_001" """ m = RE_ORIGINAL_PREFIX.match(filename_no_ext) if m: return "original", m.group(1) m = RE_AUGMENTED_FAMILY.match(filename_no_ext) if m: return "augmented", m.group(1) # legado: tenta deduzir se é augmented por sufixo, e família é o próprio nome sem sufixo if RE_AUG_SUFFIX.search(filename_no_ext): fam = RE_AUG_SUFFIX.sub("", filename_no_ext) return "augmented", fam return "unknown", filename_no_ext def build_family_index(img_dir, msk_dir): """ Constroi índice de famílias a partir de img_dir/msk_dir. Retorna: dict family -> {"original": str|None, "augmented": [str], "all": [str]} (strings são NOMES DE ARQUIVO, não paths completos; assumem que a máscara existe) """ familias = {} imgs = listar_imagens(img_dir) for img_name in imgs: base_no_ext, ext = os.path.splitext(img_name) mask_name = mask_from_image_name(img_name) if not os.path.exists(os.path.join(msk_dir, mask_name)): continue # garante pareamento source, fam = classify_source_and_family(base_no_ext) d = familias.setdefault(fam, {"original": None, "augmented": [], "all": []}) d["all"].append(img_name) if source == "original": d["original"] = img_name elif source == "augmented": d["augmented"].append(img_name) else: # trata como original desconhecido para não perder dado if d["original"] is None: d["original"] = img_name else: d["augmented"].append(img_name) return familias def allocate_counts(n, p_train, p_val, p_test, min_train, min_val, min_test): n_train = int(round(n * p_train)) n_val = int(round(n * p_val)) n_test = n - n_train - n_val if n_test < 0: excesso = -n_test take_train = min(excesso, max(0, n_train)) n_train -= take_train excesso -= take_train if excesso > 0: take_val = min(excesso, max(0, n_val)) n_val -= take_val excesso -= take_val n_test = 0 min_sum = min_train + min_val + min_test if n >= min_sum: n_train = max(n_train, min_train) n_val = max(n_val, min_val) n_test = max(n_test, min_test) total = n_train + n_val + n_test while total > n: if n_test > min_test: n_test -= 1 elif n_val > min_val: n_val -= 1 elif n_train > min_train: n_train -= 1 else: break total = n_train + n_val + n_test while total < n: if n_train - min_train <= n_val - min_val: n_train += 1 else: n_val += 1 total = n_train + n_val + n_test else: n_train = min(n, max(1, min_train)) resto = n - n_train n_val = max(0, min(resto, min_val)) n_test = max(0, resto - n_val) # ajuste final diff = n - (n_train + n_val + n_test) if diff != 0: if diff > 0: # adiciona em train, depois val take = min(diff, n - n_train) n_train += take diff -= take if diff > 0: n_val += diff else: diff = -diff # tira de test, depois val take = min(diff, n_test) n_test -= take diff -= take if diff > 0: n_val -= diff return n_train, n_val, n_test def copiar(nomes, src_img_dir, src_msk_dir, dst_img_dir, dst_msk_dir): garantir(dst_img_dir); garantir(dst_msk_dir) moved = 0 for nome in nomes: mask_name = mask_from_image_name(nome) src_img = os.path.join(src_img_dir, nome) src_msk = os.path.join(src_msk_dir, mask_name) if not (os.path.exists(src_img) and os.path.exists(src_msk)): continue shutil.copy2(src_img, os.path.join(dst_img_dir, nome)) shutil.copy2(src_msk, os.path.join(dst_msk_dir, mask_name)) moved += 1 return moved def split_group(group_name, p_train, p_val, p_test, seed, mins, caps_map=None): src_img_dir = os.path.join(pasta_origem, group_name, "images") src_msk_dir = os.path.join(pasta_origem, group_name, "masks") familias = build_family_index(src_img_dir, src_msk_dir) # apenas famílias que têm ORIGINAL para participar de val/test familias_originais = [fam for fam, d in familias.items() if d["original"] is not None] total_familias = len(familias_originais) if total_familias == 0: print(f"[{group_name}] 0 famílias com original, pulando.") return {"train": 0, "val": 0, "test": 0, "familias": 0} rng = random.Random(seed) rng.shuffle(familias_originais) n_tr, n_va, n_te = allocate_counts( total_familias, p_train, p_val, p_test, mins["train"], mins["val"], mins["test"] ) fam_train = set(familias_originais[:n_tr]) fam_val = set(familias_originais[n_tr:n_tr+n_va]) fam_test = set(familias_originais[n_tr+n_va: n_tr+n_va+n_te]) # --- CAP por grupo (apenas no TRAIN) --- if caps_map and group_name in caps_map: cap = caps_map[group_name] if len(fam_train) > cap: fam_list = list(fam_train) rng.shuffle(fam_list) # usa o rng já criado com seed kept = set(fam_list[:cap]) dropped = set(fam_list[cap:]) fam_train = kept print(f"[{group_name}] cap-train-families={cap} → mantidas {len(kept)} famílias, descartadas {len(dropped)} do TRAIN") # listas de nomes por split (imagens) nomes_train, nomes_val, nomes_test = [], [], [] for fam, d in familias.items(): if fam in fam_train: # train recebe original + todos augmented if d["original"]: nomes_train.append(d["original"]) if d["augmented"]: nomes_train.extend(d["augmented"]) elif fam in fam_val: # val recebe somente original if d["original"]: nomes_val.append(d["original"]) elif fam in fam_test: # test recebe somente original if d["original"]: nomes_test.append(d["original"]) else: # famílias sem original (não devem cair aqui) ficam fora pass # dest dirs dest_train_img = os.path.join(pasta_destino, "train", "group", group_name, "images") dest_train_msk = os.path.join(pasta_destino, "train", "group", group_name, "masks") dest_val_img = os.path.join(pasta_destino, "val", "group", group_name, "images") dest_val_msk = os.path.join(pasta_destino, "val", "group", group_name, "masks") dest_test_img = os.path.join(pasta_destino, "test", "group", group_name, "images") dest_test_msk = os.path.join(pasta_destino, "test", "group", group_name, "masks") m_train = copiar(nomes_train, src_img_dir, src_msk_dir, dest_train_img, dest_train_msk) m_val = copiar(nomes_val, src_img_dir, src_msk_dir, dest_val_img, dest_val_msk) m_test = copiar(nomes_test, src_img_dir, src_msk_dir, dest_test_img, dest_test_msk) print(f"[{group_name}] famílias={total_familias} → train(imgs)={m_train}, val(imgs)={m_val}, test(imgs)={m_test}") return {"train": m_train, "val": m_val, "test": m_test, "familias": total_familias} def main(): ap = argparse.ArgumentParser(description="Split estratificado por grupo SEM vazamento (val/test só original).") ap.add_argument("--train", type=float, default=0.70, help="Proporção de treino (default=0.70).") ap.add_argument("--val", type=float, default=0.29, help="Proporção de validação (default=0.29).") ap.add_argument("--test", type=float, default=0.01, help="Proporção de teste (default=0.01).") ap.add_argument("--seed", type=int, default=42, help="Seed do embaralhamento (default=42).") ap.add_argument("--min-train", type=int, default=1, help="Mínimo de FAMÍLIAS por grupo em train (default=1).") ap.add_argument("--min-val", type=int, default=1, help="Mínimo de FAMÍLIAS por grupo em val (default=1).") ap.add_argument("--min-test", type=int, default=0, help="Mínimo de FAMÍLIAS por grupo em test (default=0).") ap.add_argument("--modelo", type=str, default=None, help="Sobrescreve MODELO do config.json.") ap.add_argument("--resolucao", type=str, default=None, help="Sobrescreve resolução no formato WxH (ex: 640x480).") ap.add_argument("--cap-train-families", type=str, default="", help="Mapa 'grupo:cap,...' p/ limitar número de FAMÍLIAS no TRAIN. Ex.: 'chao:350'") args = ap.parse_args() modelo = args.modelo or MODELO if args.resolucao: try: w, h = args.resolucao.lower().split("x") resolucao = (int(w), int(h)) except Exception: resolucao = RESOLUCAO else: resolucao = RESOLUCAO def parse_cap_map(s): caps = {} if not s: return caps for item in s.split(","): k,v = item.strip().split(":") caps[k.strip()] = int(v) return caps caps_map = parse_cap_map(args.cap_train_families) global pasta_origem, pasta_destino pasta_origem = os.path.join(modelo, "dataset", f"{resolucao[0]}x{resolucao[1]}", "group") pasta_destino = os.path.join(modelo, "dataset", "split") soma = args.train + args.val + args.test if soma <= 0: raise ValueError("Soma de proporções deve ser > 0.") p_train = args.train / soma p_val = args.val / soma p_test = args.test / soma mins = {"train": max(0, args.min_train), "val": max(0, args.min_val), "test": max(0, args.min_test)} garantir(pasta_destino) grupos = lista_grupos(pasta_origem) if not grupos: print(f"[WARN] Nenhum grupo encontrado em: {pasta_origem}") return random.seed(args.seed) total_global = {"train":0, "val":0, "test":0, "familias":0} print(f"Grupos: {', '.join(grupos)}") print(f"Proporções normalizadas: train={p_train:.3f}, val={p_val:.3f}, test={p_test:.3f}") print(f"Mínimos por grupo (famílias): train={mins['train']} val={mins['val']} test={mins['test']}") for g in grupos: res = split_group(g, p_train, p_val, p_test, args.seed, mins, caps_map=caps_map) for k in total_global.keys(): total_global[k] += res.get(k, 0) print("\nResumo global (imagens copiadas):") print(f" train: {total_global['train']}") print(f" val: {total_global['val']}") print(f" test: {total_global['test']}") print(f" famílias (total): {total_global['familias']}") print("\n✅ Split sem vazamento concluído!") if __name__ == "__main__": main()