115 lines
7.2 KiB
Python
115 lines
7.2 KiB
Python
"""
|
||
model_core/config.py — 模型层配置
|
||
|
||
仅保留模型训练所需的参数。
|
||
品种、数据、风控等全局配置统一由根目录 config.py 的 Config 类管理。
|
||
"""
|
||
import math
|
||
|
||
import torch
|
||
from .vocab import FORMULA_VOCAB
|
||
|
||
|
||
class ModelConfig:
|
||
# ── 训练设备 ─────────────────────────────────────────────────────────
|
||
# 注意：本任务 CPU 训练速度反而比 GPU 快（实测约 2.3 倍），故强制用 CPU。
|
||
# 原因：
|
||
# 1. 张量太小——forex 组仅 (2 品种 × 3508 × 20 特征)，单个算子的
|
||
# 计算量小于 CUDA kernel 启动开销（数十微秒），GPU 算得快但启动慢。
|
||
# 2. 训练循环是 Python 串行调度：每 step 逐条跑 128 条公式 × 8 个
|
||
# VM 步 × 4 个 walk-forward 折，GPU 被切成上万个碎片段，吃不满。
|
||
# 3. host↔device 拷贝 + kernel 启动延迟主导总耗时，而非张量计算本身。
|
||
# 4. 实测 GPU 利用率 ~51%，正是 GPU 一半时间在干等 Python 喂下一个
|
||
# kernel 的证据（不是“还能压榨”，而是“调度瓶颈”）。
|
||
# 基准测试（forex 组, 50 步, RTX 4060, 2026-07-03）：
|
||
# cuda: 4.48 s/步 Best=4.875
|
||
# cpu : 1.91 s/步 Best=5.103
|
||
# 加速比 = 0.43x（GPU 反而慢 2.3 倍）
|
||
# 若后续改为批量并行公式评估（一次喂大批张量进 GPU），再切回 cuda。
|
||
DEVICE = torch.device("cpu")
|
||
|
||
# ── 训练参数（大搜索空间适配版，2026-07-04 重构）─────────────────────
|
||
# 背景：特征库扩展到 65、算子库扩展到 66（vocab=131），8-token 搜索空间
|
||
# 从旧版 ~7亿 暴增到 ~8.67×10^16（1.2 亿倍）。旧的采样预算（128×3000）
|
||
# 覆盖率趋近于零，导致熵坍塌 Early Stop、公式退化。
|
||
# 对策（训练时间不敏感场景）：
|
||
# 1. 特征剪枝（active_features.json）把 vocab 降到 ~90，空间缩小约 20 倍
|
||
# 2. 放大采样预算：BATCH_SIZE 128→256，TRAIN_STEPS 3000→8000
|
||
# 3. 更大精英池（60）保留更多历史最优
|
||
BATCH_SIZE = 192 # 每步采样公式数（原 128，1.5x 提升覆盖率）
|
||
TRAIN_STEPS = 5000 # 每组训练步数（原 3000）
|
||
MAX_FORMULA_LEN = 8 # 公式长度上限：保持 8（10 会导致 CPU 训练慢 3 倍）
|
||
|
||
# ── 特征维度（由 vocab.py 自动派生，无需手动修改）──────────────────
|
||
INPUT_DIM: int = FORMULA_VOCAB.feature_count # == 10
|
||
|
||
# ── Reward：Sortino 为主，IC 做门控 ──────────────────────────────────
|
||
# IC_NEG_MULT 0.30→0.50：0.30 对反向因子惩罚过重，可能误杀非线性高收益因子。
|
||
# 收益优先模式下，只要年化收益是正的，适当负 IC 可以接受。
|
||
REWARD_ALPHA: float = 1.0
|
||
IC_GATE_THRESH: float = 0.01
|
||
IC_GATE_MULT: float = 1.15
|
||
IC_NEG_MULT: float = 0.75 # 收益优先：不过度误杀反向/非线性高收益因子
|
||
|
||
# ── FTMO 专属奖励模式 ─────────────────────────────────────────────
|
||
# "standard": 收益+风险平衡（默认，原权重）
|
||
# "ftmo": FTMO 考试盘专属——年化收益权重 0.60→0.75，Calmar 0.05→0.10
|
||
# （控制 MDD 贴近 10% Max Loss 上限），其余指标权重下调。
|
||
# 目标：在 10% Max Loss 约束下最大化年化收益，快速达标。
|
||
REWARD_MODE: str = "ftmo"
|
||
|
||
# ── 熵保护（大空间加强版）──────────────────────────────────────────
|
||
# ENTROPY_COEFF_MAX 0.5→1.0：加倍探索压力，对抗大 vocab 的过早收敛。
|
||
# ENTROPY_COLLAPSE_THRESH 改为相对阈值 0.15×ln(vocab)：大 vocab 最大熵更高
|
||
# （ln(131)≈4.87 vs ln(54)≈3.99），绝对阈值 0.5 不再合理。
|
||
# ENTROPY_COLLAPSE_STEPS 15→40：给模型更长的自我恢复窗口，不急于重启。
|
||
ENTROPY_COEFF_MAX: float = 1.0
|
||
ENTROPY_COEFF_POWER: float = 1.3
|
||
ENTROPY_COLLAPSE_THRESH: float = 0.15 * math.log(FORMULA_VOCAB.size)
|
||
ENTROPY_COLLAPSE_STEPS: int = 40
|
||
|
||
# ── Elite Replay ──────────────────────────────────────────────────
|
||
ELITE_REPLAY_FRAC: float = 0.25
|
||
ELITE_POOL_SIZE: int = 60 # 30→60：大空间需要更大的精英记忆
|
||
ELITE_REWARD_SCALE: float = 1.2
|
||
|
||
# ── 坍塌重启（大空间加强版）─────────────────────────────────────────
|
||
# MAX_RESTARTS 8→25、RESTART_NOISE 0.05→0.1：时间不敏感，多给机会+更强扰动。
|
||
# 配合 engine.py：超过 MAX_RESTARTS 后不再 Early Stop，改为强扰动继续训练。
|
||
MAX_RESTARTS: int = 25
|
||
RESTART_NOISE: float = 0.1
|
||
|
||
# ── 自适应噪声：Best 停滞时自动增大扰动 ─────────────────────────────
|
||
# stagnation_window: 判断停滞的步数窗口
|
||
# noise_min / noise_max: 噪声下界和上界
|
||
# noise_boost: 停滞时噪声提升倍率
|
||
ADAPTIVE_NOISE: bool = True
|
||
STAGNATION_WINDOW: int = 500
|
||
NOISE_MIN: float = 0.05
|
||
NOISE_MAX: float = 0.40
|
||
NOISE_BOOST_FACTOR: float = 1.0 # noise += 0.1 * (stagnation / window)
|
||
|
||
# ── 重启时部分重置参数：保留底层，扰动顶层 ───────────────────────────
|
||
PARTIAL_RESET: bool = True
|
||
PARTIAL_RESET_LAYERS: tuple = ("ln_f", "mtp_head", "head_critic")
|
||
|
||
# ── Elite Replay 衰减：旧 elite 采样权重随时间衰减 ──────────────────
|
||
ELITE_DECAY: bool = True
|
||
ELITE_DECAY_HALF_LIFE: int = 1000 # 每 1000 步旧 elite 权重减半
|
||
|
||
# ── 多起点并行（Island）──────────────────────────────────────────────
|
||
# 注意：Island 模式在 CPU 训练下会让总时间变成 N 倍（islands 串行），
|
||
# 对于 index 这类大数组（T=32076）会变得极慢。当前默认关闭，保留配置开关。
|
||
N_ISLANDS: int = 1
|
||
MIGRATION_INTERVAL: int = 500
|
||
MIGRATION_TOP_K: int = 5
|
||
# island 默认关闭，避免用户误开导致速度爆炸
|
||
|
||
# ── 因子去相关参数 ────────────────────────────────────────────────
|
||
FACTOR_TOP_K: int = 25
|
||
CORR_THRESHOLD: float = 0.85
|
||
CORR_PENALTY: float = 0.8
|
||
|
||
# ── Walk-Forward Gap ───────────────────────────────────────────────
|
||
WF_GAP: int = 20
|