Mesh-Fit / Rig 現況 · 星月姐妹產線

這頁回答一個問題:「拿已知骨架(買來的 twd 姿勢檔)去產深度控制圖,再把角色 3D mesh 套上去」這條路,通不通? 這是把「拆層綁骨的對位從用猜的,變成查表」的地基實驗(7/2 做的 spike)。

結論:有條件堪用 — 可渲染、可跟真人骨架比對,綁骨(skinning)品質待你目視判

★ 真圖 A/B 測試:native 深度 vs retarget 深度 出圖(user 要求)

深度圖的相似度數字(IoU 0.70)不足以判「能不能用」,所以直接出真圖:同 prompt、同 seed、同 CN 參數(controlnet-union-promax,type=depth,strength 0.72),只換控制深度圖——左=native 原生 obj 深度,右=spike retarget(MakeHuman+手刻綁骨)深度。跑兩個 seed。

native depth
控制圖 A:native 原生 obj 深度
retarget depth
控制圖 B:retarget spike 套皮深度(IoU 0.697)
native gen s1
native → 出圖 · seed 111111
retarget gen s1
retarget → 出圖 · seed 111111
native gen s2
native → 出圖 · seed 222222
retarget gen s2
retarget → 出圖 · seed 222222
我的初步觀察(待 user 定奪):native 深度兩個 seed 都穩定出正確的雙人 doggy 姿勢、解剖乾淨。retarget(spike 套皮)深度較糊,出圖明顯變差——seed 111111 女方身體比例/姿勢歪掉、雙人結構鬆散;seed 222222 更直接崩成臀部特寫、丟失雙人結構。 → 這印證你的判斷「深度對比不夠、要真圖才知道」=現行 spike 套皮做法出的圖確實不太能用,也是把 rig 方向改成「原生骨架+原生 mesh+Blender 自動權重」的動機。Blender 自動權重版的新 retarget 深度出圖會補進本區塊當第三欄對照。
🔧 工程細節(新 rig 做法的綁定機制,可略)

spike 判死的三個捷徑全換掉:骨架用 twd 原生 27 骨mesh 用原生 obj綁骨用 Blender 原生 Automatic Weights。下圖左=綁定完成、右=旋轉骨頭後變形(紅點=被驅動頂點,深度投影)。綁定成功(54 骨 48 在 mesh 內、bone-heat 無失敗)、變形連續不破碎。這只是「機制通了」的工程證據,不是品質證據——品質看下面真圖。

blender auto-weight rig

★★ 閉環真圖:rig 驅動到新姿勢 → 出圖(單組初步,證據不足待矩陣)

拿原生 mesh 綁好骨架後驅動到新姿勢(髖外展+膝彎),渲深度圖再走 depth-CN 出真圖。左=原姿勢,右=rig 驅動的新姿勢。同 prompt、同 seed。

native depth
原姿勢深度(原生 mesh 直接渲)
rig depth
rig 驅動新姿勢深度(自動權重變形後渲,nuniq 256 乾淨漸層)
native gen
原姿勢 → 出圖
rig gen
rig 新姿勢 → 出圖
⚠️ 這只是單組初步觀察,證據不足,結論=「值得上驗證矩陣」,還不能說「能用」:
①單組對照不算驗證(產線鐵則:每個結論單元要 ≥20 張跨姿勢×相機×角色);②基準本身有瑕疵——「原姿勢→出圖」這個基準用的是中性通用 prompt、且部分基準圖有解剖異常,在弱基準上比「rig 比原姿勢好」不成立;③初步只看得出 rig 驅動的深度是乾淨漸層(非二值)、出圖沒有 spike 套皮那種明顯崩壞。
下一步:上驗證矩陣——rig 驅動 5-6 姿勢(含 penetration/solo、prone_bone/spreadgape 這種 twd-only 真需求)× 相機 4 檔 × 角色 professor/wife(用產線真 prompt 鏈非通用 prompt)≈ 40-50 張,另配同鏡位原生 obj 基準組(先自驗解剖乾淨),contact sheet 上 gallery 給你判。
rig 角色邊界:只服務 (a) 沒有 obj 的 twd-only 姿勢深度供給、(b) 主姿勢動畫;有 obj 的姿勢直接渲 obj、不套皮。
0.697
剪影重疊度 (IoU)
套上去的 mesh 輪廓 vs 真骨架輪廓,越接近 1 越貼合
0.933
面積比
兩者剪影大小幾乎一致(0.93)
0.206
深度差 (L1)
前後遠近分佈的差距,越小越像
126 / 0
矩陣渲染 成功 / 失敗
7 體位 × 3 mesh × 相機,零崩壞
白話說明:骨架能穩定地被解析、角色 mesh 能套上去、能渲成深度圖跟真人 3D 骨架並排比對——這條技術鏈是通的(126 格渲染零失敗)。 唯一還沒過關的是「自動綁骨」的形狀貼合度:目前用的是啟發式(heuristic)快速綁骨,剪影對得上(IoU 0.70)但不是完美吻合,細節形變還要你看圖判「夠不夠用」。 這決定了任務 C 的 rig 動畫(乳搖/臀搖循環)能做到多好——所以先請你看下面的圖。
⚠️ 以下 spike 做法已於 2026-07-08 由 user 判死,正在重做
判死的做法=MakeHuman 外來 mesh + 從 bbox 發明的 27 骨 rest skeleton + 手刻 nearest-5 段 LBS 綁骨(三個捷徑疊加,品質天花板注定低)。
重做方向(見上方「★ 新 rig 做法」區塊)=原生 twd 骨架 + 原生 mesh + Blender 原生 Automatic Weights。下面這兩節(核心證據/七體位矩陣)保留當對照 baseline,不是現行方案。

1. 核心證據(⚠️ 舊 spike 做法,已判死,僅供對照):套上去的 mesh vs 真人骨架(深度圖並排)

左=真人 3D 骨架原生渲染;右=我們把角色 mesh retarget 到「同一個已知骨架」後渲染。兩者越像,代表「用已知骨架控制出圖」越可靠。

compare depth
並排對比圖 · 左 native 骨架 / 右 retarget mesh(深度圖)· Silhouette IoU 0.697
native beauty
真人骨架 原生渲染(beauty pass)
retarget beauty
retarget mesh 套用後渲染(beauty pass)

2. 七體位矩陣(每張 = 一個體位的多角度 / 多 mesh 對照)

每張 contact sheet 是同一體位跨相機、跨 mesh(makehuman 通用體 / 角色低模 / 角色高模)的渲染集合。全部 126 格零崩壞;paizurispreadgape 碎裂度最高(自動綁骨在這兩個體位最吃力)。

3. Rig PoC:乳搖循環(單張生成圖 → 動畫,零 GPU)

這段回答商業問題:「一次設定、無限循環的局部動作(乳搖/臀搖),能不能不靠昂貴的影片生成做出來?」 下方循環動畫是拿一張 CN 對齊的生成圖(沒有再跑任何 GPU / 影片模型),對胸部區域做物理式位移變形烘出來的——單張圖變會動。

乳搖循環 · 36 幀無縫 loop · 來源=單張靜圖 · 零 GPU(純前端可跑)· 若沒自動播放請點一下
為什麼這條路重要:影片生成(Wan 等)每個動作都要燒 GPU、每支幾秒鐘的成本;而這種局部循環動作(乳搖、臀搖、呼吸、handjob 抽動)一次設定就能無限循環播放、成本趨近於零(可搬到前端瀏覽器跑,伺服器不出力)。 量化驗證:位移精準局限在胸部區域(胸部像素位移量是臉/背景的 378 倍,臉和背景幾乎零位移),沒有全圖亂飄或撕裂。

誠實定位:依 rig 架構,動畫分三層——① 次級抖動(乳搖/jiggle/呼吸,本 PoC 這層,不需骨架、純變形物理)② 主姿勢動作(扭腰擺臀,需骨架 LBS)③ 全新姿勢(才需 GPU 生新關鍵幀)。 本 PoC 打通的是第一層——它剛好繞開了上面 mesh-fit spike 卡住的「自動綁骨(skinning)品質」問題(那是第二層的事)。所以:乳搖/臀搖這類局部循環,現在就可行;扭腰擺臀那種主姿勢動作,還卡在綁骨品質待解。
方法:用既有 parse_twd.py --fk 解析買來的 DesignDoll twd 骨架 → 拿 MakeHuman female_generic(CC0 授權)當人形 mesh → 從 bbox 建 27 骨 rest skeleton → 每頂點綁最近 5 段骨 → 對每個 twd 骨架做 segment-rotation LBS 變形 → 正規化到共用 bbox 後同相機渲染比對。
建議下一步(spike 作者原話):先別擴到全 1,520 個。先把「啟發式 rest skeleton」換成真 rest-pose 標定 / 匯入 MakeHuman rig 權重,再挑 3–5 對重跑。本 spike 證明了「渲染 / 深度比對」鏈已接通,但形狀貼合度仍取決於你的目視判定。
素材:_pap_topo_20260702/mf-retarget/artifacts/(mf_spike + mf_matrix)· 測定日 2026-07-02