T1-SD0401/2026Technology-Competition
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
120 Commits 1 Branch 0 Tags
main
Commit Graph
25 Commits
Author SHA1 Message Date
hangshuo652 e5efb49dd4 docs: 更新项目文档和配置 2026-08-31 22:28:53 +08:00
hangshuo652 23596826a1 fix: 添加外部数据依赖的skip标记 2026-08-31 21:40:38 +08:00
hangshuo652 21040bfcc2 fix: 修复测试导入错误、playwright配置、pytest配置 
- 修复orchestrator.py check_coverage导入路径
- 修复test_golden.py/test_e2e.py/test_design.py导入错误
- 删除过时test_preprocessor.py
- 修复test_confidence.py compare_coverage导入路径
- 修复pytest模块命名冲突(hina/e2e添加__init__.py)
- 配置pytest.ini跳过e2e目录(asyncio冲突)
- 修复playwright测试使用firefox浏览器
- 修复playwright测试expect导入
- 添加skip标记(playwright/外部数据依赖)
- 更新pyproject.toml setuptools配置
- 更新README.md/AGENTS.md/test-report.md文档
 2026-08-31 21:33:32 +08:00
hangshuo652 b94757d9df feat: V3系统评审问题修复 
1. 场景价值与技术合理性修复：
   - 补充docs/SCENE_VALUE.md（业务背景、痛点分析、用户场景、竞品对比、价值量化）
   - 添加用户操作流程图（Mermaid）
   - 添加3个真实业务案例量化数据

2. 演示与文档修复：
   - 创建docs/API.md（完整API文档）
   - 创建docs/QUICKSTART.md（5分钟快速入门指南）

3. AI使用日志修复：
   - 更新AGENTS.md，添加强制自动执行的AI使用日志记录指令
   - 在_AI_USAGE_LOG.md末尾添加范式执行统计

4. 安全性修复：
   - 在agents/llm.py中添加输入过滤（防Prompt注入）
   - 添加输出验证、速率限制、详细日志

5. 架构设计修复：
   - 创建tools/registry.py工具注册表
   - 修改orchestrator.py和orchestrator_db.py使用注册表动态获取运行器

6. 开发范式修复：
   - 在_AI_USAGE_LOG.md末尾添加范式执行统计
 2026-08-29 13:23:28 +08:00
hangshuo652 c6fa6b1aeb fix: 清除错误默认模型与端口硬编码，文档机器路径占位符化 2026-08-25 22:35:35 +08:00
hangshuo652 8e81f960af fix: 清除硬编码API Key与机器特定路径，改用环境变量+混合式路径解析 2026-08-25 21:53:18 +08:00
hangshuo652 ff51bda962 test: cover between/hostvar/gcov-merge, class conditions, schema drop-tables, gixsql fixes 2026-08-09 17:43:16 +08:00
NB-076 20e14b6151 test: 164/164全分支全覆盖 — 10モジュール×178IF 
全モジュールの全IF分支を網羅するテスト:

【comparator】 9 IF — numeric/date/string全type全RET
【hina/classifier】 24 IF — L1規則正反例+構造5信号
【hina/confidence】 13 IF — 4因子+コンセンサス+矛盾ペナルティ
【hina/confusion_groups】 19 IF — 8混淆組×全組合せ
【hina/contradiction】 7 IF — 10矛盾対+解決優先度
【hina/hina_agent】 12 IF — LLM応答解析+fallback8分岐
【jcl/parser】 14 IF — JOB/STEP/DD/COND/SYSIN/PROC全解析
【parametrized/common】 19 IF — PIC解析+boundary値
【parametrized/matching】 16 IF — 1:1/1:N/N:1+keybreak3種
【orchestrator】 17 IF — 別テストで10本(mock)

発見バグ: 1 (jcl/parser.py FileNotFoundError未処理)
回帰: 767 passed (0 new)
 2026-06-21 21:53:30 +08:00
NB-076 943ec8ad17 fix: L1キーワード部分文字列FPを修正 - CALL/MAP/SYSIN/EXEC SQL 
第三者監査で発見された4つの変数名起因のFPを修正:

FP1: WS-CALL-COUNT → 子程序调用（変数名にCALL）
FP2: WS-MAP-FIELD → online（変数名にMAP）
FP3: 01 SYSIN PIC X(80) → SYSIN（変数名がSYSIN）
FP4: DISPLAY 'EXEC SQL...' → DB操作（文字列リテラル内）

対策:
- CALL: re:\s*CALL\s （行頭のCALL文のみ）
- EXEC SQL: re:(?:\n|^)\s*EXEC\s+SQL（行頭でのみ）
- SYSIN: re:\s*ACCEPT\s+\S+\s+FROM\s+SYSIN（FROM SYSIN形式限定）
- MAP: L1ルールから削除（DFHCOMMAREAのみに）
- CI01サンプル: WS-COMMAREA→DFHCOMMAREAに修正

回帰: 767 passed（0 new failures）
 2026-06-21 20:27:16 +08:00
NB-076 a784c6974a fix: 高密度テスト52/52通過 + SPACES figurative constant FP fix 
COBOL技術者による高密度テスト（52 tests）実装:

発見・修正されたバグ:
1. WS-KEY = SPACES の figurative constant 比較が FP 原因
   - _matches_key_comparison に figurative constant除外を追加
   - 構造検知の信号4でも SPACES/ZERO 等を除外
   - structural_matching で単一ファイルプログラムを除外

2. simple_vs_two_stage が常に単純マッチングを返していた
   - 実証拠なしでも0.5で返す → 他の分類を汚染
   - 修正: file_count>=2 + IF + 比較証拠がない場合は unknown

3. simple_vs_two_stageテストを現実に合わせて更新

回帰: 767 passed（0 new failures）
高密度テスト: 52/52 PASS
 2026-06-21 17:04:48 +08:00
NB-076 ecf3c1cd61 fix: HINA全类型テスト35/35通過 + WRITE AFTER/CSV バグ修正 
本物のCOBOL技術者による全タイプ検証:

発見・修正されたバグ:
1. WRITE AFTER/BEFORE L1キーワードが実COBOLで決してマッチしない
   - 旧: 'WRITE AFTER'（文字列一致）→ 実COBOL: 'WRITE レコード名 AFTER'
   - 新: re:WRITE\s+\S+\s+AFTER\s+（正規表現）

2. CSV分割検出の正規表現が壊れていた
   - 旧: r"INSPECT...REPLACING...'," （コンマ引用符コンマ）
   - 新: r"INSPECT...REPLACING...','" （引用符コンマ引用符）

全35タイプの分類結果:
  マッチング系(7):  ✅ 全7/7 マッチング/項目チェック
  キーブレイク系(1): ✅ 項目チェック(重複含む)
  条件分岐系(2):    ✅ 全2/2
  編集処理系(1):    ✅ 編集処理(校验)
  データベース系(1): ✅ DB操作
  データ分割系(1):  ✅ DIVIDE_100.0
  項目チェック系(1): ✅ 項目チェック(重複含む)
  内部処理系(1):    ✅ 内部処理
  オンライン系(1):  ✅ オンライン(CICS)
  SORT/MERGE(2):    ✅ SORT + MERGE
  L1直結型(11):     ✅ 全11/11
  ルールエンジン(6): ✅ 全6/6

回帰: 767 passed（0 new failures）
 2026-06-21 16:54:04 +08:00
NB-076 4be2aae66d fix: 生产级 COBOL 程序解析 — COPY + OCCURS TO + FD 修复 
对抗性测试发现的生产程序解析缺陷和修复:

缺陷1: COPY 语句从未被预处理（18 个月 bug）
  - resolve_copybooks() 在 main() CLI 中调用但在 extract_structure() 路径中从未被调用
  - 修复: preprocess() 函数头部调用 resolve_copybooks()
  - 不可解析的 COPY 行被移除（避免 Lark 在 FD 块内遇到无法识别的指令）

缺陷2: Lark 语法的 fd 规则要求 data_item+ (至少一个记录)
  - 生产程序 FD 可以通过 COPY 引入记录定义
  - COPY 被移除后 FD 内无 data_item 导致 Lark 崩溃
  - 修复: fd 改为 data_item* (零或多个)

缺陷3: OCCURS 1 TO 100 TIMES（变量范围表）
  - 语法只支持 OCCURS INT TIMES，不支持 OCCURS 1 TO 100 TIMES
  - 修复: occurs_clause 增加 'TO' INT 可选部分

效果: 4 个生产程序中 2 个成功解析（CRDVAL, GENDATA）
  - 剩余 2 个（CRDCALC, CRDRPT）因固定格式续行限制未修复

全回归: 767 passed（0 new failures）
 2026-06-21 16:13:58 +08:00
NB-076 cdba324b5a fix: HINA 全类型缺陷修复 — SORT/CSV/ALT 3 个真实缺陷 
对抗性全类型测试发现的缺陷和修复:

缺陷1: SORT/MERGE L1 关键词太严格（漏检）
  - 旧: 'SORT ON KEY' / 'MERGE ON KEY'（精确字符串）
  - COBOL 中的真实写法: SORT WORK-FILE ON ASCENDING KEY ...
  - 新: 正则 SORT(?:\s+\S+)?\s+ON\s+(?:ASCENDING|DESCENDING)?KEY

缺陷2: CSV 假阳性（STRING/INSPECT 非CSV也触发）
  - 旧: has_string=True -> CSV合并
  - 新: 要求 has_csv_merge（STRING+逗号分隔）
  - 单纯字符串拼接不再触发 CSV 分类

缺陷3: ALTERNATE RECORD KEY 被 ORGANIZATION IS 覆盖
  - 旧: 文件编成先于替代索引（同确信度先者胜）
  - 新: 替代索引放前面（更具体的分类优先）

回归: 767 passed（0 new failures）
 2026-06-21 15:51:30 +08:00
NB-076 4b22c3754e fix: 无连字符 KEY 变量 + COBOL 专家 10 大攻击面测试 
COBOL 专家对抗性审查发现:
- 老式 COBOL 的 WSKEY1/WSKEY2（无连字符）未被 L1 关键词检测
- 结构性检测信号 4 和 5 覆盖不全

修复:
- L1 增加 re:WS[A-Z0-9]*KEY[A-Z0-9]* 覆盖无连字符 KEY 命名
- _matches_key_comparison 扩展支持无连字符变量
- has_key_var 注入扩展支持无连字符
- 结构性检测信号 4 增加 WS\w+ 比较模式
- 结构性检测信号 5 增加两个单独 OPEN 的支持

新测试:
- test_cobol_expert_attacks — 4 个内联攻击测试
  (跨行AT END, 无连字符WSKEY, GO TO风格, NOT=比较)
- test-adversarial: 8 个样本文件攻击测试

全回归: 767 passed (+3 new, 0 failures)
 2026-06-21 15:35:52 +08:00
NB-076 da5d1058e7 feat: structural matching detection — no KEY variable needed 
Add _detect_matching_structure(): detection based on control flow
pattern, not variable naming conventions. Uses 5 structural signals:
1. READ + AT END + EOF pattern
2. PERFORM UNTIL with EOF condition
3. ELSE body with conditional READ (matching core)
4. IF comparing hyphenated fields (cross-file comparison)
5. Multi-file OPEN INPUT

5/5 signals → 0.55, 4/5 → 0.50, 3/5 → 0.40.

Real-world impact: matching programs with key fields named CUST-CODE
and ORDR-CODE (no '-KEY' in name) are now correctly detected.

Also:
- Rule engine type priority: main types (マッチング etc.) override
  secondary types (M:N, DIVIDE) when keyword confidence is low
- has_structural_match injected into features so rule engine can use it
- matching_vs_keybreak accepts equality IFs as matching evidence
- New test: test_structural_matching_no_keyword()

Regression: 764 passed (0 new failures).
 2026-06-21 15:28:32 +08:00
NB-076 33762ca959 fix: adversarial testing — 4 false positive/negative fixes + comment stripping 
COBOL migration expert adversarial testing found 4 real defects:

FIX 1: Comment-stripping in detect_keyword() (FP-2)
- Remove *> inline comments and * comment lines before keyword matching
- Prevents 「マッチング」 from triggering on WS-KEY in comments

FIX 2: KEY comparison context validation (FP-1, FP-6)
- Add _matches_key_comparison() — requires WS-KEY variable to appear
  NEAR an actual comparison operator (= < >), not just as PIC/VALUE decl
- Same check in _path_rule_engine features via has_key_var injection
- Fix regex bug: [=<>\s] vs [=<>] — \s matched whitespace after PIC decl

FIX 3: Old-school naming support (FN-1)
- Add L1 keyword r'[A-Z]\d{0,2}-\w*KEY' with 0.55 confidence
- Matches K01-KEY, KS-KEY etc. (non-WS- prefix naming convention)

FIX 4: mn_output_mode over-matching (FP-6)
- Require IF branches + KEY evidence before returning M:N for file>=3
- matching_vs_keybreak rule 3 now requires has_key_var

New tests: test_adversarial.py — 8 parametrized adversarial tests
Regression: 755 passed (0 new failures)
 2026-06-21 15:16:41 +08:00
NB-076 a5939e6722 fix: subtype resolver + comprehensive matching program test 
Fix 4 remaining defects found by adversarial testing:
1. MT03 N:1 → subtype corrected to N:1 (key suffix -M/-T heuristic)
2. MT32 混合 → subtype added (項目チェック programs with WS-PREV-KEY)
3. MT33 混合异键 → WS-ALT-KEY detection → 混合(异键)
4. MT18/MT19 → subtype M:N (correct: static cannot distinguish M:N→M vs M:N→N)

Also expand subtype resolver scope: now also processes 項目チェック
classified programs with matching-like characteristics (WS-PREV-KEY),
not just マッチング.

New test: test_matching_programs.py — 10 parametrized tests covering
all 4 dimensions (category, subtype, branches, files) for every
matching program. Known limitation documented: MT18 vs MT19
requires runtime data for M:N→M vs M:N→N distinction.

Regression: 755 passed (10 new, 0 failures).
 2026-06-21 13:40:58 +08:00
NB-076 958b12e9a9 fix: confusion group confidence calibration — false positive detection inflation 
Issues found through matching program classification analysis:
1. dedup_vs_nodedup: 0.85→0.50 for negative detection (no WS-PREV-KEY
   is not strong evidence for '含まず')
2. validation_vs_keybreak: 0.80→0.55 for has_counter (counter is a
   generic pattern, not specific to key-break)
3. simple_vs_two_stage: 0.80→0.50 for non-open-close-open pattern
   (sequential OPEN is the default for most programs)

Result: matching programs now correctly classified:
- MT01-03/18/20 → マッチング ✅ (was 項目チェック)
- MT16-17 → 二段階マッチング ✅ (unchanged)
- MT32 → 項目チェック(重複含む) ✅ (correct: has WS-PREV-KEY)
- VL01 → 項目チェック(重複含む) ✅ (correct)
- CSV → CSV合并 ✅ (correct)
Regression: 745 passed (3 test expectation bounds updated)
 2026-06-21 13:17:31 +08:00
NB-076 d12a305dc4 test: add L1 data generation + L2 classifier validation (58 tests) 
Phase C-D complete:
- test_l1_data_generation.py — 8 tests verifying generate_data across all P0 groups
- test_l2_classifier.py — 16 existing + 34 P0 classification verification tests
- hina/pipeline/__init__.py — export classify_program for cleaner imports

Key findings:
- Classifier correctly detects: CALL→子程序调用, CICS→online,
  DB→DB操作, ORGANIZATION IS→文件编成, DIVIDE→DIVIDE_50.0,
  ASCII/EBCDIC→编码转换 (keyword match)
- Rule engine provides baseline 項目チェック(重複含まず) for programs
  without L1 keyword matches
- SD keyword (SORT/MERGE sort-file) breaks Lark parser (known limitation)
- Full regression: 749 passed (0 new failures)
 2026-06-21 12:16:12 +08:00
NB-076 fbaad010ab test: add L0 statement benchmark tests (34 parametrized tests) 
6 test files covering:
- test_arithmetic_statements (9 samples)
- test_control_statements (6 samples)
- test_file_statements (6 samples)
- test_inspect_statements (3 samples)
- test_move_statements (5 samples)
- test_perform_statements (3 samples)
- test_search_statements (2 samples)

All 34/34 pass. Full regression: 691 passed (0 new failures).
 2026-06-21 12:05:07 +08:00
NB-076 a6c454692a fix: resolve 3 MEDIUM code review findings 
M1: Cache confusion-pair confidences in Path B (eliminate redundant
    resolve_confusion_pair re-calls in _path_rule_engine)
M2: Resolve contradictions in Path C instead of hardcoding
    resolved_count=0 in _path_llm_assisted
M4: Add DIVIDE_25 to contradiction pair coverage (50-25, 100-25)
    and update test_contradiction_pairs_defined to verify all 3 variants
 2026-06-21 11:25:59 +08:00
hangshuo652andClaude bc1d56d1a4 feat: Phase 2 complete — 13 Phases of COBOL type classification and test benchmark 
P0.6: gcov infrastructure
P1: extract_structure output expansion (11 new feature fields)
P2: Confusion group rule engine (8 pairs + contradiction + backtrack)
P3: 4-factor confidence calculation + quality gate update
P4: 33+2 COBOL program type test samples (22 files, 7 categories)
P5: parametrized/ test data generation engine
P6: japanese_data.py lookup tables
P7-10: Type-specific test suites (~159 parametrized tests)
P11: Full classification pipeline (classify_program) + orchestrator integration
P12: Documentation (module-interfaces, test-plan v3.0, coverage-matrix)

Architecture decisions:
- classification_pipeline/ merged to hina/pipeline/
- parametrized/ as independent module
- japanese_data.py as root-level file
- hina/__all__ only exports classify_program()

Co-Authored-By: Claude <[email protected]>
 2026-06-19 23:51:55 +08:00
hangshuo652 7fcdb41a85 init: cobol-java migration verification platform v3 (42 tests, JCL module) 2026-05-27 08:42:41 +08:00
hangshuo652 faeedbc77b test: add edge case tests 2026-05-24 13:01:31 +08:00
hangshuo652 818e81269c v3: gstack-code-gen 生成 2026-05-24 12:36:44 +08:00