AI 자동매매 연구, 데이터 수집부터 검증까지

2026-09-21부터 시장 데이터 수집을 시작했고, 이후의 분석과 검증은 모두 2026-09-23을 기준 거래일로 삼아 진행하고 있습니다. 전략의 수익률이나 매매 규칙보다 먼저, 매 거래일 같은 기준으로 쌓인 데이터가 있어야 오래 믿을 수 있는 검증 결과가 나오기 때문입니다. 수익보다 실패 기록을 먼저 공개하기로 한 이유는 수익 인증 대신 실패 기록부터 공개합니다에 적었습니다.

기준 거래일 이후의 데이터 흐름을 설명할 때 휴장일의 영향을 고려해야 합니다. 2026-09-24와 2026-09-25는 추석 연휴로 인해 휴장되어 해당 기간 동안 새로운 거래일 데이터가 생성되지 않습니다. 현재까지 검증이 완료된 거래일은 1일이며, 이 단일 데이터 포인트를 바탕으로 향후 수집 체계의 일관성을 점검하고 있습니다.

매일 어떤 데이터를 모으고 있나

매일 수집하는 데이터는 두 가지 경로로 나뉩니다. 첫 번째 경로는 체결, 호가, 시장 지수와 ETF 흐름, 전 종목 60초 간격 시세를 포함합니다. 여기에 시장 이벤트인 변동성 완화장치, 투자경고, 가격제한, 장 운영 단계 정보와 종목 기준정보도 함께 모읍니다. 장 시작 전 동시호가 정보와 시장 전체 등락 분포는 장 마감 후 파생된 데이터로 처리하며, 체결 방향 추정값 역시 장 마감 후 체결과 호가로 계산한 값입니다. 이 추정값은 거래소가 직접 제공한 값이 아닙니다.

두 번째 경로는 상대적으로 범위가 좁아 체결과 호가 두 가지 항목만 수집합니다. 두 경로의 장중 수집은 08:30부터 15:40까지의 시간대에 걸쳐 이루어집니다.

1분봉 데이터는 연구 서버에만 보관하며 NAS 백업 대상에는 포함되지 않습니다. 현재 14개 세션의 데이터가 연구 서버에 존재하지만 기준일 1분봉은 누락된 상태입니다. 수집 대상 풀은 최근 20일 평균 거래대금이 정해진 기준 이상인 종목의 오전 1분봉으로 한정됩니다.

왜 수집 경로를 A와 B로 나눴나

실시간 연결 하나당 구독할 수 있는 항목이 100개로 제한되어 있고, 한 종목에 대해 체결과 호가 두 가지를 모두 받아야 하므로 단일 경로로는 최대 50종목까지만 데이터를 수집할 수 있습니다. 이 물리적 한계 때문에 수집 경로를 A와 B로 나누어 운영합니다.

B 경로 데이터를 A 원본과 섞으면 기존 연구가 읽는 하루치 입력 자체가 달라지므로, 두 경로의 원본은 서로 독립적으로 보관합니다. B 경로 수집은 2026-09-23부터 시작했으며, 종목 목록은 08:20에 고정되고 B 경로 전용 목록은 08:22에 고정됩니다. 실제 데이터 수집은 08:30부터 15:40까지 이루어집니다.

종목 선정 방식은 125거래일 walk-forward 방식으로 비교해 정했습니다. walk-forward는 시간 순서를 유지하면서 과거에서 미래 방향으로 반복 검증하는 방법입니다. 선정 시 그 전 거래일까지의 1분봉으로만 계산한, 5분 안에 수수료·세금·호가 단위 비용을 넘어설 만큼 움직였던 정도를 점수로 활용합니다. 거래가 너무 적은 종목, 호가 단위 비용이 큰 종목, 가격대가 맞지 않는 종목, 스팩, 관리종목, 거래정지·정리매매 종목은 제외하며, 설명력이 낮아 거래대금 순위는 사용하지 않습니다.

B 경로에서 51~100위 목록을 생성할 때 1~50위와 A 경로 목록이 일치하지 않으면 실패로 처리하여 데이터 정합성을 확인합니다.

데이터를 저장했다고 끝이 아닌 이유

수집이 끝났다고 해서 데이터 작업이 끝나지는 않습니다. 파일마다 저장이나 전송 과정에서 내용이 변하지 않았는지 확인하는 검증값인 checksum 을 기록하는 것부터 시작합니다. 이 checksum 과 파일 크기를 연구 전용 NAS 로 옮긴 뒤 다시 비교해 전송이 정상적으로 이루어졌는지 확인하는 것이 첫 번째 단계입니다.

2026-09-23 기준일 기준으로 경로 A 는 1177개, 경로 B 는 806개의 파일이 존재하며, NAS 전송 검증도 각각 1177개와 806개로 일치했습니다. 16:40 에 100종목 완결성 점검을 진행한 결과, 1~50위와 51~100위 모두 체결과 호가 데이터가 50종목씩 수집되어 빠진 종목이나 빈 종목은 0건으로 확인되었습니다.

17:05 에 거래일 검증을 수행하며, 하루 한 번 두 경로의 전송 기록을 모두 확인합니다. 이때 NAS 에 있는 파일을 경로별로 무작위 12개씩 골라 checksum 을 다시 계산해 기록과 같은지 봅니다. 통과하지 못한 날만 19:05 와 22:35 에 다시 확인하며, 두 경로가 모두 통과한 날에만 VERIFIED 표시를 한 번 남기고 덮어쓰지 않습니다. 통과하지 못하면 NOT_VERIFIED 로 남기고 알림을 보냅니다.

그날 밤 23:00 야간 연구가 시작될 때 NAS 원본 목록과 checksum 을 연구용 고정 스냅샷으로 기록합니다. 이 고정 스냅샷은 이후 연구의 기준이 되는 중요한 자료로, 구체적인 구성과 활용 방법은 다음 소제목에서 자세히 다루겠습니다.

실제 앱에서는 이렇게 확인한다

앱의 시장데이터 화면에서 ‘연구 데이터 백업 현황’ 탭을 열면 수집부터 백업까지의 진행 상황을 한눈에 파악할 수 있습니다. 각 항목은 수집 완료, 검증 완료, 백업 완료, 대기, 누락, 오류, 확인 불가, 로컬 보관 중 하나의 상태로 표시되며, 파일을 읽을 수 없는 경우 성공으로 처리하지 않고 확인 불가로 명시합니다. 현재 누적 VERIFIED 거래일은 1일이며, 가장 최근 검증된 거래일은 2026-09-23입니다. AI 자동매매 연구와 운영을 한 화면에서 보는 앱을 만들었습니다에서 이 화면의 전체 구성을 더 자세히 살펴볼 수 있습니다.

기준 거래일 전체 백업 현황 요약 화면
2026-09-23 기준 거래일의 수집과 백업 상태를 한눈에 보여주는 요약 화면입니다.

요약 화면에는 기준 거래일과 전체 상태가 상단에 배치되어 있으며, 수집 경로 A와 B 각각의 상태와 파일 수가 나란히 표시됩니다. 거래일 VERIFIED 여부, 누적 VERIFIED 거래일, 그리고 연구용 고정 스냅샷 상태도 함께 확인됩니다. 연구용 고정 스냅샷은 그날 수집한 원본 파일을 체크섬과 함께 고정한 연구용 복사본을 의미합니다. 화면 하단에는 데이터 처리 순서가 한 줄로 요약되어 있어 흐름을 빠르게 이해할 수 있습니다.

데이터 종류별 상세 상태 화면
수집 경로별 파일 수와 검증 결과를 항목별로 상세히 보여주는 화면입니다.

상세 화면에서는 수집 경로 A와 B의 세부 정보, 100종목 완결성, 그날의 종목 선정 시각, 체크섬 값, VERIFIED 표시, 고정 스냅샷 정보가 항목별로 나열됩니다. 1분봉 데이터는 현재 누락 상태로 표시되어 있으며, OOS 기록, 후보 전략 기록, 탈락한 아이디어 기록, 야간 연구 결과 백업 상태도 함께 확인할 수 있습니다. 이를 통해 데이터의 출처와 검증 이력을 투명하게 추적할 수 있습니다.

왜 그날 데이터를 고정해서 보관하나

매일 밤 23:00 야간 연구가 시작될 때, 그날 수집한 원본 파일을 나중에 바뀌지 않도록 고정해 보관한 복사본인 frozen snapshot 을 생성합니다. 이 스냅샷은 수집 경로 A 원본을 기준으로 하며, 특정 연구용 복사본에는 1177개의 원본 파일이 포함되고 체크섬 누락이 0건으로 기록됩니다. 이렇게 하면 장중 변동이나 이후 수정 사항이 연구 결과에 영향을 주지 않도록 데이터 상태를 한 번에 확정할 수 있습니다.

종목 선정 시점은 selection timestamp, 즉 그 당시 실제로 알 수 있었던 정보까지만 사용했는지 확인하는 기준 시각인 08:20으로 고정됩니다. 이 시각 기준으로는 2026-09-23이라는 거래일에 대한 정보가 아니라, 그 전 거래일까지의 정보만을 활용해 종목 목록을 결정합니다. 장 시작 전에 이미 정해진 이 목록을 바탕으로 연구를 진행함으로써, 장중이나 장 마감 후에 드러난 결과를 미리 알았다는 오해를 방지합니다.

이러한 고정 절차는 미래 정보를 과거에 알던 것처럼 사용하는 오류를 막기 위한 장치입니다. 데이터가 고정되면 같은 조건으로 연구를 다시 수행할 때 동일한 출발점에서 시작할 수 있어 검증의 신뢰성이 높아집니다. 또한 현재는 검증된 거래일인 경우 B 원본도 함께 스냅샷에 포함하도록 되어 있지만, 기준일 스냅샷의 기본 기준은 여전히 A 원본에 맞춰져 있습니다.

왜 연구 전용 NAS에 보관하나

시장 데이터는 시간이 지날수록 가치가 커지는 자산입니다. 연구 서버의 하드웨어가 교체되거나 운영체제가 재설치되더라도 과거에 수집한 원본 데이터가 그대로 남아 있어야만 동일한 조건에서 실험을 다시 수행할 수 있습니다. 이를 위해 수집된 원본 파일은 연구 전용 NAS에 보관하며, 이는 서버 환경의 변동과 독립적으로 장기적인 데이터 무결성을 유지하기 위한 조치입니다.

연구 코드가 원본 데이터를 직접 수정하지 않도록 읽기 전용 규칙을 적용하고 있습니다. 수집된 원본은 오직 읽기만 가능하며, 분석이나 검증 과정에서 생성된 결과는 원본과 분리된 별도의 위치에 저장합니다. 또한 B 경로 데이터는 해당 날짜에 검증 완료 표시가 있을 때만 연구 입력으로 활용하며, 그렇지 않은 날에는 A 경로 데이터만 사용한다는 기준을 두고 있습니다. 이러한 절차는 같은 입력으로 다시 검증할 수 있는 재현성을 확보합니다.

현재 1분봉 데이터는 연구 서버에만 보관되고 있으며, 연구 전용 NAS의 백업 대상에는 포함되어 있지 않습니다. 이는 향후 개선해야 할 남은 과제 중 하나입니다. NAS 하나 맞추려다 자동매매까지 — 중고 부품으로 만든 AI 홈서버 구축기

쌓인 데이터로 무엇을 연구하나

현재 연구는 종목 선정 점수(5분 움직임 대비 비용)를 중심으로 진행됩니다. 이 점수를 계산할 때 쓰는 비용 기준은 수수료와 매도 세금을 합친 왕복 약 0.23%입니다. 스캘핑 수수료와 세금, 수익을 얼마나 깎을까 — 실제 숫자로 계산에서 확인한 실제 숫자를 바탕으로, 비용과 체결 조건을 반영한 초단타 후보 검증이 이루어집니다. 또한 장 시작 동시호가와 개장 직후 움직임, 그리고 야간 보유 후보의 실제 새 거래일 검증도 함께 수행하고 있습니다.

데이터가 더 쌓이면 시간대별 움직임이나 거래량 급증(RVOL) 같은 패턴을 분석할 수 있을 것으로 보입니다. 눌림 후 재상승(pullback, reacceleration)이나 돌파(breakout) 현상, 그리고 VWAP·AVWAP과 같은 지표에 대한 연구도 가능해질 것입니다. 상대강도나 돌파 실패(failed continuation)를 포함해, 진입·청산 시점과 비용 및 슬리피지까지 고려한 더 정밀한 분석이 기대됩니다.

현재 OOS(전략을 만드는 데 직접 사용하지 않은 별도 검증 구간) 기록 일수는 2일입니다. 야간 연구 실행 건수는 2건으로, 이는 같은 데이터 기준일(2026-09-23)에 대해 완료된 건수이며 일수가 아닙니다.

좋지 않았던 전략도 왜 남기나

연구 기록에는 실패로 판정된 아이디어 63건과 후보로 분류된 3건이 삭제되지 않고 그대로 보관되어 있습니다. 성공 사례만 남기면 동일한 환경에서 같은 실수를 반복할 가능성이 높아지므로, 실패 기록을 통해 전략의 한계를 명확히 구분해야 합니다. 이러한 기준에 대해 더 자세히 알고 싶다면 AI가 제안한 매매 전략 24개를 모두 버린 이유를 참고할 수 있습니다.

보관된 실패 아이디어를 바로 재시험하지 않는 이유는 데이터의 신선도 때문입니다. 마지막 검증 이후 새로운 VERIFIED 거래일이 5일 이상 쌓이기 전에는 같은 실패를 같은 데이터로 다시 시험하지 않는다는 원칙을 적용합니다. 이 조건을 지키지 않으면 과거의 노이즈에 과적합된 결과가 반복적으로 생성될 수 있어, 새로운 시장 데이터가 충분히 축적될 때까지 기다리는 것이 연구의 신뢰성을 유지하는 방법입니다.

최종 목표는 자동 스캘핑

이 연구 시스템의 최종 목표는 자동 스캘핑 전략의 안정적 운영입니다. 이를 위해 시장데이터 수집부터 시작해 아이디어 생성, 과거 검증, walk-forward 분석, true OOS 검증을 거치는 일련의 프로세스를 장기적으로 구축해 나가고자 합니다. 이후 비용과 슬리피지를 반영한 시뮬레이션을 거쳐 새 거래일 검증과 현재 운영 전략과의 비교 단계를 밟아, 검증된 개선 사항만 실제 전략에 반영하는 흐름을 지향합니다.

이러한 단계별 검증 과정은 백테스트에서 우수한 결과를 보인 전략이 실전에서 기대에 미치지 못하는 현상을 방지하기 위한 절차입니다. 백테스트에서 이긴 전략이 실전에서 지는 5가지 이유 — OOS 검증이 필요한 순간에서 언급된 바와 같이, 과거 데이터에 과적합된 전략은 실제 시장 환경에서는 효용이 떨어질 수 있으므로 철저한 검증이 요구됩니다.

본 사이트의 콘텐츠는 정보 및 연구 기록을 목적으로 하며 특정 금융상품의 매수·매도를 권유하지 않습니다. 투자 판단과 결과에 대한 책임은 투자자 본인에게 있습니다. 투자 고지 전문

댓글 남기기