데이터 · 2024
임상 연구 데이터 품질 평가 프로그램
연구용 데이터셋의 품질을 21개 지표로 점검하는 데스크톱 앱
연구자가 사람마다 다른 기준으로 확인하던 데이터셋 점검을 21개 품질 지표로 일괄 평가하도록 바꾸고, 지표별 표와 차트를 그대로 내보내 보고서에 쓸 수 있게 했습니다.
- 고객
- 비공개 고객
- 분야
- 데이터

개요
- 의료 연구기관이 모은 연구용 데이터셋의 품질을 점검하는 Windows 데스크톱 프로그램
- 사용 대상은 데이터를 분석에 쓰기 전에 상태를 확인해야 하는 연구자와 데이터 담당자
- 동선은 데이터 파일 선택 → 지표별 설정 → 평가 실행 → 결과 확인 → 폴더로 내보내기
- 표 형태의 정형 데이터와 임상 기록·영상 판독문 같은 자유 기술 기록을 함께 다룸
- 별도 설치 없이 실행 파일 하나로 배포

과제
- 결측, 이상치, 표기 불일치를 연구자가 각자 확인 → 점검 범위와 기준이 사람마다 달라짐
- 품질 기준이 문서로만 존재 → 같은 데이터를 다시 점검해도 결과를 재현하기 어려움
- 정형 데이터와 자유 기술 기록의 점검 방법이 달라 한자리에서 비교 불가
- 점검 결과를 보고서로 옮기는 과정이 매번 수작업
해결 방법
- 21개 품질 지표를 한 번의 실행으로 일괄 평가
- 정형 데이터는 완전성, 정밀성, 범위 유효성, 형식 유효성, 선후관계 유효성, 날짜 유효성, 충실도, 단면 일관성, 시계열 일관성, 범주 다양성, 개체 다양성으로 점검
- 정답값이 기록된 변수는 정확도, 정밀도, 재현율, F1 점수, AUROC까지 산출
- 자유 기술 기록은 충실도, 정확도, 문장 다양성, 어휘 다양성으로 점검
- 지표마다 전체 요약값과 변수별 수치를 표와 차트로 함께 제시
- 변수 이름으로 검색해 해당 변수의 이상치 목록과 분포만 따로 열람



시스템 구조
작업 흐름
- 수집 데이터를 정해진 열 구성의 표 파일로 변환 → 변수 설명 사전과 함께 입력 → 평가 실행 → 지표별 결과 확인 → 결과 폴더 저장
- 입력 파일의 열 구성이 기준과 다르면 파일 이름과 함께 알림 → 형식이 어긋난 데이터로 평가가 진행되는 것을 차단
- 변수 설명 사전에 각 변수의 의미를 담음 → 코드 표기나 선후관계처럼 뜻을 알아야 판단되는 지표에 사용
- 지표별 파라미터를 실행 전에 지정 → 데이터 특성에 맞춰 이상치 기준과 변화점 민감도 조정

결과물
- 지표마다 하위 폴더 생성 → 집계 표는 표 파일로, 차트는 이미지 파일로 저장
- 변수별 상세 표도 함께 저장 → 보고서 작성 시 그대로 인용
구현
- 평가를 화면과 분리해 실행 → 오래 걸리는 지표가 돌아도 창이 멈추지 않음
- 지표별 진행 상태를 대기·진행·완료·실패로 구분해 표시, 처리 내용은 로그로 실시간 출력
- 한 지표가 실패해도 나머지는 계속 진행 → 부분 결과라도 확보
- 실행 도중 중단 가능 → 설정을 잘못 넣었을 때 끝까지 기다릴 필요 없음
- 자유 기술 기록은 언어 모델로 해석해 평가 → 사람이 읽어야 판단되던 항목을 지표로 환산
- 저장 중 생긴 오류는 지표별로 모아 한 화면에 표시 → 어떤 결과가 빠졌는지 확인
- 사용한 오픈소스 라이선스 전문을 프로그램 안에서 열람

결과
- 데이터셋 품질을 매번 같은 기준으로 점검
- 정형 데이터와 자유 기술 기록의 품질을 한 화면에서 비교
- 점검 결과를 표와 차트 파일로 내보내 보고서에 그대로 사용
- 설정값을 바꿔 다시 실행 → 기준을 달리한 결과를 바로 비교
- 분석에 들어가기 전에 데이터의 약한 부분을 먼저 파악
사용 기술
- Python
- wxPython
- pandas
- matplotlib
- scikit-learn
- statsmodels
- PyTorch
- OpenAI API
화면





해결이 필요한 문제가 있으신가요?
소프트웨어 개발부터 장비 연동과 엔지니어링까지, 프로젝트의 요구사항에 적합한 해결 방안을 함께 검토합니다.
프로젝트 문의하기