데이터 · 2024

임상 연구 데이터 품질 평가 프로그램

연구용 데이터셋의 품질을 21개 지표로 점검하는 데스크톱 앱

연구자가 사람마다 다른 기준으로 확인하던 데이터셋 점검을 21개 품질 지표로 일괄 평가하도록 바꾸고, 지표별 표와 차트를 그대로 내보내 보고서에 쓸 수 있게 했습니다.

고객
비공개 고객
분야
데이터
21개 품질 지표의 평가 결과를 한 표에 모아 보여 주는 종합 요약 화면

개요

  • 의료 연구기관이 모은 연구용 데이터셋의 품질을 점검하는 Windows 데스크톱 프로그램
  • 사용 대상은 데이터를 분석에 쓰기 전에 상태를 확인해야 하는 연구자와 데이터 담당자
  • 동선은 데이터 파일 선택 → 지표별 설정 → 평가 실행 → 결과 확인 → 폴더로 내보내기
  • 표 형태의 정형 데이터와 임상 기록·영상 판독문 같은 자유 기술 기록을 함께 다룸
  • 별도 설치 없이 실행 파일 하나로 배포
21개 품질 지표의 평가 결과를 한 표에 모아 보여 주는 종합 요약 화면
종합 요약 화면

과제

  • 결측, 이상치, 표기 불일치를 연구자가 각자 확인 → 점검 범위와 기준이 사람마다 달라짐
  • 품질 기준이 문서로만 존재 → 같은 데이터를 다시 점검해도 결과를 재현하기 어려움
  • 정형 데이터와 자유 기술 기록의 점검 방법이 달라 한자리에서 비교 불가
  • 점검 결과를 보고서로 옮기는 과정이 매번 수작업

해결 방법

  • 21개 품질 지표를 한 번의 실행으로 일괄 평가
  • 정형 데이터는 완전성, 정밀성, 범위 유효성, 형식 유효성, 선후관계 유효성, 날짜 유효성, 충실도, 단면 일관성, 시계열 일관성, 범주 다양성, 개체 다양성으로 점검
  • 정답값이 기록된 변수는 정확도, 정밀도, 재현율, F1 점수, AUROC까지 산출
  • 자유 기술 기록은 충실도, 정확도, 문장 다양성, 어휘 다양성으로 점검
  • 지표마다 전체 요약값과 변수별 수치를 표와 차트로 함께 제시
  • 변수 이름으로 검색해 해당 변수의 이상치 목록과 분포만 따로 열람
범위 유효성 지표의 전체 분포 차트와 변수별 이상치 집계 표
범위 유효성 상세 화면
정답값이 있는 변수의 판정 성능을 요약값과 차트로 보여 주는 화면
정답 대비 판정 성능 화면
자유 기술 기록에서 추출한 상위 단어의 출현 비율 막대 차트
어휘 다양성 화면

시스템 구조

작업 흐름

  • 수집 데이터를 정해진 열 구성의 표 파일로 변환 → 변수 설명 사전과 함께 입력 → 평가 실행 → 지표별 결과 확인 → 결과 폴더 저장
  • 입력 파일의 열 구성이 기준과 다르면 파일 이름과 함께 알림 → 형식이 어긋난 데이터로 평가가 진행되는 것을 차단
  • 변수 설명 사전에 각 변수의 의미를 담음 → 코드 표기나 선후관계처럼 뜻을 알아야 판단되는 지표에 사용
  • 지표별 파라미터를 실행 전에 지정 → 데이터 특성에 맞춰 이상치 기준과 변화점 민감도 조정
입력 파일과 지표별 파라미터를 지정하는 설정 화면
평가 설정 화면

결과물

  • 지표마다 하위 폴더 생성 → 집계 표는 표 파일로, 차트는 이미지 파일로 저장
  • 변수별 상세 표도 함께 저장 → 보고서 작성 시 그대로 인용

구현

  • 평가를 화면과 분리해 실행 → 오래 걸리는 지표가 돌아도 창이 멈추지 않음
  • 지표별 진행 상태를 대기·진행·완료·실패로 구분해 표시, 처리 내용은 로그로 실시간 출력
  • 한 지표가 실패해도 나머지는 계속 진행 → 부분 결과라도 확보
  • 실행 도중 중단 가능 → 설정을 잘못 넣었을 때 끝까지 기다릴 필요 없음
  • 자유 기술 기록은 언어 모델로 해석해 평가 → 사람이 읽어야 판단되던 항목을 지표로 환산
  • 저장 중 생긴 오류는 지표별로 모아 한 화면에 표시 → 어떤 결과가 빠졌는지 확인
  • 사용한 오픈소스 라이선스 전문을 프로그램 안에서 열람
지표별 진행 상태를 색으로 구분해 표시하고 처리 내용을 실시간 로그로 출력하는 진행 화면
평가 진행 화면

결과

  • 데이터셋 품질을 매번 같은 기준으로 점검
  • 정형 데이터와 자유 기술 기록의 품질을 한 화면에서 비교
  • 점검 결과를 표와 차트 파일로 내보내 보고서에 그대로 사용
  • 설정값을 바꿔 다시 실행 → 기준을 달리한 결과를 바로 비교
  • 분석에 들어가기 전에 데이터의 약한 부분을 먼저 파악

사용 기술

  • Python
  • wxPython
  • pandas
  • matplotlib
  • scikit-learn
  • statsmodels
  • PyTorch
  • OpenAI API

화면

해결이 필요한 문제가 있으신가요?

소프트웨어 개발부터 장비 연동과 엔지니어링까지, 프로젝트의 요구사항에 적합한 해결 방안을 함께 검토합니다.

프로젝트 문의하기