일상 생활 환경에서 스마트 폰 기반의 인간 활동 인식 시스템의 평가

Summary

현실적인 일상 생활 환경에서 지속적인 활동을 포함하는 WMMS(Wearable Mobility Monitoring System)에 대한 표준화된 평가 방법이 개발되었습니다. 일련의 일상 생활 활동으로 테스트하면 활동 인식 민감도가 감소할 수 있습니다. 따라서 WMMS 성능의 유효한 평가를 위해 현실적인 테스트 회로를 사용하는 것이 좋습니다.

Abstract

사용자 활동을 인식하려고 시도하는 WMMS(Wearable Mobility Monitoring System)를 위해 일상 생활 환경에서 지속적인 활동을 포함하는 평가 방법이 개발되었습니다. 참가자들은 이동 활동(걷기, 서기, 앉기, 눕기, 계단 오르내리기), 일상 생활(머리 빗질, 양치질, 음식 준비, 식사, 설거지), 미묘한 환경 변화(문 열기, 엘리베이터 사용, 경사로 걷기, 계단참 횡단, 야외 걷기)를 포함하는 연속 테스트 회로 내에서 미리 결정된 일련의 일상 생활 동작을 수행했습니다.

이 회로에서 WMMS 성능을 평가하기 위해 15명의 비장애인 참가자가 오른쪽 앞골반에 스마트폰을 착용한 상태에서 작업을 완료했습니다. WMMS 애플리케이션은 스마트폰 가속도계와 자이로스코프 신호를 사용하여 활동 상태를 분류했습니다. 황금 표준 비교 데이터 세트는 각 임상시험을 비디오로 녹화하고 활동 시작 시간을 수동으로 기록하여 생성되었습니다. 최적본위제(Gold Standard) 및 WMMS 데이터는 오프라인에서 분석되었습니다. 각 회로에 대해 세 가지 분류 세트가 계산되었습니다: (i) 이동성 또는 부동성, ii) 앉기, 서기, 눕기 또는 걷기, (iii) 앉기, 서기, 눕기, 걷기, 계단 오르기 또는 작은 서 있는 움직임. 민감도, 특이도, 활동 분류 및 상태 변화에 대한 F-점수가 계산되었습니다.

모바일 대 부동성 분류 세트는 민감도가 86.30%± 7.2%, 특이도가 98.96%± 0.6%인 반면, 두 번째 예측 세트는 민감도가 88.35%± 7.80%, 특이도가 98.51%± 0.62%였습니다. 세 번째 분류 세트의 경우 민감도는 84.92% ± 6.38%였고 특이도는 98.17 ± 0.62였다. 1, 2, 3번째 등급의 F1 점수는 각각 86.17점± 6.3점, 80.19점± 6.36점, 78.42점± 5.96점이었다. 이는 WMMS 성능이 알고리즘 외에도 평가 프로토콜에 따라 달라진다는 것을 보여줍니다. 입증된 프로토콜은 이동성 모니터링이 임상 의사 결정에 도움이 될 수 있는 재활 의학에서 인간 활동 인식 시스템을 평가하는 데 사용 및 맞춤화될 수 있습니다.

Introduction

유비쿼터스 센싱으로 인해 더욱 강력하고, 소형, 저비용 컴퓨팅 및 장비 ¹ 감지에 매력적인 연구 분야가되었다. 소비자 수준의 마이크로 고정밀 ¹ 동작 특성을 검출 할 수 있기 때문에 착용 형 센서를 사용하여 이동성 모니터링은 많은 관심을 생성했다. ^{4 -} 예비 연구 ⁽²⁾ 1990 년대 1980 년대에 수행과 함께 착용 할 수있는 센서를 이용하여 인간의 활동 인식 (HAR)는 연구의 최근의 영역입니다.

현대 스마트 폰은 이동 활성 인식에 필요한 센서 및 실시간 계산 능력을 포함하고있다. 디바이스에 대한 실시간 분석은 사용자 또는 연구자의 개입없이 활동 분류 및 데이터 업로드를 허용한다. 이동성 분석 소프트웨어와 스마트 폰은 감지, 집 또는 작업 자동화 및자가 관리 exercis 가을, 피트니스 추적, 상태 모니터링을 제공 할 수있다전자 프로그램 ^5. 스마트 폰은 내장 된 센서 출력 ^(6)으로 계산 수학 신호 생성 기능을 이용하여, 인간의 이동과 활동 이동 패턴을 검출하기위한 관성 측정 플랫폼이 고려 될 수있다. 일반적인 특성 생성 방법은 휴리스틱, 시간 영역, 주파수 영역, 및 웨이블릿 분석 기반 접근법 ^7을 포함한다.

지정된 활동 ^1,5,6,7를 검출 할 때 현대 스마트 폰 HAR 시스템은 높은 예측 정확도를 보여 주었다. 대부분의 연구가 자신의 트레이닝 세트, 환경 설정, 및 데이터 수집 프로토콜을 갖기 때문에 이러한 연구 평가 방법론뿐만 아니라 정확도가 다양. 민감도, 특이도, 정밀도, 소환, 정밀도 및 F 점수는 일반적으로 예측 품질을 기술하기 위해 사용된다. 그러나, 정보를 거의 실시간으로 활동의 변화를 감지 할 수있는 능력의 "동시 활동"인식과 평가 방법을 볼 수 있습니다^1, 여러 활동을 분류하려고 시도 HAR 시스템. HAR 시스템의 정확성에 대한 평가 방법을 연구 사이에 실질적으로 다를 수 있습니다. 에 관계없이 분류 알고리즘 또는 적용 기능, 금 표준 평가 방법에 대한 설명은 대부분의 HAR 연구를위한 모호하다.

일상 생활 환경에서 활동 인식이 광범위하게 연구되지 ​​않았습니다. 대부분 폰 기반 활동 인식 시스템은 실제 환경에 알고리즘보다는 현실적인 것이 유리할 수있다 평가 프로토콜 선도, 제어 된 방식으로 평가된다. 자신의 평가 체계 내에서, 참가자들은 오히려 실제 이벤트를 모방, 연속적으로 수행하기 위해 참가자를위한 현실적인 활동의 넓은 범위를 적용하는 것보다 예측를 대상으로 만 작업을 수행 할 수 있습니다.

일부 스마트 폰 HAR은 계단과 도보로 함께 ^8,9 그룹 유사한 활동을, 연구하지만, 데이터 세트에서 다른 활동을 제외. 예측 정밀도는 다음 알고리즘이 목표 활동을 식별하는 방법도 결정한다. Dernbach 등. ^9는 참가자들이 지속적인 변화의 상태 전이를 차단, 이동하기 전에 실행하려고했다 활동을 기록했다. 참가자가 일상 생활 속에서 자연의 작업을 수행하는 동안 HAR 시스템 평가는 알고리즘을 평가해야한다. 이 응용 프로그램의 일상적인 사용을 복제하는 실제 평가를 허용합니다. 현실적인 회로는 많은 사람들의 상태 변화-뿐만 아니라 시스템에 의해 예측 가능한되지 않은 조치의 혼합을 포함한다. 연구자는 이렇게 변칙적 인 움직임 알고리즘의 견고성을 평가, 이러한 추가 움직임에 알고리즘의 응답을 평가할 수 있습니다.

이 논문은 실제 일상 생활 환경을 반영하는 제어 과정을 사용하여 착용 할 수있는 모바일 모니터링 시스템 (WMMS) 평가 프로토콜을 제공합니다. WMMS평가는 제어하지만 현실 조건 하에서 이루어질 수있다. 이 프로토콜에서 우리는 오타와의 대학과 오타와 병원 연구소 ^11-15에서 개발 된 3 세대 WMMS를 사용합니다. WMMS은 3 축 가속도계 및 자이로 스코프와 스마트 폰을 위해 설계되었습니다. 이동성 알고리즘은 사용자를 차지하는 변동성 변경 -의 상태 확인을위한 위양성의 수의 감소를 제공하고, 활성 분류 감도를 증가시킨다. WMMS 더 WMMS 분류를 개선 상황에 맞는 활동 평가를 위해, 국가의 활동에 변화가 감지되는 짧은 동영상 촬영을 유발하기 때문에 오 탐지를 최소화하는 것이 중요합니다. 불필요한 영상 기록 저장 및 배터리 사용의 비 효율성을 만듭니다. WMMS 알고리즘 예지 레벨의 증가는 양의 증가를 의미하는 다른 예측 수치를 이용하여 낮은 연산 학습 모델로서 구성과 평가의 인식 행위.

Protocol

이 프로토콜은 오타와 건강 과학 네트워크 연구 윤리위원회에 의해 승인되었다.

1. 준비

1. , 연구의 개요와 참가자를 제공하는 모든 질문에 대답하고 동의를 구하십시오. 기록 참가자 특성 (예를 들어, 연령, 성별, 신장, 체중, 허리 둘레, 전방 우수한 내과에 골극에서 다리 높이) 데이터 시트에, 식별 코드, 날짜. 비디오를 캡처하는 데 사용되는 두 번째 스마트 폰 두 번째 캡처 속도 당 적어도 30 프레임으로 설정되어 있는지 확인합니다.
2. 안전하게 참가자의 전면 우측 벨트, 바지 허리에 전화 권총을 연결합니다. 모바일 폰에서 측정 된 센서 데이터 (즉, 데이터 기록 또는 WMMS 애플리케이션) 수집 애플리케이션 적절히 실행되고 있는지 확인하기 위해 사용되는 스마트 폰 애플리케이션을 시작한다. 장치의 뒷면 (후면 캘리포니아로, 홀스터에서 스마트 폰을 놓고바깥쪽으로 향하도록 메라).
3. 두 번째 스마트 폰에 디지털 비디오 녹화를 시작합니다. 익명 성을 위해, 사람의 얼굴을 나타내지 않고, 비교 화상을 기록하지만, 모든 활동을 기록하도록 전환되도록. 휴대 전화 핸드 헬드 수 있습니다.

2. 활동 회로

1. 두 번째 스마트 폰에서, 자신의 행동 참가자 및 비디오를 따라가 연구자에 의해 말한 다음 작업을 수행하는 동안 :
   1. 서있는 위치에서, 재판의 시작을 표​​시하기 위해 스마트 폰을 흔들어.
   2. 적어도 10 초 동안 서 계속합니다. 이 서 전화 상 방향 보정 ^14에 사용될 수있다.
   3. 근처의 의자에 걸어 앉아.
   4. 일어나서 엘리베이터 60​​ 미터 도보.
   5. 서서 엘리베이터를 기다렸다가 엘리베이터로 걸어.
   6. 2 층에 엘리베이터를 타고.
   7. 전원을 켜고 가정 환경에 걸어.
   8. 욕실과 SI에 걸어mulate 치아를 닦고.
   9. 머리를 빗질 시뮬레이션합니다.
   10. 손을 씻는 시뮬레이션합니다.
   11. 수건을 사용하여 건조 손.
   12. 부엌으로 걸어보세요.
   13. 랙에서 요리를 가지고 카운터에 배치합니다.
   14. 부엌 싱크대에서 물 주전자를 채우십시오.
   15. 난로 요소에 주전자를 놓습니다.
   16. 토스터에서 빵을 놓습니다.
   17. 식당에 걸어보세요.
   18. 식당 테이블에 앉아있다.
   19. 테이블에서 식사를 시뮬레이션합니다.
   20. 서서 다시 부엌 싱크대에 걸어.
   21. 요리를 씻어 및 랙에 배치합니다.
   22. 다시 엘리베이터에 부엌에서 도보.
   23. 서서 엘리베이터를 기다렸다가 엘리베이터로 걸어.
   24. 1 층에 엘리베이터를 타고.
   25. 계단을 50 미터 도보.
   26. 문을 열고 계단을 입력합니다.
   27. (착륙 약 13 단계, 13 단계) 계단을 걸어보세요.
   28. 복도에 계단의 문을 엽니 다.
   29. 우회전 15 미터 복도를 걸어.
   30. 돌아서 다시 계단 15 미터 도보.
   31. 문을 열고 계단을 입력합니다.
   32. (착륙 약 13 단계, 13 단계)를 계단 아래로 걸어보세요.
   33. 계단을 종료하고 방으로 걸어.
   34. 침대에 누워.
   35. 일어나서 램프 10 미터 도보.
   36. 다음 램프 (20m) 아래로 돌아서, 램프를 걸어.
   37. 홀에 들어가는 계속 외부에 문을 엽니 다.
   38. 포장 된 경로에 100 미터 도보.
   39. 돌아서 다시 방에 걸어.
   40. 방으로 걸어 출발점에 서있다.
   41. 서 계속하고 재판의 끝을 나타 내기 위해 스마트 폰을 흔들어.

3. 시험 완료

1. 비디오 녹화 스마트 폰을 중지하고 제거하고 스마트 폰과 권총을 반환 할 참가자를 부탁드립니다. SMA에 대한 데이터 기록 또는 WMMS 애플리케이션을 중지rtphone. 후 처리를 위해 컴퓨터로 양쪽 전화기로부터 취득 된 모션 데이터 파일과 비디오 파일을 복사한다.

4. 후가공

1. 흔들림 동작이 시작될 때 시간을 결정하여 비디오 및 원시 센서 데이터 간의 타이밍을 동기화. 이 진동하는 움직임이 뚜렷한 가속도 신호 및 비디오 프레임에 대응한다. 센서 및 비디오 데이터 소스에서 시작 흔들림 시간에서 최종 흔들림 시간을 빼서 동기화 오류가 있는지 확인합니다. 시간차는 두 개의 데이터 세트 간 유사해야한다.
2. 활동 간의 전이에서 비디오 프레임 시작 진탕 시간과의 시차를 기록함으로써 금 표준 비디오의 실제 상태 변경 시간을 결정한다. 0.033 초 이내로 타이밍을 획득하기 위해 비디오 편집 소프트웨어를 사용하여 (즉, 제 2 비디오 율 30 프레임). 비교 변경-의 상태 센서 데이터로부터 생성하는 WMMS 소프트웨어를 사용합니다.
3. 두 데이터 세트를 생성 한진정한 활동 및 예측 활동 번째로, 각각의 비디오 프레임에 대한 활성을 레이블링 WMMS 출력으로부터 각 비디오 프레임의 시간에서 활성을 예측하고 계산 한 후 (타이밍의 상태 변화에 기초하여). WMMS 성능 평가를 위해, 금 표준 활동 사이에 진정한 양성, 음성 (false negative), 참 부정, 오탐 (false positive)을 계산하고 WMMS 활동을 예측했다. 민감도, 특이도, F-점수 결과 측정을 계산하려면이 매개 변수를 사용합니다.
   주 : 분석되는 윈도우의 양쪽에 데이터 (3) 윈도우의 공차 설정 상태 변경 결과를 결정하는데 사용하고, 분류 결과에 대한 2 데이터 윈도우 될 수있다. 일초 데이터 창은이 연구에서 WMMS에 사용 된 이후이 허용 오차 내에서 연속적인 변화는 무시되도록 예를 들어, 3 초 전에 현재 창 후에는 조사 하였다. 고려 미만 3 초에서 일어나는 상태의 변화가 심한 구호 물자 무시 될 수 있습니다 것을이러한 상태 보낸 N 운동 분석은 일시적인 고려 될 것이다.

Results

연구 프로토콜은 높이가 CM (11.4 ±) 173.9이었다, 누구의 평균 체중 68.9이었다 (11.1 ±) 열 다섯 수 바디 참가자의 편의를 샘플 kg으로 실시하고, 나이는 오타와 병원에서 모집, 26 (± 9) 년이었다 오타와 직원과 학생들의 대학. 스마트 폰은 40-50 Hz에서 가변 속도 센서 데이터를 캡쳐. 샘플 속도의 변화는 스마트 폰 센서 샘플링을위한 전형적인. 스마트 폰은 1280 × 720 초 (720)의 해상도에 디지털 비디오를 기록하기 위해 사용 하였다.

권총은 위치의 더 표준화없이 참가자의 오른쪽 앞 벨트 또는 바지에 고정되었다. 이 엉덩이에 것 hostler에서 장치를 배치하기위한 자연적인 방법을 보여 주었다. 홀스터 및 데이터 로거 응용 프로그램을 실행에 배치 된 장치로, 각 사람은 자기가 선택한 속도로, 한 번 회로를 통과. 회로 참가자, 진행 활동에 미리 기재되지이었다재판 중에 조사를 순차적으로 사용 가능.

Discussion

착용 할 수있는 모바일 모니터링 시스템과 인간 활동의 인식으로 인해 착용 컴퓨팅 및 스마트 폰과 임상 의사 결정과 건강 개입의 평가에 도움이 정량 결과 측정에 대한 체계적인 요구 사항의 기술 발전에 최근 몇 년 동안 더 많은 관심을 받고있다. 이 문서에서 설명하는 방법은 활동 분류 오류가 일상 생활의 활동과 산책 시나리오의 넓은 범위를 평가에 포함되지 않은 경우 본 없었을 것이다 발견 된 이후 WMMS 개발 평가를위한 효과적이었다.

WMMS 평가 프로토콜은 두 가지 주요 부분으로 구성 데이터 수집을 동반 설정 황금 표준 데이터 및 데이터 후 처리 현실적인하지만 통제 된 조건 하에서. 디지털 비디오는 프로토콜에 걸쳐 활동 WMMS 예측 알고리즘을 테스트 할 때 금 표준 데이터를 제공하기위한 실행 가능한 해결책이었다. 프로토콜의 중요한 단계금 표준 비디오는 스마트 폰 흔들림을 캡처하는이 참가자 착용 전화에서 수집 된 데이터와 금 표준 비디오의 동기화를 허용하기 때문에 (내가) 보...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
스마트 폰 또는 웨어러블 측정 장치	Blackberry	Z10
비디오 녹화용 스마트 폰	Blackberry	Z10 또는 9800
전화 홀스터	스마트
데이터 로거 응용 프로그램	BlackBerry World - TOHRC BlackBerry 10		용 데이터 로거http://appworld.blackberry.com/webstore/content/32013891/?countrycode=CA
웨어러블 이동성 측정	이동성 모니터링을 위한 맞춤형 Blackberry 10 및 Matlab 소프트웨어	http://www.irrd.ca/cag/smartphone/
해석 소프트웨어	Motion Analysis Tools		http://www.irrd.ca/cag/mat/