Name: 학생의 주의력 수준을 감지하기 위한 인공 지능 기반 시스템 (동영상) | JoVE Journal
Uploaded: 2023-12-15T14:10:00.000+00:00
Duration: 6 min 37 s
Description: 학습하세요 인공지능 기반 실시간 학생 주의력 감지 시스템을 활용한 교육 기술 방법론입니다. 맞춤형 알고리즘과 다중 모달 데이터 분석으로 교사가 수업 중 학생 집중도를 모니터링하고 교수법을 최적화할 수 있습니다.

ai_agent_IP

ai_agent

maintenance

instantTrialDurationMinutes

isBiopharma

enableNewMyJoveSectionDesign

educationFeatures

seoMetaApi

ai_copilot_institution_blacklist

ai_chat_institution_blacklist

freeAccessWindow

ssoRoleCapture

scheduledMaintenanceBanner

joveLabsFeatures

disable_autoplay_for_bots

extended_trial_duration

5 minutes

이 작업은 Programa Prometeo(프로젝트 ID CIPROM/2021/017)의 자금 지원으로 개발되었습니다. Rosabel Roig 교수는 유네스코 "교육, 연구 및 디지털 포용"의 의장입니다.

다음 프로토콜은 승인된 프로토콜 번호 UA-2022-11-12로 알리칸테 대학교의 인간 연구 윤리 위원회의 지침을 따릅니다. 이 실험 및 여기의 데이터 사용에 대해 모든 참가자로부터 정보에 입각한 동의를 얻었습니다.
1. 하드웨어, 소프트웨어 및 클래스 설정
<ol><li>WiFi 기능이 있는 라우터(실험은 DLink DSR 1000AC를 사용하여 수행됨)를 원하는 위치에 설정하여 범위가 전체 방을 포함하도록 합니다. 여기에서는 30명의 학생이 있는 25m2 교실을 대상으로 했습니다.</li>
	<li>각 학생 위치에 대해 하나의 스마트워치(여기에서 Samsung Galaxy Smartwatch 5)와 하나의 카메라(여기에서 Logitech C920 카메라)를 설정합니다. 학생 2명당 1개의 내장 장치를 설정합니다. 두 개의 삼각대에 두 대의 카메라를 고정하고 다른 내장 장치(이하 천정 카메라라고 함)에 연결합니다.</li>
	<li>USB 링크를 사용하여 카메라를 해당 내장 장치에 연결하고 전원을 켭니다. 스마트워치도 켭니다. 모든 임베디드 장치와 스마트워치를 1.1단계에서 설정한 라우터의 WiFi 네트워크에 연결합니다.</li>
	<li>카메라를 각 학생의 책상 구석에 놓고 이미지에서 학생의 얼굴이 명확하게 보이도록 앞쪽으로 향하게 하고 약간 위쪽으로 기울입니다.</li>
	<li>카메라가 있는 두 개의 삼각대를 교실 첫 번째 줄 좌석의 통로에서 가장 가까운 책상 앞에 놓습니다. 카메라가 대부분의 학생을 명확하게 볼 수 있도록 삼각대 라이저를 가장 높은 위치로 이동합니다. 각 임베디드 장치는 한 명 또는 두 명의 학생과 해당 카메라 및 시계를 관리할 수 있습니다. 설정은 그림 1에 나와 있습니다.</li>
	<li>스마트워치와 임베디드 장치에서 캡처 소프트웨어를 실행하여 이미지와 가속도계, 자이로스코프, 심박수 및 조명 데이터를 보낼 준비가 되도록 합니다. 데이터를 수집하고 저장하는 서버 소프트웨어를 실행합니다. 이러한 모든 요소의 다이어그램은 그림 2에서 볼 수 있습니다.</li>
	<li>천정 카메라가 장면을 지배하여 학생들의 신체를 명확하게 볼 수 있도록 합니다. 각 학생 앞에 개별 카메라를 추가로 배치합니다.</li>
	<li>학생들을 제자리에 앉히게 하고, 실험의 목표를 알리고, 주로 사용하는 손에 스마트워치를 착용하고 설정의 어떤 요소와도 상호 작용하지 않도록 지시합니다.</li>
	<li>서버에서 데이터 캡처 및 수집을 시작하고 평소와 같이 수업 수업을 재개합니다.</li>
</ol><img alt="Figure 1" class="xfigimg" src="/files/ftp_upload/65931/65931fig01.jpg"> 그림 1: 하드웨어 및 데이터 파이프라인. 카메라와 스마트워치 데이터가 수집되어 기계 학습 알고리즘에 공급되어 처리됩니다. <a href="https://www.jove.com/files/ftp_upload/65931/65931fig01large.jpg" target="_blank">이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.</a>
<img alt="Figure 2" class="xfigimg" src="/files/ftp_upload/65931/65931fig02.jpg"> 그림 2: 센서, 교사 및 학생의 위치. 교사와 학생이 있는 교실에서 카메라, 스마트워치 및 GUI의 위치를 보여주는 다이어그램. <a href="https://www.jove.com/files/ftp_upload/65931/65931fig02large.jpg" target="_blank">이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.</a>
2. 캡처 및 데이터 처리 파이프라인
참고: 이러한 모든 단계는 서버에 배포된 소프트웨어를 처리하여 자동으로 수행됩니다. 이 작업의 실험에 사용된 구현은 Python 3.8로 작성되었습니다.
<ol><li>각 학생에 대한 스마트워치의 모든 이미지와 생체 인식 데이터를 수집하여 필요한 데이터를 수집하고 1초의 데이터를 포함하는 데이터 프레임을 구축합니다. 이 데이터 프레임은 개별 카메라의 이미지 1개, 각 천정 카메라의 이미지 1개(이 경우 2개), 3개의 자이로스코프 값에 대한 50개의 레지스터, 3개의 가속도계 값에 대한 50개의 레지스터, 1개의 심박수 값 및 1개의 조명 상태 값으로 구성됩니다.</li>
	<li>머리 방향을 계산하기 위한 첫 번째 단계는 학생의 얼굴을 가리키는 웹캠을 사용하여 이미지를 검색하는 것입니다. 그런 다음 해당 이미지는 BlazeFace17 랜드마크 추정 알고리즘에 의해 처리됩니다. 이러한 알고리즘의 출력은 얼굴의 특정 영역에 해당하는 2D 키 포인트 목록입니다.</li>
	<li>알고리즘에서 제공하는 눈, 코, 입 및 턱의 추정 위치를 사용하여 표준 얼굴 설정인 OpenCV 라이브러리의 cv::SolvePnPMethod 메서드를 사용하여 원근 n점 문제를 풉니다. 머리 방향을 정의하는 회전 행렬은 이 절차의 결과로 얻어집니다.</li>
	<li>학생이 묘사된 데이터 프레임의 천정 이미지를 BlazePose18 랜드마크 추정 알고리즘으로 전달하여 신체 포즈를 계산하고 이미지에 묘사된 신체 관절의 2D 좌표 목록을 검색합니다. 이 랜드마크 목록은 학생의 포즈를 설명합니다. 알림: 신체 포즈는 수업 중 다양한 활동에 대한 학생의 참여를 정확하게 나타낼 수 있으므로 중요합니다. 예를 들어, 학생이 책상에 손을 얹고 자연스럽게 앉아 있다면 메모를 하고 있다는 의미일 수 있습니다. 반대로, 그들이 계속해서 팔을 움직이고 있다면, 그것은 그들이 누군가에게 말하고 있다는 것을 의미할 수 있습니다.</li>
	<li>학습자의 얼굴 이미지를 얻고 정렬 전처리를 수행한다. 2.3단계에서 계산된 목록에서 눈의 키 포인트를 검색하고 이미지 평면에 투영하여 눈의 위치를 얻습니다.</li>
	<li>양쪽 눈의 위치를 결합하는 가상 벡터를 추적합니다. 해당 벡터와 수평선 사이의 각도를 계산하고 호모그래피 행렬을 구축하여 이미지와 키 포인트에 역각도를 적용하여 눈이 수평으로 정렬되도록 합니다.</li>
	<li>한계를 감지하기 위해 키 포인트를 사용하여 얼굴을 자르고 패치를 감정 감지 컨볼루션 신경망(19)에 공급합니다. 신경망에서 7개의 위치가 있는 벡터인 출력값을 가져오며, 각 위치는 얼굴이 7가지 기본 감정(중립, 행복, 혐오, 화남, 무서움, 놀라움, 슬픔) 중 하나를 나타낼 확률을 제공합니다.</li>
	<li>데이터 프레임에서 가속도계, 자이로스코프 및 심박수 데이터를 얻어 주의 수준을 측정합니다(그림 3).</li>
	<li>대표적인 결과에 설명된 처음부터 맞춤형으로 구축되고 훈련된 딥 러닝 기반 모델에 가속도계 및 자이로스코프 데이터 스트림을 제공합니다. 그림 4와 같이 4개의 위치가 있는 벡터인 모델에서 출력을 검색하며, 각 위치는 데이터가 필기, 키보드 입력, 휴대폰 사용 또는 휴식과 같은 가능한 작업 중 하나를 나타낼 확률을 제공합니다.</li>
	<li>머리 방향, 감정 인식 출력, 신체 자세, 자이로스코프, 가속도계 및 심박수 데이터를 병합하여 이전 시스템의 모든 결과를 선형화하여 최종 주의 분류기에 제공합니다. 이 최종 분류자에서 0에서 100까지의 점수인 결과를 검색합니다. 이 연속적인 값을 낮은 주의 수준(0-40%), 중간 주의 수준(40%-75%) 및 높은 주의 수준(75% - 100%)의 세 가지 가능한 개별 주의 범주 중 하나로 분류합니다. 생성된 데이터셋의 구조는 표 1에 나와 있습니다.</li>
	<li>일반 웹 브라우저에서 액세스할 수 있는 교사의 컴퓨터에서 그래픽 사용자 인터페이스(GUI)를 사용하여 교사에게 주의 수준의 결과를 표시합니다.</li>
</ol><img alt="Figure 3" class="xfigimg" src="/files/ftp_upload/65931/65931fig03.jpg"> 그림 3: 스마트워치로 캡처한 데이터. 스마트워치는 자이로스코프, 가속도계, 심박수 및 조명 상태를 데이터 스트림으로 제공합니다. <a href="https://www.jove.com/files/ftp_upload/65931/65931fig03large.jpg" target="_blank">이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.</a>
<img alt="Figure 4" class="xfigimg" src="/files/ftp_upload/65931/65931fig04.jpg"> 그림 4: 활동 인식 모델에서 고려하는 범주의 예. 활동 인식 모델은 네 가지 다른 동작, 즉 필기, 키보드로 입력, 스마트폰 사용, 휴식 자세를 인식합니다. <a href="https://www.jove.com/files/ftp_upload/65931/65931fig04large.jpg" target="_blank">이 그림의 더 큰 버전을 보려면 여기를 클릭하십시오.</a>

교실 참여 향상: 학생 주의 수준에 대한 AI 기반 분석

<ol><li>Hasnine, M. N., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Students%27+emotion+extraction+and+visualization+for+engagement+detection+in+online+learning%5BTitle%5D)+AND+%22Procedia+Comp+Sci%22%5BJournal%5D)">Students' emotion extraction and visualization for engagement detection in online learning.</a> Procedia Comp Sci. 192, 3423-3431 (2021).</li>
<li>Khare, S. K., Blanes-Vidal, V., Nadimi, E. S., Acharya, U. R. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Emotion+recognition+and+artificial+intelligence%3A+A+systematic+review+%282014-2023%29+and+research+recommendations%5BTitle%5D)+AND+%22Info+Fusion%22%5BJournal%5D)">Emotion recognition and artificial intelligence: A systematic review (2014-2023) and research recommendations.</a> Info Fusion. 102, 102019(2024).</li>
<li>Bosch, N. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Detecting+student+engagement%3A+Human+versus+machine%5BTitle%5D)+AND+%22UMAP+%2716%3A+Proc+the+2016+Conf+User+Model+Adapt+Personal%22%5BJournal%5D)">Detecting student engagement: Human versus machine.</a> UMAP '16: Proc the 2016 Conf User Model Adapt Personal. , 317-320 (2016).</li>
<li>Araya, R., Sossa-Rivera, J. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Automatic+detection+of+gaze+and+body+orientation+in+elementary+school+classrooms%5BTitle%5D)+AND+%22Front+Robot+AI%22%5BJournal%5D)">Automatic detection of gaze and body orientation in elementary school classrooms.</a> Front Robot AI. 8, 729832(2021).</li>
<li>Lu, Y., Zhang, J., Li, B., Chen, P., Zhuang, Z. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Harnessing+commodity+wearable+devices+for+capturing+learner+engagement%5BTitle%5D)+AND+%22IEEE+Access%22%5BJournal%5D)">Harnessing commodity wearable devices for capturing learner engagement.</a> IEEE Access. 7, 15749-15757 (2019).</li>
<li>Vanneste, P., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Computer+vision+and+human+behaviour%2C+emotion+and+cognition+detection%3A+A+use+case+on+student+engagement%5BTitle%5D)+AND+%22Mathematics%22%5BJournal%5D)">Computer vision and human behaviour, emotion and cognition detection: A use case on student engagement.</a> Mathematics. 9 (3), 287(2021).</li>
<li>Ma, X., Xu, M., Dong, Y., Sun, Z. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Automatic+student+engagement+in+online+learning+environment+based+on+neural+Turing+machine%5BTitle%5D)+AND+%22Int+J+Info+Edu+Tech%22%5BJournal%5D)">Automatic student engagement in online learning environment based on neural Turing machine.</a> Int J Info Edu Tech. 11 (3), 107-111 (2021).</li>
<li>Wood, E., Bulling, A. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((EyeTab%3A+model-based+gaze+estimation+on+unmodified+tablet+computers%5BTitle%5D)+AND+%22ETRA+%2714%3A+Proc+Symp+Eye+Tracking+Res+Appl%22%5BJournal%5D)">EyeTab: model-based gaze estimation on unmodified tablet computers.</a> ETRA '14: Proc Symp Eye Tracking Res Appl. , 207-210 (2014).</li>
<li>Sanghvi, J., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Automatic+analysis+of+affective+postures+and+body+motion+to+detect+engagement+with+a+game+companion%5BTitle%5D)+AND+%22HRI+%2711%3A+Proc+6th+Int+Conf+Human-robot+Interact%22%5BJournal%5D)">Automatic analysis of affective postures and body motion to detect engagement with a game companion.</a> HRI '11: Proc 6th Int Conf Human-robot Interact. , 205-211 (2011).</li>
<li>Gupta, S., Kumar, P., Tekchandani, R. K. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Facial+emotion+recognition+based+real-time+learner+engagement+detection+system+in+online+learning+context+using+deep+learning+models%5BTitle%5D)+AND+%22Multimed+Tools+Appl%22%5BJournal%5D)">Facial emotion recognition based real-time learner engagement detection system in online learning context using deep learning models.</a> Multimed Tools Appl. 82 (8), 11365-11394 (2023).</li>
<li>Altuwairqi, K., Jarraya, S. K., Allinjawi, A., Hammami, M. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Student+behavior+analysis+to+measure+engagement+levels+in+online+learning+environments%5BTitle%5D)+AND+%22Signal+Image+Video+Process%22%5BJournal%5D)">Student behavior analysis to measure engagement levels in online learning environments.</a> Signal Image Video Process. 15 (7), 1387-1395 (2021).</li>
<li>Belle, A., Hargraves, R. H., Najarian, K. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((An+automated+optimal+engagement+and+attention+detection+system+using+electrocardiogram%5BTitle%5D)+AND+%22Comput+Math+Methods+Med%22%5BJournal%5D)">An automated optimal engagement and attention detection system using electrocardiogram.</a> Comput Math Methods Med. 2012, 528781(2012).</li>
<li>Alban, A. Q., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Heart+rate+as+a+predictor+of+challenging+behaviours+among+children+with+autism+from+wearable+sensors+in+social+robot+interactions%5BTitle%5D)+AND+%22Robotics%22%5BJournal%5D)">Heart rate as a predictor of challenging behaviours among children with autism from wearable sensors in social robot interactions.</a> Robotics. 12 (2), 55(2023).</li>
<li>Kajiwara, Y., Shimauchi, T., Kimura, H. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Predicting+emotion+and+engagement+of+workers+in+order+picking+based+on+behavior+and+pulse+waves+acquired+by+wearable+devices%5BTitle%5D)+AND+%22Sensors%22%5BJournal%5D)">Predicting emotion and engagement of workers in order picking based on behavior and pulse waves acquired by wearable devices.</a> Sensors. 19 (1), 165(2019).</li>
<li>Personalizing a smartwatch-based gesture interface with transfer learning. Costante, G., Porzi, L., Lanz, O., Valigi, P., Ricci, E. 22nd European Signal Processing Conference (EUSIPCO), Lisbon, Portugal, , 2530-2534 (2014).</li>
<li>Mekruksavanich, S., Jitpattanakul, A. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Deep+convolutional+neural+network+with+RNNs+for+complex+activity+recognition+using+wrist-worn+wearable+sensor+data%5BTitle%5D)+AND+%22Electronics%22%5BJournal%5D)">Deep convolutional neural network with RNNs for complex activity recognition using wrist-worn wearable sensor data.</a> Electronics. 10 (14), 1685(2021).</li>
<li>Bazarevsky, V., Kartynnik, Y., Vakunov, A., Raveendran, K., Grundmann, M. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((BlazeFace%3A+Sub-millisecond+Neural+Face+Detection+on+Mobile+GPUs%5BTitle%5D)+AND+%22arXiv%22%5BJournal%5D)">BlazeFace: Sub-millisecond Neural Face Detection on Mobile GPUs.</a> arXiv. , (2019).</li>
<li>Bazarevsky, V., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((BlazePose%3A+On-device+Real-time+Body+Pose+tracking%5BTitle%5D)+AND+%22arXiv%22%5BJournal%5D)">BlazePose: On-device Real-time Body Pose tracking.</a> arXiv. , (2020).</li>
<li>Mejia-Escobar, C., Cazorla, M., Martinez-Martin, E. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Towards+a+better+performance+in+facial+expression+recognition%3A+a+data-centric+approach%5BTitle%5D)+AND+%22Comput+Intelligence+Neurosci%22%5BJournal%5D)">Towards a better performance in facial expression recognition: a data-centric approach.</a> Comput Intelligence Neurosci. , In press (2023).</li>
<li>El-Garem, A., Adel, R. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Applying+systematic+literature+review+and+Delphi+methods+to+explore+digital+transformation+key+success+factors%5BTitle%5D)+AND+%22Int+J+Eco+Mgmt+Engi%22%5BJournal%5D)">Applying systematic literature review and Delphi methods to explore digital transformation key success factors.</a> Int J Eco Mgmt Engi. 16 (7), 383-389 (2022).</li>
<li>Using electroencephalography to determine student attention in the classroom. Indumathi, V., Kist, A. A. IEEE Global Engineering Education Conference (EDUCON, Kuwait, Kuwait, , 1-3 (2023).</li>
<li>Ma, X., Xie, Y., Wang, H. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Research+on+the+construction+and+application+of+teacher-student+interaction+evaluation+system+for+smart+classroom+in+the+post+COVID-19%5BTitle%5D)+AND+%22Studies+Edu+Eval%22%5BJournal%5D)">Research on the construction and application of teacher-student interaction evaluation system for smart classroom in the post COVID-19.</a> Studies Edu Eval. 78, 101286(2023).</li>
<li>Andersen, D. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Constructing+Delphi+statements+for+technology+foresight%5BTitle%5D)+AND+%22Futures+Foresight+Sci%22%5BJournal%5D)">Constructing Delphi statements for technology foresight.</a> Futures Foresight Sci. 5 (2), e144(2022).</li>
<li>Khodyakov, D., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Disciplinary+trends+in+the+use+of+the+Delphi+method%3A+A+bibliometric+analysis%5BTitle%5D)+AND+%22PLoS+One%22%5BJournal%5D)">Disciplinary trends in the use of the Delphi method: A bibliometric analysis.</a> PLoS One. 18 (8), e0289009(2023).</li>
<li>Martins, A. I., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Consensus+on+the+Terms+and+Procedures+for+Planning+and+Reporting+a+Usability+Evaluation+of+Health-Related+Digital+Solutions%3A+Delphi+Study+and+a+Resulting+Checklist%5BTitle%5D)+AND+%22J+Medical+Internet+Res%22%5BJournal%5D)">Consensus on the Terms and Procedures for Planning and Reporting a Usability Evaluation of Health-Related Digital Solutions: Delphi Study and a Resulting Checklist.</a> J Medical Internet Res. 25, e44326(2023).</li>
<li>Dalmaso, M., Castelli, L., Galfano, G. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Social+modulators+of+gaze-mediated+orienting+of+attention%3A+A+review%5BTitle%5D)+AND+%22Psychon+Bull+Rev%22%5BJournal%5D)">Social modulators of gaze-mediated orienting of attention: A review.</a> Psychon Bull Rev. 27 (5), 833-855 (2020).</li>
<li>Klein, R. M. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Thinking+about+attention%3A+Successive+approximations+to+a+productive+taxonomy%5BTitle%5D)+AND+%22Cognition%22%5BJournal%5D)">Thinking about attention: Successive approximations to a productive taxonomy.</a> Cognition. 225, 105137(2022).</li>
<li>Schindler, S., Bublatzky, F. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Attention+and+emotion%3A+An+integrative+review+of+emotional+face+processing+as+a+function+of+attention%5BTitle%5D)+AND+%22Cortex%22%5BJournal%5D)">Attention and emotion: An integrative review of emotional face processing as a function of attention.</a> Cortex. 130, 362-386 (2020).</li>
<li>Zaletelj, J., Košir, A. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Predicting+students%27+attention+in+the+classroom+from+Kinect+facial+and+body+features%5BTitle%5D)+AND+%22J+Image+Video+Proc%22%5BJournal%5D)">Predicting students' attention in the classroom from Kinect facial and body features.</a> J Image Video Proc. 80, (2017).</li>
<li>Strauch, C., Wang, C. A., Einhäuser, W., Van der Stigchel, S., Naber, M. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Pupillometry+as+an+integrated+readout+of+distinct+attentional+networks%5BTitle%5D)+AND+%22Trends+Neurosci%22%5BJournal%5D)">Pupillometry as an integrated readout of distinct attentional networks.</a> Trends Neurosci. 45 (8), 635-647 (2022).</li>
</ol>

저자들은 이 논문에 보고된 연구에 영향을 미칠 수 있는 경쟁적인 재정적 이해관계나 개인적 관계를 알지 못한다고 선언합니다.

이 연구는 카메라, 스마트워치, 인공지능 알고리즘을 이용해 교실에서 학생의 주의력을 측정하는 시스템을 제시한다. 이 정보는 교사가 학급의 일반적인 상태에 대해 알 수 있도록 교사에게 제공됩니다.
프로토콜의 주요 중요한 단계 중 하나는 주파수가 다르기 때문에 스마트 워치 정보를 컬러 카메라 이미지와 동기화하는 것입니다. 이 문제는 라즈베리를 서버로 배포하여 스마트워치와 카메라에서 각각의 타임스탬프와 함께 정보를 수신하고 이 정보를 대략적으로 일치시킴으로써 해결되었습니다. 마지막으로 이 정보는 추가 처리를 위해 중앙 서버로 전송됩니다. 프로토콜의 또 다른 중요한 단계는 다양한 소스에서 얻은 데이터로 최종 추론을 생성하기 위한 최종 분류자를 정의하는 것입니다. 이 점을 해결하려면 원시 데이터를 여러 하위 시스템을 통해 전처리하여 사용자의 자세, 감정 또는 동작과 같은 중요한 정보를 생성해야 합니다. 이 정보는 생체 인식 데이터와 함께 정규화되고 결합되어 각 학생의 주의 수준을 추정합니...

현대 교육 환경에서 학생들의 주의를 정확하게 평가하고 유지하는 것은 효과적인 교수 및 학습에 매우 중요합니다. 그러나 자기 보고 또는 주관적인 교사 관찰과 같은 참여도를 측정하는 전통적인 방법은 시간이 많이 걸리고 편향이 발생하기 쉽습니다. 이 문제를 해결하기 위해 인공 지능(AI) 기술이 자동화된 주의 감지를 위한 유망한 솔루션으로 부상했습니다. 학생들의 참여 수준을 이해하는 데 있어 한 가지 중요한 측면은 감정 인식이다1. AI 시스템은 얼굴 표정을 분석하여 중립, 혐오, 놀람, 슬픔, 두려움, 행복, 분노와 같은 감정을 식별할 수 있습니다2.
시선 방향과 몸의 자세도 학생들의 주의력을 나타내는 중요한 지표이다3. AI 시스템은 카메라와 고급 머신 러닝 알고리즘을 활용하여 학생들이 보는 곳을 정확하게 추적하고 신체 자세를 분석하여 무관심이나 피로의 징후를 감지할 수 있습니다4. 또한, 생체 인식 데이터를 통합하면 주의 감지의 정확성과 신뢰성이 향상된다5. 학생들이 착용하는 스마트워치를 통해 심박수 및 혈중 산소 포화도와 같은 측정값을 수집함으로써 주의력에 대한 객관적인 지표를 얻을 수 있고 다른 정보 소스를 보완할 수 있습니다.
이 논문은 컬러 카메라 및 기타 다양한 센서를 사용하여 개인의 주의 수준을 평가하는 시스템을 제안합니다. 감정 인식, 시선 방향 분석, 신체 자세 평가 및 생체 인식 데이터를 결합하여 교육자에게 교수-학습 프로세스를 최적화하고 학생 참여를 개선하기 위한 포괄적인 도구 세트를 제공합니다. 이러한 도구를 사용함으로써 교육자는 교수-학습 과정에 대한 포괄적인 이해를 얻고 학생 참여를 향상시켜 전반적인 교육 경험을 최적화할 수 있습니다. AI 기술을 적용하면 이 데이터를 자동으로 평가할 수도 있습니다.
이 작업의 주요 목표는 모든 정보를 캡처할 수 있는 시스템을 설명하고, 캡처한 후에는 실시간으로 전체 학급의 관심을 끌 수 있는 AI 모델을 훈련시키는 것입니다. 다른 연구에서는 이미 시각 또는 감성적 정보를 사용하여 관심을 끌 것을 제안했지만6 이 연구는 보다 복잡하고 효과적인 AI 기술을 사용할 수 있도록 총체적인 접근 방식을 제공하는 이러한 기술의 결합 사용을 제안합니다. 또한 지금까지 사용 가능한 데이터 세트는 비디오 세트 또는 생체 인식 데이터 중 하나로 제한됩니다. 문헌에는 학생의 얼굴이나 신체 이미지, 생체 인식 데이터, 교사의 위치에 대한 데이터 등이 포함된 완전한 데이터를 제공하는 데이터 세트가 포함되어 있지 않습니다. 여기에 제시된 시스템을 사용하면 이러한 유형의 데이터 세트를 캡처할 수 있습니다.
시스템은 각 시점에서 각 학생에 대한 관심 수준을 연결합니다. 이 값은 0%에서 100% 사이의 관심 확률 값으로, 낮은 주의 수준(0%-40%), 중간 수준의 주의(40%-75%) 및 높은 주의 수준(75%-100%)으로 해석될 수 있습니다. 텍스트 전체에서 이 주의 확률은 주의 수준, 학생 주의 또는 학생이 산만한지 여부라고 하지만 모두 시스템의 동일한 출력 값과 관련이 있습니다.
수년에 걸쳐 자동 참여 감지 분야는 교육에 혁명을 일으킬 수 있는 잠재력으로 인해 크게 성장했습니다. 연구자들은 이 연구 분야에 대한 다양한 접근 방식을 제안했습니다.
Ma et al.7 은 자동 교전 인식을 위한 뉴럴 튜링 머신(Neural Turing Machine)을 기반으로 하는 새로운 방법을 소개했습니다. 그들은 시선 응시, 얼굴 동작 단위, 머리 자세 및 신체 자세와 같은 특정 기능을 추출하여 참여 인식을 포괄적으로 표현했습니다.
또 다른 혁신적인 시스템인 아이탭 8(EyeTab8)은 모델을 사용하여 사람이 두 눈으로 어디를 보고 있는지 추정했습니다. 수정 없이 표준 태블릿에서 원활하게 작동하도록 특별히 제작되었습니다. 이 시스템은 이미지 처리 및 컴퓨터 비전 분석을 위해 잘 알려진 알고리즘을 활용합니다. 그들의 시선 추정 파이프라인에는 Haar와 같은 특징 기반 눈 감지기와 RANSAC 기반 limbus ellipse fitting 접근 방식이 포함됩니다.
상비(Sanghvi) 등9 은 시각 기반 기법을 사용하여 측면 시점으로 녹화된 비디오에서 표현적인 자세 특징을 자동으로 추출하여 어린이의 행동을 포착하는 접근 방식을 제안합니다. 상황에 맞는 정서적 자세 표현을 사용하여 여러 인식 모델의 훈련을 포함하는 초기 평가가 수행됩니다. 얻어진 결과는 자세 행동 패턴이 로봇과 어린이의 참여를 효과적으로 예측할 수 있음을 보여줍니다.
Gupta et al.10과 같은 다른 연구에서는 딥 러닝 기반 방법을 사용하여 얼굴 표정을 분석하고 감정을 분류하여 온라인 학습자의 실시간 참여를 감지합니다. 이 접근 방식은 얼굴 감정 인식을 활용하여 참여 및 이탈의 두 가지 참여 상태를 예측하는 참여 지수(EI)를 계산합니다. Inception-V3, VGG19 및 ResNet-50을 포함한 다양한 딥 러닝 모델을 평가하고 비교하여 실시간 참여 감지를 위한 가장 효과적인 예측 분류 모델을 식별합니다.
Altuwairqi et al.11에서 연구원들은 학생 참여 수준을 실시간으로 평가하기 위한 새로운 자동 다중 모드 접근 방식을 제시합니다. 정확하고 신뢰할 수 있는 측정을 보장하기 위해 연구팀은 학생들의 행동을 포착하는 세 가지 뚜렷한 양식, 즉 감정에 대한 얼굴 표정, 키보드 키 입력, 마우스 움직임을 통합하고 분석했습니다.
Guillén et al.12 은 작업을 수행하는 동안 개인의 인지적 주의의 유무를 분석하고 예측하기 위해 심전도(ECG)를 주요 생리학적 신호로 사용하는 모니터링 시스템의 개발을 제안합니다.
Alban et al.13 은 신경망(NN)을 활용하여 시간 및 주파수 영역에서 다양한 참가자의 심박수(HR) 및 전기 활동(EDA) 값을 분석하여 감정을 감지합니다. 그들은 RMSDD(Root-Mean-Square of Consecutive Differences) 및 SDNN(Standard Devation Normal-to-Normal) 간격의 증가와 평균 HR의 감소가 두려움과 관련된 교감신경계의 활동이 증가했음을 나타낸다는 것을 발견했습니다.
Kajiwara 등[14 ]은 웨어러블 센서와 심층 신경망을 사용하여 근로자의 감정 및 참여 수준을 예측하는 혁신적인 시스템을 제안합니다. 시스템은 3단계 프로세스를 따릅니다. 처음에는 웨어러블 센서가 동작과 맥파에 대한 데이터를 캡처하고 수집합니다. 그 후, 시계열 특징은 획득된 행동 및 생리학적 데이터를 기반으로 계산됩니다. 마지막으로, 심층 신경망은 시계열 기능을 입력하고 개인의 감정과 참여 수준을 예측하는 데 사용됩니다.
Costante et al.15과 같은 다른 연구에서는 사용자 정의 제스처의 인식을 향상시키기 위해 사전 정의된 제스처 세트에 대한 사전 지식을 활용하는 새로운 전송 메트릭 학습 알고리즘을 기반으로 하는 접근 방식이 제안됩니다. 이러한 개선은 추가 학습 샘플에 대한 의존도를 최소화하면서 달성됩니다. 이와 유사하게, 센서 기반 인간 활동 인식 프레임워크(sensor-based human activity recognition framework)(16)는 복잡한 인간 활동에 대한 비인격적 인식의 목표를 다루기 위해 제시된다. 손목에 착용하는 센서에서 수집된 신호 데이터는 웨어러블 장치 사용자가 수행한 활동을 조사하기 위해 4개의 RNN 기반 DL 모델(Long-Short Term Memories, Bidirectional Long-Short Term Memories, Gated Recurrent Units 및 Bidirectional Gated Recurrent Units)을 사용하여 개발된 인간 활동 인식 프레임워크에 활용됩니다.

<table><tbody><tr><td>GPU 4개&nbsp; Nvidia A40 Ampere</td><td>NVIDIA</td><td>TCSA40M-PB</td><td>GPU 중앙 집중식 모델 처리 서버용</td></tr><tr><td>FusionServer 2288H V5</td><td>X-Fusion</td><td>02311XBK</td><td>플랫폼에는 중앙 집중식 모델 처리 서버용 전원 공급 장치 및 마더보드가 포함되어 있습니다</td></tr>. <tr><td>메모리 카드 Evo Plus 128 GB</td><td>Samsung</td><td>MB-MC128KA/EU</td><td>메모리 카드는 Raspberry Pi 4b 2GB의 작동을 위한 것입니다. 라즈베리 한 개당 하나씩.&nbsp;</td></tr><tr><td>NEMIX RAM - 512 GB 키트 DDR4-3200 PC4-25600 8Rx4 EC</td><td>NEMIX</td><td>M393AAG40M32-CAE</td><td>RAM 중앙 집중식 모델 처리 서버용</td></tr><tr><td>프로세서 Intel Xeon Gold 6330</td><td>Intel</td><td>CD8068904572101</td><td>프로세서 중앙 집중식 모델 처리 서버용</td></tr><tr><td>Raspberry PI 4B 2GB</td><td>Raspberry</td><td>1822095</td><td>클럭에서 요청을 받아 일반 서버로 보내는 로컬 서버. 학생 2명당 1명.</td></tr><tr><td>삼성 갤럭시 워치 5 (40mm)</td><td>삼성</td><td>SM-R900NZAAPHE</td><td>각 학생의 활동을 모니터링하는 시계. 각 학생을 위해.&nbsp;</td></tr><tr><td>삼성 MZQL23T8HCLS-00B7C PM9A3 3.84Tb Nvme U.2 PCI-Express-4 x4 2.5인치 SSD</td><td>삼성</td><td>MZQL23T8HCLS-00B7C</td><td>중앙 모델 처리 서버용 내부 저장소</td></tr><tr><td>웹캠 HD Pro C920 웹캠 FullHD</td><td>Logitech</td><td>960-001055</td><td>웹캠 HD. 각 학생당 1개, 학생 포즈에 2개.</td></tr></tbody></table>

학생의 주의력 수준을 감지하기 위한 인공 지능 기반 시스템

Artificial Intelligence-Based System for Detecting Attention Levels in Students

교실에서 학생들의 주의력 수준은 인공 지능(AI) 기술을 사용하여 향상시킬 수 있습니다. 주의 수준을 자동으로 식별함으로써 교사는 학생들의 집중력을 되찾기 위한 전략을 사용할 수 있습니다. 이는 다양한 정보 소스를 통해 달성할 수 있습니다.
한 가지 원천은 학생들의 얼굴에 반영된 감정을 분석하는 것입니다. AI는 중립, 혐오, 놀람, 슬픔, 두려움, 행복, 분노와 같은 감정을 감지할 수 있습니다. 또한 학생들의 시선 방향은 잠재적으로 학생들의 관심 수준을 나타낼 수도 있습니다. 또 다른 출처는 학생들의 신체 자세를 관찰하는 것입니다. 카메라와 딥 러닝 기술을 사용하여 자세를 분석하여 주의 수준을 결정할 수 있습니다. 예를 들어, 구부정한 자세를 취하거나 책상에 머리를 기대고 있는 학생은 주의력이 떨어질 수 있습니다. 학생들에게 배포되는 스마트워치는 심박수 및 관성 측정을 포함한 생체 인식 및 기타 데이터를 제공할 수 있으며, 이는 주의의 지표로도 사용할 수 있습니다. 이러한 정보 소스를 결합함으로써 AI 시스템은 교실에서 주의 수준을 식별하도록 훈련할 수 있습니다. 그러나 다양한 유형의 데이터를 통합하려면 레이블이 지정된 데이터 세트를 만들어야 하는 문제가 발생합니다. 정확한 라벨링을 위해 전문가의 의견과 기존 연구를 참조합니다. 이 논문에서는 이러한 측정의 통합과 데이터 세트 및 잠재적인 주의 분류기의 생성을 제안합니다. 교사에게 피드백을 제공하기 위해 스마트 워치 또는 다이렉트 컴퓨터와 같은 다양한 방법을 탐색합니다. 교사가 주의력 문제를 인식하게 되면 학생들을 다시 참여시키고 동기를 부여하기 위해 교수 방식을 조정할 수 있습니다. 요약하면, AI 기술은 학생들의 감정, 시선 방향, 신체 자세 및 생체 인식 데이터를 분석하여 학생들의 주의 수준을 자동으로 식별할 수 있습니다. 이 정보는 교사가 교수-학습 과정을 최적화하는 데 도움이 될 수 있습니다.

이 연구의 대상 그룹은 학부생과 석사생이므로 주요 연령 그룹은 18세에서 25세 사이입니다. 이 모집단은 어린 학생들보다 산만함이 적은 전자 장치를 다룰 수 있기 때문에 선택되었습니다. 이 그룹에는 총 25명이 포함되었습니다. 이 연령대는 제안서를 테스트하기 위해 가장 신뢰할 수 있는 결과를 제공할 수 있습니다.
교사에게 보여지는 주의 수준의 결과는 2부분으로 나뉩니다. 결과의 파트 A는 각 학생의 현재 주의 수준에 대한 개별 정보를 보여줍니다. 그런 다음 파트 B는 수업 전반에 걸쳐 전체 반원의 평균적인 관심과 시간적 역사를 얻기 위한 것입니다. 이를 통해 교실에서 학생의 관심에 대한 일반적인 추세를 포착하고 교사가 사용하는 방법론을 실제 방식으로 조정할 수 있습니다. 인터페이스는 매초마다 서버에서 새로운 정보를 요청합니다. 또한 이 보기는 브라우저 알림 사용을 통합하여 교사가 이 GUI를 전경에 유지할 필요 없이 정상적으로 활동을 수행하는 동안 학생들의 주의에 대한 급격한 변...

이 논문은 학생들이 수업에 집중하고 있는지 또는 주의가 산만한지 자동으로 감지하는 인공 지능 기반 시스템을 제안합니다. 이 시스템은 교사가 학생들의 주의를 유지하고, 수업을 최적화하고, 학생들의 참여를 돕기 위해 동적으로 수정 사항을 도입할 수 있도록 설계되었습니다.

The attention level of students in a classroom can be improved through the use of Artificial Intelligence (AI) techniques. By automatically identifying ...

우리의 연구는 교실 환경에서 학생의 주의 수준을 측정하고 감지하기 위해 인공 지능을 사용하는 타당성을 탐구하는 데 중점을 둡니다. 우리는 맞춤형으로 개발된 알고리즘과 방법론이 수업 중 학생 참여를 효과적으로 평가할 수 있는지 조사하고 있습니다. 가장 최근의 접근 방식은 인공 지능을 기반으로 합니다.특히 학습 알고리즘은 최첨단입니다. 이러한 종류의 알고리즘은 방대한 양의 데이터를 사용하여 내부 모델을 훈련시킨 다음 이미지를 분류하거나 사람의 포즈를 추정하거나 기타 여러 가지 흥미로운 작업을 수행하는 데 사용할 수 있습니다. 우리 연구에는 두 가지 주요 과제가 있습니다.첫째, 해결해야 할 기술적 문제가 있습니다. 예를 들어, 장치를 설정하는 방법, 사진에서 움직임을 추정하는 방법, 포즈 및 접근 방식에서 고려하는 기타 매개변수가 있습니다. 그리고 모든 개인이 주의력 수준을 동일한 방식으로 표현하는지 여부가 불분명하기 때문에 주관적인 분기가 있습니다.우리 시스템의 가장 큰 장점은 멀티모달 접근 방식을 사용한다는 것입니다. 얼굴 감정, 신체 자세, 머리 자세, 가속기 데이터 및 심박수 등 다양한 입력을 분석하여 주의 수준을 자동으로 분류합니다. 또한 우리의 방법은 인공 지능에 크게 의존하고 있으며, 이는 다른 관련 연구 분야에서 높은 성공을 거둔 것으로 보고되었습니다.

artificial-intelligence-based-system-for-detecting-attention-levels

Research

연구

JoVE Journal

Engineering

공학

실험실 설정을 복제하기 위해 시각적 작업을 위한 온라인 데이터 수집 방법은 자극 프레젠테이션에 대한 엄격한 제어가 필요합니다. 웹 애플리케이션을 사용하여 두 가지 시각적 주의 테스트에서 성능 데이터를 수집하는 방법을 간략하게 설명합니다.

방법은 온라인 비주얼주의를 테스트하려면

벌크 실리콘 결함 재조합 활성을 조사하기 위해 RT 액면 패시베이션 기술을 설명한다. 1 분 동안 15 % 불화 수소산 및 (iii) 조명 (I)에서 화학 세정 및 실리콘 에칭, 실리콘 (II) 침수 : 기술이 성공하기 위해서는 세 가지 중요한 단계가 필요합니다.

향상된 광 불산 패시베이션 : 벌크 실리콘 결함을 검출하기위한 민감한 기술

평면 샘플 자성 입자를 이미지화하는 스캐너는 자기 검출 기법 혼합 평탄한 주파수를 이용하여 개발되었다. 입자의 비선형 nonhysteretic 자화에서 자기 상호 변조 응답은 두 개의 주파수 대역 여기에 기록된다. 얇은 생물학적 시료의 2 차원 영상을 위해 사용될 수있다.

평면 샘플에 자석 입자 이미징에 대한 자기 인식 스캐너를 혼합 주파수

높은 정밀 밀링 메서드를 사용 하 여 수용 성 염화 프로필을 얻기 위한 프로토콜 제공 됩니다.

높은-정밀 방법으로 시멘트 페이스트의 수용 성 염화 배포 검색

상업-오프-더-선반 (상용) 손목 wearables 학생 들에 게 스트레스를 추정에 기반 하는 솔루션을 평가 하는 프로토콜은 제안 하 고 있다. 프로토콜은 두 단계, 초기 실험실 기반 스트레스 유도 테스트 및 학생 학술 활동을 수행 하는 동안 교실에서 일어나 모니터링 단계에서 수행 됩니다.

상업-오프-더-선반 손목 Wearables 추정 학생에 대 한 스트레스의 평가

여기, 선물이 LSMO 나노 입자를 성장 하는 프로토콜 및 무선 주파수 (RF)에 의해 단일-크리스탈 기판 (001) SrTiO3 (STO)에 영화 (Gd) BCO-스퍼터 링.

고주파 마 그 네트 론 스퍼터 링 GdBa2Cu3O7−δ의 라0.67SrTiO3 (STO) 단 결정 기판에 Sr0.33MnO3 준 bilayer 영화 /

여기서는 가변 사이클 엔진에 대한 구성 요소 수준 수학적 모델을 빌드하는 프로토콜을 제시합니다.

가변 사이클 엔진 모델링을 위한 신속한 방법

분산 로봇 노드는 등반 식물의 성장 궤적을 조종하는 청색광 자극의 시퀀스를 제공합니다. 자연 광도증을 활성화함으로써 로봇은 이진 좌우 결정을 통해 식물을 안내하고, 로봇이 휴면 상태일 때 는 대조적으로 불가능한 미리 정의된 패턴으로 성장시다.

유도 된 식물 성장을위한 로봇 감지 및 자극 제공

이 프로토콜은 도마뱀에서 영감을 받은 소프트 로봇의 등반 성능의 제조, 제어 및 평가를 위해 수행할 단계의 자세한 목록을 제공합니다.

Gecko에서 영감을 받은 소프트 로봇의 제조, 제어 및 성능 평가

이 연구는 실크모스 안테나를 기반으로 하는 바이오 하이브리드 악취 감지 드론을 위한 실험 프로토콜을 소개합니다. 실크모스 안테나를 이용한 실험용 일란텐노그램 장치의 작동이 제시되고, 나선형 서지 알고리즘을 이용하여 악취 원 국소화를 위해 설계된 바이오 하이브리드 드론의 구조가 더해있다.

악취원 국산화용 실크모스 안테나를 이용한 일탄텐노그래피 기반 바이오 하이브리드 악취 감지 드론

학습하세요 인공지능 기반 실시간 학생 주의력 감지 시스템을 활용한 교육 기술 방법론입니다. 맞춤형 알고리즘과 다중 모달 데이터 분석으로 교사가 수업 중 학생 집중도를 모니터링하고 교수법을 최적화할 수 있습니다.

학생의 주의력 수준을 감지하기 위한 인공 지능 기반 시스템

더 많은 동영상 탐색