We hebben een eenvoudige, aanpasbare en efficiënte methode ontwikkeld voor het vastleggen van kwantitatieve procesgegevens van interactieve ruimtelijke taken en het in kaart brengen van deze rotatiegegevens met eye-tracking gegevens.
Een abonnement op JoVE is vereist om deze inhoud te bekijken. Log in of start vandaag met uw gratis proefperiode.
Methodenartikel
We hebben een eenvoudige, aanpasbare en efficiënte methode ontwikkeld voor het vastleggen van kwantitatieve procesgegevens van interactieve ruimtelijke taken en het in kaart brengen van deze rotatiegegevens met eye-tracking gegevens.
We presenteren een methode voor het real-time vastleggen van menselijke interactie met driedimensionale (3D) virtuele objecten. De aanpak bestaat uit het associëren van rotatiegegevens van het gemanipuleerde object met gedragsmetingen, zoals eye-tracking, om betere conclusies te trekken over de onderliggende cognitieve processen.
De taak bestaat uit het weergeven van twee identieke modellen van hetzelfde 3D-object (een molecuul), gepresenteerd op een computerscherm: een roterend, interactief object (iObj) en een statisch doelobject (tObj). Deelnemers moeten iObj met de muis draaien totdat ze van mening zijn dat de oriëntatie identiek is aan die van tObj. De computer houdt alle interactiegegevens in realtime bij. De blikgegevens van de deelnemer worden ook geregistreerd met behulp van een eyetracker. De meetfrequentie is 10 Hz op de computer en 60 Hz op de eyetracker.
De oriëntatiegegevens van iObj ten opzichte van tObj worden vastgelegd in rotatiequaternionen. De blikgegevens worden gesynchroniseerd met de oriëntatie van iObj en er wordt naar verwezen met behulp van hetzelfde systeem. Deze methode stelt ons in staat om de volgende visualisaties van het menselijke interactieproces met iObj en tObj te verkrijgen: (1) hoekongelijkheid gesynchroniseerd met andere tijdsafhankelijke gegevens; (2) 3D-rotatiebaan binnen wat we besloten een "bal van rotaties" te noemen; (3) 3D fixatie heatmap. Alle stappen van het protocol hebben gebruik gemaakt van vrije software, zoals GNU Octave en Jmol, en alle scripts zijn beschikbaar als aanvullend materiaal.
Met deze benadering kunnen we gedetailleerde kwantitatieve studies uitvoeren van het taakoplossende proces met mentale of fysieke rotaties, in plaats van alleen het bereikte resultaat. Het is mogelijk om precies te meten hoe belangrijk elk onderdeel van de 3D-modellen is voor de deelnemer bij het oplossen van taken, en zo de modellen te relateren aan relevante variabelen zoals de kenmerken van de objecten, cognitieve vaardigheden van de individuen en de kenmerken van de mens-machine-interface.
Mentale rotatie (MR) is een cognitief vermogen dat individuen in staat stelt objecten mentaal te manipuleren en te roteren, waardoor een beter begrip van hun kenmerken en ruimtelijke relaties wordt vergemakkelijkt. Het is een van de visueel-ruimtelijke vaardigheden, een fundamentele cognitieve groep die al in 1890 werd bestudeerd1. Visueel-ruimtelijke vaardigheden zijn een belangrijk onderdeel van het cognitieve repertoire van een individu dat wordt beïnvloed door zowel erfelijke als omgevingsfactoren 2,3,4,5. De belangstelling voor visueel-ruimtelijke vaardigheden is in de loop van de twintigste eeuw gegroeid als gevolg van toenemend bewijs van hun belang in belangrijke vakken zoals leeftijd6 en ontwikkeling7, prestaties in wetenschap, technologie, techniek en wiskunde (STEM) 8,9, creativiteit10 en evolutionaire kenmerken11.
Het hedendaagse idee van MR komt voort uit het baanbrekende werk dat Shepard en Metzler (SM) in 197112 publiceerden. Ze bedachten een chronometrische methode met behulp van een reeks "dezelfde of andere" taken, waarbij ze twee projecties van abstracte 3D-objecten naast elkaar presenteerden. Deelnemers moesten de objecten mentaal op een bepaalde as draaien en beslissen of die projecties hetzelfde object anders roteerden of verschillende objecten afbeeldden. De studie onthulde een positieve lineaire correlatie tussen responstijd (RT) en de hoekongelijkheid (AD) tussen representaties van hetzelfde object. Deze correlatie staat bekend als het hoekongelijkheidseffect (ADE). ADE wordt beschouwd als een gedragsmanifestatie van MR en werd alomtegenwoordig in verschillende invloedrijke latere onderzoeken in het veld 13,14,15,16,17,18,19,20,21,22,23,24,25. De 3D-objecten die in de SM-studie werden gebruikt, waren samengesteld uit 10 aaneengesloten kubussen die werden gegenereerd door de pionier op het gebied van computergrafieken Michael Noll bij Bell Laboratories26. Ze worden SM-figuren genoemd en worden veel gebruikt in MR-studies.
Twee ontwikkelingen waren van groot belang in het baanbrekende werk van Shepard en Metzler; ten eerste het overwegen van de bijdragen op het gebied van MR-beoordelingen. In 1978 ontwikkelden Vanderberg en Kuze27 een psychometrische potlood-en-papiertest met 20 items op basis van SM "dezelfde of andere" cijfers die bekend werd als de mentale rotatietest (VKMRT). Elk testitem presenteert een doelstimulus. Deelnemers moeten kiezen uit vier stimuli, welke hetzelfde object vertegenwoordigen dat in de doelstimulus is afgebeeld en welke niet. VKMRT is gebruikt om de correlatie tussen MR-vermogen en verschillende andere factoren te onderzoeken, zoals seksegerelateerde verschillen 6,21,24,28,29,30, veroudering en ontwikkeling 6,31,32, academische prestaties 8,33, en vaardigheden in muziek en sport34. In 1995 publiceerden Peters et al. een studie met hertekende cijfers voor de VKMRT 35,36. Evenzo, volgens het "dezelfde of andere" taakontwerp, zijn een verscheidenheid aan andere bibliotheken van door de computer gegenereerde stimuli gebruikt om MR-processen te onderzoeken en MR-vaardigheden te beoordelen (3D-versies van de originele SM-stimuli 19,22,23,37,38, menselijk lichaam dat SM-figuren nabootst 25,39,40, platte polygonen voor 2D-rotatie 41, 42, anatomie en organen43, organische vormen44, moleculen45,46, onder andere21). De Purdue Spatial Visualization Test (PSVT) voorgesteld door Guay in 197647 is ook relevant. Het omvat een reeks tests, waaronder MR (PSVT:R). Door gebruik te maken van andere stimuli dan die in VKMRT, PSVT:R vereist dat deelnemers een rotatiebewerking in een modelstimulus identificeren en deze mentaal toepassen op een andere. PSVT:R wordt ook veel gebruikt, met name in onderzoeken naar de rol van MR bij STEM-prestaties 48,49,50.
De tweede vooruitgang van groot belang in het baanbrekende werk van Shepard en Metzler omvat de bijdragen aan het begrip van het MR-proces, in het bijzonder met het gebruik van eye-tracking-apparaten. In 1976 gebruikten Just en Carpenter14 analoge video-gebaseerde eye-tracking-apparatuur om een onderzoek uit te voeren op basis van het ADE-experiment van Shepard en Metzler. Op basis van hun resultaten over saccadische oogbewegingen en RT's stelden ze een model van MR-processen voor dat bestaat uit drie fasen: 1) de zoekfase, waarin vergelijkbare delen van de figuren worden herkend; 2) de transformatie- en vergelijkingsfase, waarin een van de geïdentificeerde delen mentaal wordt geroteerd; 3) de bevestigingsfase, waarin wordt besloten of de cijfers hetzelfde zijn of niet. De fasen worden recursief herhaald totdat er een beslissing kan worden genomen. Elke stap komt overeen met specifieke saccadische en fixationele oogbewegingspatronen in nauwe relatie tot waargenomen ADE's. Door oogactiviteit te correleren met chronometrische gegevens, leverden Just en Carpenter dus een cognitieve handtekening voor de studie van MR-processen. Tot op heden is dit model, zij het met aanpassingen, in verschillende onderzoeken overgenomen 15,42,46,51,52,53.
In navolging van dit spoor volgen verschillende daaropvolgende onderzoeken die gedrag 18,19,22,23,25,34,40,54,55 en hersenactiviteit 20,22,56,57 monitoren Functies tijdens stimulirotatie werden uitgevoerd. Hun bevindingen wijzen op een coöperatieve rol tussen MR en motorische processen. Bovendien is er een groeiende belangstelling voor het onderzoeken van probleemoplossende strategieën met betrekking tot MR in relatie tot individuele verschillen 15,41,46,51,58.
Over het algemeen kan worden aangenomen dat het ontwerp van onderzoeken die gericht zijn op het begrijpen van MR-processen gebaseerd is op het presenteren van een taak met visuele stimuli die deelnemers vraagt een MR-operatie uit te voeren die op zijn beurt een motorische reactie met zich meebrengt. Als deze reactie rotatie van de stimuli mogelijk maakt, wordt dit vaak fysieke rotatie (PR) genoemd. Afhankelijk van de specifieke doelstellingen van elke studie zijn verschillende strategieën en apparaten gebruikt voor gegevensverzameling en analyse van MR en PR. In de stap van de presentatie van taakstimulus is het mogelijk om de soorten stimuli te wijzigen (d.w.z. eerder aangehaalde voorbeelden); de projectie (door de computer gegenereerde beelden in traditionele displays 22,23,25,29,40,41,59, evenals in stereoscopen 19 en virtual60 en mixed43 reality-omgevingen); en de interactiviteit van de stimuli (statische beelden 12,27,36, animaties61 en interactieve virtuele objecten 19,22,23,43,53,59).
MR wordt meestal afgeleid uit metingen van RT's (ADE), evenals oog- en hersenactiviteit 25,46,62. Oculaire activiteit wordt gemeten met behulp van eye-tracking-gegevens bestaande uit saccadische bewegingen en fixaties 14,15,42,51,52,54,58,60, evenals pupillometrie 40. RT-gegevens zijn doorgaans afkomstig van motorresponsgegevens die zijn geregistreerd tijdens het bedienen van verschillende apparaten, zoals hendels13, knoppen en schakelaars 14,53, pedalen53, draaiknoppen19, joysticks37, toetsenbord61 en muis 29,58,60, aandrijfwielen 53, traagheidssensoren22,23, aanraakschermen52,59, en microfoons22. Om PR te meten, zal het onderzoeksontwerp naast de RT's ook het opnemen van handmatige rotaties van interactieve stimuli omvatten terwijl deelnemers de MR-taak 22,23,52,53 uitvoeren.
In 1998 gebruikten Wohlschläger en Wohlschläger19 "dezelfde of andere" taken met interactieve virtuele SM-stimuli die werden gemanipuleerd met een knop, met rotaties beperkt tot één as per taak. Ze maten RT en het cumulatieve record van fysieke rotaties die tijdens de taken werden uitgevoerd. Door situaties met en zonder daadwerkelijke rotatie van de interactieve stimuli te vergelijken, concludeerden ze dat MR en PR een gemeenschappelijk proces delen voor zowel ingebeelde als daadwerkelijk uitgevoerde rotaties.
In 2014 werden twee onderzoeken uitgevoerd waarbij gebruik werd gemaakt van hetzelfde type taken met virtuele interactieve stimuli22,23. De objecten werden echter gemanipuleerd met traagheidssensoren die beweging in de 3D-ruimte vastlegden. In beide gevallen werden, naast RT's, rotatietrajecten geregistreerd - de evolutie van rotatieverschillen tussen referentie- en interactieve stimuli tijdens de taken. Uit deze trajecten was het mogelijk om zowel cumulatieve informatie (d.w.z. het totale aantal omwentelingen in quaternionische eenheden) als gedetailleerde informatie over oplossingsstrategieën te extraheren. Adams et al.23 bestudeerden het coöperatieve effect tussen MR en PR. Naast RT's gebruikten ze de integraal van de rotatietrajecten als een parameter voor nauwkeurigheid en objectiviteit van de resolutie. Curveprofielen werden geïnterpreteerd volgens een driestappenmodel63 (planning, grote rotatie, fijnafstelling). De resultaten geven aan dat MR en PR niet noodzakelijkerwijs één gemeenschappelijke factor hebben. Gardony et al.22 verzamelden gegevens over RT, nauwkeurigheid en real-time rotatie. Naast het bevestigen van de relatie tussen MR en PR, bleek uit de analyse van rotatietrajecten dat deelnemers de cijfers manipuleerden totdat ze konden vaststellen of ze verschillend waren of niet. Als ze hetzelfde waren, zouden deelnemers ze roteren totdat ze er hetzelfde uitzagen.
Voortbordurend op deze strategie gebruikten Wetzel en Bertel52 in 2018 ook interactieve SM-figuren in "dezelfde of andere" taken met behulp van touchscreen-tablets als interface. Bovendien gebruikten ze een eye-tracking-apparaat om cumulatieve gegevens te verkrijgen over fixatietijd en saccadische amplitude als parameters van de cognitieve belasting die betrokken is bij het oplossen van MR-taken. De auteurs bevestigden de eerdere studies die hierboven zijn besproken met betrekking tot de relaties tussen MR en PR en de taakoplossende processen. In deze studie gebruikten ze echter geen fixatiemapping en saccadesgegevens voor de stimuli.
Methodologische benaderingen voor het in kaart brengen van eye-tracking-gegevens over virtuele 3D-objecten zijn voorgesteld en voortdurend verbeterd, vaak door onderzoekers die geïnteresseerd zijn in het bestuderen van de factoren die verband houden met visuele aandacht in virtuele omgevingen64. Hoewel betaalbaar en met behulp van vergelijkbare eye-tracking-apparaten, zijn deze methoden blijkbaar niet effectief geïntegreerd in het experimentele repertoire dat wordt gebruikt in mentale rotatiestudies met interactieve 3D-objecten zoals eerder genoemd. Omgekeerd hebben we in de literatuur geen studies gevonden die real-time mapping van fixatie- en saccadebewegingsgegevens op interactieve 3D-objecten rapporteren. Er lijkt geen handige methode te zijn om oogactiviteitsgegevens gemakkelijk te integreren met rotatietrajecten. Met dit onderzoek willen we een bijdrage leveren aan het opvullen van deze leemte. De procedure wordt in detail gepresenteerd, van data-acquisitie tot het genereren van grafische output.
In dit artikel beschrijven we in detail een methode voor het bestuderen van mentale rotatieprocessen met virtuele interactieve 3D-objecten. De volgende vorderingen worden belicht. Ten eerste integreert het kwantitatieve gedragsmotorische (met de hand aangedreven objectrotatie via een computerinterface) en oculaire (eye-tracking) gegevensverzameling tijdens interactiesessies met virtuele 3D-modellen. Ten tweede vereist het alleen conventionele computerapparatuur en eye-tracking-apparaten voor visueel taakontwerp, gegevensverzameling, opname en verwerking. Ten derde genereert het eenvoudig grafische uitvoer om gegevensanalyse te vergemakkelijken - hoekongelijkheid, fysieke rotatie, quaternionische rotatietrajecten en hitmapping van eye-tracking-gegevens over virtuele 3D-objecten. Ten slotte vereist de methode alleen vrije software. Alle ontwikkelde code en scripts zijn gratis (https://github.com/rodrigocnstest/rodrigocnstest.github.io) beschikbaar.
Toegang beperkt. Log in of start een proefperiode om deze inhoud te bekijken.
1. Voorbereiding van instrumenten voor gegevensverzameling
2. Verzamelen van gegevens
3. Gegevensverwerking en -analyse
4. Aanpassing van taken
OPMERKING: Dit hele gedeelte is optioneel en wordt alleen aanbevolen voor degenen die graag experimenteren of begrijpen hoe ze moeten coderen. Hieronder vindt u enkele van de vele aanpasbare opties die beschikbaar zijn, en er zullen meer opties beschikbaar komen naarmate we de methoden verder ontwikkelen.
Toegang beperkt. Log in of start een proefperiode om deze inhoud te bekijken.
Evolutie van hoekongelijkheid en andere variabelen
Zoals afgebeeld in stap 3.3.1 in aanvullend bestand 2, worden twee canvassen aan de deelnemer gepresenteerd op het videobeeldscherm, waarop kopieën van hetzelfde virtuele 3D-object in verschillende oriëntaties worden weergegeven. Op het linker canvas blijft het doelobject (tObj) statisch en dient het als de doelpositie of tObj-positie. Op het rechtercanvas wordt het interactieve objec...
Toegang beperkt. Log in of start een proefperiode om deze inhoud te bekijken.
Zoals eerder vermeld, is dit document bedoeld om een gedetailleerde procedure te presenteren voor het real-time in kaart brengen van fixatie- en saccadebewegingsgegevens op interactieve 3D-objecten, die gemakkelijk kan worden aangepast en alleen gebruik maakt van gratis beschikbare software, met stapsgewijze instructies om alles te laten werken.
Hoewel deze experimentele opstelling een zeer interactieve taak inhield, zoals het verplaatsen van een 3D-object om ...
Toegang beperkt. Log in of start een proefperiode om deze inhoud te bekijken.
De auteurs hebben geen belangenconflicten bekend te maken.
De auteurs zijn dankbaar voor de Coördinatie voor de Verbetering van het Personeel in het Hoger Onderwijs (CAPES) - Financiële Code 001 en de Federale Universiteit van ABC (UFABC). João R. Sato ontving financiële steun van de São Paulo Research Foundation (FAPESP, subsidies nrs. 2018/21934-5, 2018/04654-9 en 2023/02538-0).
Toegang beperkt. Log in of start een proefperiode om deze inhoud te bekijken.
| Naam | Bedrijf | Catalogusnummer | Opmerkingen |
|---|---|---|---|
| Firefox | Mozilla Foundation (Open Source) | Elke bijgewerkte moderne browser die compatibel is met WebGL (https://caniuse.com/webgl), en dus met Jmol, kan worden gebruikt | |
| GNU Octave | Open Source | https://octave.org/ | |
| Google Apps Script | Google LLC | script.google.com | |
| Google Sheets | Google LLC | https://www.google.com/sheets/about/ | |
| Laptop | Elke computer die de software van het eye tracking systeem kan draaien. | ||
| Mangold Software Suite | Mangold | Software-interface gebruikt voor het Eye tracking apparaat. Elke software die de gegevens met systeemtijdwaarden uitvoert, kan worden gebruikt. | |
| Muis | Elke muis die in staat is om met simpele bewegingen te klikken en te slepen zou compatibel moeten zijn. Menselijk interfaces analoog aan een muis met dezelfde mogelijkheden, zoals een touchscreen of pointer, zouden compatibel moeten zijn, maar kunnen anders reageren. | ||
| Vt3mini | EyeTech Digital Systems | 60 Hz. Elk werkende Eye Tracking apparaat zou compatibel moeten zijn. |
Toegang beperkt. Log in of start een proefperiode om deze inhoud te bekijken.