$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Este estudo passou por rigorosa revisão e aprovação pelo comitê de ética relevante, e todo o processo de pesquisa segue rigorosamente a Declaração de Helsinque e os padrões de ética acadêmica aplicáveis, protegendo plenamente os direitos e interesses legítimos, o bem-estar físico e mental, e a privacidade pessoal dos participantes.
O processo de recrutamento para os participantes da pesquisa está em conformidade com os requisitos éticos, e todos os participantes assinaram um formulário de consentimento informado por escrito antes de participarem do estudo. O formulário de consentimento informado é claro e fácil de entender, descrevendo explicitamente o escopo da coleta de dados (incluindo desempenho acadêmico, dados de avaliação do sistema e satisfação do usuário), o propósito do uso dos dados (exclusivamente para análise acadêmica neste estudo) e as medidas tomadas para garantir a confidencialidade dos dados. A participação foi totalmente voluntária, e todos os participantes forneceram consentimento informado, sem qualquer coerção ou indução. O equipamento utilizado está listado na Tabela de Materiais.
1. Participantes, desenho do estudo e estrutura de avaliação
200 estudantes de graduação (106 homens e 94 mulheres, com idade média de 20,4 ± 1,2 anos) e 100 professores (52 homens e 48 mulheres, com média de experiência docente de 8,6 ± 4,3 anos) são recrutados aleatoriamente entre os alunos de ciências e engenharia de uma determinada universidade como participantes. Os participantes são divididos aleatoriamente em um grupo experimental e um grupo controle usando um método de amostragem aleatória estratificada, com 150 pessoas em cada grupo. O teste básico de conhecimento antes do experimento confirma que não há diferença estatisticamente significativa (p > 0,05) no nível inicial de conhecimento entre os dois grupos. O grupo experimental utiliza um sistema de ensino baseado em tecnologia de RA, enquanto o grupo controle utiliza métodos tradicionais de ensino. Métodos tradicionais de ensino referem-se ao processo padronizado amplamente adotado e centrado em professores e livros didáticos. Isso inclui aulas para professores, aprendizado de livros didáticos e gráficos estáticos, cálculos teóricos, e não envolve simulação interativa 3D nem tecnologia de RA. Os critérios de inclusão são: os estudantes de graduação devem ter concluído o curso pré-requisito de Mecânica de Materiais, e os professores devem ter experiência relevante em ensino no curso. Os critérios de exclusão são: aqueles com histórico de deficiência visual severa ou enjoo de movimento. Todos os participantes assinam formulários de consentimento informado e são informados de que podem se retirar do experimento a qualquer momento. O período experimental é de 12 meses, e os dados de desempenho acadêmico e avaliação do sistema são coletados antes do início do experimento, no 6º mês e no 12º mês. A ferramenta de avaliação adota um "Sistema de Índice de Avaliação de Jogos Educacional" desenvolvido por ele próprio (na Tabela 1) para avaliar a eficácia do sistema a partir de três dimensões: educacional, de jogos e de aplicabilidade, com um total de 15 indicadores. Os dados de satisfação do usuário são coletados, abrangendo quatro aspectos: facilidade de operação, precisão do conteúdo, pontualidade da resposta e clareza dos indicadores.
2. Configuração experimental do sistema, procedimentos e análise de dados
O equipamento de hardware inclui um dispositivo de exibição AR (Microsoft HoloLens 2), uma câmera de profundidade embutida e câmera RGB, um computador equipado com processador Intel Core i9-11950H, 32GB de RAM e uma placa de vídeo A2000. O sistema operacional usa Windows 11, o motor de desenvolvimento usa Unity 2021, a biblioteca de visão computacional usa OpenCV 4.13.0, e o ambiente integrado de desenvolvimento é Visual Studio 2022. Quando há uma mudança significativa na iluminação do ambiente experimental ou quando o equipamento é usado pela primeira vez naquele espaço físico, é necessário realizar calibração da câmera. Ele executa o script de calibração embutido CalibrationScript. cs e capturar pelo menos 15 imagens em tabuleiro de xadrez de diferentes ângulos e posições usando a câmera HoloLens. O script calcula automaticamente os parâmetros intrínsecos da câmera e os coeficientes de distorção. O padrão para calibração bem-sucedida é que o erro médio de reprojeção seja menor que 0,5 pixel. Se o padrão não for atendido, o sistema solicitará a recaptura da imagem. Após a calibração bem-sucedida, os parâmetros de calibração são enviados para chamadas subsequentes de módulos de registro 3D.
O experimento é realizado em ambientes internos, com luz ambiente mantida em 300 ± 50 lux. A carta experimental com marcações específicas de AR é colocada no centro da mesa, e a borda da carta fica paralela à borda da mesa. A posição de observação é definida para aproximadamente 60 cm do centro da placa com ambos os olhos, e a câmera da HoloLens 2 é inicialmente focada no plano da placa. A interação gestual adota os gestos de "raio de mão" e "clique no ar" predefinidos pelo HoloLens 2. Seu dedo indicador é estendido, e os outros dedos são retraídos, apontando para o espécime virtual e mantendo um gesto estável por mais de 0,5 s para selecionar o objeto. Subsequentemente, a força é aplicada empurrando rapidamente o dedo indicador para frente, com um valor padrão de força de 50N aplicado pelo sistema ao longo do eixo da amostra virtual. O tempo esperado de operação bem-sucedida para completar uma interação completa com gesto é de 1–2 s. Os parâmetros de visão computacional do sistema são definidos da seguinte forma: chame a função aruco.detectMarkers do OpenCV no Unity para detectar o limiar (adaptiveThreshWinSizeMin=3, adaptiveThreshWinSizeMax=23). O ponto de verificação de detecção de marcadores é que o sistema precisa reconhecer de forma estável o mesmo marcador (confiança>0,95) em um fluxo contínuo de vídeo de 30 quadros antes de acionar a renderização de objetos virtuais. Quando a detecção é bem-sucedida, a borda marcada na tela exibe uma borda verde e é acompanhada por um breve feedback de vibração. A calibração da câmera utiliza o CalibrationScript embutido. O script CS, que requer um padrão de tabuleiro de xadrez com 9 × 6 pontos de canto internos e um comprimento lateral de 2,5 cm. Pelo menos 15 quadros do padrão devem ser apresentados de diferentes ângulos dentro do campo de visão da câmera. O padrão de calibração bem-sucedido é um erro médio de reprojeção inferior a 0,5 pixel. O processo de calibração deve ser concluído em 2 minutos. Após o sucesso, o log "Calibration Succeeded" deve ser gerado no console do editor Unity, e o cone calibrado da câmera deve ser visualizado na cena. A renderização de objetos virtuais adota o pipeline de renderização em tempo real do Unity, com um shader de material padrão e modelo de iluminação consistentes com a luz ambiente.
O procedimento experimental inclui principalmente quatro etapas. Primeiro, ele usa e ajusta corretamente o dispositivo HoloLens 2. Segundo, ela coloca a placa experimental com marcações específicas de AR na área de trabalho. A câmera do sistema captura continuamente fluxos de vídeo. Ele chama a função aruco.detectMarkers no OpenCV para detecção e reconhecimento de tags. Terceiro, após identificar com sucesso a marca, o sistema renderiza o espécime material virtual no mundo real de acordo com as equações (1)–(4). O sistema de coordenadas do ambiente virtual ζηξ e o sistema de coordenadas do ambiente real xyz podem ser transformados, e a equação de transformação é mostrada na equação (1).
[ xyz1] = [ζηξ1] A (1)
Na equação (1), A representa a matriz de transformação entre dois sistemas, onde o ambiente real xyz e a câmera x'y'z' também podem ser transformados. A equação de mudança é mostrada na equação (2).
[ x'y'z'1] = [ζηξ1] AB (2)
Na equação (2), B representa a matriz de transformação entre os dois sistemas de coordenadas. X'Y'Z' projeta os objetos virtuais rastreados no sistema de coordenadas bidimensional UV, para realizar o registro preciso do ambiente virtual no ambiente real. A transformação entre as coordenadas da tela e as coordenadas da câmera x'y'z' da projeção de fusão de objetos virtuais e ambientes reais é mostrada na equação (3).
(3)
Na equação (3), dx representa o número de pixels na direção axial x. dy é o número de pixels na direção axial y. A relação geométrica entre a câmera e o sistema de coordenadas da imagem projetada pela fusão do objeto virtual e do ambiente real é mostrada na equação (4) usando a equação triangular semelhante.
(4)
Ao aplicar força ao espetáculo virtual por meio de gestos predefinidos, o sistema calcula e visualiza a distribuição de tensões e a deformação do espetáculo em tempo real com base nas equações (5)–(7). A força interna por unidade de área é a tensão, como mostrado na equação (5).
(5)
Na equação (5), F refere-se à força, A é a área da seção transversal e pm é a tensão por unidade de área. A tensão total é mostrada na equação (6).
(6)
Na equação (6), p representa o componente de tensão total da tensão, σ é a tensão normal, a componente de tensão perpendicular à seção, e τ é a tensão de cisalhamento e a componente de tensão tangente à seção. A tensão normal é mostrada na equação (7).
(7)
Na equação (7), FN é a força axial e A é a área da seção transversal. Quarto, registro de dados e geração de relatórios. Os dados-chave gerados durante o experimento são automaticamente salvos em formato CSV. Ele gera um relatório experimental em formato PDF após o experimento, incluindo curvas tensão-deformação e resumos de dados-chave. Todos os arquivos são exportados para o diretório local e nomeados no formato data do experimento+tipo de experimento. As etapas de terminação do protocolo incluem confirmação de salvamento de dados, desligamento do dispositivo, desligamento do software e verificação de status do sistema. Após o experimento, o estudo confirma o fim da aplicação pelo botão "Sair do Sistema" no menu principal, remove o dispositivo HoloLens 2 e o desliga de acordo com os procedimentos operacionais padrão. Finalmente, na máquina de desenvolvimento, o modo de execução do editor Unity é interrompido, e todas as janelas de software relacionadas são fechadas.
O SPSS 26.0 é usado para análise de dados. Antes de aplicar o teste t de amostras pareadas, a normalidade das diferenças de melhoria de desempenho é avaliada primeiro. O teste de Shapiro-Wilk é usado para analisar todas as variáveis relevantes. Além disso, os resultados mostram que os valores-p para todas as variáveis são maiores que 0,05, indicando que os dados seguem uma distribuição normal e atendem ao pré-requisito para o teste t. O teste t de amostras pareadas é usado para comparar a melhora de desempenho entre os grupos experimental e controle para dados de medidas repetidas, como satisfação. A análise de variância por medidas repetidas é usada para avaliar mudanças ao longo do tempo. O nível de significância é definido para p<0,05. Além disso, para avaliar a magnitude do efeito, calcula-se o valor d de Cohen, onde d>0,8 indica um grande efeito.
3. Construção de sistemas de ensino de ciências baseados em jogos de ensino de tecnologia AR
Em consonância com os padrões de ensino científico, as funcionalidades interativas da tecnologia de RA e dos sistemas de ensino são usadas para introduzi-la na educação e liberar seu potencial maior. A tecnologia de RA é altamente significativa no ensino das ciências. Primeiramente, ele pode concretizar e visualizar o conteúdo abstrato de aprendizagem. A segunda é aprimorar a experiência de aprendizagem dos alunos, para que eles tenham um senso melhor de participação e concentração. Portanto, é de grande importância combinar o sistema de ensino com uma sala de aula para a educação. O design do sistema deste estudo é guiado por aprendizagem experiencial e princípios construtivistas. O objetivo é transformar conceitos abstratos em objetos visuais tangíveis e observáveis por meio de mecanismos de interação de RA e incentivar os alunos a construir conhecimento ativamente. Enquanto isso, o modelo de aceitação da tecnologia é introduzido para avaliar a utilidade percebida e facilidade de uso do sistema, medindo assim seu potencial de aplicação prática.
3.1 Integração de jogos educacionais e tecnologia de realidade aumentada
A tecnologia de RA integra ambientes virtual e real, proporcionando aos usuários uma nova experiência sensorial. A tecnologia de RA primeiro rastreia e coleta pontos de destaque de cenas reais, depois realiza o reconhecimento de imagens. A segunda é acompanhar a imagem na posição do mapa de marcação. O ângulo da câmera e outras informações são importantes18. Por fim, ao perceber a sensibilidade da câmera ao ambiente e sobrepor o modelo, é possível alcançar a fusão de virtual e realidade, alcançando um efeito imersivo. A implementação da tecnologia de RA é mostrada na Figura 1.

Figura 1: Etapas de implementação da tecnologia de RA. Por favor, clique aqui para ver uma versão maior desta figura.
Jogo educacional é um software de videogame que integra a função educacional e a função de entretenimento. Ele pode cultivar a inteligência, habilidades, conhecimento, atitude e valores dos usuários de jogos, e seu impacto sobre os aprendizes não deve ser subestimado. A tecnologia AR possui três características básicas significativas. Primeiro, integra com precisão virtual e realidade, integra a cena tridimensional criada com o ambiente real, ativa todos os sentidos do usuário e permite que o usuário experimente o mundoreal 19. A segunda é usar dispositivos modernos e inteligentes para alcançar interações inteligentes entre pessoas e dispositivos. Por fim, o ambiente 3D gerado por computador é registrado com o alvo real em 3D. Os usuários podem continuar rastreando objetos reais sem perdê-los e manter o rastreamento preciso o tempo todo. O princípio da tecnologia de registro 3D é mostrado na Figura 2.

Figura 2: Diagrama esquemático do registro 3D. Por favor, clique aqui para ver uma versão maior desta figura.
O diagrama esquemático de registro tridimensional mostrado na Figura 2, onde x'y'z' são as coordenadas da câmera, xyz as coordenadas específicas do ambiente real, ζηξ são as coordenadas do ambiente virtual, uv são as coordenadas da tela da projeção de fusão do objeto virtual e do ambiente real, e ''o'z' é a direção da linha de visão do usuário. Após a homogeneização e combinação, o cálculo é mostrado na equação (4). A importância educacional da tecnologia de registro 3D (equações (1)–(4)) reside em sua capacidade de transformar sistemas virtuais abstratos de coordenadas em sobreposições visuais estáveis e precisas nas telas dos alunos. Essa tecnologia garante que modelos virtuais possam ser fixados de forma eficaz em cartões marcadores reais, e que o modelo não se desloque ou trema quando os alunos mudam de perspectiva. O valor educacional direto dessa tecnologia reside em sua capacidade de proporcionar aos alunos um ambiente de observação estável e confiável. Esse ambiente permite que os alunos observem e pensem sobre espércimes mecânicos virtuais de qualquer ângulo. Como resultado, os alunos desenvolvem a imaginação espacial e a capacidade de observação em múltiplos ângulos.
3.2 Análise da demanda de jogos educacionais científicos baseados em tecnologia AR
Para alcançar os objetivos de ensino da ciência, os aprendizes precisam adquirir sistematicamente conhecimento, habilidades e experiências comportamentais. Ao projetar jogos educacionais em RA, é necessário analisar corretamente o conteúdo de ensino20. Selecionar o conteúdo de ensino adequado, integrá-lo à tecnologia de RA e inovar métodos de ensino pode ajudar os alunos a construir um sistema de conhecimento coerente. O objeto de pesquisa da mecânica dos materiais são vários materiais com diferentes formatos de peças. Ele estuda principalmente a resistência, rigidez e estabilidade sob diferentes forças. Aprimorar a experiência visual intuitiva e o senso interativo de participação dos alunos. Portanto, a combinação da tecnologia de RA e do sistema educacional é usada para analisar as necessidades da tecnologia de RA em jogos de educação científica, tomando como exemplo a análise de tensão-deformação. O sistema oferece preparação experimental e simulação para os pontos de conhecimento sobre tensão e deformação em mecânica, além de auxiliar os professores no ensino de experimentos. Os usuários do sistema incluem principalmente visitantes, estudantes, professores e administradores, enquanto suas funções incluem gestão de experimentos, upload de experimentos, experimentos interativos e visualização de dados. O sistema é mostrado na Figura 3.

Figura 3: Diagrama de casos de uso do sistema experimental de pontuação de conclusão de cursos. Por favor, clique aqui para ver uma versão maior desta figura.
A integração da tecnologia de RA com o sistema educacional é mostrada na Figura 3. Esse sistema pode garantir que os professores estejam adequadamente preparados antes do curso, dominem experimentos e gerenciem os alunos durante o curso. Após o experimento, os professores podem visualizar e avaliar o progresso dos alunos, ajudar a gerenciar os dados dos cursos, melhorar as taxas de conclusão dos experimentos dos alunos e auxiliar os administradores na gestão dos dados dos resultados dos estudantes. Portanto, o sistema de ensino de tecnologia AR é construído sobre a arquitetura modelo-visualização-controlador (MVC). O modo de processamento de dados desse modo é mostrado na equação (8).
V(s) = max sim(s →f(s)) (8)
Na equação (8), V(s) representa o conteúdo dos dados exibido pela camada de visualização de acordo com os requisitos do usuário, recursos de ensino sis e f(s) é informação do usuário. O modo de operação de interação em tempo real entre o sistema de ensino diversificado e os usuários é mostrado na equação (9).
K(s) = si ∩ [f(s 1), f(s 2),...,ff(s n)] (9)
Na equação (9), K(s) representa a regra de negócio do modo,s 1 representa o parâmetro característico dos objetos de dados, e f(s n) representa o parâmetro característico da informação de demanda do usuário. Com base na relação interativa entre o sistema de ensino de ciências da tecnologia AR e os usuários, o modo de operação é mostrado na equação (10).
g(x) = máximo K(s) → f(s) (10)
Na equação (10), g(x) representa o objeto de solicitação, f(x) é a fonte dos requisitos do usuário, e max K(s) é o valor máximo de similaridade de características. O modo MVC consiste em cinco componentes principais: negócio, controlador, persistência, visualização e banco de dados. A camada de visualização conecta usuários e dados por meio de páginas web, permitindo interação, e oferece a funcionalidade para exibir páginas web. A camada de dados armazena e processa dados da camada superior. A camada de serviço é responsável por atender às necessidades dos usuários e implementar a lógica de serviço. O sistema de ensino de ciências em AR baseado no modo MVC é mostrado na Figura 4.

Figura 4: Diagrama de arquitetura técnica do sistema de ensino de ciências. Por favor, clique aqui para ver uma versão ampliada desta figura.
Ao interagir com o banco de dados, as informações de operações de dados obtidas na camada de lógica de negócios são mapeadas através da camada de persistência. A camada de visão é responsável por exibir a interface principal de front-end, enviar dados experimentais, exibir resultados experimentais e avaliar relatórios experimentais. A camada de lógica de negócios é dividida em uma camada de negócios e um controlador, que recebe solicitações dos usuários e as encaminha para o processador da camada de lógica de negócios para processamento. A camada tecnológica constrói os blocos comuns de múltiplos objetos em módulos separados, permitindo referências diretas ao sistema.
3.3 Projeto de arquitetura de sistemas de ensino baseado em tecnologia AR e jogos educacionais de ciências
O ensino de ciências é um processo bidirecional de ensino e aprendizagem. Para alcançar os objetivos de ensino, o design dos jogos educacionais em RA deve seguir os cinco princípios: interatividade, interesse, ciência, facilidade de operação eeducação 21. A interatividade é a maior característica da tecnologia de RA. O jogo educacional deve destacar as vantagens da tecnologia de RA, permitindo que os alunos tenham uma experiência rica e interativa em experimentos que ativam a atmosfera da sala de aula e melhorem a eficácia do ensino. Jogos educativos são projetados com objetivos claros de ensino e pontos-chave para alcançar tanto os objetivos de ensino quanto de aprendizagem. Portanto, o sistema de ensino baseado em tecnologia AR inclui principalmente seis módulos, como mostrado na Figura 5.

Figura 5: Diagrama do módulo do sistema de ensino de AR para o ensino de ciências. Por favor, clique aqui para ver uma versão ampliada desta figura.
O módulo do sistema de ensino é composto principalmente pelo módulo de introdução ao sistema, módulo de usuário, módulo de experimento, módulo de seleção de experimentos, módulo da página inicial e módulo de estatísticas de resultados. O módulo de introdução ao experimento pode facilmente informar os usuários e fornecer instruções para o uso do sistema de ensino, incluindo requisitos para experimentos em sala de aula e requisitos de relatório experimental. O módulo de usuário gerencia os usuários, incluindo registro de contas, troca de contas, logout e modificação de senha. O módulo de seleção experimental usa a tela sensível ao toque para selecionar as partes experimentais. O módulo experimental realiza reconhecimento de pontos de características e análise de características nas imagens experimentais importadas. Também ajusta a diferença de luz adequadamente para exibição no mundo real. O design do sistema de ensino baseado na tecnologia de RA é fortemente centrado nos objetivos educacionais. Especificamente, as funções educacionais centrais do módulo experimental e do módulo de seleção experimental são capacitar os estudantes. Eles podem explorar de forma independente. A importância educacional do módulo de estatísticas de resultados está em fornecer uma base objetiva para os professores. Os professores podem usá-lo para avaliar os resultados de aprendizagem. Devido às características da RA, ela exige uso em cenas com iluminação adequada e estável. O método de alongamento cinza pode ser usado para distribuí-los uniformemente, como mostrado na equação (11).
g(x,y) = [(255 - c)/ b - a] f(x,y) + c (11)
Na equação (11), c representa o ponto inicial do nível de cinza após a correção. A e B representam, respectivamente, o ponto inicial e o fim do nível cinza antes da correção. No método de rastreamento baseado em características, a equação central é mostrada na equação (12).
(12)
No processo de rastreamento, um modelo de regressão de crista é selecionado para regressão linear, e um modelo de regressão não linear é usado para o treinamento. A função Gaussiana é mostrada na equação (13).
(13)
O administrador está no módulo de pontuação do usuário. Nesse sistema, o padrão de pontuação do curso experimental é gerenciado e avaliado pelo administrador. Os estudantes podem visualizar os resultados e dados experimentais por meio do módulo de resultados experimentais. O módulo da página inicial do sistema inclui a introdução do sistema, introdução de experimentos, sistema de saída e outros conteúdos. A Figura 6 mostra a estrutura geral do sistema.

Figura 6: Módulo inicial de arquitetura de sistemas de ensino em ensino de ciências (AR) para ensajar de ciências. Por favor, clique aqui para ver uma versão ampliada desta figura.
O processo do sistema no sistema de ensino é composto principalmente por quatro partes, incluindo a preparação de materiais de desenho, otimização interativa de testes, consulta e ordenação de dados, e o sistema de implementação. Ele está incorporado no registro e identificação do cartão, bem como na identificação do modelo da peça exibida. Por fim, é apresentada a imagem da análise tensão-deformação dos dados experimentais, e as características mecânicas de materiais com diferentes propriedades na análise tensão-deformação podem ser obtidas. Após o experimento, a base final do relatório experimental pode ser apresentada. Portanto, o processo experimental do sistema é mostrado na Figura 7.

Figura 7: Fluxograma da implementação do sistema de ensino de AR para o ensino de ciências. Por favor, clique aqui para ver uma versão ampliada desta figura.
A arquitetura geral do sistema inclui arquitetura de tecnologia de design e os módulos funcionais. O sistema de ensino pode ajudar os alunos a melhorar sua autoconsciência e exploração, além de auxiliar os educadores a organizar experimentos de ensino por meio de jogos educativos. Devido à interatividade do sistema de ensino, os alunos podem utilizar o sistema de ensino AR. No ensino de ciências apoiado pela tecnologia de RA, as necessidades dos educadores podem ser atendidas, para que o ensino curricular dos educadores possa desenvolver conteúdo de ensino com forte aplicabilidade para os alunos22. Portanto, o conteúdo do ensino pode ser otimizado, e o entusiasmo e a criatividade dos alunos no curso podem ser aprimorados para aumentar o efeito do ensino.