본 연구는 특징 추출을 위한 딥 뉴럴 네트워크(DNN)와 동적 멀티모달 신호 융합을 위한 강화 학습(RL)을 통합한 하이브리드 딥 레포먼스 학습(HDRL) 프레임워크를 제안합니다. 생의학 데이터셋을 기준으로 평가되며, 정확성, 견고성, 희귀 사건 탐지 능력에서 뛰어나 맞춤형 의학과 질병 분류에 큰 응용을 제공합니다.
이 콘텐츠를 보려면 JoVE 구독이 필요합니다. 로그인하거나 오늘 무료 평가판을 시작하세요.
본 연구는 특징 추출을 위한 딥 뉴럴 네트워크(DNN)와 동적 멀티모달 신호 융합을 위한 강화 학습(RL)을 통합한 하이브리드 딥 레포먼스 학습(HDRL) 프레임워크를 제안합니다. 생의학 데이터셋을 기준으로 평가되며, 정확성, 견고성, 희귀 사건 탐지 능력에서 뛰어나 맞춤형 의학과 질병 분류에 큰 응용을 제공합니다.
의료 분야에서 의사결정과 진단 정확도를 향상시키려면 심전도(ECG), 뇌파도(EEG), 의료 영상과 같은 다중 모달 생의학 신호를 결합해야 합니다. 전통적인 신호 융합 기술은 신호 변동성과 고유한 복잡성으로 인해 상당한 도전에 직면해 있습니다. 우리는 특징 추출을 위해 딥 뉴럴 네트워크(DNN)를, 동적 융합 최적화를 위해 강화 학습(RL)을 사용하는 하이브리드 딥 리인포스먼트 러닝(HDRL) 모델을 제안합니다. 이 하이브리드 모델은 실시간 피드백을 활용하여 융합 정책 학습을 최적화하고 다양한 데이터 특성에 적응합니다. 성능을 평가하기 위해 제안된 모델은 딥 뉴럴 네트워크 기반 방법과 주성분 분석(PCA)과 같은 기존 융합 기법과 비교되었습니다. 하이브리드 심층 강화 학습 모델은 여러 실제 생의학 데이터셋에서 테스트되었습니다. 제안된 모델은 개인화 의학과 질병 분류에 적용할 수 있는데, 실험적 증거가 잡음이 많은 조건에서의 견고성, 분류 정확도, 희귀 사건 탐지 측면에서 향상된 성능을 보여주기 때문입니다. 제안된 방법론은 전통적인 신호 융합 기법의 우려를 해결할 뿐만 아니라, 다중 모달 생의학 신호 처리를 발전시키는 유망한 해결책을 제시합니다. 이 모델은 특징 마이닝을 위해 DNN을, 정책 최적화를 위해 RL 에이전트(DQN, PPO)를 사용합니다.
현대 의료는 진단 정확도와 임상 의사결정을 향상시키기 위해 다양한 생의학 데이터 소스의 통합에 점점 더 의존하고 있습니다. 심전도(ECG), 뇌파도(EEG), 자기공명영상(MRI), 컴퓨터 단층촬영(CT) 등 의료 영상 기법과 같은 생리학적 신호는 질병 진단과 개인 맞춤형 치료를 지원하는 보완적인 생리학적 정보를 제공합니다. 하지만 생의학 신호는 본질적으로 복잡하며 종종 잡음, 누락값, 고차원 구조를 포함해 분석과 해석이 어렵습니다. 여러 생리학적 데이터 스트림에서 정보를 통합하는 다중 모달 생의학 신호 융합은 진단 성능 향상, 데이터 품질 변동에 대한 견고성 강화, 중환자실(ICU)과 같은 임상 환경에서 포괄적인 환자 모니터링을 가능하게 하는 중요한 접근법이 되었습니다.
전통적인 다중 모달 신호 융합 방법은 주로 통계적이고 선형적인 기법에 의존해 왔습니다. 주성분 분석(PCA)은 신호를 직교 성분으로 변환하여 데이터의 차원성을 줄이고, 정준 상관 분석(CCA)은 모달리티 간 선형 관계를 식별하여 다중 모달 데이터셋을 정렬합니다. 이 기법들은 생의학 다중 모달 융합 환경에서 성공적으로 적용되었습니다. 그러나 선형 가정에 의존하기 때문에 생리적 신호 간에 자주 존재하는 복잡한 비선형 관계를 포착하는 능력이 제한됩니다. 실제로 생의학 데이터는 거의 순수하게 선형적이지 않습니다. 기존의 다중 모달 융합 방법은 이러한 비선형 의존성 때문에 모달리티 간 의미 있는 상호작용을 포착하지 못하는 경우가 많습니다 4,5. 그 결과, 기존 융합 방법은 치료 간 의미 있는 상호작용을 포착하지 못해 질병 진단 및 실시간 임상 의사결정과 같은 작업에서 효과가 제한될 수 있습니다.
딥러닝의 최근 발전은 신경망이 원시 데이터에서 계층적 표현을 자동으로 추출할 수 있게 함으로써 생의학 신호 처리를 크게 변화시켰습니다. 합성곱 신경망(CNN)은 의료 이미지의 공간 패턴 분석에서 강력한 성능을 보였습니다 5,6. 다중 모달 CNN 아키텍처는 MRI와 CT와 같은 영상 기법을 통합하여진단 정확도를 향상시키는 데 사용되었습니다. 마찬가지로, 순환 신경망(RNN)과 장기 단기 기억(LSTM) 네트워크는 질병분류 작업을 위해 ECG 및 EEG를 포함한 순차적인 생의학 신호에 적용되었습니다. 이러한 발전에도 불구하고, 많은 딥러닝 기반 융합 접근법은 특징 연결 또는 가중 평균과 같은 고정 융합 전략에 의존하고 있습니다. 이러한 정적 융합 메커니즘은 신호 품질의 변동에 효과적으로 적응하지 못합니다. 실제 임상 환경에서는 움직임 인위, 전극 변위, 왜곡 또는 환경 잡음으로 인해 신호가 저하될 수 있습니다. 이러한 차이는 개별 모달리티의 신뢰성을 떨어뜨리고 전체 융합 과정에 부정적인 영향을 미칠 수 있습니다. 이러한 문제를 해결하려면 실시간 임상 환경에서 동적 데이터 조건에 대응할 수 있는 적응형 융합 전략이 필요합니다8.
강화 학습(RL)은 불확실한 환경에서 순차적 의사결정을 위한 강력한 틀을 제공합니다. 강화학습에서는 에이전트가 환경과의 상호작용을 통해 누적 보상을 극대화하는 행동을 선택하는 법을 배웁니다. 이 의사결정 과정은 일반적으로 벨만 방정식을 사용하여 공식화되며, 이 방정식은 상태의 가치를 즉각적인 보상과 미래 보상의 할인된 가치의 합으로 정의한다. 딥 Q-네트워크(DQN)와 같은 방법은 딥 신경망을 이용해 행동-가치 함수를 근사하여 고차원 문제까지 강화 학습을 확장합니다.10. 마찬가지로, 정책 기반 심층 강화 학습 방법은 에이전트의 정책11을 반복적으로 업데이트하여 안정적이고 효율적인 정책 학습을 가능하게 합니다. 강화 학습 기법은 이미 치료 최적화와 이상시 탐지 등 여러 의료 응용 분야에서 탐구되었으나, 적응형 다중 모달 신호 융합에 대한 적용은 상대적으로 제한적입니다.
하이브리드 딥 리인포스먼트 러닝(HDRL)은 딥러닝과 강화 학습을 통합하여 특징 추출과 적응적 의사결정을 결합합니다. 이 프레임워크에서 딥 뉴럴 네트워크는 다중 모달 생의학 신호를 고수준 특징 표현으로 변환하고, 강화 학습 에이전트는과제 수행에 따라 동적으로 융합 전략을 선택합니다. 이 적응 메커니즘은 신호 품질과 모달리티의 가용성 변화에 대응할 수 있게 하여, ICU 모니터링 및 웨어러블 진단 시스템과 같은 복잡한 임상 환경에서 보다 견고한 운영을 가능하게 합니다8.
고전적 강화 학습 접근법 외에도, 퍼지 논리, 유전 알고리즘, 강화 학습을 결합한 여러 하이브리드 학습 기법이 생의학 분류 과제를 위해 탐구되었습니다. 예를 들어, 퍼지 Q-러닝과 유전 알고리즘을 결합한 것은 EEG 신호를 이용한 간질 발작 분류에 적용되어 불확실한 시간적 패턴에 대한 적응력이 향상되었음을 입증했습니다13. 마찬가지로, 의료 이미지를 이용한 폐질환 분류를 위해 퍼지 격자 기반 진화 학습 접근법이 제안되었습니다14. 다른 연구들은 발작 인식을 위한 강화 학습 기반접근법과 흉부 X선 영상에서 폐렴 및 결핵을 감지하기 위한 수정된 퍼지 Q-학습 분류기를 조사했습니다16. 이 연구들은 생의학 분석에서 하이브리드 학습 기법의 잠재력을 보여주지만, 기존 대부분의 접근법은 다중 모달 신호 융합보다는 단일 모달리티 분류에 집중하고 있습니다.
최근 멀티모달 머신러닝의 발전은 교차 모달 의료 응용을 위한 트랜스포머 기반 아키텍처도 탐구하고 있습니다. 이 모델들은 의료 이미지 합성 및 이질적인 생의학 데이터셋 분석과 같은 작업에서 하나 이상의 모달리티가 불완전하거나 누락된 경우에 대해 유망한 성과를 보였습니다. 그러나 이러한 발전에도 불구하고, 멀티모달 데이터의 변동에 동적으로 반응하는 적응형 융합 메커니즘의 필요성은 여전히 중요한 연구 과제로 남아 있습니다.
이 연구에서는 다중 모달 생의학 신호 융합을 위한 하이브리드 딥 강화 학습(HDRL) 프레임워크를 제안합니다. 모달리티별 CNN 모델은 ECG, EEG, MRI 데이터에서 특징을 추출하는 데 사용되며, 이를 결합하여 통합된 다중 모달 표현을 만듭니다. 딥 Q-네트워크(DQN) 에이전트는 현재 특징 상태에 따라 특징 연결 또는 가중 결합과 같은 융합 전략을 동적으로 선택합니다. 하위 분류기는 분류 성과에 기반한 보상 신호를 제공하여 강화 학습 에이전트가 연속적 피드백을 통해 융합 정책을 최적화할 수 있게 합니다. 이 적응형 프레임워크는 신호 품질과 모달리티 가용성의 변동에 따라 모델이 조정할 수 있게 합니다. 제안된 접근법은 PhysioNet 2016, CHB-MIT EEG, OASIS-3 데이터셋을 사용하여 평가되며, 기존 PCA 기반 및 딥러닝 기반 융합 기법과 비교됩니다.

그림 1: 제안된 HDRL 기반 다중 모달 신호 융합 시스템의 아키텍처를 보여주는 블록 다이어그램. 심전도(ECG), 뇌파(EEG), 의료 영상 입력을 심층 신경망 특징 추출기를 통해 처리한 다중 모달 융합 프레임워크의 도식적 표현으로, 이어서 강화 학습 기반의 적응적 융합 및 보상 피드백이 이어집니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.
제안된 다중 모달 신호 융합 프레임워크의 아키텍처는 그림 1에 나타났다. 이 아키텍처에서는 모달리티별 CNN 모델이 ECG, EEG, MRI 신호에서 독립적으로 특징을 추출합니다. 이 특징들은 통합 표현으로 결합되어, 강화 학습 에이전트는 이를 이용해 최적의 융합 전략을 결정합니다.
생의학적 신호 처리는 다양한 기법에서 얻은 생리학적 신호를 분석하여 정확한 진단, 모니터링, 치료 계획을 가능하게 하여 현대 의료에서 중요한 역할을 합니다. ECG, EEG, 의료 영상 데이터와 같은 신호를 통합하려면 서로 다른 출처에서 상호 보완적인 정보를 포착하는 정교한 융합 기법이 필요합니다. 표 1은 일반적으로 사용되는 다중 모드 신호 융합 접근법의 주요 특징, 장점, 한계를 요약하고, 제안된 HDRL 기반 프레임워크의 동기를 강조합니다.
| 방법 | 주요 특징 | 장점 | 한계 |
| PCA | 선형 차원 축소 | 빠르고 간단합니다 | 선형 관계로 제한됨 |
| DNN | 비선형 특징 학습 | 복잡한 패턴을 포착합니다 | 고정 핵융합 전략 |
| DRL | 동적 정책 학습 | 데이터에 적응함 | 고계산 |
| HDRL | DNN + RL 하이브리드 | 적응력 있고, 견고하며, 효율적이다 | 신중한 조율이 필요합니다 |
표 1: 다중 모달 융합 방법의 비교. 일반적으로 사용되는 다중 모달 신호 융합 접근법의 요약과 주요 특징, 장점 및 한계를 설명합니다.
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
이 프로토콜은 다중 모달 생의학 신호 융합을 위한 하이브리드 딥 강화 학습(HDRL) 모델의 단계별 구현을 설명합니다. 이 프레임워크는 심층학습과 강화 학습 기법을 통합하여 심전도(ECG), 뇌파(EEG), 의료 영상 데이터의 실시간 융합을 최적화합니다. 또한 제안된 모델에서 사용되는 특징 추출, 학습, 데이터 준비 절차도 개괄합니다.
재료
모든 실험은 멀티코어 CPU, ≥32GB RAM, 전용 GPU(≥8GB VRAM)를 갖춘 워크스테이션에서 수행되었습니다. 구현 환경은 파이썬(v3.9 이상), 텐서플로우(버전 2.12), 케라스(버전 2.12)로 구성되었습니다. 강화 학습 라이브러리는 pip install stable-baselines3를 사용해 설치되었습니다. Stable-Baselines3 패키지18 은 Deep Q-Network(DQN)와 근접 정책 최적화(PPO)와 같은 강화 학습 알고리즘의 효율적인 구현을 제공합니다.
데이터셋
제안된 하이브리드 딥 강화 학습(HDRL) 프레임워크는 다중 모달 신호 유형을 나타내는 세 가지 공개 생의학 데이터셋을 사용하여 평가되었습니다. (1) PhysioNet 챌린지 2016: 심방세동, 심실 부정맥, 허혈성 심장병을 포함한 심장병 환자들의 12유도 심전도 기록 모음. 데이터셋에는 심장 질환에 대한 주석 라벨이 포함되어있습니다. (2) CHB-MIT 두피 EEG 데이터베이스: 간질 발작 감지에 두피 EEG 기록 데이터셋을 사용하며, 발작 및 비발작 사건에 대한 주석이 붙어 있습니다20. (3) OASIS-3 MRI 데이터베이스: 알츠하이머병의 발견 및 모니터링에 사용되는 MRI 뇌 영상과 임상 평가 모음21. 각 모달리티에서 대표적인 샘플은 다중 모달 생의학 데이터에 내재된 변동성과 노이즈 특성을 보여줍니다(그림 2).

그림 2: 심전도(ECG), 뇌파(EEG), 의료 영상에서 생의학적 신호를 샘플링합니다. 연구에서 사용된 다양한 기법을 보여주는 ECG 파형, EEG 신호, 의료 영상 스캔의 대표적인 예시들입니다. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.
데이터 전처리
각 모달리티는 표준화된 입력 표현을 보장하기 위해 모달리티별 전처리 절차를 거쳤습니다. EEG와 ECG 신호는 4차 버터워스 밴드패스 필터를 사용해 필터링되었습니다. 주파수 범위는 EEG는 0.5–40 Hz, ECG는 0.5–45 Hz로 설정되었습니다. 샘플은 5초 간격으로 나누었고, 50%가 겹쳤습니다. 각 신호는 평균과 단위 분산이 0으로 되도록 분할하여 정규화되었습니다. MRI 영상은 FSL 뇌 추출 도구(BET)를 이용한 두개골 스트립 처리를 통해 처리되었습니다. 이미지는 224× 224픽셀로 크기 조정되었습니다. 픽셀 세기는 입력 분포를 표준화하기 위해 [0,1] 범위로 정규화되었습니다.
특징 추출
각 모달리티별로 DNN을 사용하여 독립적으로 특징 추출이 수행되어, 각 모달리티의 고유한 특성을 효과적으로 포착할 수 있도록 했습니다.
심전도 및 뇌파 특징 추출기:
시계열 신호 처리에는 1차원 합성곱 신경망(1D-CNN) 아키텍처가 적용되었습니다. 아키텍처는 (1) 입력 계층(window_length, 1), (2) 64개의 필터와 커널 크기 3의 Conv1D 계층, (3) ReLU 활성화, (4) 풀 크기=2의 MaxPooling1D, (5) 평탄화 및 밀집 계층(128 단위, ReLU)으로 구성되었습니다. 끝에서 두 번째 조밀한 층 표현은 모달리티별 특징 벡터로 추출되었다.
MRI 특징 추출기
사전 학습된 2차원 CNN 모델(예: VGG16 또는 ResNet50)이 MRI 이미지에서 공간적 특징을 추출하기 위해 미세 조정되었습니다. CNN은 OASIS-3 데이터셋을 기반으로 학습되었으며, 사전 학습된 모델의 마지막 몇 계층은 특정 분류 작업21에 맞게 수정되었습니다. 최종 분류 계층은 과제별 계층으로 대체되었고, 상위 계층 5,6에서 고수준 공간 특징이 추출되었습니다.
모델 아키텍처 및 교육
제안된 하이브리드 딥 강화 학습(HDRL) 프레임워크는 두 단계로 개발되고 훈련되었습니다: 모달리티별 특징 추출과 강화 학습 기반 융합 최적화. 1단계에서는 별도의 합성곱신경망(CNN)이 ECG, EEG, MRI 기법에 대한 라벨링 데이터를 기반으로 훈련되었습니다. 학습률 0.001과 범주별 교차엔트로피 손실을 가진 적응 모멘트 추정(Adam) 옵티마이저가 감독 훈련 중에 사용되었습니다. 수렴 후에는 각 CNN의 끝에서 두 번째 층에서 고수준 표현을 추출하여 모달리티별 특징 벡터 FECG = CNNECG(XECG), FECG = CNNECG(XECG), FMRI = CNNMRI(XMRI)를 산출했습니다. 이 벡터들은 통합된 다중 모달 표현 Fconcat = [FECG, FEEG, FMRI]를 형성했으며, 이는 강화 학습 단계의 입력 역할을 합니다.
융합 과정은 마르코프 결정 과정(MDP)으로 공식화되었으며, 상태 s는 연속된 특징 벡터 Fconcat에 대응하고, 동작은 융합 전략(가중 합 또는 직접 연합) 선택을 나타내며, 보상 r 은 융합된 특징을 기반으로 훈련된 하위 분류기에서 얻은 분류 정확도로 정의되었습니다. 행동-가치 함수 Q(s,a)는 Deep Q-Network(DQN)를 사용하여 근사되었으며, 이 네트워크는 기대 누적 보상
을 추정했습니다. 모델 매개변수는 규칙에 따라 반복적으로 업데이트되었습니다.

여기서 α = 0.0001은 학습률, γ = 0.99는 할인 계수, s' 는 다음 상태를 나타냅니다.
강화 학습 최적화 과정에서 모델은 32번의 배치 크기로 1,000개의 에피소드를 학습했습니다. 탐험과 활용의 균형을 맞추기 위해 엡실론 탐욕 전략이 채택되었으며,
1.0으로 초기화하고 에피소드당 0.995씩 감쇠했습니다. 확률
로 무작위 융합 전략이 선택되었고, 확률 1 -
로 추정 Q-값이 가장 높은 전략이 선택되었다. 보상 수렴은 훈련 전반에 걸쳐 모니터링되었으며, 약 500회 에피소드가 보통 안정적인 성과(누적 보상 >0.85)를 관찰했습니다.
HDRL 워크플로우는 멀티모달 신호 전처리, 모달리티별 딥 피처 추출, 통합 상태 표현 형성, 융합 전략 선택, 그리고 DQN 에이전트로부터 분류 피드백을 이용한 정책 개선을 포함합니다. CNN 기반 특징 추출기와 강화 학습 에이전트 간의 상호작용은 폐쇄 루프 적응형 융합 시스템을 형성하여 보상 피드백에 기반한 정책 업데이트가 가능하다(그림 3).

그림 3: 제안된 하이브리드 딥 강화 학습(HDRL) 워크플로우의 흐름도. 모달리티별 CNN 특징 추출, 특징 연결, 강화 학습 기반 융합 전략(DQN/PPO) 선택, 하위 분류, 보상 기반 정책 업데이트를 보여주는 워크플로우 다이어그램. 이 그림의 더 큰 버전을 보시려면 여기를 클릭해 주세요.
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
실험 결과는 제안된 하이브리드 심층강화학습(HDRL) 모델이 다중 모달 생의학 신호 융합에서 향상된 성능을 달성함을 보여줍니다. HDRL 모델은 여러 실제 생의학 데이터셋과 비교하여 검증되었습니다. 견고성, 적응성, 분류 정확도 측면에서 결과는 PCA나 DNN 기반 핵융합과 같은 다른 전통적 융합 방법보다 우수한 점을 보여줍니다.
실험 장치
제안된 HDRL 모델의 성능을 평가하기 위해 공개된 세 개의 생의학 데이터셋을 사용하였습니다. 딥 뉴럴 네트워크를 이용한 특징 추출 이전에는 이전 섹션에서 설명한 대로 데이터가 전처리되었습니다. 딥 Q-네트워크(DQN) 기법을 사용하여 모델 분류 정확도를 바탕으로 보상 함수를 학습시켰습니다. 비교를 위해 전통적인 방법을 평가했습니다. 모델 평가에 사용된 성과 지표는 다음과 같습니다: 1) 분류 정확도: 올바르게 분류된 인스턴스의 비율. 2) 정밀도, 기억력, F1...
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
융합 효율:
이 절에서는 HDRL, PCA, DNN 간의 융합 효율에 대한 비교 분석을 제시합니다. PhysioNet Challenge2016 19, CHB-MIT 두피 EEG 데이터베이스20, OASIS-3 MRI 데이터베이스21의 EEG, ECG, MRI 데이터를 융합하여 얻은 멀티모달 데이터셋을 사용하여 융합 효율을 산출하였습니다. 처리 시간은 중환자실(ICU) 모니터링과 웨어러블 진단과 같은 실시간 임상 적용에서 매우 중요한 매개변수로, 시기적절한 결정이 환자 결과에 직접적인 영향을 미칩니다.
재현성을 위한 중요한 프로토콜 단계: 이 작업을 재현하는 데 필수적인 주요 단계는 적절한 신호 전처리(앞서 설명한 필터링 및 정규화), 강화 학습 ...
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
저자들은 이 연구와 이해 상충이 없음을 선언합니다.
연구는 미오드라그 코스티치 기금 - 응용 인공지능 센터 과학궁전 부지 내에서 부분적으로 수행되었습니다. 이 연구는 EUROHPC-JU의 지원으로 지원받았으며, 연구비 번호 101191697, EuroCC4SEE.
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
| 이름 | 회사 | 카탈로그 번호 | 댓글 |
|---|---|---|---|
| 버터워스 필터 (4차 SciPy 구현) | SciPy 커뮤니티 | 해당 없음 | EEG/ECG 신호 전처리 |
| CHB-MIT 두피 뇌파 데이터베이스 | 피지오넷 | DOI: 10.13026/C2K01R | EEG 데이터셋 |
| FSL 뇌 추출 도구 (BET) | FMRIB 소프트웨어 라이브러리 (FSL) | 해당 없음 | MRI 두개골 스트립 |
| 케라스 (v2.12) | 구글 LLC | 해당 없음 | 고수준 신경망 API |
| NVIDIA GPU (≥ 8GB VRAM) | 엔비디아 코퍼레이션 | 모델 의존 | 가속화된 딥러닝 훈련에 필수 |
| OASIS-3 MRI 데이터베이스 | 워싱턴 대학교 | DOI: 10.1002/alz.047259 | MRI 데이터셋 |
| PhysioNet 챌린지 2016 데이터셋 | 피지오넷 | DOI: 10.22489/CinC.2016.179-154 | 심전도 데이터셋 |
| 파이썬 (v3.9 이상) | 파이썬 소프트웨어 재단 | 해당 없음 | 프로그래밍 환경 |
| 안정-기준선3 | DLR-RM (오픈소스) | 해당 없음 | 강화 학습 구현 (DQN, PPO) |
| 텐서플로우 (v2.12) | 구글 LLC | 해당 없음 | 딥러닝 프레임워크 |
| 워크스테이션 (멀티코어 CPU, ≥ 32GB RAM, 그리고 ge; 8GB GPU) | 맞춤 제작 / 지역 공급업체 | 해당 없음 | 모델 학습 및 실험에 사용됩니다 |
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.