Sieci neuronowe grafowe do autonomicznego, wieloskalowego projektowania urządzeń nanoelektronicznych optoelektronicznych

Podsumowanie

Niniejsze badanie przedstawia ramy oparte na sztucznej inteligencji do autonomicznego projektowania wysokowydajnych urządzeń nanoelektronicznych. Modeluje urządzenia na wielu skalach i optymalizuje je za pomocą funkcji nagród opartych na kwantach. Rama wykonuje optymalizację topologii ograniczonej, aby generować nieintuicyjne konfiguracje urządzeń, jednocześnie zachowując zgodność z określonymi ograniczeniami kwantowymi i strukturalnymi.

Streszczenie

Niniejsze badanie przedstawia ramy obliczeniowe dla autonomicznego, wieloskalowego projektowania optoelektronicznych urządzeń nanoelektronicznych z wykorzystaniem uczenia maszynowego opartego na grafach. Zbiór danych składa się z około 120 000 wykresów na skalę atomową, 35 000 grafów w skali mezoskopowej oraz 12 000 grafów na poziomie urządzenia wygenerowanych na podstawie symulacji opartych na fizyce, każdy z adnotacjami za pomocą deskryptorów strukturalnych i odniesienia wartości energii. Urządzenia są reprezentowane jako hierarchiczne grafy obejmujące poziomy atomowe, mezoskopowe i urządzenia, z węzłami kodującymi materiały lub jednostki funkcjonalne, a krawędzie kodującymi interakcje fizyczne. Trzy skalowo specyficzne dla skali sieci neuronowe grafów (GNN) są zaimplementowane przy użyciu potoku geometrycznego PyTorch i PyTorch, z czterema warstwami przesyłania wiadomości na skalę oraz fuzją cech opartą na uwagach na różnych skalach. Zachowanie kwantowe jest uwzględniane za pomocą parametryzowanego przez GNN efektywnego Hamiltoniana, wytrenowanego do przybliżania widm energii ściśle wiązanych i inspirowanych DFT za pomocą fizyki regularizowanej funkcji straty. Ewolucja topologii urządzenia jest sformułowana jako problem uczenia ze wzmocnieniem z ograniczeniami, w którym modyfikacje grafu traktowane są jako działania i optymalizowane za pomocą metody gradientu polityki z regularizacją entropii. Złożona funkcja nagrody równoważy wewnętrzną efektywność kwantową, stabilność strukturalną oraz złożoność grafu przy fizycznych ograniczeniach wykonalności. Optymalizacja wielocelowa jest wykonywana za pomocą rozszerzonej formuły Lagrange'a w celu identyfikacji konfiguracji urządzeń spójnych z Pareto. Ocena modelu obejmuje dokładność prognozowania energii (MAE/RMSE), wskaźnik naruszenia ograniczeń, wykonalność topologii oraz analizę skalowalności na grafach do 10–⁶ węzłów. Wybrane projekty są dodatkowo weryfikowane za pomocą symulacji wielofizyki elementów skończonych w celu weryfikacji spójności optycznej i elektrycznej. Protokół ten zapewnia powtarzalny, wieloskalowy pipeline obliczeniowy do projektowania autonomicznych nanoelektronicznych urządzeń ograniczonych fizycznie.

Wprowadzenie

Szybki rozwój systemów Internetu Rzeczy (IoT), urządzeń noszonych i wszczepialnych oraz technologii sztucznej inteligencji (AI) zwiększył zapotrzebowanie na ściśle zintegrowane platformy elektroniczne i fotoniczne ^1,2. Komponenty optoelektroniczne, w tym fotoniczne układy scalone (PIC), fotodetektory i lasery impulsowe, odgrywają centralną rolę w takich systemach ^3,4. Na skali nanometrowej jednak zachowanie urządzenia jest regulowane przez kwantowe uwięzienie, transport ładunku oraz sprzężone interakcje optyczno-elektryczne⁵. Tradycyjne podejścia projektowe opierają się na symulacjach opartych na pierwszych zasadach i empirycznym strojeniu parametrów⁶. Wraz ze wzrostem liczby możliwych kombinacji materiałów, układów geometrycznych i wzorców łączności, wyczerpujące przesiewanie oparte na symulacji staje się obliczeniowo niepraktyczne.

Wprowadzono techniki uczenia maszynowego (ML), aby przyspieszyć modelowanie i zadania odwrotne projektowania⁷. Wczesne implementacje wykorzystywały sztuczne sieci neuronowe i procesy Gaussa jako zastępcze predyktory⁸. Nowsze architektury głębokiego uczenia (DL) poprawiły uczenie reprezentacji dla systemów fotonicznych i nanoelektronicznych⁹. Pomimo tych postępów, istniejące podejścia oparte na DL często cierpią na ograniczoną interpretowalność, silną zależność od danych oraz ograniczone uogólnienia na skale materiałów i konstrukcji¹⁰. Wiele ram oddziela także ograniczenia fizyczne od uczenia się, traktując je jako walidację zewnętrzną, a nie zintegrowane komponenty procesu optymalizacji¹¹.

Równolegle dalsze skalowanie urządzeń półprzewodnikowych zbliżało się do fizycznych granic w konwencjonalnych architekturach¹². Efekty krótkokanałowe i niestabilność elektrostatyczna stają się coraz bardziej znaczące poniżej 100 nm¹³, co motywuje do poszukiwania alternatywnych materiałów i struktur urządzeń. Materiały dwuwymiarowe (2D), szczególnie dichalkogenidy metali przejściowych (TMD), oferują regulowane przerwy pasmowe i grubość na skalę atomową, kompatybilną z procesami CMOS¹⁴. Materiały monowarstwowe, takie jak MoS₂ i WS₂, wykazują korzystną mobilność nośników i kontrolę elektrostatyczną¹⁵. Architektury bezpołączeniowe dodatkowo pokazują, że wydajność urządzenia jest silnie zależna od topologii strukturalnej oraz składu materiału^16,17.

Sieci neuronowe grafowe (GNN) stanowią naturalne ramy obliczeniowe do modelowania układów relacyjnych, takich jak sieci molekularne, nanostruktury i topologie obwodów 18,19,20,21. Działając na reprezentacjach o strukturze grafowej zamiast na wejściach opartych na siatce, GNN aktualizują osadzenia węzłów poprzez przekazywanie wiadomości między sąsiednimi komponentami. W uproszczonej formie aktualizacje węzłów można wyrazić jako

gdzie_{φ węzeł} i_{ψ krawędzi} są funkcjami przyswajalnymi i oznacza operator agregacji niezależny od permutacji. Takie modele zostały zastosowane do przewidywania właściwości i wnioskowania topologicznego w systemach nanoelektronicznych 22,23,24. Podejścia wieloskalowe próbują łączyć symulacje na skalę atomową z wydajnością na poziomie urządzenia²⁵, jednak większość implementacji działa na jednej rozdzielczości strukturalnej lub zakłada stałe topologie. W formułach mechaniki kwantowej struktura elektronowa jest regulowana przez problem wartości własnych

gdzie to operator Hamiltoniana, a E_k to wartości własne energii. Teoria funkcjonała gęstości (DFT) dostarcza przybliżeń do rozwiązania, ale skaluje się mniej więcej jako O(^{N 3}) z liczbą elektronową, co ogranicza bezpośrednie zastosowanie do badań topologii na dużą skalę. Wraz ze wzrostem złożoności urządzeń powtarzające się oceny DFT stają się obliczeniowo trudne. Te ograniczenia podkreślają potrzebę różniczkowalnych przybliżeń, które zachowują strukturę fizyczną, jednocześnie umożliwiając skalowalną optymalizację 26,27,28.

Aby wypełnić tę lukę metodologiczną, urządzenia nanoelektroniczne są w tej pracy sformułowane jako wykresy hierarchiczne G=(V,E) obejmujące skale atomowe, mezoskopowe i^urządzenia 29,30,31,32,33. Skalowe enkodery GNN wyodrębniają strukturalne osadzenia, a wymiana informacji w skali międzyskalowej realizowana jest poprzez fuzję opartą na uwagi. Zamiast wielokrotnie rozwiązywać pełne równania DFT podczas optymalizacji, wprowadza się efektywny Hamiltonian parametryzowany GNN, aby przybliżyć zachowanie energii odniesienia, zachowując jednocześnie struktury i ograniczenia lokalizacji Hermitowskiej 34,35,36,37,38,39,40,41.

Modyfikacja topologii jest formułowana jako problem uczenia ze wzmocnieniem (RL) ⁴². Dla stanu s_t ≡ G_t działania modyfikują łączność grafu w warunkach fizycznych ograniczeń wykonalności. Złożoną funkcję nagrody definiuje się jako

r_t = α⋅IQE(G_t) + β⋅Stabilność(G_t) - γ⋅Złożoność(G_t),

gdzie współczynniki α, β, γ regulują kompromisy między wydajnością, odpornością i prostotą strukturalną. Optymalizacja wielocelowa odbywa się poprzez ograniczone formuły w tej formie.

Skalowalność do dużych systemów osiąga się dzięki zgrubieniu grafów spektralnych i agregacji hierarchicznej, co umożliwia efektywne uczenie się i wnioskowanie na grafach zawierających do milionów węzłów bez naruszania wierności strukturalnej. Zgrubienie grafów spektralnych zmniejsza złożoność obliczeniową poprzez klasteryzowanie węzłów na podstawie podobieństwa struktury własnej, zachowując kluczowe właściwości topologiczne i spektralne przy jednoczesnym znacznym zmniejszaniu rozmiaru grafu. Hierarchiczna agregacja dodatkowo organizuje zredukowany graf w wielorozdzielcze reprezentacje, pozwalając modelowi przetwarzać lokalne i globalne zależności w sposób etapowy. Ta wielopoziomowa strategia obniża zużycie pamięci, przyspiesza operacje przekazywania wiadomości i utrzymuje dokładność predykcji, zapewniając, że ramy pozostają wykonalne obliczeniowo dla modelowania urządzeń nanoelektronicznych i optoelektronicznych na dużą skalę: 43,44,45,46,47,48,49,50,51.

Celem tego badania jest zatem wdrożenie i ocena powtarzalnego, wieloskalowego, opartego na fizyce ram GNN dla projektowania urządzeń nanoelektronicznych z ograniczonymi ograniczeniami. Cały proces wieloskalowego projektowania nanoelektronicznych opartych na AI integruje przygotowanie zbiorów danych, hierarchiczną konstrukcję grafów, modelowanie oparte na kwantach, ewolucję topologii opartą na uczeniu ze wzmocnieniem oraz walidację opartą na fizyce (Rysunek 1). Poniższe sekcje opisują protokół obliczeniowy, konfigurację treningową oraz procedury walidacyjne.

Protokół

1. Przygotowanie zbiorów danych i wieloskalowa konstrukcja grafów

1. Zbieranie i strukturyzacja danych wejściowych
   1. Zbieraj dane symulacyjne na skalę atomową (np. wyjścia DFT lub ściśle wiązane), mezoskopowe dane strukturalne oraz geometrie na poziomie urządzenia wraz z powiązanymi metrykami wydajności.
   2. Upewnij się, że każdy rekord danych zawiera współrzędne atomowe (nm), identyfikatory materiałów, wartości energetyczne (eV), informacje o łączności oraz cele na poziomie urządzeń (np. wewnętrzna efektywność kwantowa, absorpcja optyczna).
   3. Przechowuj wszystkie dane w formacie uporządkowanym (.json lub .hdf5). Weryfikuj spójne jednostki we wszystkich rekordach.
   4. Upewnij się, że nie brakuje współrzędnych atomowych ani nie ma niespójnych jednostek energii. Jednostki mieszane zaburzają normalizację i stabilność treningu.
      UWAGA: Użyj zbioru danych zawierającego co najmniej 50 000 wykresów w skali atomowej oraz co najmniej 10 000 próbek na poziomie urządzenia
2. Czyść, normalizować i dzielić dane
   1. Usuń niekompletne wpisy. Normalizuj cechy ciągłe za pomocą normalizacji z-score.
   2. Koduj kategorie typów materiałów za pomocą kodowania one-hot lub nauczonych osadzeń.
   3. Podziel zbiór danych na poziomie urządzenia na 70% danych treningowych, 15% danych walidacyjnych i 15% danych testowych.
   4. Podczas treningu stosuj szum pozycyjny Gaussa na poziomie 1%–3% charakterystycznej skali długości i stosuj szum etykietowy do 2%.
      UWAGA: Wykonaj podział zbioru danych przed konstrukcją grafu, aby zapobiec wycieku topologii.
3. Skonstruuj wykresy atomowe, mezoskopowe i urządzenia
   1. Zdefiniuj węzły na skalę atomową jako pojedyncze atomy. Zdefiniuj węzły skali mezoskopowej jako klastry, warstwy lub interfejsy. Zdefiniuj węzły na skalę urządzenia jako funkcjonalne komponenty, takie jak elektrody i obszary aktywne.
   2. Zdefiniuj krawędzie na skali atomowej jako wiązania międzyatomowe lub oddziaływania oparte na cięciach. Zdefiniuj krawędzie skali mezoskopowej jako efektywne parametry sprzężenia. Zdefiniuj krawędzie w skali urządzenia jako relacje łączności elektrycznej lub optycznej.
   3. Generuj macierze sąsiedztwa.
   4. Atrybuty węzła i krawędzi przechowują osobno dla każdej skali.
4. Buduj hierarchiczną, wieloskalową reprezentację
   1. Skonstruuj graf atomowy G^(a). Zastosuj zgrubienie grafów spektralnych, aby uzyskać mezoskopowy graf G^(m).
   2. Agreguj mezoskopowe klastry do grafu urządzenia G^(d). Przechowywaj indeksy mapowania w skali międzyskalowej.
5. Zastosowanie ograniczeń spójności w skali międzyskalowej
   1. Obliczeniowe straty w wyrównaniu pasm:
      _Pasmo L = ∑ ∣∣ E^(m) - A(E^(a)) ∣∣² + ∑ ∣∣ E^(d) - B(E^(m)) ∣∣²
   2. Oblicz regularizację gładkości Laplace'a:
      
   3. Dodaj oba terminy do celu szkolenia.

2. Inicjalizacja wieloskalowych modułów GNN

1. Definiuj wymiar osadzenia węzła = 128.
   1. Definiuj wymiar osadzenia krawędzi = 64.
   2. Używaj czterech warstw przekazujących komunikaty na skalę.
   3. Użyj aktywacji ReLU. Inicjalizuj wagi za pomocą inicjalizacji Xavier.
2. Implementacja przekazywania wiadomości
   1. Zaimplementuj funkcję aktualizacji krawędzi jako wielowarstwowy perceptron (MLP).
   2. Zaimplementuj funkcję aktualizacji węzłów jako wielowarstwowy perceptron (MLP).
   3. Wykonaj agregację na tę samą skalę. Stosuj fuzję opartą na koncentracji na różnych skalach, korzystając z projekcji Q/K/V.
      UWAGA: Zapewnij spójną wymiarowość osadzenia na skalach przed fuzją.

3. Modelowanie oparte na kwantach

1. Zdefiniuj Hamiltonian parametryzowany przez GNN
   1. Zastąp jawny DFT Hamiltonian na:
      
   2. Utrwalaj hermityczną przynależność:
      f_θ(h_{i,h j}) = f_θ(h_{j,h i})^*
   3. Obciąć interakcje poza ustaloną odległość grafu.
2. Zdefiniuj straty ograniczone przez fizykę
   1. Użycie:
      
   2. Dostro parametry λ za pomocą zestawu walidacyjnego.
3. Egzekwowanie ograniczeń fizycznych
   1. Projekt Hamiltonian do przestrzeni hermitowskiej w każdej iteracji.
   2. Karać naruszenia przepisów ochrony przyrody. Przecinam gradienty do normy ≤ 5.

4. Uczenie ze wzmocnieniem dla ewolucji topologii

1. Zdefiniuj stan i przestrzeń działania
   1. Reprezentuj graf urządzenia jako stan G_t .
   2. Zdefiniuj działania:
      1. Dodaj krawędź
      2. Usuń krawędź
      3. Zmodyfikuj łączność.
   3. Stosuj maskowanie akcji przy nielegalnych edycjach.
2. Zdefiniuj funkcję nagrody
   r_t = αIQE + βStabilność - γZłożoność
   Tun α, β γ przez walidację.
3. Sieć Polityki Pociągowej
   1. Korzystaj z gradientu polityki:
      ∇_θJ = E[∑∇_θlog π_θ(_{a t}∣s_t)A_t]
   2. Ustaw współczynnik dyskontowy γ na 0,99. Ustaw współczynnik entropii na 0,02 i wyżarzaj podczas treningu. Użyj optymalizatora Adama z tempem uczenia 1 × 10⁻⁴ i spadkiem wagi 1 × 10⁻⁵.
   3. Użyj partii 32. Trenować przez 250–300 epok i stosować wczesne zatrzymania na podstawie zbieżności walidacyjnej.

5. Optymalizacja wielocelowa

1. Sformułuj ograniczony cel. Zastosuj rozszerzony Lagrange.
2. Wygeneruj Pareto Frontier. Zachowaj rozwiązania niedominowane.

6. Nauka transferowa

1. Wstępnie wytrenuj atomowe GNN w zadaniu prognozowania energii. Oszczędzaj ciężary.
2. Precyzyjne dostrojenie zadań mezoskopowych i urządzeń z obniżoną częstotliwością uczenia (1×10⁻⁵). Oceniaj MAE i R².

7. Walidacja multifizyki COMSOL

1. Importuj geometrię zaprojektowaną przez AI
   1. Eksportuj topologię urządzenia jako plik CAD.
   2. Importuj do COMSOL Multiphysics.
2. Konfiguruj symulację
   1. Użyj elektromagnetycznego solvera w dziedzinie częstotliwości. Użyj rozwiązywacza dryfu i dyfuzji półprzewodnikowej.
   2. Użyj stacjonarnego solvera termicznego. Stosuj idealnie dopasowane warstwy, kontakty ohmowe i realistyczne długości fal wzbudzenia.
3. Metryki ekstraktu
   1. Mierz efektywność absorpcji optycznej, wewnętrzną efektywność kwantową, wzmocnienie pola elektrycznego oraz szczytowy wzrost temperatury.
   2. Uśrednione wyniki dla różnych warunków wzbudzenia.

8. Testowanie skalowalności

1. Zwiększ rozmiar grafu do 10–⁶ węzłów. Mierz czas działania i zużycie pamięci.
2. Umożliwienie zgrubienia spektralnego, rzadkiej sąsiedztwa, mieszanej precyzji oraz rozproszonego treningu GPU.

9. Ocena statystyczna

1. Wystaw trzy niezależne rozstawienia treningowe.
2. Zgłoś średnią ± odchylenia standardowego, MAE, RMSE i R².
3. Do porównania bazowego używaj identycznych podziałów i hiperparametrów.

10. Archiwizacja danych i kodu

1. Zapisuj wytrenowane modele. Archiwalne zbiory danych.
2. Dostarczaj skrypty do tworzenia grafów, szkolenia i walidacji COMSOL.

Wyniki

Proponowany wieloskalowy framework GNN z uczeniem ze wzmocnieniem został oceniony na podstawie 120 000 grafów atomowych, 35 000 grafów mezoskopowych oraz 12 000 grafów na poziomie urządzeń. Dane zostały podzielone na poziomie urządzeń na 70% zestawów treningowych, 15% walidacyjnych i 15% testowych. Wszystkie zgłoszone wartości reprezentują średnią ± odchylenie standardowe w trzech niezależnych przebiegach z użyciem różnych losowych nasion. Metody bazowe obejmowały SchNet, DimeNet++, sieci neuronowe oparte na fizyce (PINN...

Dyskusja

Niniejsze badanie przedstawia hierarchiczny, oparty na fizyce ramy grafowe dla projektowania autonomicznych urządzeń nanoelektronicznych i optoelektronicznych. Wyniki pokazują, że metoda osiąga konkurencyjną dokładność prognozowania energii, stabilną ewolucję topologii opartą na uczeniu ze wzmocnieniem, spełnianie ograniczeń oraz fizycznie zweryfikowane ulepszenia wydajności urządzeń. Poniższa dyskusja koncentruje się na kluczowych elementach proceduralnych, rozważaniach metodologicznych, ograniczeniach, znaczeniu kontek...

Materiały

Lista materiałów użytych w tym artykule

Nazwa	Firma	Numer katalogowy	Komentarze
obliczeniowe i obliczeniowe Oprogramowanie modelujące
JAX / Haiku		Nie ma	0.3.0+
LAMMPS		Nie ma	-
LUMERYCZNE / MEEP		Nie ma	-
Siłownia OpenAI / Gymnasium		Nie ma	-
Python		Nie ma	3.8+
PyTorch / PyTorch Geometryczny		Nie ma	1.9.0+ / 2.0+
Quantum ESPRESSO		Nie ma	6.7+
dane & Zbiory danych
Baza danych symulacji DFT		Nie ma	Zwyczaj
Generowane grafy nanoelektroniczne		Nie ma	~10 000 wykresów
Projekt Materiałów / OQMD		Nie ma	Publiczne API
sprzęt i sprzęt Infrastruktura
Przechowywanie danych		Nie ma	NVMe SSD
Klaster Wysokowydajnych Obliczeń (HPC)	Nie ma	Węzły CPU
Klaster GPU NVIDIA		Nie ma	A100 / V100 / H100
klucze Komponenty modelowe
Adam / AdamW Optymalizator		Nie ma	Rodowity PyTorch
Sieć Uwagi Grafu (GAT)		Nie ma	Custom (PyTorch)
Autoenkoder wariacyjny grafu (GVAE)		Nie ma	Custom (PyTorch)
Sieć neuronowa z przekazywaniem wiadomości (MPNN)	Nie ma	Custom (PyTorch)
Gradient polityki (np. PPO)		Nie ma	Niestandardowe (Stable-Baselines3)
uczenie maszynowe i uczenie maszynowe Biblioteki optymalizacji
NetworkX		Nie ma	2.6+
NumPy		Nie ma	1.24+
Optuna		Nie ma	2.0+
Scikit-learn		Nie ma	1.0+
Stable-Baselines3 / Ray RLLib		Nie ma	-
Fizyczny i fizyczny Modele matematyczne
Rozszerzona metoda Lagrange'a		Nie ma	Niestandardowe (Python)
Złożona Funkcja Nagrody (RT)		Nie ma	Niestandardowe (Python)
Parametryzowany Hamiltonian (Hθ)		Nie ma	Custom (PyTorch)
Zgrubienie grafów spektralnych		Nie ma	Custom (Scikit-learn)