6 grudnia 2024
W tym protokole, jakość odpowiedzi modelu dużego języka jest poprawiana poprzez wzbogacenie o recenzowane, specyficzne dla danej dziedziny artykuły naukowe dzięki mechanizmowi osadzania wektorów. Ponadto dostarczany jest kod, który pomaga w porównywaniu wydajności między dużymi modelami językowymi.
Nasze badania koncentrują się na szerokiej gamie zastosowań uczenia maszynowego i dużych modeli językowych w opiece onkologicznej. Obejmuje to zarówno poprawę bezpośredniej opieki nad pacjentem, jak i sprostanie wyzwaniom operacyjnym, takim jak planowanie i dokumentacja. Ostatecznie staramy się odpowiedzieć na pytanie, w jaki sposób te technologie mogą poprawić jakość opieki zdrowotnej dla pacjentów, świadczeniodawców i badaczy?
Duże modele językowe już zaczęły przekształcać krajobraz badawczy. Wcześniej zaporowe zadania przetwarzania języka naturalnego stały się dostępne dla znacznie większej liczby badaczy, umożliwiając wiele nowych kierunków badań z wykorzystaniem nieustrukturyzowanych danych. Dużym wyzwaniem jest szybko zmieniający się krajobraz dużych narzędzi i infrastruktury modeli językowych.
Wielu klinicystów i badaczy może mieć pomysły na zastosowania, ale obecnie nie ma wiedzy kontekstowej lub technicznej potrzebnej do wdrożenia lub przemyślanego rozważenia kompromisów różnych podejść. Aby rozpocząć, zainstaluj Git, python i na komputerze, a następnie uruchom polecenia w terminalu, aby zweryfikować instalację. Następnie uruchom polecenie git clone, aby pobrać repozytorium i zainstalować niezbędne wymagania.
Aby utworzyć wektorową bazę danych, edytuj plik config. py, zastępując wartość następującej zmiennej ścieżką pliku do folderu zawierającego dokumenty, które będą używane do rozszerzania dużego modelu językowego. Następnie zapisz zaktualizowany plik w katalogu artykułów.
Następnie w terminalu w tym samym katalogu wykonaj kod za pomocą polecenia indeksu kompilacji języka Python 3, aby utworzyć i utrwalić bazę danych. Sprawdź, czy baza danych jest teraz zapisana w folderze wektorowej bazy danych. Aby wykonać zapytanie dotyczące rozszerzonej usługi LLM, wykonaj polecenie Python 3 run augmented llm.
py w terminalu. Przetestuj zapytania użytkownika, aby otrzymać odpowiedzi, które są rozszerzone o dane z zestawu dokumentów. Następnie naciśnij control plus C, aby wyjść po zakończeniu.
Aby utworzyć wielokrotne składanie wyboru, edytuj plik questions. py, zwracając uwagę na format przykładów. Dodaj pytania w podobnym formacie i zapisz plik.
Aby edytować plik config. pi, dodaj klucz API dla otwartej sztucznej inteligencji lub przytulania twarzy. Jeśli celem jest porównanie z modelami któregokolwiek z dostawców.
Teraz zapisz plik. Następnie edytuj porównaj llms. py i wybierz zestaw modeli, względem których chcesz przeprowadzić testy.
Po odkomentowaniu modeli do porównania. Na koniec w terminalu wykonaj kod za pomocą polecenia compare llms i po wykonaniuWyświetl odpowiedzi modelu w określonym folderze w celu oceny lub innego przeglądu. Spośród testowanych wielokrotnych testów model osadzony wypadł znacznie lepiej niż model podstawowy, podobnie jak rozszerzone modele otwartej sztucznej inteligencji.
Niniejszy protokół poprawia jakość odpowiedzi dużych modeli językowych poprzez integrację recenzowanych artykułów naukowych z wykorzystaniem mechanizmu osadzania wektorowego. Zawiera on również kod służący do porównania wydajności różnych dużych modeli językowych.
Integracja osadzeń wektorowych (vector embeddings) z dużymi modelami językowymi (LLM) umożliwia badaniom i rozwojowi (R&D) w sektorze biofarmaceutycznym...&Zespoły R&D mogą w szybki sposób włączać aktualną, specjalistyczną literaturę naukową do procesów opartych na sztucznej inteligencji. Podejście to rozwiązuje problem statycznych korpusów modeli w szybko rozwijających się dziedzinach biomedycznych, wspierając bardziej elastyczne i świadome kontekstualnie podejmowanie decyzji na etapie odkryć. Augmentacja oparta na embeddingach zwiększa pewność predykcyjną oraz zwinność operacyjną w całym portfolio badawczym.
LLM-y rozszerzone o osadzanie (embedding-augmented LLMs) wpisują się w kontinuum od odkrywania do fazy przedklinicznej, umożliwiając dynamiczne przeszukiwanie literatury, benchmarking oraz syntezę wiedzy w każdym kluczowym punkcie procesu.