Name: Rozszerzanie dużych modeli językowych za pomocą osadzania wektorów w celu poprawy responsywności specyficznej dla domeny (Wideo) | JoVE Journal
Uploaded: 2024-12-06T12:20:00.000+00:00
Duration: 3 min 14 s
Description: Poznaj metodę rozszerzania dużych modeli językowych za pomocą osadzania wektorów w celu poprawy jakości odpowiedzi w zastosowaniach opieki zdrowotnej. Protokół zawiera kod do porównania wydajności różnych modeli.

ai_agent_IP

ai_agent

maintenance

instantTrialDurationMinutes

isBiopharma

enableNewMyJoveSectionDesign

educationFeatures

seoMetaApi

ai_copilot_institution_blacklist

ai_chat_institution_blacklist

freeAccessWindow

ssoRoleCapture

scheduledMaintenanceBanner

joveLabsFeatures

disable_autoplay_for_bots

extended_trial_duration

5 minutes

Ta praca była ułatwiona przez kilka bibliotek open-source, przede wszystkim llama-index (https://www.llamaindex.ai/), ChromaDB (https://www.trychroma.com/) i LMQL (https://lmql.ai/).

W przypadku użycia opisanym w tym artykule, magazyn wektorów został wygenerowany przy użyciu opublikowanych wytycznych od Chicago Consensus Working Group17. Ta grupa ekspertów została powołana w celu opracowania wytycznych dotyczących leczenia nowotworów otrzewnej. Obszar tematyczny został wybrany, ponieważ mieści się w obszarze wiedzy klinicznej badaczy. Zbiór artykułów uzyskano z internetowych repozytoriów czasopism, w tym Cancer i Annals of Surgical Oncology. Kompaktowy (33,4 mln parametrów) model osadzania stworzony przez Pekińską Akademię Sztucznej Inteligencji (BAAI, https://www.baai.ac.cn/english.html), bge-small-en, został wykorzystany do generowania osadzania z dokumentów źródłowych. Uzyskana w ten sposób baza danych została następnie wykorzystana do rozszerzenia modeli Llama 2 i Open-AI foundation7. Dla wygody czytelnika kod jest udostępniany za pośrednictwem GitHub (https://github.com/AnaiLab/AugmentedLLM). Aby zapewnić odtwarzalność, zaleca się używanie tych samych wersji bibliotek, które są używane na podanej liście wymagań, a także tej samej wersji języka Python. Dodatkowe informacje na temat instalacji lub dokumentacja dotycząca narzędzi używanych w poniższych metodach można znaleźć na oficjalnych stronach internetowych dostawców Pythona (https://www.python.org), git (https://git-scm.com), Lama-Index (https://llamaindex.ai) i Chroma (https://trychroma.com).
1. Wymagania wstępne: Przejrzyj kod i zainstaluj wymagane biblioteki
<ol>
	<li>Sprawdź, czy są zainstalowane polecenia git, python i.
	<ol>
		<li>W terminalu uruchom następujące polecenia, aby zweryfikować instalację: 
		git --version 
		python3 --version 
		pip3 --wersja</li>
	</ol>
	</li>
	<li>Sprawdź kod i wymagania instalacyjne.
	<ol>
		<li>W terminalu uruchom następujące polecenia: 
		git clone https://github.com/AnaiLab/AugmentedLLM.git 
		cd ./AugmentedLLM/ 
		pip3 install -r requirements.txt</li>
	</ol>
	</li>
</ol>
2. Tworzenie wektorowej bazy danych za pomocą Llama-Index
<ol>
	<li>Konwertuj formaty plików RTF (wymagane tylko wtedy, gdy pliki są w formacie RTF).
	<ol>
		<li>Edytuj plik o nazwie config.py, zastępując ścieżki plików w poniższym kodzie lokalizacją artykułów RTF, które mają zostać przekonwertowane, oraz lokalizacją, do której mają zostać zapisane zwykłe pliki tekstowe, wpisując następujące polecenia. Zapisz plik. 
		rtf_file_dir = './articles_rtf/' 
		converted_file_dir = './articles_converted/'</li>
		<li>W terminalu, w tym samym katalogu, wykonaj kod, aby wygenerować wersje plików RTF w postaci zwykłego tekstu, uruchamiając następujące polecenie: 
		python3 ./convert_rtf.py</li>
	</ol>
	</li>
	<li>Utwórz i zapisz wektorową bazę danych.
	<ol>
		<li>Edytuj plik config.py, zastępując wartość następującej zmiennej ścieżką pliku folderu zawierającego dokumenty, o które ma zostać rozszerzony LLM; zapisz plik. 
		article_dir = './artykuły/'</li>
		<li>W terminalu, w tym samym katalogu, wykonaj kod za pomocą następującego polecenia, aby utworzyć i utrwalić bazę danych. Sprawdź, czy baza danych jest teraz zapisana w folderze vector_db. 
		python3 ./build_index.py</li>
	</ol>
	</li>
</ol>
3. Augmentacja modelu lamy za pomocą wektorowej bazy danych wygenerowanej w sekcji 2
<ol>
	<li>Utwórz instancję niestandardowego LLM lokalnie (opcjonalnie) 
	UWAGA: Wykonanie tego kroku jest wymagane tylko wtedy, gdy chcesz użyć modelu innego niż domyślny Llama-2-7B. Jeśli chcesz użyć modelu domyślnego, przejdź do kroku 3.2.
	<ol>
		<li>(Korzystając z niestandardowego LLM) Określ LLM do rozszerzenia, edytując run_augmented_llm.py i przekazując obiekt llama-index LLM w konstruktorze jako parametr llm w następujących wierszach kodu, a nie None. 
		augmentedLLM = AugmentedLLM(vector_store, llm=Brak)</li>
	</ol>
	</li>
	<li>Zapytanie rozszerzone LLM
	<ol>
		<li>Uruchom następujące polecenie w terminalu: 
		python3 ./run_augmented_llm.py</li>
		<li>Uruchom zapytania użytkownika, aby uzyskać odpowiedź rozszerzoną o dane z zestawu rękopisów (Rysunek 3 i <silna klasa="xfig">Rysunek 4). Naciśnij CTRL + C, aby wyjść po zakończeniu.</li>
	</ol>
	</li>
</ol>
4. Programowe porównanie alternatywnych LLM
<ol>
	<li>Tworzenie wielokrotnych połączeń.
	<ol>
		<li>Edytuj plik questions.py, zwracając uwagę na format przykładów. Dodaj pytania w podobnym formacie. Zapisz plik.</li>
	</ol>
	</li>
	<li>Połącz się z GPT-3.5, GPT-4, OpenChat lub innymi modelami porównawczymi przez API.
	<ol>
		<li>Edytuj plik config.py, dodając klucz API dla OpenAI lub Huggingface, jeśli celem jest porównanie z modelami od któregokolwiek z dostawców. Zapisz plik. 
		huggingface_key = '' 
		openai_key = ''</li>
		<li>Edytuj plik compare_llms.py i wybierz zestaw modeli, które chcesz przetestować, odkomentowując (usuwając znaki "#" na początku tego wiersza) modele do porównania. 
		UWAGA: Niektóre komparatory wymagają klucza API ustawionego w kroku 4.2.1. Dodatkowo edytuj parametr output_dir, aby w razie potrzeby zmienić miejsce przechowywania danych wyjściowych LLM; W przeciwnym razie zostanie użyta wartość domyślna. 
		output_dir = './llm_responses/'</li>
		<li>W terminalu wykonaj kod za pomocą następującego polecenia. Po wykonaniu wyświetl odpowiedzi modelu w folderze określonym w kroku 4.2.2 w celu oceny lub innego przeglądu. 
		python3 ./compare_llms.py</li>
	</ol>
	</li>
	<li>(Opcjonalnie) Eksperymentuj z automatycznym ocenianiem odpowiedzi wielokrotnego wyboru. Przykładowy kod używa biblioteki LMQL do ograniczania danych wyjściowych LLM do oczekiwanego formatu.
	<ol>
		<li>Otwórz plik automated_comparison.py i podobnie jak w kroku 4.2.2 odkomentuj modele, które mają zostać dołączone, edytuj zmienną output_dir lub dostosuj w inny sposób. Należy pamiętać, że dane wyjściowe modelu będą nadal zapisywane w podobny sposób. Zapisz plik.</li>
		<li>Uruchom kod z kroku 4.3.1, uruchamiając następujące polecenie w terminalu: 
		python3 ./automated_comparison.py</li>
	</ol>
	</li>
</ol>

Embedding Methods to Integrate Scientific Manuscripts into Large Language Models

<ol><li>Singhal, K., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Large+language+models+encode+clinical+knowledge%5BTitle%5D)+AND+%22Nature%22%5BJournal%5D)">Large language models encode clinical knowledge.</a> Nature. 620 (7972), 172-180 (2023).</li>
<li>Gilson, A., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((How+does+ChatGPT+perform+on+the+United+States+medical+licensing+examination%3F+The+implications+of+large+language+models+for+medical+education+and+knowledge+assessment%5BTitle%5D)+AND+%22JMIR+Med+Educ%22%5BJournal%5D)">How does ChatGPT perform on the United States medical licensing examination? The implications of large language models for medical education and knowledge assessment.</a> JMIR Med Educ. 9 (1), e45312(2023).</li>
<li>Guerra, G. A., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((GPT-4+artificial+intelligence+model+outperforms+ChatGPT%2C+medical+students%2C+and+neurosurgery+residents+on+neurosurgery+written+board-like+questions%5BTitle%5D)+AND+%22World+Neurosurg%22%5BJournal%5D)">GPT-4 artificial intelligence model outperforms ChatGPT, medical students, and neurosurgery residents on neurosurgery written board-like questions.</a> World Neurosurg. 179, e160-e165 (2023).</li>
<li>Terwiesch, C. Would Chat GPT3 get a Wharton MBA? A prediction based on its performance in the Operations Management course. , 
 <a target="_blank" href="https://mackinstitute.wharton.upenn.edu/wp-content/uploads/2023/01/Christian-Terwiesch-Chat-GTP.pdf">https://mackinstitute.wharton.upenn.edu/wp-content/uploads/2023/01/Christian-Terwiesch-Chat-GTP.pdf</a> (2023).</li>
<li>Weizenbaum, J. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((ELIZA-a+computer+program+for+the+study+of+natural+language+communication+between+man+and+machine%5BTitle%5D)+AND+%22Communications+of+the+ACM%22%5BJournal%5D)">ELIZA-a computer program for the study of natural language communication between man and machine.</a> Communications of the ACM. 9 (1), 36-45 (1966).</li>
<li>Wu, T., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+brief+overview+of+ChatGPT%3A+The+history%2C+status+quo+and+potential+future+development%5BTitle%5D)+AND+%22IEEE%2FCAA+Journal+of+Automatica+Sinica%22%5BJournal%5D)">A brief overview of ChatGPT: The history, status quo and potential future development.</a> IEEE/CAA Journal of Automatica Sinica. 10 (5), 1122-1136 (2023).</li>
<li>Touvron, H., et al. Llama 2: Open foundation and fine-tuned chat models. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2307.09288">http://arxiv.org/abs/2307.09288</a> (2023).</li>
<li>Huang, L., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+survey+on+hallucination+in+large+language+models%3A+Principles%2C+taxonomy%2C+challenges%2C+and+open+questions%5BTitle%5D)+AND+%22arXiv+%5Bcs.CL%5D%22%5BJournal%5D)">A survey on hallucination in large language models: Principles, taxonomy, challenges, and open questions.</a> arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2311.05232">http://arxiv.org/abs/2311.05232</a> (2023).</li>
<li>Thirunavukarasu, A. J., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Large+language+models+in+medicine%5BTitle%5D)+AND+%22Nature+Med%22%5BJournal%5D)">Large language models in medicine.</a> Nature Med. 29 (8), 1930-1940 (2023).</li>
<li>Lewis, P., et al. Retrieval-augmented generation for knowledge-intensive NLP tasks. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2005.11401">http://arxiv.org/abs/2005.11401</a> (2020).</li>
<li>Li, J., Yuan, Y., Zhang, Z. Enhancing LLM factual accuracy with RAG to counter hallucinations: A case study on domain-specific queries in private knowledge-bases. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2403.10446">http://arxiv.org/abs/2403.10446</a> (2024).</li>
<li>Zhang, P., Xiao, S., Liu, Z., Dou, Z., Nie, J. -Y. Retrieve anything to augment large language models. arXiv [cs.IR]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.07554">http://arxiv.org/abs/2310.07554</a> (2023).</li>
<li>Ling, C., et al. Domain specialization as the key to make large language models disruptive: A comprehensive survey. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2305.18703">http://arxiv.org/abs/2305.18703</a> (2023).</li>
<li>Ram, O., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((In-Context+retrieval-augmented+language+models%5BTitle%5D)+AND+%22Trans+Assoc+Comput+Linguist%22%5BJournal%5D)">In-Context retrieval-augmented language models.</a> Trans Assoc Comput Linguist. 11, 1316-1331 (2023).</li>
<li>Cormode, G. Sequence distance embeddings. , The University of Warwick. 
 <a target="_blank" href="https://wrap.warwick.ac.uk/61310/7/WRAP_THESIS_Cormode_2003.pdf">https://wrap.warwick.ac.uk/61310/7/WRAP_THESIS_Cormode_2003.pdf</a> (2003).</li>
<li>Guo, Z., et al. Evaluating large language models: A comprehensive survey. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.19736">http://arxiv.org/abs/2310.19736</a> (2023).</li>
<li>Chicago Consensus Working Group. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((The+Chicago+Consensus+Guidelines+for+peritoneal+surface+malignancies%3A+Introduction%5BTitle%5D)+AND+%22Cancer%22%5BJournal%5D)">The Chicago Consensus Guidelines for peritoneal surface malignancies: Introduction.</a> Cancer. 126 (11), 2510-2512 (2020).</li>
<li>Wang, G., et al. OpenChat: Advancing open-source language models with mixed-quality data. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2309.11235">http://arxiv.org/abs/2309.11235</a> (2023).</li>
<li>Jiang, A. Q., et al. Mistral 7B. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.06825 ">http://arxiv.org/abs/2310.06825 </a> (2023).</li>
<li>Megahed, F. M., et al. AI and the future of work in statistical quality control: Insights from a first attempt to augmenting ChatGPT with an SQC knowledge base (ChatSQC). arXiv [cs.HC]. , 
 <a target="_blank" href="http://arxiv.org/abs/2308.13550">http://arxiv.org/abs/2308.13550</a> (2023).</li>
<li>Wang, Y., Ma, X., Chen, W. Augmenting black-box LLMs with medical textbooks for clinical question answering. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2309.02233">http://arxiv.org/abs/2309.02233</a> (2023).</li>
<li>Dodge, J., et al. Measuring the carbon intensity of AI in cloud instances. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aDodge%2C+J+%22FACCT+2022%22">FACCT 2022</a>. , (2022).</li>
<li>Samsi, S., et al. From words to watts: Benchmarking the energy costs of large language model inference. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.03003">http://arxiv.org/abs/2310.03003</a> (2023).</li>
<li>Khene, Z. -E., Bigot, P., Mathieu, R., Rouprêt, M., Bensalah, K. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Development+of+a+personalized+chat+model+based+on+the+European+association+of+urology+oncology+guidelines%3A+Harnessing+the+power+of+generative+artificial+intelligence+in+clinical+practice%5BTitle%5D)+AND+%22Eur+Urol+Oncol%22%5BJournal%5D)">Development of a personalized chat model based on the European association of urology oncology guidelines: Harnessing the power of generative artificial intelligence in clinical practice.</a> Eur Urol Oncol. 7 (1), 160-162 (2024).</li>
<li>Kresevic, S., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Optimization+of+hepatological+clinical+guidelines+interpretation+by+large+language+models%3A+a+retrieval+augmented+generation-based+framework%5BTitle%5D)+AND+%22NPJ+Digit+Med%22%5BJournal%5D)">Optimization of hepatological clinical guidelines interpretation by large language models: a retrieval augmented generation-based framework.</a> NPJ Digit Med. 7 (1), 102(2024).</li>
<li>Ge, J., et al. Development of a liver disease-specific large language model chat interface using retrieval augmented generation. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aGe%2C+J+%22medRxiv%22">medRxiv</a>. , (2023).</li>
<li>Rule-augmented artificial intelligence-empowered systems for medical diagnosis using large language models. Panagoulias, D. P., et al. 2023 IEEE 35th International Conference on Tools with Artificial Intelligence (ICTAI), , 70-77 (2023).</li>
<li>Panagoulias, D. P., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Augmenting+large+language+models+with+rules+for+enhanced+domain-specific+interactions%3A+The+case+of+medical+diagnosis%5BTitle%5D)+AND+%22Electronics%22%5BJournal%5D)">Augmenting large language models with rules for enhanced domain-specific interactions: The case of medical diagnosis.</a> Electronics. 13 (2), 320(2024).</li>
<li>Jin, Q., et al. Matching patients to clinical trials with large language models. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2307.15051">http://arxiv.org/abs/2307.15051</a> (2023).</li>
<li>Gupta, S. K., et al. PRISM: Patient records interpretation for semantic clinical trial matching using large language models. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2404.15549">http://arxiv.org/abs/2404.15549</a> (2024).</li>
<li>Hendrycks, D., et al. Measuring massive multitask language understanding. arXiv [cs.CY]. , 
 <a target="_blank" href="http://arxiv.org/abs/2009.03300">http://arxiv.org/abs/2009.03300</a> (2020).</li>
<li>Lin, S., Hilton, J., Evans, O. TruthfulQA: Measuring how models mimic human falsehoods. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2109.07958">http://arxiv.org/abs/2109.07958</a> (2021).</li>
<li>Bommasani, R., Liang, P., Lee, T. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Holistic+evaluation+of+language+models%5BTitle%5D)+AND+%22Ann+N+Y+Acad+Sci%22%5BJournal%5D)">Holistic evaluation of language models.</a> Ann N Y Acad Sci. 1525 (1), 140-146 (2023).</li>
<li>Banerjee, D., Singh, P., Avadhanam, A., Srivastava, S. Benchmarking LLM powered Chatbots: Methods and Metrics. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2308.04624">http://arxiv.org/abs/2308.04624</a> (2023).</li>
<li>Papineni, K., Roukos, S., Ward, T., Zhu, W. -J. Bleu. Proceedings of the 40th Annual Meeting on Association for Computational Linguistics - ACL '02. , (2001).</li>
<li>Wang, A., Singh, A., Michael, J., Hill, F., Levy, O., Bowman, S. R. Glue: A multi-task benchmark and analysis platform for natural language understanding. , 
 <a target="_blank" href="http://arxiv.org/abs/1804.07461">http://arxiv.org/abs/1804.07461</a> (2019).</li>
<li>Johnson, D., et al. Assessing the accuracy and reliability of AI-generated medical responses: An evaluation of the chat-GPT model. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aJohnson%2C+D+%22Res+Sq%22">Res Sq</a>. , (2023).</li>
<li>Lin, C. -Y. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((ROUGE%3A+A+package+for+automatic+evaluation+of+summaries%5BTitle%5D)+AND+%22Text+Summarization+Branches+Out%22%5BJournal%5D)">ROUGE: A package for automatic evaluation of summaries.</a> Text Summarization Branches Out. , 74-81 (2004).</li>
<li>Chen, S., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Evaluating+the+ChatGPT+family+of+models+for+biomedical+reasoning+and+classification%5BTitle%5D)+AND+%22J+Am+Med+Inform+Assoc%22%5BJournal%5D)">Evaluating the ChatGPT family of models for biomedical reasoning and classification.</a> J Am Med Inform Assoc. 31 (4), 940-948 (2024).</li>
</ol>

Autorzy nie mają do zadeklarowania konfliktu interesów.

Przedstawione tutaj metody mają na celu ułatwienie badań nad specyficznymi dla danej dziedziny zastosowaniami LLM bez konieczności szkolenia de novo lub obszernego dostrajania. Ponieważ LLM stają się obszarem znaczącego zainteresowania badawczego, podejścia do poszerzania baz wiedzy i poprawy dokładności odpowiedzi będą stawać się coraz ważniejsze 18,19,20,21. Jak wykazano w przedstawionych wynikach, przedstawiony protokół oferuje poprawę wydajności w przypadku pytań specyficznych dla danej dziedziny w porównaniu z tym samym LLM bez rozszerzenia i zbliża się do wydajności bardziej złożonych modeli, takich jak modele OpenAI GPT. Ponieważ LLM mogą wymagać ogromnych zasobów obliczeniowych do generowania odpowiedzi22,23, rozszerzenie prostszego modelu może zapewnić drogę do implementacji w przypadkach użycia ograniczonych zasobami. Co więcej, system RAG przyniósł również korzyści w zakresie rozszerzania modeli o wysokim stopniu złożoności, takich jak te dostarczane przez OpenAI. Chociaż przedstawione wyniki są specyficzne dla leczenia raka otrzewnej, ostatnie badania nad systemami RAG z różnymi źródłami danych zarówno w domenie, jak i skali, wskazują na szerokie zastosowanie takich systemów 21,24,25,26. Ponieważ jednak jakość odpowiedzi jest ściśle związana z danymi tekstowymi wykorzystywanymi do augmentacji, niezwykle ważne jest, aby użytkownicy dokładnie rozważyli, które źródła są optymalne dla ich konkretnej domeny i pożądanej aplikacji. Rozważania te mają szczególne znaczenie w dziedzinach takich jak opieka zdrowotna, która była szczególnym przedmiotem badań związanych z LLM. Wykorzystanie LLM do diagnostyki 27,28, dopasowania badań klinicznych29,30 i wielu innych zastosowań jest obecnie badanych i wymaga zweryfikowanych, godnych zaufania zasobów tekstowych, a nie polegania na nieznanych korpusach szkoleniowych.
Wydajność mierzono na podstawie procentu poprawnych MCQ napisanych przez eksperta w dziedzinie raka otrzewnej i ich postępowania klinicznego. Odpowiedzi zostały sklasyfikowane jako poprawne lub niepoprawne na podstawie oceny ludzkiej; jednakże, aby zminimalizować powtarzalne zadania dla badaczy, udostępniono podstawowy kod, aby zacząć zbliżać się do bardziej zautomatyzowanego porównywania wydajności między LLM.
Kluczową zaletą tego protokołu jest dostarczony kod umożliwiający programowy dostęp do różnych LLM. Wcześniej, aby ocenić wydajność na MCQ, użytkownicy bez wymaganych możliwości technicznych mogli polegać na powtarzających się testach ręcznych za pośrednictwem interfejsu internetowego. Dostarczony kod zawiera podstawowe klasy do interfejsu z kilkoma popularnymi LLM wraz z przykładami wykonania kodu. Celem zapewnienia tych narzędzi jest umożliwienie większej liczbie badaczy przejścia do automatyzacji przepływów pracy, które oceniają odpowiedzi na monit w różnych LLM, zwiększając zdolność do przeprowadzania badań porównawczych.
Ponadto przedstawione metody mają na celu podkreślenie elastyczności i rozszerzalności. Chociaż kod może być używany w takiej postaci, w jakiej jest, jest pisany z zamiarem dalszego dostosowywania do konkretnych przypadków użycia w razie potrzeby, takich jak użycie różnych LLM i osadzanie modeli w celu rozszerzenia lub porównania. Ponieważ krajobraz LLM szybko się rozwija, ta rozszerzalność będzie coraz ważniejsza, aby zaspokoić różnorodne potrzeby użytkowników w różnych domenach. Dodatkowo, biblioteka Llama-Index zapewnia znaczną liczbę funkcji, które nie są wykorzystywane w demonstrowanych metodach, a które mogą dać użytkownikom dodatkowe opcje podczas tworzenia podobnych systemów. Można je znaleźć w oficjalnej dokumentacji Llama-Index.
Czytelnicy powinni również dokładnie rozważyć metody oceny, które są optymalne dla ich przypadku użycia. Chociaż MCQ zyskały popularność w porównaniach LLM ze względu na ich łatwo mierzalny charakter31,32, należy zachować ostrożność w traktowaniu ich jako kompleksowego wskaźnika wydajności dla systemów generatywnych. W najnowszej literaturze wdrożono różnorodny zakres ocen, w tym podejścia jakościowe, ocenę ludzką, holistyczną ocenę modeli językowych Stanforda (HELM)33 oraz standardowe wskaźniki przetwarzania języka naturalnego, takie jak Bilingual Evaluation Understudy (BLEU), General Language Understanding Evaluation (GLUE), ROUGE, konsternacja i wynik F1 34,35,36,37,38,Lokal mieszkalny 39.
Istnieją ograniczenia dotyczące tych metod, jak podano tutaj. Na przykład, chociaż interfejsy zostały wdrożone dla kilku wiodących dostawców LLM, biorąc pod uwagę szybko rozwijający się charakter tej dziedziny i to, jak zróżnicowane mogą być przypadki użycia, ta implementacja może nie być kompleksowa. Kod został jednak zaprojektowany z myślą o tym, jak omówiono wcześniej. Ponadto, chociaż dostarczono podstawowy kod do przejścia na automatyczne ocenianie, istnieje miejsce na rozszerzenie o korzystanie z alternatywnych narzędzi do oceniania odpowiedzi, takich jak HELM lub BLEU. Co więcej, dodatkowe wykorzystanie narzędzi do ograniczania danych wyjściowych zgodnie z predefiniowanymi gramatykami, takich jak język zapytań modelu językowego (LMQL), może być wykorzystane do rozszerzenia tej pracy i zwiększenia automatyzacji porównawczych studiów LLM. Ponadto, biorąc pod uwagę szeroką gamę potencjalnych przypadków użycia, konieczne są dalsze badania nad wpływem systemów RAG na ogólną wydajność poza domeną, aby scharakteryzować wszelkie kompromisy w zakresie wydajności. Wreszcie, należy nadal badać dodatkowe metody poprawy wiarygodności i oceny odpowiedzi LLM.
Należy pamiętać, że z przyczyn technicznych wymagany jest python 3.10 lub nowszy. Podpowiedzi powłoki są zapisywane dla bash, zsh lub innych terminali podobnych do UNIX. Polecenia można wykonywać (określane w protokole jako "uruchamianie polecenia"), po prostu wpisując tekst, a następnie powrotu. Dla każdego kroku w protokole użytkownik może chcieć zbadać kod w wykonywanym pliku, aby uzyskać pełniejsze zrozumienie mechaniki stojącej za przepływem pracy.

Duże modele językowe (LLM), takie jak ChatGPT firmy OpenAI lub Lama firmy Meta AI, szybko stały się popularnym źródłem do generowania tekstu odpowiadającego na pytanie użytkownika. Modele te, pierwotnie funkcjonujące w celu przewidywania kolejnych elementów leksykalnych w sekwencji, ewoluowały, aby rozumieć kontekst, kodować informacje kliniczne i wykazywać wysoką wydajność w różnych zadaniach1,2,3,4. Chociaż modele językowe wyprzedzają takie możliwości i ich obecny poziom popularności o dziesięciolecia5, ostatnie postępy w głębokim uczeniu i możliwościach obliczeniowych sprawiły, że wstępnie wyszkolone, wysokiej jakości komercyjne LLM stały się szeroko dostępne dla użytkowników za pośrednictwem technologii internetowych i interfejsów programowania aplikacji (API)6. Istnieje jednak kilka znaczących ograniczeń w korzystaniu z LLM w tym formacie.
Wyzwanie 1: Statyczny korpus treningowy 
LLM są trenowane na ogromnym (np. dwa biliony tokenów w przypadku Llama 27), ale statycznym korpusie danych tekstowych. Stanowi to wyzwanie w uzyskaniu trafnych odpowiedzi dotyczących dziedzin podlegających szybkiemu rozwojowi lub zmieniającej się literaturze. W tym statycznym podejściu LLM wymagałyby częstego przekwalifikowania, aby nadążyć za najnowszymi danymi, co nie jest ani praktyczne, ani skalowalne. Co więcej, podpowiedzi, które wymagają odpowiedzi na podstawie informacji nieobecnych w danych treningowych, mogą uniemożliwić wygenerowanie użytecznego tekstu lub prowadzić do halucynacji8. Przypadki halucynacji lub fabrykowania faktów budzą poważne obawy co do wiarygodności LLM, szczególnie w ustawieniach, w których dokładność informacji jest krytyczna9.
Wyzwanie 2: Brak specyfiki domeny 
Wstępnie wytrenowane modele są często tworzone do użytku ogólnego, podczas gdy użytkownicy mogą wymagać modelu specjalnie zoptymalizowanego pod kątem wydajności w określonej domenie. Ponadto zasoby obliczeniowe i dane wymagane do trenowania modelu de novo lub wykonywania znacznych dostrajań są zaporowe dla wielu użytkowników.
Wyzwanie 3: Brak prywatności 
Użytkownicy korzystający z aplikacji zawierających poufne dane lub informacje zastrzeżone mogą nie chcieć lub nie być w stanie korzystać z niektórych usług LLM, ponieważ brakuje im informacji o tym, jak dane mogą być przechowywane lub wykorzystywane.
Wyzwanie 4: Brak gwarantowanej stabilności 
Usługi z zastrzeżonymi LLM mogą zmieniać dostępne modele lub zmieniać zachowanie w dowolnym momencie, co sprawia, że stabilność jest problemem dla implementacji aplikacji opartych na tych usługach.
Retrieval-augmented generation (RAG) to technika opracowana w celu poprawy wydajności LLM, szczególnie w przypadku zapytań związanych z informacjami spoza korpusu treningowego modelu10,11. Systemy te rozszerzają LLM, włączając informacje kontekstowe, które należy wziąć pod uwagę podczas generowania odpowiedzi na zapytanie użytkownika. W różnych ostatnich pracach opisano zastosowania systemów RAG i ich potencjalne zalety12,13,14.
Celem metody opisanej w tej pracy jest zademonstrowanie budowy takiego systemu i dostarczenie ram dla badaczy do szybkiego eksperymentowania na specyficznych dla domeny, rozszerzonych LLM. Ta metoda ma zastosowanie dla użytkowników, którzy chcą rozszerzyć LLM o zewnętrzne źródło danych tekstowych. W szczególności nadrzędnym celem tego protokołu jest dostarczenie kodu krok po kroku, który można rozszerzyć na różne praktyczne eksperymenty LLM i RAG bez konieczności posiadania znaczącej wiedzy technicznej w dziedzinie modelowania języka, chociaż wymagana jest praktyczna znajomość Pythona, aby zastosować to podejście bez modyfikacji. Aby zmaksymalizować kontrolę użytkowników, przejrzystość, przenośność i przystępność cenową rozwiązań, wykorzystywane są publicznie dostępne narzędzia typu open source. Proponowany system rozwiązuje wcześniej wymienione problemy w następujący sposób:
Rozwiązania 1 i 2: Statyczny korpus szkoleniowy i brak specyficzności domeny 
Dostarczona metodologia wykorzystuje podejście RAG, wykorzystując osadzanie w celu dostarczania informacji specyficznych dla domeny, które nie zostały uwzględnione w oryginalnych danych treningowych. Na wysokim poziomie modele osadzania przekształcają tekst lub inne dane w reprezentację w postaci wektora lub jednowymiarowej tablicy liczb. Ta technika jest korzystna, ponieważ konwertuje informacje semantyczne zawarte w tekście na gęstą, liczbową formę. Rzutując zapytanie użytkownika w tę samą przestrzeń osadzania, można użyć różnych algorytmów do obliczenia odległości15, a tym samym przybliżonego podobieństwa semantycznego między zapytaniem użytkownika a sekcjami dokumentów tekstowych. W związku z tym utworzenie bazy danych takich wektorów z dokumentów podzielonych na odrębne sekcje może ułatwić przeszukiwanie znacznej liczby dokumentów w poszukiwaniu tekstu najbardziej istotnego dla zapytania użytkownika (Rysunek 1). Takie podejście można rozszerzyć na dowolny dokument tekstowy. Podczas gdy inne podejścia, takie jak możliwości wyszukiwania online, zaczynają być wdrażane w celu rozszerzenia LLM, podejście to pozwala użytkownikom wybrać źródła uważane za wystarczająco wysokiej jakości dla ich przypadku użycia.
Rozwiązanie 2: Brak prywatności 
W tej implementacji do hostingu wykorzystano bezpieczne środowisko chmurowe, bez podpowiedzi użytkownika, generowanych odpowiedzi ani innych danych opuszczających ten ekosystem. Cały kod jest jednak napisany w sposób niezależny od platformy, aby zapewnić możliwość zastąpienia go innym dostawcą chmury lub lokalnym sprzętem.
Rozwiązanie 3: Brak gwarantowanej stabilności 
To podejście wykorzystuje biblioteki typu open source i koncentruje się na rozszerzaniu LLM o publicznie dostępne wagi, co pozwala na wyższy stopień przezroczystości, stabilności i wersjonowania, jeśli jest to wymagane.
Pełny schemat proponowanego przez nas systemu jest pokazany w Rysunek 2, a szczegółowe instrukcje dotyczące replikacji tego lub podobnego systemu są przedstawione w sekcji protokołu. Dodatkową kwestią, którą należy wziąć pod uwagę podczas zmieniania zachowania modelu poprzez dostrajanie lub rozszerzanie, jest ocena wydajności. W modelach generujących język stanowi to wyjątkowe wyzwanie, ponieważ wiele tradycyjnych metryk uczenia maszynowego nie ma zastosowania. Chociaż istnieje wiele różnych technik16, w tym badaniu wykorzystano pytania wielokrotnego wyboru (MCQ) napisane przez ekspertów do oceny dokładności i porównania wydajności przed i po augmentacji, a także z popularnymi alternatywnymi LLM.

<table><tbody><tr><td>pip3 wersja 22.0.2&nbsp;</td><td></td><td></td><td></td></tr><tr><td>Python w wersji 3.10.12</td><td></td><td></td><td></td></tr></tbody></table>

rozszerzanie dużych modeli językowych za pomocą osadzania wektorów w celu poprawy responsywności specyficznej dla domeny

Augmenting Large Language Models via Vector Embeddings to Improve Domain-Specific Responsiveness

Duże modele językowe (LLM) stały się popularnym źródłem do generowania informacji istotnych dla zapytania użytkownika. Takie modele są tworzone w procesie trenowania wymagającym dużej ilości zasobów przy użyciu obszernego, statycznego korpusu danych tekstowych. Ta statyczna natura skutkuje ograniczeniami w zakresie adaptacji w dziedzinach z szybko zmieniającą się wiedzą, informacjami zastrzeżonymi i danymi wrażliwymi. W tej pracy przedstawiono metody rozszerzania LLM ogólnego przeznaczenia, znanych jako modele podstawowe, o informacje specyficzne dla danej dziedziny przy użyciu podejścia opartego na osadzaniu w celu włączenia aktualnych, recenzowanych manuskryptów naukowych. Osiąga się to dzięki narzędziom typu open source, takim jak Llama-Index, i publicznie dostępnym modelom, takim jak Llama-2, aby zmaksymalizować przejrzystość, prywatność i kontrolę użytkownika oraz możliwość powielania. Chociaż manuskrypty naukowe są używane jako przykładowy przypadek użycia, podejście to można rozszerzyć na dowolne źródło danych tekstowych. Ponadto omówiono metody oceny wydajności modelu po tym ulepszeniu. Metody te umożliwiają szybki rozwój systemów LLM dla wysoce wyspecjalizowanych dziedzin niezależnie od kompleksowości informacji w korpusie szkoleniowym.

Zestaw 22 publikacji z wytycznych dotyczących leczenia opracowanych przez Chicago Consensus Working Group został wykorzystany do rozszerzenia bazowego modelu Llama-7b17. Dokumenty zostały przekształcone w indeks wektorowy przy użyciu narzędzia Llama-Index w celu wygenerowania modelu Llama-2-7b-CCWG-Embed. Popularne modele OpenAI, takie jak GPT-3.5 i GPT-4, zostały rozszerzone w podobny sposób, aby utworzyć modele GPT-XX-CCWG-Embed. Opracowano łącznie 20 pytań wielokrotnego wyboru (MCQ), aby ocenić wiedzę związaną z leczeniem różnych nowotworów otrzewnej. Pytania MCQ zostały stworzone przez certyfikowanego onkologa chirurgicznego w celu przetestowania poziomu wiedzy oczekiwanego od rezydenta onkologii chirurgicznej. Model Llama-2-7b-CCWG-Embed wypadł znacznie lepiej niż model bazowy (patrz Tabela 1), podobnie jak rozszerzone modele OpenAI. Jest to uznawane za pozytywny wynik dla tej metody, ponieważ wydajność modelu uległa poprawie po rozszerzeniu w porównaniu z poziomem bazowym.
<img alt="Schemat przetwarzania dokumentów akademickich: konwersja na TXT, model osadzania, przechowywanie wektorowe." class="xfigimg" src="/files/ftp_upload/66796/66796fig01.jpg" data-altupdatedat="1788304762000" data-alt="Rysunek 1"> 
Rysunek 1: Schemat generowania bazy danych wektorowych z prac akademickich. <a href="https://www.jove.com/files/ftp_upload/66796/66796fig01large.jpg" target="_blank">Kliknij tutaj, aby wyświetlić powiększoną wersję tego rysunku.</a>
<img alt="Schemat bezpiecznego środowiska Azure, przepływ procesu AI, magazyn wektorowy, integracja modelu językowego." class="xfigimg" src="/files/ftp_upload/66796/66796fig02.jpg" data-altupdatedat="1788304762000" data-alt="Rycina 2"> 
Rycina 2: Ogólny schemat systemu dla rozszerzonego modelu LLM. <a href="https://www.jove.com/files/ftp_upload/66796/66796fig02large.jpg" target="_blank">Kliknij tutaj, aby wyświetlić powiększoną wersję tej ryciny.</a>
<img alt="Interfejs wiersza poleceń konfigurujący model uczenia maszynowego; widoczne szczegóły konfiguracji technicznej." class="xfigimg" src="/files/ftp_upload/66796/66796fig03.jpg" data-altupdatedat="1788304762000" data-alt="Rycina 3"> 
Rycina 3: Rozszerzony model Llama-2 uruchomiony w terminalu Linux. <a href="https://www.jove.com/files/ftp_upload/66796/66796fig03large.jpg" target="_blank">Kliknij tutaj, aby wyświetlić powiększoną wersję tej ryciny.</a>
<img alt="Terminal z ładowaniem LLaMA v2 i sesją pytań i odpowiedzi na temat chemioterapii; pokazano metryki wydajności systemu." class="xfigimg" src="/files/ftp_upload/66796/66796fig04.jpg" data-altupdatedat="1788304762000" data-alt="Rycina 4"> 
Rycina 4: Wynik zapytania z rozszerzonego modelu Llama-2. <a href="https://www.jove.com/files/ftp_upload/66796/66796fig04large.jpg" target="_blank">Kliknij tutaj, aby wyświetlić powiększoną wersję tej ryciny.</a>
<table border="1" fo:keep-together.within-page="1" fo:keep-with-next.within-page="always">
	<tbody>
		<tr>
			<td>LLM (duży model językowy) </td>
			<td>Wynik (% poprawnych odpowiedzi)</td>
		</tr>
		<tr>
			<td>Llama-2-7b-chat-hf </td>
			<td>65% </td>
		</tr>
		<tr>
			<td>Llama-2-7b-CCWG-Embed</td>
			<td>75% </td>
		</tr>
		<tr>
			<td>Openchat-3.5-010618</td>
			<td>65%</td>
		</tr>
		<tr>
			<td>Mistral-7B-v0.119</td>
			<td>70%</td>
		</tr>
		<tr>
			<td>GPT-3.5 </td>
			<td>75% </td>
		</tr>
		<tr>
			<td>GPT-3.5-CCWG-Embed</td>
			<td>85%</td>
		</tr>
		<tr>
			<td>GPT-4 </td>
			<td>85% </td>
		</tr>
		<tr>
			<td>GPT-4-CCWG-Embed</td>
			<td>90%</td>
		</tr>
	</tbody>
</table>
Tabela 1: Wyniki (procent poprawnych odpowiedzi) różnych modeli LLM w zestawie 20 pytań dotyczących leczenia nowotworów otrzewnej.

W tym protokole, jakość odpowiedzi modelu dużego języka jest poprawiana poprzez wzbogacenie o recenzowane, specyficzne dla danej dziedziny artykuły naukowe dzięki mechanizmowi osadzania wektorów. Ponadto dostarczany jest kod, który pomaga w porównywaniu wydajności między dużymi modelami językowymi.

Rozszerzanie dużych modeli językowych za pomocą osadzania wektorów w celu poprawy responsywności specyficznej dla domeny

Large language models (LLMs) have emerged as a popular resource for generating information relevant to a user query. Such models are created through a ...

Nasze badania koncentrują się na szerokiej gamie zastosowań uczenia maszynowego i dużych modeli językowych w opiece onkologicznej. Obejmuje to zarówno poprawę bezpośredniej opieki nad pacjentem, jak i sprostanie wyzwaniom operacyjnym, takim jak planowanie i dokumentacja. Ostatecznie staramy się odpowiedzieć na pytanie, w jaki sposób te technologie mogą poprawić jakość opieki zdrowotnej dla pacjentów, świadczeniodawców i badaczy?Duże modele językowe już zaczęły przekształcać krajobraz badawczy. Wcześniej zaporowe zadania przetwarzania języka naturalnego stały się dostępne dla znacznie większej liczby badaczy, umożliwiając wiele nowych kierunków badań z wykorzystaniem nieustrukturyzowanych danych. Dużym wyzwaniem jest szybko zmieniający się krajobraz dużych narzędzi i infrastruktury modeli językowych.Wielu klinicystów i badaczy może mieć pomysły na zastosowania, ale obecnie nie ma wiedzy kontekstowej lub technicznej potrzebnej do wdrożenia lub przemyślanego rozważenia kompromisów różnych podejść. Aby rozpocząć, zainstaluj Git, python i na komputerze, a następnie uruchom polecenia w terminalu, aby zweryfikować instalację. Następnie uruchom polecenie git clone, aby pobrać repozytorium i zainstalować niezbędne wymagania.Aby utworzyć wektorową bazę danych, edytuj plik config. py, zastępując wartość następującej zmiennej ścieżką pliku do folderu zawierającego dokumenty, które będą używane do rozszerzania dużego modelu językowego. Następnie zapisz zaktualizowany plik w katalogu artykułów.Następnie w terminalu w tym samym katalogu wykonaj kod za pomocą polecenia indeksu kompilacji języka Python 3, aby utworzyć i utrwalić bazę danych. Sprawdź, czy baza danych jest teraz zapisana w folderze wektorowej bazy danych. Aby wykonać zapytanie dotyczące rozszerzonej usługi LLM, wykonaj polecenie Python 3 run augmented llm.py w terminalu. Przetestuj zapytania użytkownika, aby otrzymać odpowiedzi, które są rozszerzone o dane z zestawu dokumentów. Następnie naciśnij control plus C, aby wyjść po zakończeniu.Aby utworzyć wielokrotne składanie wyboru, edytuj plik questions. py, zwracając uwagę na format przykładów. Dodaj pytania w podobnym formacie i zapisz plik.Aby edytować plik config. pi, dodaj klucz API dla otwartej sztucznej inteligencji lub przytulania twarzy. Jeśli celem jest porównanie z modelami któregokolwiek z dostawców.Teraz zapisz plik. Następnie edytuj porównaj llms. py i wybierz zestaw modeli, względem których chcesz przeprowadzić testy.Po odkomentowaniu modeli do porównania. Na koniec w terminalu wykonaj kod za pomocą polecenia compare llms i po wykonaniuWyświetl odpowiedzi modelu w określonym folderze w celu oceny lub innego przeglądu. Spośród testowanych wielokrotnych testów model osadzony wypadł znacznie lepiej niż model podstawowy, podobnie jak rozszerzone modele otwartej sztucznej inteligencji.

augmenting-large-language-models-via-vector-embeddings-to-improve

Research

JoVE Journal

Medicine

Medycyna

Ten artykuł opisuje RUGGED (Retrieval Under Graph-Guided Explainable disease Distinction), który integruje wnioskowanie Large Language Model (LLM) z Retrieval-Augmented Generation (RAG). Opiera się na dowodach z opracowanych przez ekspertów baz wiedzy biomedycznej i recenzowanych publikacji biomedycznych, aby zsyntetyzować nową wiedzę z aktualnych informacji, zidentyfikować wytłumaczalne i możliwe do zastosowania prognozy oraz wskazać obiecujące kierunki badań opartych na hipotezach.

Synteza wiedzy opartej na dowodach i walidacja hipotez: poruszanie się po bazach wiedzy biomedycznej za pomocą wytłumaczalnej sztucznej inteligencji i systemów agentowych

Proponujemy podejście do dostrajania modeli językowych opartych na uczeniu się przez wzmacnianie, które wykorzystuje Enti Hallucination Index (EHI) jako sygnał nagrody w celu zmniejszenia halucynacji na poziomie encji w podsumowaniu tekstu. Eksperymenty na transkrypcjach spotkań pokazują, że ta metoda poprawia wierność i dokładność encji.

Dostrajanie dużych modeli językowych za pomocą indeksu urojeń entytytów do sumaryzacji tekstu

Interferencja RNA (RNAi) posiada wiele zalet w porównaniu z nokautem genów i jest szeroko stosowana jako narzędzie w badaniach nad funkcjami genów. Wynalezienie technologii RNAi opartej na wektorach DNA umożliwiło długotrwałe i indukowalne wyciszanie genów, a także zwiększyło wykonalność wyciszania genów in vivo.

Interferencja RNA oparta na wektorach DNA w badaniu funkcji genów w nowotworach

Badamy zastosowanie powtarzalnej przezczaszkowej stymulacji magnetycznej (rTMS) w celu poprawy zdolności językowych u pacjentów z przewlekłym udarem mózgu i niepłynną afazją.  Po zidentyfikowaniu miejsca w prawym zakręcie czołowym dla każdego pacjenta, które optymalnie reaguje na stymulację, celujemy w to miejsce podczas dziesięciu dni leczenia rTMS.

Wykorzystanie powtarzalnej przezczaszkowej stymulacji magnetycznej w celu poprawy funkcji językowych u pacjentów po udarze mózgu z przewlekłą afazją niepłynną

Większość badań z udziałem aparatu Langendorffa wykorzystuje małe modele zwierzęce ze względu na zwiększoną złożoność systemów dla większych ssaków. Opisujemy system Langendorffa dla dużych modeli zwierzęcych, który pozwala na zastosowanie go u różnych gatunków, w tym ludzi, i stosunkowo łatwe pozyskiwanie danych.

Izolowany działający system serca dla dużych modeli zwierzęcych

Ten protokół opisuje zastosowanie ultradźwięków o wysokiej częstotliwości (HFUS) do obrazowania węzłów chłonnych szyjnych myszy. Technika ta optymalizuje wizualizację i kwantyfikację morfologii, objętości i przepływu krwi węzłów chłonnych szyjnych. Przedstawiono również biopsję węzłów chłonnych szyjnych pod kontrolą obrazu oraz przetwarzanie tkanki limfatycznej do oceny histologicznej.

Obrazowanie ultrasonograficzne o wysokiej częstotliwości węzłów chłonnych szyjnych myszy

Ten manuskrypt opisuje, w jaki sposób lokalne dostarczanie genów za pośrednictwem wektorów wirusowych zapewnia atrakcyjny sposób ekspresji transgenów w ośrodkowym układzie nerwowym.  Protokół określa wszystkie kluczowe kroki w celu wykonania wstrzyknięcia wektora wirusowego w istotę czarną szczura w celu opracowania opartego na wektorze wirusowym modelu zwierzęcego dla choroby Parkinsona.

Opracowanie szczurzego modelu choroby Parkinsona opartego na alfa-synukleinie poprzez stereotaktyczne wstrzyknięcie rekombinowanego wektora wirusowego związanego z adenowirusem

Istnieje zapotrzebowanie, aby testy przedkliniczne nowej klasy leków "sierocych" zwanych farmakologicznymi białkami opiekuńczymi były powtarzalne, szybkie i skuteczne. Opracowaliśmy prosty, wysoce ustandaryzowany i wszechstronny test oparty na hodowli komórkowych do badań przesiewowych dla kwalifikujących się pacjentów, a także nowatorskie farmakologiczne leki opiekuńcze.

In vitro Pomiar enzymów w celu zbadania farmakologicznej reakcji białka opiekuńczego w chorobie Fabry'ego i Pompego

Dotchawicze (IT) podawanie eksperymentalnych środków myszom często powoduje asymetryczne dostarczanie do dystalnych płuc. W tym raporcie opisujemy bezpośrednie podejście dooskrzelowe (IB) do kanniulacji każdego płuca u żywych myszy bez operacji. To podejście może być stosowane do selektywnego podawania środków do jednego płuca lub może być dostosowane do poprawy symetrycznego dostarczania środka do obu płuc.

Bezpośrednie podanie dooskrzelowe w celu poprawy selektywnego odkładania się czynnika w płucach myszy

Modele angiogenezy wieńcowej in vitro mogą być wykorzystane do odkrycia komórkowych i molekularnych mechanizmów angiogenezy wieńcowej. Hodowle eksplantatów in vitro tkanek zatok żylnych i wsierdzia wykazują silny wzrost w odpowiedzi na VEGF-A i wykazują podobny wzór ekspresji COUP-TFII jak in vivo.

Model angiogenezy wieńcowej in vitro

Poznaj metodę rozszerzania dużych modeli językowych za pomocą osadzania wektorów w celu poprawy jakości odpowiedzi w zastosowaniach opieki zdrowotnej. Protokół zawiera kod do porównania wydajności różnych modeli.

Rozszerzanie dużych modeli językowych za pomocą osadzania wektorów w celu poprawy responsywności specyficznej dla domeny

Przeglądaj więcej filmów