Name: Uitbreiding van grote taalmodellen via vectorinbeddingen om de domeinspecifieke responsiviteit te verbeteren (Video) | JoVE Journal
Uploaded: 2024-12-06T12:20:00.000+00:00
Duration: 3 min 14 s
Description: Leer hoe u grote taalmodellen uitbreidt met vectorinbeddingen om domeinspecifieke responsiviteit in de gezondheidszorg te verbeteren. Deze methode biedt code voor prestatievergelijkingen tussen modellen.

ai_agent_IP

ai_agent

maintenance

instantTrialDurationMinutes

isBiopharma

enableNewMyJoveSectionDesign

educationFeatures

seoMetaApi

ai_copilot_institution_blacklist

ai_chat_institution_blacklist

freeAccessWindow

ssoRoleCapture

scheduledMaintenanceBanner

joveLabsFeatures

disable_autoplay_for_bots

extended_trial_duration

5 minutes

<meta charset="utf8"></head><body>Inbedding van methoden om wetenschappelijke manuscripten te integreren in grote taalmodellen

<ol><li>Singhal, K., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Large+language+models+encode+clinical+knowledge%5BTitle%5D)+AND+%22Nature%22%5BJournal%5D)">Large language models encode clinical knowledge.</a> Nature. 620 (7972), 172-180 (2023).</li>
<li>Gilson, A., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((How+does+ChatGPT+perform+on+the+United+States+medical+licensing+examination%3F+The+implications+of+large+language+models+for+medical+education+and+knowledge+assessment%5BTitle%5D)+AND+%22JMIR+Med+Educ%22%5BJournal%5D)">How does ChatGPT perform on the United States medical licensing examination? The implications of large language models for medical education and knowledge assessment.</a> JMIR Med Educ. 9 (1), e45312(2023).</li>
<li>Guerra, G. A., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((GPT-4+artificial+intelligence+model+outperforms+ChatGPT%2C+medical+students%2C+and+neurosurgery+residents+on+neurosurgery+written+board-like+questions%5BTitle%5D)+AND+%22World+Neurosurg%22%5BJournal%5D)">GPT-4 artificial intelligence model outperforms ChatGPT, medical students, and neurosurgery residents on neurosurgery written board-like questions.</a> World Neurosurg. 179, e160-e165 (2023).</li>
<li>Terwiesch, C. Would Chat GPT3 get a Wharton MBA? A prediction based on its performance in the Operations Management course. , 
 <a target="_blank" href="https://mackinstitute.wharton.upenn.edu/wp-content/uploads/2023/01/Christian-Terwiesch-Chat-GTP.pdf">https://mackinstitute.wharton.upenn.edu/wp-content/uploads/2023/01/Christian-Terwiesch-Chat-GTP.pdf</a> (2023).</li>
<li>Weizenbaum, J. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((ELIZA-a+computer+program+for+the+study+of+natural+language+communication+between+man+and+machine%5BTitle%5D)+AND+%22Communications+of+the+ACM%22%5BJournal%5D)">ELIZA-a computer program for the study of natural language communication between man and machine.</a> Communications of the ACM. 9 (1), 36-45 (1966).</li>
<li>Wu, T., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+brief+overview+of+ChatGPT%3A+The+history%2C+status+quo+and+potential+future+development%5BTitle%5D)+AND+%22IEEE%2FCAA+Journal+of+Automatica+Sinica%22%5BJournal%5D)">A brief overview of ChatGPT: The history, status quo and potential future development.</a> IEEE/CAA Journal of Automatica Sinica. 10 (5), 1122-1136 (2023).</li>
<li>Touvron, H., et al. Llama 2: Open foundation and fine-tuned chat models. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2307.09288">http://arxiv.org/abs/2307.09288</a> (2023).</li>
<li>Huang, L., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+survey+on+hallucination+in+large+language+models%3A+Principles%2C+taxonomy%2C+challenges%2C+and+open+questions%5BTitle%5D)+AND+%22arXiv+%5Bcs.CL%5D%22%5BJournal%5D)">A survey on hallucination in large language models: Principles, taxonomy, challenges, and open questions.</a> arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2311.05232">http://arxiv.org/abs/2311.05232</a> (2023).</li>
<li>Thirunavukarasu, A. J., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Large+language+models+in+medicine%5BTitle%5D)+AND+%22Nature+Med%22%5BJournal%5D)">Large language models in medicine.</a> Nature Med. 29 (8), 1930-1940 (2023).</li>
<li>Lewis, P., et al. Retrieval-augmented generation for knowledge-intensive NLP tasks. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2005.11401">http://arxiv.org/abs/2005.11401</a> (2020).</li>
<li>Li, J., Yuan, Y., Zhang, Z. Enhancing LLM factual accuracy with RAG to counter hallucinations: A case study on domain-specific queries in private knowledge-bases. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2403.10446">http://arxiv.org/abs/2403.10446</a> (2024).</li>
<li>Zhang, P., Xiao, S., Liu, Z., Dou, Z., Nie, J. -Y. Retrieve anything to augment large language models. arXiv [cs.IR]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.07554">http://arxiv.org/abs/2310.07554</a> (2023).</li>
<li>Ling, C., et al. Domain specialization as the key to make large language models disruptive: A comprehensive survey. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2305.18703">http://arxiv.org/abs/2305.18703</a> (2023).</li>
<li>Ram, O., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((In-Context+retrieval-augmented+language+models%5BTitle%5D)+AND+%22Trans+Assoc+Comput+Linguist%22%5BJournal%5D)">In-Context retrieval-augmented language models.</a> Trans Assoc Comput Linguist. 11, 1316-1331 (2023).</li>
<li>Cormode, G. Sequence distance embeddings. , The University of Warwick. 
 <a target="_blank" href="https://wrap.warwick.ac.uk/61310/7/WRAP_THESIS_Cormode_2003.pdf">https://wrap.warwick.ac.uk/61310/7/WRAP_THESIS_Cormode_2003.pdf</a> (2003).</li>
<li>Guo, Z., et al. Evaluating large language models: A comprehensive survey. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.19736">http://arxiv.org/abs/2310.19736</a> (2023).</li>
<li>Chicago Consensus Working Group. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((The+Chicago+Consensus+Guidelines+for+peritoneal+surface+malignancies%3A+Introduction%5BTitle%5D)+AND+%22Cancer%22%5BJournal%5D)">The Chicago Consensus Guidelines for peritoneal surface malignancies: Introduction.</a> Cancer. 126 (11), 2510-2512 (2020).</li>
<li>Wang, G., et al. OpenChat: Advancing open-source language models with mixed-quality data. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2309.11235">http://arxiv.org/abs/2309.11235</a> (2023).</li>
<li>Jiang, A. Q., et al. Mistral 7B. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.06825 ">http://arxiv.org/abs/2310.06825 </a> (2023).</li>
<li>Megahed, F. M., et al. AI and the future of work in statistical quality control: Insights from a first attempt to augmenting ChatGPT with an SQC knowledge base (ChatSQC). arXiv [cs.HC]. , 
 <a target="_blank" href="http://arxiv.org/abs/2308.13550">http://arxiv.org/abs/2308.13550</a> (2023).</li>
<li>Wang, Y., Ma, X., Chen, W. Augmenting black-box LLMs with medical textbooks for clinical question answering. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2309.02233">http://arxiv.org/abs/2309.02233</a> (2023).</li>
<li>Dodge, J., et al. Measuring the carbon intensity of AI in cloud instances. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aDodge%2C+J+%22FACCT+2022%22">FACCT 2022</a>. , (2022).</li>
<li>Samsi, S., et al. From words to watts: Benchmarking the energy costs of large language model inference. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2310.03003">http://arxiv.org/abs/2310.03003</a> (2023).</li>
<li>Khene, Z. -E., Bigot, P., Mathieu, R., Rouprêt, M., Bensalah, K. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Development+of+a+personalized+chat+model+based+on+the+European+association+of+urology+oncology+guidelines%3A+Harnessing+the+power+of+generative+artificial+intelligence+in+clinical+practice%5BTitle%5D)+AND+%22Eur+Urol+Oncol%22%5BJournal%5D)">Development of a personalized chat model based on the European association of urology oncology guidelines: Harnessing the power of generative artificial intelligence in clinical practice.</a> Eur Urol Oncol. 7 (1), 160-162 (2024).</li>
<li>Kresevic, S., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Optimization+of+hepatological+clinical+guidelines+interpretation+by+large+language+models%3A+a+retrieval+augmented+generation-based+framework%5BTitle%5D)+AND+%22NPJ+Digit+Med%22%5BJournal%5D)">Optimization of hepatological clinical guidelines interpretation by large language models: a retrieval augmented generation-based framework.</a> NPJ Digit Med. 7 (1), 102(2024).</li>
<li>Ge, J., et al. Development of a liver disease-specific large language model chat interface using retrieval augmented generation. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aGe%2C+J+%22medRxiv%22">medRxiv</a>. , (2023).</li>
<li>Rule-augmented artificial intelligence-empowered systems for medical diagnosis using large language models. Panagoulias, D. P., et al. 2023 IEEE 35th International Conference on Tools with Artificial Intelligence (ICTAI), , 70-77 (2023).</li>
<li>Panagoulias, D. P., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Augmenting+large+language+models+with+rules+for+enhanced+domain-specific+interactions%3A+The+case+of+medical+diagnosis%5BTitle%5D)+AND+%22Electronics%22%5BJournal%5D)">Augmenting large language models with rules for enhanced domain-specific interactions: The case of medical diagnosis.</a> Electronics. 13 (2), 320(2024).</li>
<li>Jin, Q., et al. Matching patients to clinical trials with large language models. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2307.15051">http://arxiv.org/abs/2307.15051</a> (2023).</li>
<li>Gupta, S. K., et al. PRISM: Patient records interpretation for semantic clinical trial matching using large language models. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2404.15549">http://arxiv.org/abs/2404.15549</a> (2024).</li>
<li>Hendrycks, D., et al. Measuring massive multitask language understanding. arXiv [cs.CY]. , 
 <a target="_blank" href="http://arxiv.org/abs/2009.03300">http://arxiv.org/abs/2009.03300</a> (2020).</li>
<li>Lin, S., Hilton, J., Evans, O. TruthfulQA: Measuring how models mimic human falsehoods. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2109.07958">http://arxiv.org/abs/2109.07958</a> (2021).</li>
<li>Bommasani, R., Liang, P., Lee, T. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Holistic+evaluation+of+language+models%5BTitle%5D)+AND+%22Ann+N+Y+Acad+Sci%22%5BJournal%5D)">Holistic evaluation of language models.</a> Ann N Y Acad Sci. 1525 (1), 140-146 (2023).</li>
<li>Banerjee, D., Singh, P., Avadhanam, A., Srivastava, S. Benchmarking LLM powered Chatbots: Methods and Metrics. arXiv [cs.CL]. , 
 <a target="_blank" href="http://arxiv.org/abs/2308.04624">http://arxiv.org/abs/2308.04624</a> (2023).</li>
<li>Papineni, K., Roukos, S., Ward, T., Zhu, W. -J. Bleu. Proceedings of the 40th Annual Meeting on Association for Computational Linguistics - ACL '02. , (2001).</li>
<li>Wang, A., Singh, A., Michael, J., Hill, F., Levy, O., Bowman, S. R. Glue: A multi-task benchmark and analysis platform for natural language understanding. , 
 <a target="_blank" href="http://arxiv.org/abs/1804.07461">http://arxiv.org/abs/1804.07461</a> (2019).</li>
<li>Johnson, D., et al. Assessing the accuracy and reliability of AI-generated medical responses: An evaluation of the chat-GPT model. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aJohnson%2C+D+%22Res+Sq%22">Res Sq</a>. , (2023).</li>
<li>Lin, C. -Y. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((ROUGE%3A+A+package+for+automatic+evaluation+of+summaries%5BTitle%5D)+AND+%22Text+Summarization+Branches+Out%22%5BJournal%5D)">ROUGE: A package for automatic evaluation of summaries.</a> Text Summarization Branches Out. , 74-81 (2004).</li>
<li>Chen, S., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Evaluating+the+ChatGPT+family+of+models+for+biomedical+reasoning+and+classification%5BTitle%5D)+AND+%22J+Am+Med+Inform+Assoc%22%5BJournal%5D)">Evaluating the ChatGPT family of models for biomedical reasoning and classification.</a> J Am Med Inform Assoc. 31 (4), 940-948 (2024).</li>
</ol>

<table><tbody><tr><td>pip3 versie 22.0.2&nbsp;</td><td></td><td></td><td></td></tr><tr><td>Python versie 3.10.12</td><td></td><td></td><td></td></tr></tbody></table>

uitbreiding van grote taalmodellen via vectorinbeddingen om de domeinspecifieke responsiviteit te verbeteren

Augmenting Large Language Models via Vector Embeddings to Improve Domain-Specific Responsiveness

Uitbreiding van grote taalmodellen via vectorinbeddingen om de domeinspecifieke responsiviteit te verbeteren

Large language models (LLMs) have emerged as a popular resource for generating information relevant to a user query. Such models are created through a ...

augmenting-large-language-models-via-vector-embeddings-to-improve

Research

JoVE Journal

Medicine

Geneeskunde

In dit artikel wordt RUGGED (Retrieval Under Graph-Guided Explainable disease Distinction) beschreven, dat Large Language Model (LLM)-inferentie integreert met Retrieval-Augmented Generation (RAG). Het haalt bewijs uit door experts samengestelde biomedische kennisbanken en collegiaal getoetste biomedische publicaties om nieuwe kennis te synthetiseren uit up-to-date informatie, verklaarbare en bruikbare voorspellingen te identificeren en veelbelovende richtingen te vinden voor hypothesegedreven...

Evidence-based kennissynthese en validatie van hypothesen: navigeren door biomedische kennisbanken via verklaarbare AI en agentische systemen

Wij stellen een op versterking leren gebaseerde fine-tuningbenadering voor grote taalmodellen voor, waarbij de Enti Hallucinatieindex (EHI) wordt gebruikt als beloningssignaal om hallucinaties op entiteitsniveau in tekstsamenvattingen te verminderen. Experimenten met afstudeertranscripties tonen aan dat deze methode de trouw en nauwkeurigheid van entiteiten verbetert.

Grote taalmodellen fijn afstellen met behulp van de Entity Hallucination Index voor tekstsamenvatting

RNA-interferentie (RNAi) beschikt over een groot aantal voordelen ten opzichte van gen knock-out en is in brede kring gebruikt als een instrument in gen functionele studies. De uitvinding van DNA-vector-gebaseerde RNAi-technologie heeft op lange termijn en induceerbaar gen knockdown mogelijk, en verhoogde ook de haalbaarheid van gene...

DNA vector-gebaseerde RNA-interferentie op genfunctie in Cancer Study

We verkennen het gebruik van repetitieve transcraniële magnetische stimulatie (rTMS) om de taal vaardigheden te verbeteren bij patiënten met chronische CVA en niet-vloeiende afasie. Na het identificeren van een site in de rechter frontale gyrus voor elke patiënt die optimaal reageert op stimulatie, richten we ons op deze site tijdens de tien dagen van rTMS behandeling.

Gebruik makend van Repetitieve transcraniële magnetische stimulatie om Taal-functie van CVA patiënten te verbeteren met chronische niet-vloeiende afasie

De meeste studies met het Langendorff-apparaat gebruiken kleine diermodellen vanwege de verhoogde complexiteit van systemen voor grotere zoogdieren. We beschrijven een Langendorff-systeem voor grote diermodellen dat gebruik mogelijk maakt voor een reeks soorten, inclusief mensen, en relatief eenvoudige gegevensverzameling.

Een GeÃ ¯ soleerde Werken Hart voor grote Animal Models

Dit protocol beschrijft de toepassing van hoogfrequente ultrageluid (HFUS) voor imaging muizen cervicale lymfeknopen. Deze techniek optimaliseert visualisatie en kwantificatie van cervicale lymfeknopen morfologie, volume en de bloedstroom. Beeld-geleide biopsie van cervicale lymfeklieren en verwerking van lymfeweefsel voor histologische evaluatie wordt ook aangetoond.

Hoge-frequentie Ultrasound Imaging van de muis cervicale lymfeklieren

Dit manuscript beschrijft hoe virale vector-gemedieerde lokale gen-levering een aantrekkelijke manier biedt om transgenen in het centrale zenuwstelsel tot expressie te brengen. Het protocol schetst alle cruciale stappen om een injectie met een virologisch vector uit te voeren in de substantia nigra van de rat om een op een virologisch vector gebaseerd diermodel voor de ziekte van Parkinson te ontwikkelen.

Ontwikkeling van een Alpha-synucleïne Based ratmodel van de ziekte van Parkinson via stereotactische injectie van een recombinant adeno-geassocieerde virale vector

Er is een vraag om preklinische testen voor een nieuwe klasse van "Wees" drugs genoemd farmacologische chaperones reproduceerbaar, snel en efficiënt. Voor patiënten die in aanmerking komen, alsmede nieuwe farmacologische chaperone drugs ontwikkelden we een eenvoudige, sterk gestandaardiseerde en veelzijdig cel cultuur gebaseerde bepaling naar het scherm.

In Vitro Enzym meting aan Test farmacologische Chaperone responsiviteit in Fabry en de ziekte van Pompe

Intratracheal (IT) toediening van experimentele agentia bij muizen resulteert vaak in asymmetrische afgifte aan de distale longen.  In dit rapport beschrijven we een directe intrabronchiale (IB) benadering om elke Long in levende muizen niet-operatief te cannuleren.  Deze aanpak kan worden gebruikt om agenten selectief te beheren tot één Long of kan worden aangepast om de symmetrische agent levering aan beide longen te verbeteren.

Directe Intrabronchiale toediening om de selectieve depositie van de agent binnen de muis Long te verbeteren

In vitro modellen van coronaire angiogenese kan worden gebruikt voor de ontdekking van de cellulaire en moleculaire mechanismen van coronaire angiogenese. In vitro explantculturen van sinusvenosus- en endocardiumweefsels laten een robuuste groei zien in reactie op VEGF-A en vertonen een vergelijkbaar patroon van COUP-TFII-expressie als in vivo.

In Vitro Model of Coronary Angiogenesis

Leer hoe u grote taalmodellen uitbreidt met vectorinbeddingen om domeinspecifieke responsiviteit in de gezondheidszorg te verbeteren. Deze methode biedt code voor prestatievergelijkingen tussen modellen.

Uitbreiding van grote taalmodellen via vectorinbeddingen om de domeinspecifieke responsiviteit te verbeteren

Meer video's verkennen