繁中

希波克拉底:一個開源機器學習框架,用於推進醫療保健領域的大型語言模型

科米爾大學、哈塞特佩大學、耶爾茲技術大學和羅伯特學院的研究人員推出了「希波克拉底」,這是一個專門為法學碩士醫療應用量身定製的開源框架。與之前依賴專有數據的模型不同,希波克拉底授予了對廣泛資源的全面訪問權限,從而促進了醫學人工智慧研究領域的更大創新和協作。該框架的出色之處在於,它將持續的預訓練和強化學習與人類專家的反饋相結合,以增強模型在醫療環境中的實用性。

希波克拉底框架採用了一種系統性方法,首先對全面的醫學文本庫進行持續預訓練。然後使用MedQA和PMC-Patients資料庫等專業數據集來微調這些模型,包括Hippo系列7 B參數模型。該過程使用指令調整和強化學習技術將模型輸出與專家醫療見解保持一致。穩健的評估使用EleutherAI評估框架來確保該模型根據各種醫療基準進行測試,以驗證其有效性和可靠性。

將大型語言模型(LLM)集成到醫療保健中有望改變醫療診斷、研究和患者護理。然而,醫學法學碩士的發展面臨著複雜的培訓要求、嚴格的評估要求以及限制學術探索的專有模型的主導地位等障礙。透明和全面地獲取LLM資源對於推進該領域、促進可重複性和鼓勵醫療保健人工智慧創新至關重要。
推出Hippocrates,這是一個專門為醫療領域開發的開源LLM框架。與之前的努力形成鮮明對比的是,它提供了對其訓練數據集、代碼庫、檢查點和評估協議的不受限制的訪問。這種開放方法旨在促進協作研究,並使社區能夠在透明的生態系統中建立、完善和嚴格評估醫學LLM。
還推出了Hippo,這是一系列為醫療領域量身定製的7 B型號,通過持續的預訓練、命令調整以及來自人類和人工智慧反饋的強化學習來微調Mistral和LLaMA 2。我們的模型明顯優於現有的開放式護理LLM模型,甚至超過了參數為70 B的模型。
通過希波克拉底,釋放法學碩士全部潛力的願望不僅將促進醫學知識和患者護理,還將使人工智慧研究在醫療保健領域的好處民主化並使其在全球範圍內普及。

如果您想了解更多信息,可以單擊視頻下方的連結。
感謝您觀看此視頻。如果您喜歡,請訂閱並點讚。謝謝

原地址: https://marktechpost.com/2024/04/30/hippocrates-an-open-source-machine-learning-framework-for-advancing-large-language-models-in-healthcare/

紙張:https://arxiv.org/abs/2404.16621

視頻:

返回頂端