蘋果大型號報告也已發布，披露了大量技術細節。報告顯示，蘋果的雲模式在指令合規性和文本摘要等任務方面取得了比GPT-4更好的效果。
蘋果公司進行了IFEval測試，結果顯示，在命令和提示級別上，雲端APM都超越了GPT-4，成為新的SOTA。端側型號的性能也超過了Lama 3-8B和Mistral-7 B等同類規模型號。在AlpacaEval中，端側和雲側的原子力顯微鏡也獲得了第二名。
模型的訓練是通過其自己的基於JAX的AX Learn框架進行的，並採用張量並行和流水線並行等策略。
這些數據主要來自通過Applebot抓取的網頁，以及公開許可的代碼和數學數據集。值得一提的是，蘋果選擇的數據集都沒有使用GPT。
如果您想了解更多信息，可以單擊視頻下方的連結。
感謝您觀看此視頻。如果您喜歡，請訂閱並點讚。謝謝
原文：https://machinelearning.apple.com/research/apple-intelligence-foundation-language-models
輸油管：