官方推薦的用戶計劃是本地和遠程大型模型的混合。
使用Chrome原生模型的好處：
1.本地處理敏感數據;
2.流暢的用戶體驗;
3.更高的人工智慧訪問權;
4.離線使用人工智慧。
以下摘自原文：
當我們在網絡上使用人工智慧模型來構建功能時，我們通常依賴伺服器端解決方案來構建更大的模型。對於生成性人工智慧來說尤其如此，即使是最小的模型也是頁面大小中位數的一千倍左右。其他人工智慧應用場景也是如此，模型大小可能從數十兆到數百兆不等。
由於這些模型不會跨網站共享，因此在頁面加載時必須下載每個網站。對於開發人員和用戶來說，這是一個不切實際的解決方案
雖然伺服器端AI是大型模型的絕佳選擇，但設備端和混合方法都有巨大的優勢。為了讓這些方法發揮作用，我們需要解決模型大小和模型交付問題。
因此，我們正在開發Web平台API和瀏覽器功能，旨在將包括大語言模型（LLM）在內的人工智慧模型直接集成到瀏覽器中。其中包括Gemini Nano，這是Gemini系列LLM的最高效版本，旨在在大多數現代台式機和筆記本電腦上本地運行。通過內置人工智慧，您的網站或Web應用程式可以執行人工智慧驅動的任務，而無需部署或管理自己的人工智慧模型。
了解內置AI的優勢、我們的實施計劃以及如何利用這項技術。
混合人工智慧：設備和伺服器
儘管設備端人工智慧可以處理大量用例，但也有一些用例需要伺服器端支持。
例如，您可能需要使用更大的型號或支持更廣泛的平台和設備。
您可以考慮混合方法，但這取決於以下因素：
複雜性：使用設備端人工智慧可以更容易地支持特定、易於理解的用例。對於複雜的用例，請考慮使用伺服器端實現。
彈性：默認使用伺服器端，當設備離線或連接不穩定時使用設備端。
安全後備：內置人工智慧的瀏覽器需要一些時間，某些型號可能無法使用，而且較舊或功能較弱的設備可能無法滿足硬體要求並以最佳方式運行所有型號。請為這些用戶提供伺服器端AI。
對於Gemini模型，您可以使用後台集成（與Python、Go、Node.js或REST），或者通過新的Web版本Google AI客戶端SDK在Web應用程式中實現它。
瀏覽器架構和API
為了支持Chrome中的內置人工智慧，我們構建了基礎設施來獲取在設備端執行的基本模型和專家模型。該基礎設施已經支持創新的瀏覽器功能（例如為我編寫），並很快將支持設備端人工智慧的API。
您將主要通過任務API使用內置人工智慧功能，例如翻譯API或摘要API。任務API旨在根據最適合分配的模型進行推理。
在Chrome中，這些API旨在通過微調或專家模型對Gemini Nano進行推斷。根據設計，Gemini Nano在大多數現代設備上本地運行，並且最適合與語言相關的用例，例如總結、重新制定或分類。
如果您想了解更多信息，可以單擊視頻下方的連結。
感謝您觀看此視頻。如果您喜歡，請訂閱並點讚。謝謝
原文： https://developer.chrome.com/docs/ai/built-in? hl=zh-CN
輸油管：