一直以來(lái) Llama 可以說(shuō)是 AI 社區(qū)內(nèi)最強(qiáng)大的開(kāi)源大模型。但因?yàn)殚_(kāi)源協(xié)議問(wèn)題,一直不可免費(fèi)商用。今天Meta 發(fā)布了大家期待已久的免費(fèi)可商用版本 Llama 2。作為 Meta 宣布的首批合作伙伴之一,亞馬遜云科技客戶可通過(guò) Amazon SageMaker JumpStart使用由 Meta 開(kāi)發(fā)的 Llama 2 基礎(chǔ)模型!
Llama 2 大語(yǔ)言模型 (LLM) 系列是經(jīng)過(guò)預(yù)訓(xùn)練和微調(diào)的生成式文本模型,其參數(shù)數(shù)量從 70 億到 700 億不等。微調(diào)的大語(yǔ)言模型稱為 Llama-2-chat,它們專(zhuān)為對(duì)話用例進(jìn)行優(yōu)化,現(xiàn)在,SageMaker JumpStart 支持您輕松試用和使用這些模型;SageMaker JumpStart 是機(jī)器學(xué)習(xí) (ML) 中心,提供了對(duì)算法、模型和機(jī)器學(xué)習(xí)解決方案的訪問(wèn)權(quán)限,以便您可以快速開(kāi)始使用機(jī)器學(xué)習(xí)。
Llama 2 簡(jiǎn)介
Llama 2 是一種使用優(yōu)化的 Transformer 架構(gòu)的自回歸語(yǔ)言模型。Llama 2 旨在用于英文領(lǐng)域的商業(yè)和研究用途。該模型提供了一系列參數(shù)規(guī)模,70 億、130 億和 700 億,以及預(yù)訓(xùn)練和微調(diào)的變量。
Meta 表示,微調(diào)的版本采用監(jiān)督微調(diào) (SFT) 和基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí) (RLHF),與人類(lèi)喜好保持一致,從而確保實(shí)用性和安全性。Llama 2 使用來(lái)自公開(kāi)來(lái)源的 2 萬(wàn)億個(gè)字節(jié)數(shù)據(jù)進(jìn)行了預(yù)訓(xùn)練。微調(diào)的模型用于輔助式聊天,而預(yù)訓(xùn)練的模型可適用于各種自然語(yǔ)言生成任務(wù)。無(wú)論開(kāi)發(fā)人員使用哪個(gè)版本的模型,Meta 的負(fù)責(zé)使用指南都可以幫助指導(dǎo)通過(guò)適當(dāng)?shù)陌踩徑獯胧┒ㄖ坪蛢?yōu)化模型可能需要的額外微調(diào)。
Amazon SageMaker JumpStart 介紹
亞馬遜云科技致力于不斷降低機(jī)器學(xué)習(xí)的使用門(mén)檻。截至目前已經(jīng)幫助超過(guò)10 萬(wàn)家來(lái)自各行各業(yè)的不同規(guī)模的客戶使用機(jī)器學(xué)習(xí)進(jìn)行創(chuàng)新。為此亞馬遜云科技推出了機(jī)器學(xué)習(xí)一站式開(kāi)發(fā)平臺(tái) Amazon SageMaker,為所有開(kāi)發(fā)人員構(gòu)建、訓(xùn)練和部署基礎(chǔ)模型提供最大的便利,為更多客戶提供能夠訪問(wèn)基礎(chǔ)模型能力。作為 Amazon SageMaker 的核心組件之一,SageMaker JumpStart 內(nèi)置 300+ 種開(kāi)源模型,10+ 種預(yù)設(shè)場(chǎng)景解決方案,可以幫助用戶“一鍵式”部署和微調(diào)諸如 Stable Diffusion,Bloom、FLAN-T5、Alexa TM 等主流的生成式 AI 基礎(chǔ)模型,用戶可以通過(guò) SageMaker JumpStart 一鍵部署或微調(diào)眾多預(yù)訓(xùn)練模型,輕松開(kāi)發(fā)高質(zhì)量模型并縮短部署時(shí)間。
現(xiàn)在只需在 Amazon SageMaker Studio 中點(diǎn)擊幾下,或通過(guò) SageMaker Python SDK 以編程方式發(fā)現(xiàn)和部署 Llama 2,即可利用 Amazon SageMaker Pipelines、Amazon SageMaker Debugger 或容器日志等 SageMaker 功能體驗(yàn)?zāi)P托阅芎?MLOps 控制。模型部署到亞馬遜云科技安全環(huán)境中并接受您的 VPC 控制,有助于確保數(shù)據(jù)安全。目前,Amazon SageMaker Studio 支持 Llama 2 模型(僅限 us-east 1 和 us-west 2 地區(qū)使用)。
2023年4月亞馬遜云科技重磅推出以 Amazon Bedrock 為代表的生成式 AI “全家桶”,正式入局全球生成式 AI 大競(jìng)賽戰(zhàn)場(chǎng),旨在攜手業(yè)界領(lǐng)先合作伙伴一起,不斷降低生成式 AI 應(yīng)用的開(kāi)發(fā)門(mén)檻,助力企業(yè)釋放生成式 AI 的生產(chǎn)力與創(chuàng)造力。