【TechWeb】12月27日新闻,亚马逊云科技2024 re:Invent寰球年夜会于12月初在美国举行,时期推出一系列技巧宣布,凑集天生式AI、数据策略跟云效劳三年夜范畴,笼罩基本设备、模子跟利用的全栈联动翻新,堪称为企业利用天生式AI摊平了途径。克日,在亚马逊云科技2024 re:Invent中国行运动上,亚马逊云科技年夜中华区产物部总司理陈晓建就表现:“在十分受存眷的天生式AI利用范畴,2024年很多客户从思考阶段进入实际阶段,停止了大批场景实验。2025年确定会产生一个变更,良多客户将从原型验证阶段转化为出产阶段。”辅助客户将天生式AI技巧从小范畴实验摸索到落地至真正投入出产利用,亚马逊云科技究竟是怎样停止全栈联动来告竣这一才能的呢?咱们从其最新的技巧宣布中能够窥见一斑。团体来看,2024 re:Invent寰球年夜会上,亚马逊云科技在天生式AI范畴,推出Amazon Nova系列基本模子并强化Amazon SageMaker、Amazon Bedrock跟Amazon Q等中心效劳,经由过程更低的练习跟推理本钱、更多的模子抉择、更深刻场景的利用片面减速企业利用天生式AI翻新;在数据策略方面,宣布新一代Amazon SageMaker为数据、剖析跟AI供给同一平台;Amazon S3新增Tables存储范例跟元数据功效,以及无效劳器散布式SQL数据库Amazon Aurora DSQL将进一步晋升用户的数据治理才能;在云效劳方面,推出搭载Trainium2芯片的新型盘算实例跟为万亿参数模子供给及时推感性能的超等效劳器。陈晓建夸大:“这些新宣布展示出亚马逊云科技不只在云的中心效劳层面连续翻新,更在从芯片到模子,再到利用的每一个技巧客栈获得冲破,让差别层级的翻新彼此赋能、协同退化。只有如许全栈联动的年夜范围翻新才干真正满意当今客户的开展需要,助力各行各业重塑将来。”天生式AI从原型验证到出产利用,无效改良年夜模子幻觉是基本将天生式AI利用于企业现实的营业时,良多企业的第一个顾忌就是“幻觉”成绩——年夜模子不苟言笑的胡言乱语。设想一下,假如企业想将天生式AI用来做一个十分主要的营业利用场景,比方执法征询、金融买卖或许安康征询等,这里假如呈现幻觉的话,成果是无奈接收的。“亚马逊云科技团队始终在思考怎样处理幻觉的成绩,也摸索了多种差别的技巧计划。最后咱们发明主动推理技巧(Automatic Reasoning)可能很无效的处理幻觉成绩。”陈晓建称。陈晓建先容,主动推理技巧(Automatic Reasoning)是一项特别的 AI 技巧,它可能从数学层面证实这个推理的成果是不是准确的。它平日用于验证这个体系是不是依照计划的标准来畸形的运转。主动推理在良多范畴下都曾经有了实际的利用,比方金融买卖、安康征询、执法征询等范畴。亚马逊云科技领有主动推理方面的多位天下级专家。比方,能够经由过程主动推理来证实在Amazon IAM(Identity and Access Management)之中计划的权限跟战略是不是依照企业所料想的方法来停止,这种方法的证实叫做“可证实的保险性”。这些技巧同样可能辅助晋升模子的正确性、下降模子的幻觉。本次2024 re:Invent上,亚马逊云科技推出了Amazon Bedrock 主动化推理检讨的功效,它可能无效的防备因为模子幻觉带来的现实性过错。天生式AI三层架构同频更新:更强练习推理、更多模子、更优利用在处理年夜模子幻觉成绩后,陈晓建表现,2025年,良多客户将从天生式AI原型验证阶段转化为出产阶段,届时客户需要将愈加庞杂,不只是抉择模子,还须要种种技巧支撑。因而,在天生式AI范畴,亚马逊云科技片面强化基本设备、模子跟利用三层技巧栈才能。更强练习推理方面,此次2024 re:Invent上,亚马逊云科技推出新⼀代Amazon SageMaker,为客户供给一个单一的数据跟AI开辟情况,用户能够在此中查找跟拜访其构造中的全部数据,为种种罕见的数据用例抉择最佳东西,并将数据跟AI名目扩大至团队内差别分工脚色以实现合作。别的,Amazon SageMaker AI的四项翻新包含Amazon SageMaker HyperPod的新练习配方功效、机动练习打算跟义务管理功效,以及在Amazon SageMaker中应用亚马逊云科技配合搭档的热点AI利用。这些功效将辅助客户更快开端练习风行模子,经由过程机动练习打算节俭数周时光,并将本钱下降高达40%。陈晓建表现,新的Amazon SageMaker涵盖了剖析、数据处置、搜寻、数据筹备、AI模子开辟跟练习、⽣成式AI等全部必须功效。更多模子方面,亚马逊云科技一方面新推出了自研的Amazon Nova六款基本模子,包含Nova Micro、Nova Lite、Nova Pro跟Nova Premier基本模子,以及用于天生高品质图像的Nova Canvas跟天生高品质视频的Nova Reel,这些模子本钱更低速率更快。另一方面,Amazon Bedrock经由过程推出的Amazon Bedrock Marketplace新功效新接入Luma AI跟poolside等100多款热点、新兴及专业模子。这些给企业客户供给了丰盛的模子抉择。同时,Amazon Bedrock推出了低耽误优化推理、模子蒸馏、提醒词缓存等功效,年夜幅晋升推理效力;支撑GraphRAG等常识库功效加强数据应用才能;经由过程主动推理检讨功效跟多智能体合作等翻新,进一步加强AI保险性并推进智能体开展。陈晓建总结道:“更新才能后的Amazon Bedrock 供给的功效不仅是供给多种多样的功效跟模子,还能帮客户在差别的场景下抉择最合适的场景功效,它同时供给了年夜模子真正用于出产的时间所须要的种种百般的东西。”更优利用方面,Amazon Q愈加深刻软件开辟跟贸易利用场景。Amazon Q Developer增添三款新的智能体,能主动履行单位测试、文档体例跟代码检察流程,并经由过程与GitLab深度集成,扩大利用场景;推出转型功效以减速Windows.NET、VMware跟年夜型机任务负载的迁徙跟古代化,收缩转型时光并下降本钱。强化了Amazon Q Business跟Amazon Q in QuickSight洞察才能,并简化了庞杂任务流程的主动化实现方法。至此,对天生式AI利用于出产时所需的各种模子、技巧、东西等都已具有。夯实底层,进级盘算、收集、存储跟数据库等云效劳现实上,天生式AI利用是自然的“云原生”利用。怎样让企业客户在应用天生式AI利用时更快、更省、更稳,另有良多云基本效劳方面的任务能够优化跟晋升。2024 re:Invent上,亚马逊云科技在盘算、收集、存储跟数据库等云盘算效劳中心范畴也停止了翻新,为包含天生式AI利用在内的各种任务负载供给更强盛的底层支撑。在自研芯片范畴,基于Amazon Trainium2的EC2 Trn2实例正式可用,较以后GPU实例性价比晋升30-40%;推出装备64个Trainium2芯片的EC2 Trn2 UltraServers效劳器,供给高达83.2 Petaflops浮点算力,盘算才能是单一实例的四倍。采取3纳米工艺的下一代Trainium3芯片估计将在2025岁终上线,估计将使集群机能晋升4倍,并在机能、能效跟密度上建立新标杆。在收集基本设备范畴,推出第二代UltraCluster收集架构,支撑超越20,000个GPU协同任务,带宽达10Pb/s,耽误低于10ms,这一冲破性进级将模子练习时光收缩至少15%。在存储效劳范畴,Amazon S3新增Metadata元数据功效实现主动获取跟及时更新;推出专为Iceberg表优化的S3 Tables存储范例,将查问机能晋升3倍,事件处置才能晋升10倍。在数据库效劳范畴,推出Amazon Aurora DSQL全新的无效劳器散布式SQL数据库,采取active-active架构并具有主动毛病规复功效,支撑利用顺序在恣意端点停止读写,能实现近乎无穷的可扩大性。Amazon DynamoDB global tables增添了多地区强分歧性支撑,进一步加强了其散布式数据库效劳才能。陈晓建表现,亚马逊云科技是寰球云盘算的首创者跟引领者,更是企业构建跟利用天生式AI的首选,往年re:Invent寰球年夜会的这一系列重磅宣布再次印证了这一点。沙利文年夜中华区总监李庆表现:”本届re:Invent年夜会上的新宣布愈加着重于产物的现实利用跟东西优化。本次更新有两个方面让人印象深入:一是跟着寰球企业对天生式AI的深刻利用,数据不只实现跨地区的传输与协同,更实现跨地区、跨地区的深度衔接;二是亚马逊云科技进一步优化天生式AI的利用,从数据存储、管理到治理的全流程晋升,旨在简化AI对数据的应用,同时强化模子功效、增添AI agent治理跟应答模子幻觉的功效。别的,新宣布的Amazon Nova年夜模子家属备受等待,这一系列的模子跟亚马逊云科技的开放抉择理念将为用户带来更多翻新机遇,进一步推进AI的开展。”(果青)
申明:新浪网独家稿件,未经受权制止转载。 -->