2024-12-17 21:45 点击次数：148
作家 | ZeR0剪辑 | 漠影
在生成式AI竞赛中，亚马逊云科技（AWS）若干有些“另类”。它不像其他云大厂那样强调自研模子的顶尖性能，而是早早推出一个大模子货架，集邮般摆上了各家头部大模子，供客户挑选。
“莫得一个模子能包办一切”，这个被亚马逊平时强调的理念，照旧安详深入东谈主心。而在本年的年度云蓄意产业嘉会re:Invent上，亚马逊云科技却又不测地发布全新大模子系列Nova的6款前沿模子，而且剧透了来岁将发布的两款终点模子——语音到语音、随便到随便（Any-to-Any）。
这意味着亚马逊云科技在重押好意思国大模子独角兽Anthropic的同期，对自研模子也并未松懈。
在re:Invent时间，亚马逊云科技生成式AI内行副总裁兼总司理Vasi Philomin与智东西等少数媒体就这些问题进行了深入交流。他谈到面前文本模子需求最大，语音到语音也十分流行（确乎时同传翻译），随便到随便则是更远的翌日。
随便到随便模子属于多模态到多模态，用户不错输入文本、语音、图像或视频等多种情势的内容，并相应地输出文本、语音、图像或视频。
Vasi Philomin向咱们解释说，随便到随便模子适用于变化许多的情况，比如不成笃定是图像照旧视频类型。“你不成把随便到随便模子用作文本到文本的模子，”他强调谈，“它可能本钱挺高，但落幕反而不好。”
最强无意是最优解，好用才是硬意旨。
整场re:Invent大会皆在绵绵束缚地传递一个信号——亚马逊云科技的生成式AI竞争力胜在全面，有琳琅满筹办大模子品类，还有加快从教养到推理的各式用具“套餐”，以及围绕平台、存储、网罗、数据库的一系列升级……一切变动皆指向一个筹办，即让云客户更快更方便地用生成式AI产生价值。
在沙利文大中华区总监李庆看来，本届re:Invent大会上的新发布愈加侧重于居品的本色应用和用具优化，这标明以前一年中，内行用户正在积极使用亚马逊云科技进行生成式AI应用的探索和翻新。
有两个方面令他印象深化：一是跟着内行企业对生成式AI的深入应用，数据不仅竣事跨区域的传输与协同，更竣事跨地域、跨区域的深度集结；二是亚马逊云科技进一步优化生成式AI的应用，从数据存储、治理到管制的全进程提高，旨在简化AI对数据的使用，同期强化模子功能、增加AI Agent管制和搪塞模子幻觉的功能。此外，新发布的Amazon Nova大模子眷属备受期待，这一系列的模子和亚马逊云科技的灵通领受理念将为用户带来更多翻新契机，进一步鼓动AI的发展。
一、大模子货架上新：不会薄此厚彼，提供试用契机新发布的Nova基础模子包括Micro、Lite、Pro、Premier模子，Micro是纯文本模子，后三者皆是多模态模子，还有文生图模子Canvas和文生视频模子Reel。这些模子皆支撑微吞并蒸馏，还与Amazon Bedrock的学问库深度集成，可用于检索增强生成（RAG）。
Vasi Philomin告诉智东西，亚马逊云科技的每个新模子、新服务在面世前皆会经过里面参议进程，Bedrock寓意“基石”，Nova寓意“新”。他说亚马逊云科技不会公布模子参数的情况，若何领受取决于客户思要领有若何的生动度。
“咱们对统共的模子皆一视同仁。”行为Amazon Bedrock的谨慎东谈主，Vasi Philomin称我方的团队十分中立，不会在模子间薄此厚彼。
订价由模子提供商建树，不爱怜况下有许多不同的考量。亚马逊云科技莫得去绑定某一个特定的模子，经久向客户提供领受的空间。
大模子仅仅生成式AI应用翻新的一部分。亚马逊云科技的全托管AI平台Amazon Bedrock除了提供了各式大模子外，还有故意的试用服务。客户不错在尝试后字据落幕和价位进行详尽斟酌。
此外，亚马逊云科技提供有模子版块战略，在模子生命周期收尾的时候（即新址品不再使用时），会再给客户6个月的时期。在Vasi Philomin看来，一些新老版块替代会占用蓄意资源，从本钱、效率的角度不见得合算，换个新的可能更省钱。
亚马逊云科技对Nova模子性价比很有信心，称它们比Amazon Bedrock中的其他最初模子约莫低廉75%。
二、Amazon Bedrock五大功能：挑选模子，勾通数据，构建Agent
在re:Invent大会上，亚马逊CEO Andy Jassy共享了亚马逊里面构建近1000个生成式AI应用所聚积的三条教导：
1、当生成式AI应用达到一定例模，蓄意本钱的进犯性就突显出来。客户渊博但愿赢得更高性价比。
超碰在线视频2、打造一个真确优质的生成式AI应用圭臬颇具难度，除了有好模子，还要建树稳健的“护栏”，保证音尘传递运动，领有合适的用户界面，让用户用起来不卡顿，而且要具备合理的本钱结构。
3、不会出现一种用具一统天下的情况。开导者并莫得一窝风地选用性能最顶尖的模子，会选择不同模子，也会选择一些自研模子。
亚马逊云科技在2023年9月推出的全托管AI平台Amazon Bedrock则作念到了上述才能的集结。据Vasi Philomin共享，该平台已发展成亚马逊云科技面前增长速率最快的服务。
亚马逊云科技CEO Matt Garman称Amazon Bedrock是面前构建和扩张生成式AI应用最方便的神态，尤其擅长为客户提供将生成式AI集成到出产应用圭臬中所需的一亲自分。
Amazon Bedrock的定位是匡助用户更好地试用模子，主要有五大功能：1）选模子；2）找到本钱性能和准确性的一个均衡；3）集成业务数据；4）要集成业务的安全性；5）构建Agent。
该平台的多项发布和翻新，也围绕这五大功能张开。
起始在选模子上，除了亚马逊云科技新发布的自研大模子Nova系列以及来自内行9家最初AI公司的高性能基础模子外，这家云蓄意大厂还推出了Amazon Bedrock Marketplace，提供来自100多个新兴和专科基础模子，支撑客户用吞并API来调用并利用Amazon Bedrock中的才能来构建应用。
为了让挑模子更省事，Amazon Bedrock智能请示词路由功能不错动态地将苦求路由到最有可能以最低本钱出最好反应的模子，在不影响准确性的情况下能将本钱杜撰30%。这么开导东谈主员就无谓花多数时期来考研和找到最符合每个用例的模子。
其次在寻求业务需求、专科学问、预算与模子精度、本钱、延时的均衡方面，模子蒸馏很有用。
模子蒸馏将特定学问从一个大而准确的教师模子蒸馏出一个更小但在特定场景中十分高效的定制模子。使用新推出的Amazon Bedrock模子蒸馏，蒸馏过的模子比拟被蒸馏的模子，启动速率约略快500%，本钱杜撰75%，而且Amazon Bedrock会匡助治理统共关联职责。
Amazon Bedrock新发布的延伸优化推理选项、请示词缓存功能也能进一步杜撰延伸，大幅缩减本钱。
赢得合适模子后，下一步是将企业数据与智能模子相勾通。
将数据添加到模子中并进行整合的一种热点规范叫检索增强生成（RAG），有助于模子基于企业数据提供更关联、更准确且更具定制化的答复。
亚马逊云科技在本年早些时候推出了Amazon Bedrock学问库功能，它属于托管的RAG索引，能将统共的数据领受、检索及增强职责流竣事自动化，无需用户自行对这些关节进行全面管制。
客户只需将学问库指向我方的数据源，它就会自动将其调节为文本镶嵌，然后存储到一个向量数据库中。这么客户就能随时进行自动检索了，况兼统共的检索落幕皆会自动包含援用信息，方便用户通晓信息开头、提高贯通进度。
学问库照旧是Amazon Bedrock中最受接待的功能之一，并在捏续添加新功能，比如新增对向量数据库、结构化数据检索、GraphRAG的支撑。
Amazon Kendra GenAI Index则能为学问库提供语义准确性高的托管检索决策，内置杰出40多个企业数据源。
Amazon Bedrock学问库支撑结构化数据检索、GraphRAG，可查询各式开头的统共结构化数据，自动生成学问图谱。新发布的Amazon Bedrock Data Automation功能则不错自动将非结构化的多模态内容调节为结构化数据，无需写代码，让将多模态内容用于生成式AI的过程变得更容易。
导入我方的企业数据后，需要斟酌安全性和设定AI应用圭臬的功能鸿沟。
对此亚马逊云科技推出了Amazon Bedrock Guardrails护栏功能，用于轻松界说应用圭臬的安全性，并实施负株连的AI检讨。使用这个功能，你不错限制AI应用只在特定领域回答问题。
针对模子幻觉问题，可行时期之一是自动推理，亚马逊云科技在诸多幕后服务中皆应用了该时期。这是一种约略从数学角度讲解某事正确的AI情势，平时被用于考据系统是否按照既定条目启动，尤其适用于系统隐敝面大到无法东谈主工逐个检察，且相关于系统启动神态的学问库的场景。
最新推出的是Amazon Bedrock自动推理检讨功能，不错对模子所作念出的述说进行准确性检讨，防患因模子幻觉而导致额外。
亚马逊云科技还发布了Amazon Bedrock Guardrails多模态毒性检测功能，约略筛查非结构化数据中可能包含的潜在无益内容。
终末波及到若何利用优质数据选择举止。
亚马逊云科技此前推出了Amazon Bedrock Agent功能，让构建智能体变得更容易。客户只需用当然谈话描画思要Agent完成的任务，它就能快速构建出来。被构建出的Agent不错处理销售订单、编制财务论说、分析客户留存情况等任务。背后用到的模子推理时期使Agent能解析职责进程，调用正确的API来扩充操作。
在此基础上，针对多智能体并行操作的任务，亚马逊云科技又推出了Amazon Bedrock多Agents合作功能，约略构建、部署和编排多个Agents，协同处理复杂的多要领任务。
跟前边的作念法差未几，客户不错创建一个专为特定个性化任务联想的Agent，再创建一个监督Agent，它就好比复杂职责进程的“大脑”，谨慎和谐分拨、确保多Agent之间约略有用合作，并能设定哪些Agent能拜谒奥密信息，把正本难以和谐的工程任务变得浮浅易行。
总体来说，Amazon Bedrock的功能不啻是为了方便客户获取业界先进模子，而是内置了许多配套用具和工程化才能，不错让本色业务与生成式AI勾通的操作过程更方便、落幕更成效。
三、下一代Amazon SageMaker：数据分析和AI需求的吞并拜谒中心生成式AI应用翻新要取得告捷，需要有AI ready的数据。因此，亚马逊云科技发布了新一代Amazon SageMaker，从居品及品牌方面将其再行定位为“所特别据、分析和东谈主工智能需求的中心”。
许多云客户在数据的治理、发现、处理、分析以及生成式AI应用翻新方面的需求越来越交融。对此，亚马逊云科技发布了Amazon SageMaker Unified Studio。这是一个单一的数据和AI开导环境，整合了在亚马逊云科技平分析师和数据科学家所使用的各式服务、查询剪辑器、可视化用具，以便客户拜谒组织中的所特别据，并使用最符合的用具对其进行操作。
亚马逊云科技还推出了面向应用圭臬的Zero-ETL，帮客户无需构建和管制数据管谈，即可分析存储在许多最受接待的第三方SaaS应用圭臬中的数据。
另一个新发布的Amazon SageMaker Lake House兼容Apache Iceberg，针对统共结构化和非结构化数据源提供单一界面，跨不同数据源提供浮浅吞并的数据接入与拜谒限制。客户不错在Unified Studio中轻松处理所特别据，也不错平直从任何支撑Apache Iceberg的第三方AI或分析用具或查询引擎拜谒该功能。
为了一站式解决生成式AI全生命周期的问题，Amazon SageMaker AI将大数据分析、机器学习、模子开导和生成式AI方面的教导交融到一个吞并平台中，吞并了数据、分析和AI职责流，从而匡助放手机器学习和分析生命周期中的换取服务。
针对大限度参数带来的模子教养和推理挑战，亚马逊云科技推出Amazon SageMaker HyperPod生动教养计议和任务治理功能，以优化蓄意资源管制。
生动教养计议基于Amazon EC2容量块，字据时期线和预算创建最好教养计议，自动预留容量，建树集群，创建模子教养功课，约略为数据科学团队勤俭数周教养时期，最大化蓄意资源利用率，可勤俭多达40%的本钱。
任务治理功能针对管制跨团队的和项筹办蓄意资源的挑战，通过自动化生成式AI任务的优先级排序和管制，确保分拨给最高优先级任务并依期完成，从而进一步提高开导效率并杜撰本钱。
这两个功能约略大幅提高教养和推理职责负载部署的生动性和对底层硬件资源的使用，让底层硬件资源发达出更好效力。
此外，亚马逊云科技晓示合作伙伴的AI应用已在Amazon SageMaker上可用。客户无需预配或管制基础设施，可加快模子开导生命周期，并特别据安全和秘密保险。
接下来一年，亚马逊云科技还将为新的Amazon SageMaker添增多数新功能，如AutoML、低代码体验、专科化AI服务集成、流处理和搜索，以及Zero-ETL的更多服务和数据拜谒。
四、生成式AI助手Amazon Q再进化，提高企业出产力Amazon Q是在Bedrock上搭建起来的一个生成式AI助手应用。即使你莫得写过一滑Python代码，你也不错用当然谈话浮浅述说业务问题，它会携带你完成构建机器学习模子的过程。
其中Amazon Q Developer是软件开导方面的生成式AI助手，最新推出了3款全新自主Agent，能匡助开导东谈主员生成单位测试、文档、代码审查。
针对从Windows、VMware进行当代化篡改的情况，亚马逊云科技提供了当代化Windows.NET应用、加快VMware职责负载和主机迁徙的功能，以及首个支撑IBM z/OS的主机迁徙解决决策，不错大幅裁汰迁倏得期和本钱，并显赫杜撰风险。
在运营关节，亚马逊云科技通过提供Amazon Q Developer Investigate issues across your Amazon environment in a fraction of the time功能，来匡助更轻松地排查问题。
企业级生成式AI助手Amazon Q Business可集结不同的业务系统、企业数据源，支撑跳跃各式数据库与统共企业数据进行对话。Q Business为企业数据创建了一个索引，不错从Adobe、Microsoft Office、SharePoint、Gmail、Salesforce、ServiceNow等源中去索引以前一年的数据，并对所特别据保捏高度安全、限制用户权限。
最新发布的功能是将Amazon QuickSight和Amazon Q Business的数据勾通，以一种视图呈现，通过当然谈话与Q系统对话，快速生成交易论说和数据分析，协助客户作念出更好的决策并提高业务效率。面前绝大多数信息皆是通过交易智能系统来拜谒的，已有杰出10万的客户在使用Amazon QuickSight来兴奋分析需求。
亚马逊云科技提供了一套全新的Q Business API，以便寂然软件供应商拜谒在自有软件中集成Amazon Q Index。
针对一些波及多个应用圭臬、审批关节和手动输入的复杂职责流，亚马逊云科技新发布的Amazon Q Business Automate约略匡助创建跨团队和应用圭臬的自动任务，通过使用一系列高档Agent来创建、剪辑、贯注职责进程。在启动职责流后，还会有一个Q Agent捏续对其进行监控，确保约略自动调整并实时栽种。以往完成这些职责可能需要消费数周或数月，而当今仅需几分钟。
结语：从服务、用具到基础设施，全栈升级为生成式AI创造价值托举正如蓄意机科学前驱Alan Kay也曾说过的，最好的软件工程师我方会构建硬件。新的云蓄意、生成式AI波涛会鼓动在底层的捏续翻新，底层翻新反之又会加快数据及AI的进一步发展。和传统IT通常，生成式AI需要蓄意、网罗、存储基础设施的托载，而这些恰正是亚马逊云科技经久聚积的上风方位。
将业务和生成式AI勾通需要许多工程化才能。在生成式AI发展的早期阶段，亚马逊云科技将其服务要点放在提供“最优组合”上，将时期才能解析为寂然的构建单位（building blocks），以高性价比组件的情势提供给客户，让客户不错按照我方渴望的随便组合去尝试和调整，从而勤俭开导时期，加快探索生成式AI落地。
总体来看，亚马逊云科技通过提供丰富的自研收用三方大模子货架来兴奋云客户互异化需求，通过Amazon Bedrock解决大模子落地效率问题，通过Amazon SageMaker提高资源利用和数据分析的速率，通过Amazon Q让东谈主东谈主皆能方便快捷地用上生成式AI出产用具，通过底层基础设施的升级进一步降本增效。
这些干预在为平时客户带来更大交易呈报的同期性交，也捏续闲适着这家云蓄意巨头在生成式AI云服务商场的携带者地位和中枢竞争力。