陈晓建 – 庄闲棋牌官网官方版 -199IT //www.otias-ub.com 发现数据的价值-199IT Fri, 05 Jan 2024 02:16:00 +0000 zh-CN hourly 1 https://wordpress.org/?v=5.4.2 亚马逊云科技陈晓建:云计算的价值在生成式AI的今天被放大 //www.otias-ub.com/archives/1670148.html Fri, 05 Jan 2024 02:16:00 +0000 //www.otias-ub.com/?p=1670148 在亚马逊云科技2023re:Invent中国行北京站活动上,亚马逊云科技大中华区产品部总经理陈晓建重点强调了亚马逊云科技如何通过创新性的技术重塑帮助客户加速创新。亚马逊云科技全面发力生成式AI,推出面向企业级生成式AI的一系列新服务及功能,包括重塑未来工作方式的新型生成式AI助手Amazon Q、Amazon Bedrock更多的模型选择和全新强大功能、Amazon SageMaker助力规模化开发应用模型的五大新功能等,帮助企业更轻松、安全地构建和应用生成式AI。

虽然生成式AI是2023年重头戏,话题伴随着亚马逊云科技中国市场的众多活动,但底层思维是亚马逊云科技亘古不变的坚持。

亚马逊云科技一直秉承着逆向工作法的理念,从数百万客户的需求出发构建产品。深信只有这样,才能够持续引领科技创新。作为云计算开拓者,亚马逊云科技不仅一直通过最安全、最可靠的企业级的能力来赋能客户的应用,直到今天仍然拥有业界最广泛、最深入的功能。用一个关键词来总结,就是重塑,从未停止探索用各种方法、更优化的方式找到解决客户痛点的最优解。

像云计算,卫星网络,生成式AI等所有复杂技术一样,虽然未来未知,但作为云计算的探索开创者,亚马逊云科技始终践行创新实践,为客户突破复杂技术,用重塑实现科技技术的普惠,通过对底层技术的重塑,帮助客户持续重塑业务,这一旅程没有终点。

基础设施、存储、芯片、无服务器等全面升级

亚马逊云科技全球基础设施横跨世界33个地理区域,当前,亚马逊云科技的数据中心数量比第二大的云提供商多三倍,服务多60%,功能多40%。

Kuiper是亚马逊云科技正在建造一个由数千颗近地轨道卫星组成的卫星⽹络。Kuiper团队成功将他们的首批两颗原型卫星送入了轨道。除了公共互联网连接外,Kuiper 还将提供企业就绪的专用连接服务,可以通过专用、安全的连接从任何地方移动数据,以及连接访问亚马逊云科技的云中的数据。

全新高性能对象存储 Amazon S3 Express One Zone 正式可用。Amazon S3 Express One Zone是新的S3存储类别,采用专门设计的软硬件来加速数据处理,可提供比Amazon S3标准存储快10倍的性能,同时能够以一致的毫秒级延迟处理每分钟数百万次的请求,同时请求成本降低了50%。这项新服务帮助Pinterest提升了10倍以上的写入速度,并将其机器学习驱动的视觉灵感引擎的总成本降低了40%。

此次推出自研芯片Amazon Graviton 4,平均性能比Amazon Graviton 3提升30%,对某些工作负载的加速更明显,数据库应用程序速度提升40%,大型Java应用程序速度提升45%。基于Amazon Graviton 4的Amazon EC2 R8g实例的预览版已经推出。

同时推出三项新的无服务器服务创新,涵盖了数据库和分析领域,使客户能够更快速、更轻松地扩展他们的数据基础设施,以支持最具挑战性的应用场景。这三项创新包括:Amazon Aurora Limitless数据库,这是一项全新的功能,可以自动完成超过单个Amazon Aurora数据库写入限制的扩展,让开发人员轻松地扩展他们的应用程序并比自建的解决方案节省数月时间。

Amazon ElastiCache Serverless可以帮助客户在一分钟内创建高可用的缓存,并实时进行垂直和水平扩展以支持客户复杂的应用程序,且无需管理基础架构。Amazon Redshift Serverless利用人工智能(AI)预测工作负载并自动扩展和优化资源,帮助客户实现高性价比的目标。

降低生成式AI门槛 重塑产业未来

亚马逊云科技在生成式AI的端到端的3个不同层面展开持续投入。在底层,提供用于基础模型训练和推理的基础设施。在中间层工具层,提供使用基础模型进行构建的工。在顶层应用层,提供利用基础模型构建的应用程序。

值得关注的新发布包括:

Amazon Trainium2处理器,用于生成式 AI 和机器学习训练的专用芯片,针对训练具有数千亿至数万亿参数的基础模型进行优化,相较 Amazon Trainium 4 倍性能提升,65 exaflops的按需超级计算性能。

Amazon SageMaker HyperPod 服务,可大规模加速基础模型训练,能够缩短高达40%的训练时间,并可以确保持续数周或数月的训练过程不中断。

Amazon Bedrock是利用大模型构建和扩展生成式人工智能应用的最简单方法。各行各业的客户已经在使用Amazon Bedrock 重塑他们的用户体验、产品和流程,并将人工智能带入他们的业务核心。

生成式人工智能工作助手Amazon Q,Amazon Q 可以根据客户的业务进行定制,帮助员工快速获得复杂问题的答案、生成内容并采取行动。它可以根据企业的人员、角色和权限进行个性化定制,并确保客户的内容不会被用于训练 Amazon Q 的底层模型,保障数据安全和隐私。

云计算的价值在生成式AI的今天被放大

在采访环节,媒体谈到X平台下云这一事件。在陈晓建看来,下云或者云上到底是更贵还是更便宜,这个问题本身就没有一个标准的答案,不同的客户的诉求不一样、能力不一样,就会得出不一样的解答来。

以前如果要做一个互联网应用,可能只要做一个前端的接入,然后中间做一个数据库和MySQL的数据存储,后面写一堆代码程序就结束了。而现在要做的是GenAI的事,要懂大模型,要懂分布式训练,并且还要懂怎么安全地把模型打通变成共性的。所以对于IT人员能做的事的复杂度是大大提高了。

是不是每个公司都具备这样的专业能力呢?以做一个一千张卡的并行训练来举例,可能只有很少一部分客户具备这样的能力,更不用提达到极致的性价比,如果只是采用一些标准化的硬件的话。

对于IT来说,以后要做的工作不再是只搭一个简单的在线的服务,而是要做生成式AI的工作,甚至可能要把生成式AI跟业务完整结合,要做一个时序训练,这个背后的复杂性是非常非常高的。

这一切提升了用户自己构建数据中心、构建IT基础设施的成本,也放大了云的优势。所以云在给客户带来价值,在生成式AI的今天不是缩小了,而是放大了,因为只有像这种具备这么大海量规模、这么大的研发团队的服务商,才能够有能力去做这些事情。

艾瑞咨询研究总监王成峰表示:“本次亚马逊云科技re:Invent大会继续在生成式AI领域推陈出新,同时对基础产品升级迭代。其中,令人印象深刻的主要包括:全面深化Serverless,推进数据库、数据分析、AI等全线产品的‘无服务器化’,继续保持在云原生方面的领先布局;继续为生成式AI的发展提供强大能力支撑,不仅包括与英伟达等芯片商合作带来的更先进算力资源,也通过Amazon Bedrock产品提供‘精选’多模型接入的能力平台,更加强调生成式AI领域的生态打造。”

 

]]>
亚马逊云科技陈晓建:生成式AI时代 技术普惠和负责任的AI至关重要 //www.otias-ub.com/archives/1661915.html Thu, 23 Nov 2023 05:04:07 +0000 //www.otias-ub.com/?p=1661915 整整一年多,生成式AI已经吸足了全球科技界目光。在亚马逊云科技大中华区产品部总经理陈晓建看来,生成式AI不仅仅是大模型,还需要大量的基础模型以外的服务来支撑,如加速芯片,数据库,数据分析,数据安全服务等等。

作为全球云计算领导者,亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。

在生成式AI时代的定位

当199IT问到在生成式AI时代,亚马逊云科技如何看待自身的定位。陈晓建表示,亚马逊云科技本身是一个基础设施的提供商,初心是做技术的普惠化,在生成式AI的今天,初心未变,亚马逊云科技仍然希望通过技术降低使用门槛,能够让生成式AI的技术为业务赋能。

除了普惠化之外,负责的AI也是亚马逊云科技所秉持的重心。包括六点——公平和偏见、稳定性、可解释性、治理、透明度、隐私和安全性。

因为AI技术如此之新,如此智能,所以在使用的时候其实会碰到很多非技术的问题,虽然它很聪明,可以干各种事情,但是并不是每一件事情都是对社会有利的。所以亚马逊云科技强调公平性,它不能按性别、年龄、种族而提供区别对待的服务。

如何保证服务的高可用性,至关重要。另外,要避免有害性,生成式AI本身是一把双刃剑,很多生成式AI的能力非常强,如果不在有害性方面去做很好的管理,可能会引导到一些并不是非常好的应用场景上。还包括个人隐私等。

陈晓建认为以上这些要点,决定了生成式AI最终能够跟产业结合会达到什么效果。

释放生成式AI的潜力

亚马逊云科技围绕应用场景、工具和基础设施、数据基座、AI原生应用构建和生成式AI服务,助力企业和开发者释放生成式AI的潜力。

基础模型的发展和迭代速度正超越以外任何一项技术,基本以月甚至天为单位持续迭代,而新出现的每一个大模型都在性能和特定领域有着独特的优势。在众多的基础模型中,应该如何便捷安全的选择最适合自己业务场景的基础模型,是每一家企业在构建生成式AI应用时面临的挑战。

亚马逊云科技正式推出了Amazon Bedrock,该服务与Amazon SageMaker Jumpstart结合,助力对基础模型有着不同需求的客户轻松、安全地选择基础模型。

Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。该服务提供的基础模型来自Meta, Anthropic, Stability AI, AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。

与Amazon Bedrock相比,Amazon SageMaker需要客户管理应用程序架构中的模型部署、配置和托管,但拥有更大的灵活度和自由度对基础模型进行定制,客户可以从Amazon SageMaker Jumpstart中选择开源的基础模型,然后根据自身需求可以选择全量微调,轻量微调等不同方式,进一步确定微调框架,利用分布式训练实现微调,从而更好的评估微调效果。

Amazon Bedrock代理功能是一项全新的全托管功能,使开发人员能够更轻松地创建基于生成式AI的应用程序,以完成各种用例的复杂任务,并根据专有知识源提供最新的答案。开发人员只需进行简单操作,Amazon Bedrock 代理功能就会自动分解任务并创建编排计划,无需任何手动编码。该代理通过简单的 API 接口安全地连接到公司数据,自动将数据转换为机器可读的格式,并增加相关信息以生成最准确的回答。然后,代理可以自动调用 API 来满足用户的请求。

10多年来,亚马逊云科技对全球基础设施进行深度投资,能够为客户提供广泛的加速器选择,包括强大而灵活的基于GPU的解决方案,例如基于英伟达最新GPU芯片H100 Tensor Core的Amazon EC2 P5实例,与上一代相比速度快6倍,训练成本节省40%;还有基于亚马逊云科技自研的机器学习推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2实例,与其他类似的EC2实例相比性价比高40%;基于自研机器学习训练芯片Amazon Trainium推出的Amazon EC2 Trn1实例,与同类实例相比训练成本节省高达50%。

开箱即用的生成式AI服务

编程是生成式AI技术得到快速应用的领域之一。软件开发者需要花费大量时间编写相当浅显和无差别的代码,真正用于创新的时间少之又少。从网上复制代码片段则可能无意中复制无效代码或有安全隐患的代码,或对开源代码的使用没有进行有效追溯。

亚马逊云科技的解决方案是Amazon CodeWhisperer,它是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。我们还进行了一项生产力测试,与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。

同时亚马逊云科技最近推出了Amazon Whisperer自定义功能,能够生成优于之前的代码建议,因为它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议,这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。

据悉,亚马逊云科技通过开箱即用的生成式AI服务及工具,已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者。

帮助不同类型的客户使用生成式AI服务

亚马逊云科技使命是帮助不同规模、不同体量的客户降低创新门槛。

具体到生成式AI方面,一类是想要用生成式AI构建比较大规模的,计划面对上百万、上亿用户的AI原生的或者大模型要大规模应用的企业(它可能是初创企业),从算力、数据端到端的能力,用云的方式,通过Amazon Bedrock、Amazon SageMaker让他们尽可能容易的构建模型,快速发展,并且很容易扩展到很大的规模,利用好云的弹性,以极低的成本去运行。这是亚马逊云科技未来重点投入的地方。

对于企业内部来应用,提升协作效率,提升办公效率,这一类的客户最重要的应用可能部署的规模不会特别大,但是对业务要求和整个业务的理解,包括到底能不能产生业务价值要求是非常高的。亚马逊云科技更多是投入人力包括一些合作伙伴的政策去支持,行业专家加上技术专家满足客户需求。

陈晓建表示,“开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,我们同样需要构建强大的合作伙伴生态,与它们一起助力解决生成式AI应用构建中的各种技术问题,加速应用落地。除了云服务之外,我们还提供解决方案架构师、产品技术专家、人工智能实验、数据实验室、快速原型团队、专业服务团队、培训与认证部门等多个资源共同助力客户成功,同时我们还携手生态合作伙伴与初创圈构建生成式AI的完整体系,进一步助力生成式AI技术的落地。”

]]>
亚马逊云科技中国峰会:算力、全球化架构、生成式AI的持续创新 //www.otias-ub.com/archives/1624648.html Tue, 11 Jul 2023 03:58:22 +0000 //www.otias-ub.com/?p=1624648 在刚刚落幕的亚马逊云科技中国峰会上,亚马逊云科技大中华区产品部总经理陈晓建和亚马逊云科技全球产品副总裁Matt Wood就AI创新引起算力需求井喷、全球化IT架构、生成式AI的价值及如何解锁、云原生战略等问题重点论述,全面介绍了亚马逊云科技的能力和产品解决方案。

全球算力需求井喷

生成式AI是现在目前最为关注的创新技术,AI技术的爆发也直接推动了对算力资源需求的增长。毫不夸张的是,生成式AI爆发式增长已经引发全球算力井喷。

突发的算力导致很多资源是紧缺的。企业抱怨GPU不够用,不光是在中国,全球都是如此。生成式AI流行虽然只有短短几个月时间,但是已经出现了非常多定制化的场景,包括LLM大语言的模型,图片生成,视频生成,在线推理等等。

(图:亚马逊云科技大中华区产品部总经理陈晓建)

陈晓建认为算力井喷带来三个特点:

1.需要更高性价比的软硬件解决方案以应对算力资源紧缺

2.云服务需要提供快速高效的弹性资源供给,以应对生成式AI的迅速发展和快速变化的业务需求

3.云服务需要进一步降低使用门槛,让客户能快速上手

陈晓建介绍亚马逊云科技针对算力井喷,提供了一揽子的解决方案。

针对算力需求紧缺,亚马逊云科技提供全面深入的基础设施能力,包括Intel、AMD、英伟达,和自研的CPU及加速芯片产品。

针对弹性资源供给,亚马逊云科技提供600多种不同的计算实例,从处理器、网络和存储等各种服务都能够与计算进行很好的结合,以积木的方式搭建出一个丰富灵活的计算实例的资源,满足多种不同算力的要求。以存储为例,数据规模到达PB级别时存储方式变得非常重要,“热、温、冷、冻”不同类型的存储方式,成本和性能都有很大差别。Amazon S3对象存储提供8种存储层级,同时提供智能分层,自动选择最适合的存储层级。

针对简化算力应用,亚马逊云科技推动云服务全面迈向Serverless亚马逊云科技在不断探索如何将云的弹性、敏捷性、按需付费的特性发挥到极致,在这个过程中,我们逐步推动着云服务全面迈向Serverless。现在,我们已经实现了全栈数据服务的Serverless化,开启了云服务全面Serverless的时代,让客户无需预置或管理基础设施,就可以运行几乎任何类型的应用程序或后端服务代码,帮助客户最大限度减轻运维工作,并增加业务敏捷性,更好地应对业务的各种不确定性。

摆脱基础架构的束缚

全球化是现代企业面临的重大挑战。越来越多的中国企业在全球大展拳脚,打造全球化的企业对IT架构提出更高要求。亚马逊云科技提供从中心到边缘的多种产品的解决方案,包括覆盖全球的基础架构,以及快速部署稳定系统的能力,还有全面支持全球各个国家和地区业务合规能力,成为用户创造坚实底层架构的基石。

亚马逊云科技提供的综合能力包括三方面:

  1. 无处不在的云服务:亚马逊云科技提供的高度安全可靠的云基础架构,让创新能够快速抵达每一个角落,为客户提供支持业务创新的算力,并能很好地支持客户的全球化布局战略。我们希望客户无论何时何地,都可以使用相同的基础设施、服务、API和工具。如今,亚马逊云科技全球31个区域的99个可用区,可以覆盖245个国家和地区。
  2. 快速部署可靠系统的能力:通过区域隔离,多可用区设计、控制面和数据面解耦、蜂窝架构、随机分片、服务责任模型、运营就绪审查、安全的持续部署、COE纠错流程来杜绝风险。
  3. 支持全球各个国家和地区业务合规能力:亚马逊云科技几乎满足全球所有监管机构的合规性要求,我们支持143项安全标准与合规认证。我们有超过300种安全合规服务,帮助我们各行各业的客户能够更方便地搭建满足全球各地安全和合规要求的架构。

如何解锁生成式AI价值

Matt Wood表示,过去6—8个月时间里全球经历了生成式AI的爆发,大语言模型可以接受复杂的输入,并产生复杂的输出。亚马逊云科技深信生成式AI在重塑各行各业,它可以突破以前无法突破的极限。生成式AI的典型场景包括:创意输出,如写作、设计、编码、建模等;功能增强,如搜索、总结、排序等;全新的交互式体验,可产生新的知识和想法,以及通过聊天机器人提供开放的知识;决策支持,在人工监督下自动执行复杂任务。

(图:亚马逊云科技全球产品副总裁Matt Wood)

如何解锁生成式AI价值:Matt Wood认为有四个要点:

首先要提供对一流基础模型的访问, Amazon Bedrock提供对一流的基础模型的访问:这项新服务允许用户通过 API 访问来自 AI21 Labs、Anthropic、Stability AI 和亚马逊的基础模型。Amazon Bedrock 是客户使用基础模型构建和扩展生成式AI应用程序的最简单方法,为所有开发者降低使用门槛。

在Amazon Bedrock上,用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务,访问从文本到图像的一系列强大的基础模型。

第二需要提供安全私密的环境去定制模型,借助Amazon Titan模型库实现安全且私密的模型调优:Amazon Titan是一系列不同的模型的库,可实现文本归纳总结、搜索结果嵌入、有害内容删减等,用户可以非常安全、隐私地对这些模型做优化和微调。

第三需要通过定制芯片提供低成本和低延迟访问。自研定制芯片提供低成本、低延迟:推理芯片Inferentia和训练芯片Trainium。

第四需要搜寻机会提升使用体验。Amazon CodeWhisperer 改善体验:这是我们基于机器学习为开发人员提供的一个代码生成的服务,支持包括Java、JavaScript和Python等在内的15种不同的编程语言,个人用户可免费使用。在测试中,与未使用CodeWhisperer的参与者相比,使用CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。

数据是生成式AI的关键

在Matt Wood看来,数据是生成式AI的起点,数据也将推动生成式AI的广泛应用。企业应重视云原生战略包括全面的工具集,满足现在和未来所需、轻松集成,连接所有数据。构建端到端的数据治理。

针对三使用数据开启生成式AI旅程Matt Wood给出五条建议:

基于自己现有的数据战略去做构建;在组织内实现更广泛、更安全的生成式AI实验;为需求场景定制化模型;携手亚马逊云科技,探索无限可能;选择场景,即刻启程,构建未来。

亚马逊云科技在为客户提供广泛的机器学习能力方面有着悠久的历史,过去10年间提供每一个级别的机器学习能力,包括底层芯片、Amazon SageMaker机器学习服务和开箱即用的AI服务。

Matt Wood表示:亚马逊云科技始终希望将拥有广阔前景的且令人兴奋的技术提供给每个人,在云计算时代亚马逊云科技提供通过API访问云上应用的快捷访问,这一愿景不会因为生成式AI的出现而改变,希望将这项技术交到每一个构建者和每一个商业用户的手中。

]]>