切换到宽版
开启辅助访问
登录
立即注册
搜索
搜索
搜索
首页
Portal
论坛
同城
人才网
工具
菲龙网工具
个人中心
关于我们
每日签到
本地新闻
时事评论
华人世界
中国新闻
新闻视频
国际新闻
娱乐新闻
科技新闻
菲龙广场
房产网
菲龙速聘
二手交易
便民电话
美食餐厅
旅游签证
物流速运
商品买卖
二手车市场
严选
话费充值
便民电话
贺词页面
瀑布流页
汇率查询
APP下载
每日签到
我的任务
道具商店
每日签到
我的任务
道具商店
更改用户名
关于菲龙网
About US
联系菲龙网
活动回顾
加入我们
本版
用户
菲龙网
»
论坛
›
新闻频道
›
科技新闻
›
在“卷模型”和“卷应用”之间,大模型落地还有一重关卡 ...
菲龙网编辑部7
有 744 人收听 TA
148041
主题
148058
回复
174182
积分
收听TA
发消息
加好友
本文来自
科技新闻
订阅
|
收藏
(
2953
)
菲龙网编辑部7发布过的帖子
0/93
因贷款风险分类不准确 肇庆农商行被处罚款120万元
0/69
9月末我国银行业对外金融资产15642亿美元
0/71
中国银行业协会原秘书长黄润中被查
0/78
明志科技:拟使用不超7亿元闲置自有资金进行现金管理
0/74
消费金融公司增资频频,仍有7家未达监管要求
0/69
低利率、高波动环境下,银行理财面临“二次转型”难题
0/79
金融“组合拳”助企“扬帆”——青岛银行多点发力,创新特色服务助力外贸企业发展
0/81
白皮书指金融调解机构专职调解员数量占比不足10%
0/52
2024年哪些互联网保险受欢迎?健康险呈家庭化配置,寿险宠物险走热
查看TA的全部帖子>>
在“卷模型”和“卷应用”之间,大模型落地还有一重关卡
时间:2024-12-27 10:13
0
102
|
复制链接
|
互动交流
显示全部楼层
阅读模式
直达楼层
马上注册,结交更多好友
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
一年一度的“云计算春晚”——亚马逊云科技 re:Invent 2024虽然落下了帷幕,但不少业内人士还在慢慢消化,试图从亚马逊云科技的思考和行动中找到一些蛛丝马迹。
既是为了规避和云巨头的直接竞争,也是研究如何乘着亚马逊云科技的东风。在当下生成式AI落地的关键阶段,可能就决定了是否找到通向未来的“金点子”。
在今年的re:Invent大会上,有些人关注到了最新的亚马逊自研基础模型Amazon Nova,或者是直接可以上手的Amazon Q应用,当然了,亚马逊自研的训练芯片Trainium也很炸裂,一些专业人士更在意Amazon Bedrock和SageMaker,大模型托管和数据集成都离不开它们。
但是有一种能力没有这么酷炫和直接,亚马逊云科技却用了相当比例的篇幅来展示——如何将大模型的所有能力串联起来,输出到每一个行业,进而惠及每一家企业,这就是行业解决方案。
在媒体娱乐、游戏、医疗生命科学、金融服务、制造业、零售电商、能源和汽车等八大行业,亚马逊云科技的行业解决方案,演示了“为什么现在大模型落地格外需要行业化”的标准操作。
卷模型
卷应用
之间,还有一重关卡
2025年,是大模型落地的关键年。一方面,大模型Scaling Law的曲线趋缓,基础模型厂商开始收敛,基础模型动辄一次数亿美元的投入,以及不断推高的人才密度等高门槛,意味着只有少数企业能够留在牌桌。
另一方面,大模型落地的紧迫感前所未有,大家都期待大模型产生实实在在的价值,且超出以往的技术能力范畴,全行业都在默契又统一地走向落地。
在ChatGPT爆发的初期,似乎是由新技术创造了新的市场,但是,并非所有的企业都需要一个ChatGPT,而所有企业都需要生成式AI。革命性技术发展的早期看起来是从无到有,在成熟期则是从“业务靠近技术”走向“技术靠近业务”,大模型越往后发展越需要对行业的理解、对产业的专耕。
“在一个好的市场里,能够满足那个市场需求的产品”,PMF(product market fit)概念最早是由硅谷顶级风投a16z的创始人之一Marc Andreessen于2007年在 《The Only Thing That Matters》 所提出,大模型所需要的就是让产品匹配市场的需求。
对于企业来说,要直接将大模型运用好难度较大,毕竟大模型的复杂性、对技术能力和资源等方面的要求较高;而如果抛开行业化这一环节,直接去基于大模型开发具体应用,距离又太过遥远,缺乏有效的衔接过渡。
其中的关键就是技术和行业结合,在当下的生成式AI产业叙事逻辑中,比以往任何时候都需要“行业化”。行业化起着降低大模型技术落地门槛的重要作用,它能够聚焦提炼出各个行业普遍存在的共性难题,进而为大模型更好地适配不同行业提供基础。
相比于新技术落地的其他环节,行业化是一个容易被忽略的部分,却又往往需要最专业的厂商投入大量的资源做具体的事,大多数企业享受了行业化带来的便利,却对大模型落地这一层级的变化感受不明显,亚马逊云科技这样的云平台在此过程中是最为合适的承担角色。
亚马逊云科技生成式AI全球副总裁兼总经理Vasi Philomin近日表示,亚马逊云科技真正擅长的是将生成式AI等技术大规模应用于现实世界的业务中,我们之所以能够做到这一点,是因为我们从端到端(end to end)进行思考。
大模型落地背后的潜台词
有了以大模型为代表的先进生产力,如何将其运用于实践形成全新的生产关系,亚马逊云科技推出了合适的行业解决方案,并不只是发布一个聊天机器人或一个基础模型那么简单,而是确保这些工具能够被企业客户在真实世界中大规模应用,这需要完整的思考和大量的准备工作。
在众多细分场景之上便是行业,多数厂商都只有能力专心做一个或两三个大的行业,厂商必须要懂得行业的上下游关系,对行业内各个玩家的业务、IT架构都了如指掌,并且也要了解行业的整体趋势是什么,知晓各类技术、方案均能产生什么样的效果。
亚马逊云科技作为平台型的云厂商,展示出了如何做大模型行业解决方案的参考答案。以亚马逊最熟稔的零售行业为例,亚马逊给出了2025年值得关注的三个零售特定用例和三项技术。
在用例方面,其一是虚拟购物助手,AI驱动的助手可以为在线购物者提供专业建议,增加买家信心;其二是超个性化,结合机器学习和生成式AI,为购物者创造个性化体验;其三是虚拟试穿,通过AI模型智能合成图像,让购物者可以虚拟试穿产品。
如何让客户低门槛、低成本、高效率地使用如上用例,亚马逊云科技凝练出来三项技术:AI代理具有自主性和工具,可以完成特定任务,提高团队生产力;领域特定基础模型专注于特定领域的模型,如零售特定的大语言模型;AI可以控制计算机执行任务,自动化日常工作。
这些行业化解决方案很大程度上脱胎于亚马逊云科技和合作伙伴的实践,然后通过解决方案的形式予以输出。例如印度生活方式零售商Nykaa利用生成式AI和机器学习,实现了自动化产品描述和属性识别,他们使用Amazon SageMaker和Amazon Bedrock构建解决方案,实现了90%的属性识别准确率。
典型产品还有亚马逊的AI购物助手Rufus,Rufus能够回答顾客各种购物相关问题,使用自定义大语言模型(LLM)专门针对购物领域进行训练,同时采用检索增强生成(RAG)技术,从多种可靠数据源中获取信息,通过强化学习不断改进回答质量,底层则是Trainium和Inferentia芯片实现低延迟和高吞吐量。
企业客户可能主要使用了Rufus,但无形中已经享受到了亚马逊云科技的行业化解决方案,与零售相关的能力包括大规模分布式数据处理、云存储、模型优化等,生成式AI在零售行业真正改善了客户体验。
生成式
AI
进入行业化的关键时刻
不论是传统IT还是云计算,企业客户的诉求始终是更快、更敏捷、更安全、成本更低的底层架构,以更好的支撑上层业务的发展,在大模型时代依然如此,甚至更有所加强。
生成式AI的广泛落地,将推动数字化转型进入新的阶段,各类系统正在跟业务进行深度融合,比如此前财务系统的“业财一体化”、人力系统的“业人一体化”,生成式AI与业务的一体化,是其保持旺盛生命力的关键。
亚马逊云科技之所以能一直站稳“全球云计算一哥”的位置,也是因为在行业的不断变迁中,始终能够满足客户的需求,甚至先一步到达客户所思所想。
Vasi Philomin举例说,20世纪90年代,亚马逊还是一家书店,当时就有推荐功能,这其实是大规模机器学习应用;快进到现在,看看Alexa,它已经进入了超过一亿个家庭;在物流中心,里面有机器人和人类并肩工作;Amazon Bedrock上有很多模型,能帮助人们构建应用程序的工作流,此外,我们还有定制硬件,降低运行模型的成本。
“我认为公司的DNA就在于此,会帮助我们继续成功。因此,我们不太在意竞争对手在做什么,而是专注于客户的需求,同时聚焦现实世界的业务问题,并将解决方案大规模地推广。”他说。
值得关注的是,大模型不是孤立而存在的技术,云平台提供了大模型生长所必需的养料,计算、存储和网络等多样化的产品组合,以符合行业流程的方式运行,形成了适合于当代大模型的行业化解决方案。
而行业化经营更有利建设业务组织能力,各个行业团队更加聚焦,带来专业化。专业化带来共享化,有利于将各个行业里的专业成果在同行业里规模复制和推广,亚马逊云科技自然可以沉淀更多行业know-how,在全球范围内,行业化经营也是全球领先厂商成功的高端业务组织方式。
包括零售行业在内,亚马逊云科技共打磨了八大行业化解决方案。譬如医疗行业,通过Amazon HealthOmics、Amazon HealthImaging和Amazon HealthLake等专业服务,结合生成式AI和数据分析技术,亚马逊云科技正在彻底改变药物研发、临床试验和患者护理的方式。
默克公司使用Amazon HealthOmics将12周的药物研发过程缩短到1-2周。Geisinger Health通过将Epic系统迁移到亚马逊云科技,实现了30-60%的成本节省和90%的部署时间减少。诺和诺德开发的NovoScribe解决方案将临床研究报告的创建时间从12周缩短到10分钟。
再如金融行业,亚马逊云科技推出了基于生成式AI的智能抵押贷款助手和个性化财富管理服务,以及先进的安全合规解决方案,包括改进的KYC流程和更高效的欺诈检测系统。
Rocket Companies使用人工智能和聊天功能改进抵押贷款流程,相比行业平均水平获得较高的净推荐值;BBVA在亚马逊云科技上构建了全球数据平台,管理超过4PB的数据,近30000个表格,每天运行超过50000个流程。
在生成式AI的浅水区,重点是找到新技术应用于业务的广度覆盖,在生成式AI的深水区,重点是弥合新技术和业务的认知鸿沟,也就格外需要亚马逊云科技这样的云平台企业,做中间一层的行业化,补全新技术周期内大模型落地的版图。
当大家对生成式AI的期望回归正常,意识到大模型不能应用于所有场景,同样的模型落地效果也可能千差万别,亚马逊云科技所做的行业解决方案,是将生成式AI推入“实际应用”阶段。
(
本文首发于钛媒体APP,作者 | 张帅
)
回复
举报
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
点我进行验证
本版积分规则
发表回复
回帖后跳转到最后一页
关闭
站长推荐
/1
【点击免费下载】菲龙网移动APP客户端
【点击免费下载】菲龙网移动APP客户端,新闻/娱乐/生活资讯生活通,带你了解菲律宾多一点!
查看 »
扫码添加微信客服
快速回复
返回列表
返回顶部