Skip to content
  • 51蛙吖蛙元宇宙电脑版入口
  • 51蛙吖蛙官网
51蛙吖蛙 – 3D社交空间

51蛙吖蛙 – 3D社交空间

投稿、社交、聊天就来51蛙吖蛙元宇宙

  • 兼职翻译 / 求职
    • 英语
    • 俄语
    • 德语
    • 日语
    • 法语
    • 西班牙语
    • 韩语
    • 小语种
  • 兼职翻译 / 招聘
  • 短视频
  • 即时新闻
  • 生活
  • 亚洲时事
  • 科技
  • 51蛙吖蛙公告
  • 金融
  • 杂谈
  • Toggle search form

标签: 科技

价格战,让中国车市损失 1380 亿;今年全球机器人出货超 4700 万;Telegram 创始人「服软」:向政府提供更多数据

报道称美国将「升级」打压中国汽车

路透社援引两名知情人士的消息称,出于对「国家安全」的考虑,美国商务部预计将于本周一提议,禁止美国道路上行驶的网联汽车和自动驾驶汽车使用中国的软件和硬件。报道称,这一举动是美国对中国汽车及软件和零部件持续限制的「重大升级」。接受《环球时报》记者采访的专家认为,这是美国继续滥用「国家安全」概念,对中国电动汽车进行全方位打压,推动在高科技领域进一步「脱钩断链」。

​路透社称,拜登政府对「中国公司收集有关美国司机和基础设施的数据,以及外国可能操纵连接到互联网和导航系统的车辆」表达严重关切。美国上述新规源于今年 2 月,拜登下令调查中国汽车进口是否在联网技术方面构成「国家安全风险」,以及是否应该禁止在美国道路上行驶的所有车辆使用中国这类技术软件或硬件。美国商务部长雷蒙多 5 月曾声称,美国联网汽车中的中国软件或硬件存在「显著风险」。(来源:环球网)

谷歌 CEO 皮查伊:AI 不会取代程序员,反而会让更多人成为程序员

9 月 23 日消息,近年来,人工智能(AI)的飞速发展引发了广泛讨论,人们担心 AI 是否会取代人类的工作。艺术家和程序员尤其担心,因为 AI 似乎能够胜任这两项工作。然而,谷歌及其母公司 Alphabet 的 CEO 桑达尔・皮查伊(Sundar Pichai)认为,AI 不会取代程序员,相反,其将帮助更多人成为程序员。

皮查伊在卡内基梅隆大学的演讲中谈到了 AI 对编程工作的影响,他表示,AI 最有可能帮助人们,而不是取代他们。它可以帮助现有程序员专注于更高级的任务,而不是重复解决同样的问题。此外,皮查伊认为 AI 将降低编程的门槛,使更多人能够通过自然语言的方式进行编程,就像使用一种创意工具一样。(来源:cnBeta)

 

AMD 首席执行官:AI 日趋成熟,芯片行业不能只盯着 GPU

9 月 23 日消息,AMD 首席执行官苏姿丰表示,「目前,GPU 是大语言模型的首选架构,因为 GPU 在并行处理方面非常高效,但在可编程性方面有所欠缺,」

苏姿丰说。「五年多后它还会是首选架构吗?我认为情况会发生变化。」苏姿丰预计,五年或七年时间内 GPU 还不会失势,但会出现 GPU 以外的新势力。

苏姿丰表示,未来的 AI 模型将使用不同类型芯片的组合,包括当今占主导地位的 GPU 以及仍有待开发的更专门化的芯片,以实现各种功能。(来源:华尔街日报)

 

OpenAI 劲敌 Anthropic 正考虑以 300~400 亿美元估值进行融资

9 月 24 日消息,The Information 报道称,美国 AI 初创公司 Anthropic 已经开始与投资者洽谈新一轮融资事宜。

一位现有投资者透露,Anthropic 新一轮融资后估值可能达到 300~400 亿美元(备注:当前约 2116.03 ~ 2821.37 亿元人民币),大约是今年初完成一轮融资后估值的两倍。

Anthropic 主要依赖于旗下生成式 AI 聊天机器人 Claude 获得收入,被视为 OpenAI 最大的初创企业竞争对手。在此之前,OpenAI 还被曝出将以 1500 亿美元的估值筹集 50 亿至 70 亿美元资金,几乎是今年第一季度的两倍之高。(来源:IT 之家)

 

中国汽车流通协会:今年 1—8 月「价格战」已致使新车市场整体零售累计损失 1380 亿元

9 月 23 日消息,据中国汽车流通协会公众号,近日,中国汽车流通协会向政府有关部门正式递交了《关于当前汽车经销商面临资金困境和关停风险相关情况的紧急报告》,《报告》指出:当前汽车经销商的新车销售出现大面积亏损,普遍存在现金流赤字经营和资金链断裂风险加剧的情况,已难以摆脱生存的困境。

据协会「市场脉搏」监测数据,截至今年 8 月,经销商进销倒挂数据最高已达-22.8%,较去年同期进一步扩大了 10.7 个百分点。据协会专家相关数据分析,8 月,新车市场的整体折扣率为 17.4%,今年 1—8 月,「价格战」已致使新车市场整体零售累计损失 1380 亿元,对行业健康发展产生较大影响。(来源:证券时报网)

Telegram 创始人「服软」:将向政府提供更多数据

当地时间周一(9 月 23 日),「电报」(Telegram)创始人兼 CEO 杜罗夫表示,Telegram 将根据有效的法律要求向政府提供用户的 IP 地址和手机号码。

杜罗夫周一在「电报」上发文称,「电报」修改了服务条款,以防该平台被犯罪分子滥用。据杜罗夫介绍,通过人工智能和审核团队,「电报」已开始在其搜索结果中隐藏有问题的内容,此举是防止该平台被滥用的措施之一。(来源:财联社)

 

机构:预计 2024 年全球机器人出货规模约 4700 万台,未来 5 年维持 20% 以上复合增长率

群智咨询数据显示,长期考虑人口老龄化趋势及 AI 推动普及,全球机器人总体需求呈现持续增长趋势,预计 2024 年全球机器人出货规模约 4700 万台,未来 5 年维持 20% 以上复合增长率。同时预计 2029 年其营收规模近 1280 亿美金。

从出货量角度,群智咨询(Sigmaintell)数据显示,2023 年全球消费类机器人占市场出货约 81%,长期占据机器人市场主导地位;工业机器人占市场总体出货约 17%。(来源:36 氪)

 

名创优品收购永辉超市 29.4% 股权,将成永辉超市第一大股东

9 月 23 日消息,名创优品公告,以 63 亿人民币收购永辉超市 29.4% 的股权,其中包括牛奶公司持有的 21.1% 及京东持有的 8.3% 的永辉超市股份。

公告显示,该交易完成后名创优品预计将成为永辉超市第一大股东,进一步扩大其线下零售版图。(来源:36 氪)

蔚来「萤火虫」首车内饰谍照曝光,定位精品小车

9 月 23 日消息,网络上曝光了蔚来第三品牌内部代号为「萤火虫」的首款车型内饰谍照。

蔚来汽车创始人、董事长兼 CEO 李斌此前透露,「萤火虫」将于 2025 年上半年交付,并将在国内与蔚来品牌共享销售网络。李斌表示,「萤火虫」类似于 MINI 与宝马的关系,但价格不会比 MINI 贵,定位为精品小车,售价在十几万元人民币。这款轿车按照非常高的安全和质量标准设计。

​从曝光的内饰谍照来看,「萤火虫」配备了两块屏幕,包括液晶仪表盘和悬浮式中控屏。方向盘采用蔚来家族经典的双色设计,粗壮且类似方形,两侧功能按键区尺寸较大。新车预计仍然采用怀挡设计,挡把设计粗壮。前风挡倾角较大,后视镜部分还有一个三角窗。外观方面,新车车头较短但整体厚实,车尾饱满动感。C 柱宽大,设计有宽大的后扰流板,整体造型颇具 ID.3 的感觉。(来源:cnBeta)

 

小米生态链企业蜂巢科技与宝岛眼镜母公司达成战略合作,年底推出首款联名 AI 音频眼镜

9 月 23 日消息,蜂巢科技 9 月 22 日宣布与星创视界达成战略合作。

蜂巢科技旗下界环 AI 音频眼镜系列产品将分阶段进驻星创视界旗下宝岛眼镜的全国门店,首批于北京、上海、深圳、杭州、南京、武汉、重庆等 16 个城市 40 家宝岛眼镜门店率先上线,界环和宝岛用户可在合作店铺体验从产品试戴,眼健康筛查,到专业验配一站式服务。双方还将开展联名产品共研的深度合作,预计 12 月将推出界环与星创视界自主品牌 SAP 联名的 AI 音频眼镜产品。

蜂巢科技成立于 2020 年 10 月,是一家专注于头戴智能硬件研发的科技创新公司,成立之初即为小米生态链企业,并于 2022 年推出首款产品 MIJIA 眼镜相机,2023 年推出第二款产品 MIJIA 智能音频眼镜。据悉,1 月 18 日,小米与蜂巢科技达成战略合作,聚焦于智能音频眼镜品类。(来源:IT 之家)

大众在欧洲停产 Polo,为更小、更实惠纯电汽车让路

​9 月 23 日消息,据《欧洲汽车新闻》和 Carscoops 报道,在经历了 40 年的漫长岁月后,大众汽车结束了旗下经典小车 Polo 在欧洲的生产。该车曾在位于西班牙的潘普洛纳工厂生产,而欧洲的工厂停产之后,该车将完全在南非卡里加的工厂生产。

与此同时,原西班牙工厂将进行改造,重点转向两款全新的小型纯电汽车的装配工作。近年来,Polo 在欧洲的销量有所下降,但仍是大众品牌的重要车型。该车今年前八个月的销量略高于 90000 辆,在欧洲最畅销汽车中排名第八。(来源:IT 之家)

 

浏览量: 68

政企向大模型转身,阿里云十年打磨一把「锤」

今年 4 月,大模型能力第一次扎实的嵌进了陕煤建新煤矿等十余座矿山里。

 

矿山重大风险辨识、告警预警及处置,对安全生产与管理至关重要。在过去很多年里,虽然通过对图像数据的标注、训练,基于机器视觉模型的风险辨识在业内已相对成熟,但告警、处置环节仍高度依赖人工。

在煤矿调度指挥中心,调度员需时刻关注十余块监控屏幕,发现风险问题后手动创建处置文档、填写问题描述、查阅处置依据,并最终给出处置办法。

处置依据多且庞杂,以 2022 年 1 月第二次修订的国家级煤矿安全规范为例,共有 719 条。各座矿山会依据各自地质、施工条件,对规范再做增补。在人工处置期间,还可能遗漏重点区域发生的其它风险。「因此,缺了告警处置这一环,就无法实现自动化真正的闭环,也无法保证真正的安全。对矿业来说,这一直是个非常棘手的问题。

直到今年一套矿山重大风险辨识处置新系统应运而生。实时采集的矿山图像数据、环境数据和相关业务场景知识库「喂」给大模型后,大模型对矿山场景、区域、安全风险内容、管理规范、处置措施等信息进行抽取、训练、学习后,具备了实时推理、实时处置的能力。

现在这套系统可以自动处置常规风险,调度员只需要把精力放在少数复杂场景上。

矿业所在的能源行业是大模型发挥作用的经典场景之一。

据中央网信办今年 8 月透露,截至目前,我国完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达 190 多个,遍布在交通、教育、制造、医疗这七大行业,注册用户数超过 6 亿。

2023 年之前国内企业数字化转型建设内部不成体系、烟囱林立的情况在大模型出现后迎来了转机,到现在,政企正在成为大模型最积极的拥抱者之一。

 

01 两轮技术浪潮的杂糅

 

政企数字化转型是中国企业数字化转型中最复杂而艰涩的样本。

以阿里云智能集团副总裁、产品解决方案部总经理霍嘉的话来说,「坦白讲,今天在中国发生的数字化转型,只能说大部分才刚刚开始,离结束还早得很,而且有两轮技术的叠加」。

最初的政企数字化转型,是从以流程驱动为核心的信息化开始的——说的更简单一点,即业务的在线化。但国内政企普遍规模庞大,业务线广而复杂,每个业务都有自己独立的系统,这导致了政企数字化中「烟囱林立」的现象。

由于政企部门业务的敏感性,这种数字化需要高度的定制化,这也导致 IT 建设负担沉重。

而当数字化转型从信息化时代进入数据驱动时代,政企围绕「数据」进行核心业务的「再造」。这个过程,大量数据中台先后出现。但数据驱动本质上并未解决数据在各个业务烟囱之间相互隔离的矛盾,数据中台与业务并没有紧密结合。

眼下的大模型则是数字化转型迎来的第三轮技术浪潮,与上一轮「数据驱动」浪潮并行。大模型让人可以直接与数据、机器互动,天然带有靠近业务的特征,其最大的价值之一就在于和业务场景的融合,以颠覆旧的业务形态,而这也更接近数字化转型本身所追逐的本质。

对大模型价值的审视或许是中国企业在多年数字化转型的过程中第一次集体性的回过头来认真度量和理解自己的业务——数字化转型不是结果,而是解决业务问题的手段。

「最终目的还是业务场景。我们跟很多客户谈的时候,会发现有的时候大家会把手段跟目的给弄混掉」,阿里云智能集团副总裁、解决方案研发部总经理曾震宇表示,「先明确要解决的问题,再看用什么方式解决。这个解决的过程可能就叫数字化转型的过程。如果说业务场景不想清楚就要做数字化转型,往往这种项目做到后面大家都会很吃力,因为不知道到底要解决一个什么问题」。

阿里云智能集团副总裁、解决方案研发部总经理曾震宇

大模型的巨大潜力,让政企看到了对自身业务甚至重新梳理整个企业组织结构的价值。这也让大模型技术能够成为政企数字化转型得以跳出一场场为数据所困的小范围局部战争的契机。

但政企在有了充分借助大模型来实现自身数字化转型的需求之后,面临的仍然是一个严峻的局面。

 

02 模型与算力的双重困境

 

摆在眼前的事模型本身的选择和塑造方向。换句话说,政企需要怎样的大模型?

首要的是,大模型需要能够支撑海量非结构化数据的查询分析。

政企业务规模庞大,数据量往往远超一般企业,这对大模型的处理能力提出了极高要求。例如,城市政务需要实时处理来自交通、安防、环保等多个部门的海量数据;金融机构需要对复杂交易数据进行风险分析和预测。而这些数据往往是非结构化的,比如图表、公式,甚至一些纸质合同等。这需要大模型用 RAG 等技术进行知识管理,以高效地处理、分析海量数据。

而与一般企业不同,政企业务需要维持全年 365 天每时每刻的稳定可用,政企业务系统往往对稳定性和可靠性要求极高,深入政企业务的大模型需要在长期持续运行中保持稳定,避免出现性能波动或意外中断。

而由于政企业务的特殊性,其对大模型有着极高的数据安全需求。私有化部署是政企在引入大模型时处于保障数据安全的重要手段,政企的数据得以不离开政企内部,并通过严格的访问控制机制防止数据泄露。

这要求大模型提供灵活的部署方式,支持私有化部署、混合部署等多种模式。同时,还需要采用数据加密、脱敏等技术手段,全方位保障数据安全。此外,还需要关注大模型自身的安全问题,例如模型窃取、对抗攻击等,并采取相应的防护措施。

而大模型能在政企的数字化转型过程中着力的最重要一点——大模型需要懂业务,并且能动态的跟上业务的变化。

「懂业务」意味着大模型不能仅仅停留在通用能力上,而要深入理解政企所处行业的专业术语、业务流程和监管要求。这要求大模型在预训练阶段就要引入大量的行业数据进行训练形成 Knowhow。

但业务永远在变化,这意味着大模型另有在实际应用中结合具体业务场景不断进行调整的需求。但懂业务的企业内部人员不一定懂模型,这意味着大模型需要在训练层面简单易懂,并且为业务人员构建便捷的知识注入和更新机制,让后者能够参与到模型的训练和优化过程中,把专业知识和经验融入到大模型里。

解决了「什么样的大模型适合自己「的问题之后,政企还有另一道题要解,即「如何训练适合自己业务的大模型」。

政企对大模型严苛的需求,进一步凸显出大模型训练背后绕不开的算力问题,这是政企将大模型顺利引入自身业务之前所面对的另一个问题。

中国并不缺智算中心,但缺的是可用的算力。现在大模型的训练需要的是规模化的算力。以基础模型训练来说,万卡集群的规模已经是底线,要保证一定质量的话则需要两万张卡以上。哪怕退而求其次的垂直模型,也需要千卡级别的算力集群支撑,这种集群规模对于政企来说是非常大的挑战。

政企在当下数字化转型中遇到的大模型与算力难,看似存在于两端,但实际有非常紧密的联系,将两者联系起来的是承担着将大模型引入政企业务中的云厂商。

阿里云智能集团研究员、阿里云智能集团副总裁、专有云总经理刘国华在拜访了包括很多客户后,得到了政企客户一个朴素而普遍的观点。现在的中国政企客户关心的是两件事情,第一个是安全稳定的问题,第二个是成本。随着大语言模型的发展,AI 给政企客户的业务带来了新的突破点,但与此同时他们又要兼顾整个安全和成本的问题。」

阿里云智能集团研究员、阿里云智能集团副总裁、专有云总经理刘国华

「基于此,政企客户更加期望云平台是满足云+AI 协同发展的要求,而不是单一各自去做各自的事情,来最大化提升整体的成本效率。」刘国华表示。

「下矿」近半年之后,阿里云从算力层和模型层,为政企客户带来了更优解。

 

03 云+AI 一体化的技术体系

 

「今天谈到大模型算力基础设施的时候,它绝对不是单单数机器和数卡,不是把一堆硬件隔在一起,而是通过云计算的平台把芯片、服务器、网络、存储这些东西有机的调动起来,才能集成模型的训练。」阿里云智能集团副总裁、产品解决方案部总经理霍嘉在云栖大会上表示。

阿里云智能集团副总裁、产品解决方案部总经理霍嘉

对于政企所看重的安全问题,阿里云在底层算力层的飞天企业版上实现了「智算升级」。

首先是在计算性能上的变化。

在异构算力池化方面,针对政企中 GPU 的异构现状,现在整个平台支持多芯的 GPU 融合管理。目前飞天企业版支持 23 款的 GPU 接入跟管理,支持单一集群 1.5 万卡的建设,并且实现通用算力、超算、智算的一网调度。

目前飞天企业版的 GPU 虚拟化和容器调度算力切分粒度达到 1%,资源利用率提升 100%;基于训推资源调度一体化平台,通过训推任务和资源调度策略结合,飞天企业版将算力资源碎片减少 30%。

而在在推理场景性能方面,通过 GPU 推理调度算法优化,飞天企业版在单机多卡并行式训练中可自动选择最优通信链路,通信带宽最大可提升 100%。在资源调度上,模型吞吐量提升 23%;通过对 GPU 深度调优,飞天企业版 GPU 性能较社区版提升 10%。

在端到端系统稳定性方面,飞天企业版提供从训练任务到底层基础设施的一体化监控和分析诊断能力,针对故障节点和受影响的作业路径可实现分钟级定位和诊断,整体故障监控覆盖率达到 80%。

兼容性方面的提升则不止在与多种 GPU 融合的方面有所体现。

阿里云提供的一站式 AI 大模型开发平台——百炼专属版。在 AI 的服务层提供了从开发、训练、推理到智能体搭建的服务,兼容整个主流的开源模型。

这意味着未来很多客户可以直接基于阿里云的平台去构建他的模型生态,让更多的模型可以更靠近它想要服务的客户。

在此之前,阿里云于 2023 年 10 月首次推出了百炼平台。该平台集成了国内外主流优质大模型,提供模型选型、微调训练、安全套件、模型部署等服务和全链路的应用开发工具,为用户简化了底层算力部署、模型预训练、工具开发等复杂工作。

而针对政企市场面临一系列大模型落地「难题」,阿里云在 2024 年推出的百炼专属版。此次百炼专属版 2.0 在底层算力上,进一步兼容了「公共云 VPC」和「专有云」环境,并已嵌入阿里云「飞天企业版」云平台;支持多芯异构的算力调度,支持多租户模式下的算力、模型、数据隔离与共享。

在大模型训推方面,百炼专属版 2.0 支持高性能分布式训练,训练吞吐率提升 20%;基于软硬协同的推理加速,将精度无损量化提升至 0.5%,推理速度提升 3 倍以上。

在模型方面,百炼专属版 2.0 预置了通义 7B 到 72B 多尺寸大语言基础模型及多模态大模型,同时兼容主流模型框架、支持三方大模型自定义接入。

在模型服务方面,百炼专属版 2.0 支持图表、公式、图片、音视频,以及大文件和巨量文件的解析;基于平台丰富的工具和插件,开发者可通过「拖拉拽」快速搭建智能体。

数字化转型方兴未艾,智能化时代的浪潮已至。云计算与大模型的微妙关系耦合成一条新的政企数字化转型道路,而飞天企业版和百炼专属版则构成了一套完整的智能化时代云计算技术体系。

 

04 敏锐来自十年深耕

 

2023 年 4 月末,第六届数字中国建设峰会在福建福州举办的时间点,正是大模型第一波浪起的时候,彼时一场并不起眼的分论坛上,阿里云智能的副总裁霍嘉、阿里云智能副总裁、解决方案研发部总经理曾震宇等人少见的有一次同台。

在那次集体亮相之前,阿里云启动了一项「通义千问伙伴计划」,合作的伙伴覆盖油气、电力、交通、金融、酒旅、企服、通信行业。

阿里云在去年 4 月就把企业云服务因为大模型而发生变革放在非常重要的位置,现在来看,这像是非常有预见性的一枚石子,在投出将近一年半之后,水晕才真正荡开。

这种敏锐并不是来自个人判断,而是受益于阿里云多年在政企业务所下的苦功。

2014 年,阿里云陆续开始与中国气象总局合作,海量气象数据涌入通过阿里云计算平台;同年,阿里云与药监局合作,药品监管网数据从甲骨文转移到了阿里云;2015 年阿里云成为海关总署的云计算和大数据服务服务商;2021 年之后,国家医疗保障局医保信息平台开始跑在阿里云商。

到目前为止,阿里云已服务超 1000 家政企客户,覆盖 90% 的央国企(央企及省级国企)。6 大国有商业银行、2 大电网、中石化、中国邮政等都已跑在阿里云上。

所有的企业类型中,政企中有中国企业数字化里最复杂的难题,而对于一家中国云厂商来说,要想服务好政企市场,就必须在政企业务中扎根。

阿里云陪伴了中国政企数字化最汹涌的十年,这也让阿里云在眼下大模型重新定义企业数字化的时候,显得更清醒。

「数字化转型本质上是业务转型,组织升级,最后是技术助力。在数字化转型的过程中,上云只是个技术手段」,霍嘉表示,「不要过度高估数字化对业务转型带来的直接效果,数字化更多是一个加速器」。

而在这个从信息化到数字化的转型过程中,大模型的价值是让人类在技术上第一次可以去大规模的降低和软件——或者说数据——交流的门槛。这也让企业有机会重新审视内部积累起来的数据,结合新的业务场景,基于大模型的能力去进一步挖掘价值。

但这件事才刚刚开始。

而阿里云想要做的,是把大模型这把「锤子」的原料和锻造经验,直接交到政企手上。

 

*头图来源:阿里云云栖大会

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

 

浏览量: 88

对话地瓜机器人CEO王丛:500元的机器人“心脏”,是怎么炼成的?

行业公认,AI的下一波热点,将出现在机器人领域。

回顾2022年年底开启的AI热,凭借为AI提供算力的优势,“卖铲子的”英伟达成为最大赢家之一。那么,在未来的机器人时代,谁又会成为新的赢家呢?

英伟达自己仍然是一个强劲的选项。

在2024年的GTC大会上,英伟达展示了其在机器人方面的全面布局,许多机器人公司目前也已在使用英伟达的Jetson系列芯片,放在机器人的端侧提供算力。

看中这一领域的公司,还有国内的地瓜机器人。

9月20日,地瓜机器人发布了RDK X5和RDK S100,为普通的机器人开发者和要求更高的具身智能机器人公司提供自己的算力平台解决方案。

定价549元起,地瓜机器人希望以优秀的性价比、为开发者打造的便捷开发平台和与开发者社区的紧密连接,在未来的机器人算力市场占据一席之地。

极客公园参加了9月20日地瓜机器人的发布会,并对地瓜机器人CEO王丛进行了专访,聊聊他们如何提前卡位,准备在下一个科技风口到来时,成为下一个淘金热中“卖铲子的人”。

 

源于地平线,专注做机器人市场的团队

 

相较于已经成为中国最大的自动驾驶公司的地平线公司,地瓜机器人的名字对许多人来说尚有些陌生。

地瓜机器人在2024年初成立,主要研发机器人的底层计算平台。其前身,是地平线的AIoT团队。

目前地瓜机器人的CEO王丛,从2018年就在地平线负责AIoT业务了。“我们原本就是一个很独立的事业部,有自己完整的研发、销售、市场、社区。”王丛介绍到。

“AIoT市场很零碎,不过,这倒不是决定收缩业务最重要的原因。”王丛讲到,“更严重的问题是,在AIoT场景中,很多情况下其实对AI的需求很低,没有不断增长的算力需求。从长远来看,这和我们的人员结构和风格并不匹配。”

而在重新思考业务领域中,地瓜机器人团队逐渐开始找到了机器人这块新的领地。

“当时,做机器人芯片,并不是很多公司首选的领域。”王丛表示,“退回2019年,去做机器人这件事情面临很大的一个问题——出货量。没有足够的出货量,一家芯片公司没法养活自己,所以很多公司会选择更大的市场,但同时就会面临非常激烈的竞争。”

2019年的世界机器人大会 当时物流车是大会的重点展示对象 | 图片来源:视觉中国

一直以来,地平线的商业哲学更偏向于提前布局,避免激烈竞争。而地瓜机器人团队,看中了机器人市场的增长潜力。

“我们当时看到,不管是哪个品类的机器人,对AI和算力的要求都在逐渐的往上走。这个市场很适合我们。市场不大,大公司看不上,但市场也不小,对算力的要求高,小公司做不了,且我们有直觉这个市场未来将不断增长。”王丛表示,“创业的核心就是找到一个不大不小的市场,且这个市场未来有很好的增长。”

地瓜机器人最初的模式主要延续AIoT的服务模式,服务于机器人的B端企业,为客户提供算力和服务。

不过,很快,团队意识到机器人市场与AIoT市场并不相同。在机器人市场中,还有大量的零散的开发团队和小客户,团队很难一一对其进行服务。

2023年,地瓜机器人开始发力建设社区和生态,这也成了地瓜机器人希望在未来的竞争中,能够发挥重要价值的秘密武器。

“我们意识到,首先,五年后的机器人行业,你该服务的用户并不是现在公司现有的开发者。5年后你服务的用户很可能现在还是学生,应该提前让他们去习惯你提供的东西。”王丛表示。

“另外,机器人作为未来的市场,远远没有达到手机市场的集中度。在手机市场中,把头部厂商服务好了就可以了。而在机器人市场中,我们服务上万个开发者,不可能给上万个开发者有一对一的技术支持,所以倒推回来,必须要把基本功,包括工具、软件、易用性、文档写得足够的清楚,社区上也要有足够支撑。”王丛表示。

目前,地瓜机器人不但提供芯片,还组建了整个RDK的机器人开发者套件,方便开发者能够使用合作伙伴的产品搭建产品。不仅如此,地瓜机器人还组建了一套自己的机器人操作系统,提供了机器人算法中心,甚至提供了一套包括数据标注到仿真验证的数据解决方案。

地瓜机器人目前社区有五万多人,活跃度很高。“比如社区里面有很多提问现在都不是我们回答,就是第三方看到了就回答。我们希望能够陪伴机器人开发者共同成长。”王丛讲到。

 

五百块的 10 TOPS AI机器人开发入场券

 

2023年5月,在地瓜机器人团队独立之前,曾经发布过RDK X3模组。

而此次9月20日的发布会上,地瓜机器人团队推出了新品RDK X5和RDK S100。

搭载旭日5智能计算芯片,新品RDK X5具有10 TOPs算力和先进大模型及视觉算法加持,主要面向普通机器人开发者。

算力是这次产品发布的一个重要亮点。

“目前在10 TOPs 算力下能够真正的支持机器人各类算法,同时保持功耗最低,没有别的选择。”王丛表示。

RDK X5 4G版本549元,8G版本699元。价格公布时,发布会现场一片惊呼。

RDK X5 |图片来源:地瓜机器人

“我们这款产品面向的人群是最广泛的创客、学生,包括做智能电子的创客,整个定价的性价比非常高。过去如果玩英伟达的卡,至少需要2000元,而使用树莓派,还要搭载一个外围的算力棒,加在一起也要1000多,所以我们性价比非常高。除此之外,我们又把软件那套体系做得很好,这样大家玩起来上手也都很简单。”王丛介绍道。

比起前一代产品,RDK X5 算力、CPU都是翻倍的提高。

在原来小算力的情况下,开发者已经可以使用算力平台做基本的物体识别、分割。提升算力后,开发者可以集成小尺寸文本的LLM,进行本地部署——比如在RDK X5上,已经可以部署RWKV的1.5B的版本,有基本的对话能力。

RDK X5 端侧可部署的模型 | 图片来源:地瓜机器人

同时提升算力后,一些偏视觉的大模型,也可以进行应用了,能做到一些检测、分割、抓取。“比如家庭环境,一桌子上东西太多了,怎么去解决泛化,就是要用一些视觉大模型的方式去做剪裁,让它能够去识别各种各样的物品。还有一些从自动驾驶迁移过来的算法,双目的深度、Occupancy占据网络,一些V-SLAM的算法我们现在也可以去跑。”王丛介绍道。

为了让更广泛的开发者能更好地使用这一平台,地瓜也做了不少开发者友好的适配。

比如地瓜机器人推出了自己的Copilot,结合自己的软件、程序库,让开发者在编程的时候能够得到AI提示。同时RDK的Studio中也集成了不少可视化的交互方式,开发者直接拖、拉、拽,就能方便地生成代码。

通过写注释直接生成代码 | 图片来源:地瓜机器人

王丛讲到自己未来的愿景:“我刚创业的时候,是移动互联网的初期。最开始做的时候自己搭集群,然后自己搭各种各样的设施,后来亚马逊、阿里云各种工具套件出来后发现自己什么都不用搞,只要专注自己的APP开发就好,后来创业的时候可能十几个人我就可以做一个非常牛的东西。我觉得机器人未来也应该形成类似的模式,可能未来真的四五十个人就能搞出各种各样的机器人。“

而RDK S100,则是地瓜机器人今年新推出的一款产品,更针对于有前沿需求的具身智能、人形机器人公司,到今年年底公开发售。

“RDK X5也能做一些视觉的检测,和大模型的应用,但如果能把它的种类再泛化,精度再提升,跑一些更大尺寸的模型,就得需要RDK S100。”王丛介绍道。

 

地瓜机器人发布RDK S100 | 图片来源:地瓜机器人

RDK S100采用全新BPU纳什架构,专为大参数Transformer优化,拥有百TOPs级算力和全链路开发支持,目前能跑7B、13B的模型。地瓜机器人表示,星动纪元、逐际动力、求之科技、清华大学AIR智能产业研究院、睿尔曼、国讯芯微等数家行业顶级合作伙伴将率先搭载RDK S100。

“从去年开始我们就开始筹划这款产品。”王丛讲到,“像现在大家市场上看到的这些人形机器人的demo,这些能力RDK S100都能满足。”

地瓜机器人表示,明年地瓜机器人还会推出数百TOPs的大算力产品,来支持机器人企业的更前沿的需求。

 

从提前布局智能驾驶,到提前布局机器人

 

2023年,机器人市场开始转热。机器人本质上和汽车的市场不一样,打法不同,客户不同。地瓜机器人2024年成立,希望能在热起来的市场上,跑的更快。

虽然对机器人市场十分乐观,地瓜机器人对目前的机器人市场发展的判断仍然很冷静。

“我觉得机器人的发展还处在初级阶段吧。”王丛表示。“一个判断的方式是,当你发现行业里有特别多同质化的东西,同时又没什么实际用途,基本上这个行业还处在初期。每一波科技热潮都这样,像在2023 年我们见到了百模大战、千模大战,过了这个阶段,等这个大家都看清一些之后会更务实一些。”

“不过,虽然行业没有真的爆发,但我们做准备、做投入,一定是在爆发之前。我们感觉现在的时间点,很像地平线2016~2017年开始加大投入自动驾驶的时间点。”王丛表示。

“对于一个即将爆发的行业,常见的情况是有很多种技术路线,未来都有可能。我们目前更关注这些机器人探索者中,有哪些共性的基础的需求,我们能够先去满足。比如说这个在芯片上,无论企业怎么做,对Transformer一些大模型更高效的吞吐的支持,无论如何都要做,那我们就先做这些东西。”王丛表示。

目前,在具身智能领域,许多公司会选择云端算力和端侧算力结合的布局。

在云端中,机器人主要做一些任务拆解——让大模型理解用户提出的需求等于导航去来一个房间,观察哪个是要抓取的物品,规划抓取路径。不过在子任务中,如果每个环节都使用云端算力,则最后的产品实时性会很差。因此仍然需要端侧算力。

使用OpenAI模型的Figure机器人的技术架构 | 图片来源:X

目前,地瓜机器人在这个领域,面临着来自英伟达等巨头的竞争。

而作为开发者嘴里的“国货之光”,地瓜机器人希望通过切入有价格竞争力的产品,做出更好的机器人生态,在未来的机器人热到来之时,在机器人领域成为行业内强有力的竞争者。

不过,地瓜机器人表示,目前的产品虽然价格上很有竞争力,但硬件领域的企业,绝不会做亏本的买卖。同时,地瓜机器人在对产品定价的时候,关注的也不仅是板卡的盈利,还有未来生态中上下游的盈利。

同时,在国内人形机器人发展大热之下,作为国内的机器人软硬件通用底座提供商,地瓜机器人或许也将在与国内企业的合作中,拥有很强的优势。

“过去几年中,我们每年都有上百万的出货量。无论是扫地机、割草机、陪伴机器人、机械臂,我们都已经和国内最头部的玩家合作,已经量产或者即将量产。”王丛介绍道。在人形机器人领域,地瓜也已经与星动纪元、逐际动力等国内的头部人形机器人公司合作。

王丛表示,未来,对于地瓜机器人,持续的推出性价比更高的产品是本职工作,未来更希望的是让开发者的开发更容易。“希望大家不要重复造轮子,共性的部分我们能解决的都会直接提供。”

“地瓜是在各种土壤,各种条件下都能生存的物种,在饥荒年代,地瓜曾经养活了无数的人。”王丛在发布会上解释为什么要以“地瓜”命名新公司:“我们希望这家公司非常接地气,能给大家带来更多实用的工具。”

浏览量: 95

云栖笔记:FOMO 消散后,对 AI 的信心到底该从何而来?

先问一个问题:从体感上看,AI 领域的节奏你觉得是变快了还是变慢了?

客观上看,从去年 2 月开始,ChatGPT 开始在中国成为了所有人谈论的话题,短短几个月就形成了一个「共识」——AGI 是一场工业革命,大模型会改变未来。

对一个新技术如此迅速地达成共识,放在全球科技史上这可能都是第一次。躁动心开始跳动,FOMO 情绪开始翻涌,有人怕错过,有人怕失去。

而过去 18 个月,可用的新模型和新产品层出不穷,但效果惊艳、非它不可的不多。曾经期待(或担心)的颠覆性变革看起来依旧在路上,而 AI 巨大投入难道就是诞生了一些局部领域的效率工具?这看起来确实也有点算不过账……于是无论在中国还是美国,对于之前的「共识」开始有了动摇,觉得 AGI 是个大泡沫的「舆论应力」开始不断积聚,有点共识达成太快所以「始乱终弃」的趋势。

其实「预期」这个东西,很容易因人而异的主观。而「信心」这个东西,也很需要有现实论据的逻辑支撑。那么过去 18 个月 AI 技术到底经历了怎样的发展,未来到底应该有什么样的「预期」和「信心」,回答这个问题最好的方式,还是去看看进程中的细节,回到客观的视角做判断。

带着这样的视角,在今年阿里云云栖大会上,我跟在一线「摸爬滚打」的 AI 创业者、从业者,以及阿里云这样的产业巨头做了一系列交流。作为离 AI 最近的人,他们是撸起袖子亲自下场的 Doer,他们看到的东西应该能更好地帮我们做出自己的判断。

 

01 AI 不是减速,而是狂奔

技术进展常常以 18 个月为周期,从创业者的视角看,无论是过去的 18 个月,还是未来的 18 个月,模型技术并没有在减速,而是在加速。

对 AGI 进展感到快或慢的差异背后,是「打游戏的人」和「看游戏的人」在不同视角下的体感。在「看游戏的人」眼里,怎么老是那几个「妖怪」,情节推进太慢了,快看睡着了;玩游戏的人会说,新技能点出来又要「洗点」了,又多了好几个诱人的新任务,血压都要 160 了。

客观地讲,过去 18 个月里的三个里程碑事件,让他们看到了大模型在明显提速。

第一是 GPT-4o 的发布。

在 GPT-4o 之前,OpenAI 有 GPT-4V 视觉理解模型、有 Dall·E 视觉生成模型、有 Whisper 声音模型、和 Sora 视频生成模型,但 GPT-4o 让原本这些孤立的模型融合在一起了。而多模态融合这件事的意义在于,可以更好地模拟真实世界、为我们的物理世界建模,这让模型又上了一个新台阶。

第二件事情则是特斯拉发布的 FSD v12,一个端到端的大模型,可以直接把感知信号直接变成一个控制序列。它的意义不仅在于智驾本身,这套方法论为智能设备如何和大模型相结合,更好地探索物理世界指明了一个方向,从数字世界走向物理世界一个真实的应用场景。

第三件事情是上周的「o1」模型,第一次证明了语言模型其实也可以有人脑的慢思考,也就是「系统 2」的能力。系统 2 的能力是 AI 能归纳世界所必备的一个前提条件、一个基础能力。

在阶跃星辰创始人、首席执行官姜大昕看来,AGI 的演进路线可以分为模拟世界、探索世界和归纳世界,GPT-4o、FSD v12 和「o1」分别在这三个阶段或者说方向上取得突破,这是模型能继续提高上限的明确信号。

月之暗面 Kimi 创始人杨植麟也认为,各种技术指标和实际体感都在指向模型智商的提升。横向对比,多模态带来了更完整的体验,纵向对比,单就纯文本模型的能力一直在提升。

清华大学人工智能研究院副院长、生数科技首席科学家朱军补充了一个现象来解释他眼中的 AI 提速——学习曲线正在变得更加陡峭。追上一个技术的时间正在缩短,因为大家整体的认知和准备都更加充分,不像 ChatGPT 刚出来时,多少有点不知所措。

当然,看到明确的AI技术在提速是一方面,实际做的过程中,创业者们也更早地看到了脚下的瓶颈。

从大模型算力、算法、数据的黄金三角来看,互联网几十年的优质数据很快会被用完;当前算法下,预训练的 Scaling Law 正在走入瓶颈。姜大昕谈到了现在大家的一个普遍观点:GPT4 到了万亿级参数之后,再去 scaling 它的参数,边际收益是在下降的。

而且不少人可能都注意到了,Elon Musk 前段时间在 X 平台上展示了自己花百亿美金,迅速拉起的十万卡的「豪华」GPU 集群。Scaling Law 这么玩,可参与的选手一定就很少了。密度才能带来创新,如果最终真的要靠比如 OpenAI 一家来交付所有人的智能,这事并不那么靠谱。

但就在这时候「o1」来了,通过把强化学习的训练框架引入语言模型,从算法上打破了当前的创新瓶颈。

技术角度看,o1 展现了继续大幅提高模型技术水平上限的方法;能力水平看,o1 也展现了语言模型可以解决复杂推理问题的能力。从这两点 o1 所代表的重要性来说,这几乎是未来 18 个月最令人兴奋的进展。

过去的 GPT 系列语言模型,原理是预测下一个 token,对应人脑的快思考(系统 1),但 o1 通过引入强化学习的训练框架,第一次证明了语言模型也有慢思考(系统 2)的能力,让 AI 不仅能「读万卷书」,也能「行万里路」,也就是说让 AI 能通过规划、行动、自我反思、验证等过程不断试错和探索,直到找到正确途径。

对于这条技术路径的前景,杨植麟打了一个比方,他说「o1」提高了 AI 的上限,这个上限的提升,是把现在努力提升 5%、10% 的生产力水平,做到 10 倍的 GDP,这完全有可能实现,关键是弄清楚如何通过强化学习进一步 Scaling。

其实强化学习在上一代 AI 浪潮里就已经成为明确的技术方向,DeepMind 在 AlphaGo、AlphaFold 和 AlphaGeometry 中走的都是强化学习路线,但 o1 的出现,在强化学习通用性和泛化性上了一个大的台阶,它把强化学习 scale 到了一个很大的规模,姜大昕把它看成 scaling 带来的技术新范式,「强化学习的 Scaling」。

当前,o1 在有明确对错的代码、数学、原理证明等多个领域展现了强大的推理能力,但 RL(强化学习)究竟怎么去泛化,OpenAI 并没有被公开具体方法,也不能保证 OpenAI 最终一定可以把 o1 泛化到完全通用的领域。原因就像朱军解释的那样,你很容易告诉模型代码、数学等问题的优化目标是什么,但在更广泛、通用的场景里,如何告诉模型什么是对、什么是好,这种人类都可能没有对齐的目标。

不过在一个确定的方向上存在不确定的事,对创业公司也是好事,否则就没有创业公司的机会。一个技术新范式的开端,恰恰会让创业者觉得非常兴奋。相当于OpenAI找到了一条上限很高的道路,通过仔细琢磨它背后的方法,创业者有很多新的可能性。

在这一点上,杨植麟的判断很有启发,他认为o1 之后,接下来最重要的可能是「开放性的强化学习」,比如说在产品上跟用户交互,在一个真实的环境里面让智能体完成任务,然后自己去进化。

「武器库」多了一个武器,对做 AI 应用的创业者来说,怎么都不是坏事。o1 这样上限更高的复杂推理模型,还可能会把 B 端的 AI 应用从当前的 copilot 助理类产品,推向 autopilot 让 AI 自己独立完成闭环任务的程度,场景上也会渗透到更纵深的生产制造环节。

同时,ToC 应用也有了 copilot 和 autopilot 智能体协同作业,为用户提供更好体验的机会。如果说大语言模型是让人看到了一个令人期待的新大陆,那么这 18 个月最大的进展就是在这新大陆之上人们找到了可以培育新文明的绿洲,它还需要很多建设,但它值得建设。

 

02 从数字世界的共识,到物理世界的共识

当模型技术的上限看到明确提升的路径,「老问题」回来了,AI 应用什么时候爆发?

今年,很多人降低了对 AI 的预期,是因为原本期待的 SuperAPP 并没有出现。言外之意,大家觉得 AI 应用最大的想象力就是这个了。但在今年云栖大会上,你会发现,未来不止是数字生产力场景这些「小」场景,在自动驾驶、具身智能等「大」场景上,也正在一步步有路径地解锁。而原本大家想象的「在数字世界的爆发」很可能变成在物理世界的「浸润」。

主论坛上,阿里巴巴集团 CEO、阿里云智能集团董事长兼 CEO 吴泳铭在主题演讲中也给出了明确的判断。他认为生成式 AI 最大的想象力,绝不是在手机屏幕上做一两个新的超级 App,而是接管数字世界,改变物理世界。

相应地,AI可以发挥的场景空间,就不只是移动互联网的延展,而是一次对物理世界的变革。

清华大学人工智能研究院副院长、生数科技首席科学家朱军类比自动驾驶 L1-L5 的分级,让现场观众看到 AI 对物理世界改变的明确路径。他说,L1 相当于 ChatGPT 那样的聊天机器人;L2 可以做复杂问题、深度思考的推理;L3 叫智能体,对应吴泳铭提到的从「数字世界」走向「物理世界」;L4 是要去自主发现和创造新知识;L5 可以去协同高效地运转。

在不同垂类任务上,AI 目前所处的阶段不同。总体上,我们现在正在从数据世界迈向物理世界的阶段,按照朱军的类比,也就是处于:正在渗透 L2,迈向 L3 的阶段。并且,在通向物理世界的技术路径选择上,也形成了相对明确的共识。

当前在物理世界,大模型影响最大的两个硬件领域是汽车和机器人。

汽车领域,自动驾驶技术的目标一直很明确——实现完全自动驾驶,但不同公司的实现路线有所不同。

以特斯拉为例,它采用的是从 L2 级别(部分自动驾驶)逐步向 L4 级别(高度自动驾驶)发展的策略。与特斯拉不同,Waymo 则选择直接切入 L4 级别,采取更为激进的方法。他们都使用了较小的模型和规则算法,通过解决尽量多的 corner case 去提高自动驾驶的接管能力。

但最近,业界越来越流行一种新的路线,端到端大模型。这一次,大模型路线为自动驾驶带来的是蜕变,还是局部优化?它是实现自动驾驶的最终路线吗?

小鹏汽车董事长&CEO 何小鹏称,过去多年的自动驾驶可以做到在高速开、在城市里开,但是它是用规则写的,而规则无法面对世界上的所有场景,哪怕只在开车这一个专业的业务上,有很多想不到的 corner case。

很多人可能记得 2023 年 9 月 2 日,1200 万人围观马斯克的特斯拉 FSD v12 的自动驾驶直播,45 分钟的车程里,他只接管了一次。这是端到端大模型带来的变化,马斯克称,「它可以读懂标志,但我们从来没有教过它」。有了端到端大模型,自动驾驶的高度可以做得更高,下限也可以提高。

对于最普通的用户,从现在到未来的 36 个月,端到端大模型可以让每一个人在每一个城市都像老司机一样开车顺滑,更「拟人」也更流畅,这是何小鹏多次尝试特斯拉 FSD 最直观的感受。

之前的智能驾驶系统,速度控制生硬,处理突发情况时会突然刹车或加速,带有明显的机械感。尤其是在狭窄路段或恶劣天气等特殊情况下,这种生硬的速度控制会让用户感到不安。

但端到端大模型最大的提升在于速度和转向控制的顺畅度。乘客即使在后排坐着,也几乎感觉不到在红绿灯启停和路口转弯时的任何顿挫感。

对于自动驾驶未来的终极路线,何小鹏和英伟达全球副总裁、汽车事业部负责人吴新宙也给出了一致的判断。从现有技术的框架上来看,大模型、生成式AI的方式不一定是实现自动驾驶的终极方式,但它一定是一个巨大的突破,比以前的算法、泛化、规则模型要强,这会给 AI 汽车带来巨大的变化。

如果把未来所有能移动的物体都视为智能机器人,汽车只是一个场景,更多机器人将迎来巨变。

在这个领域,具身智能是共同的信仰。当前,大模型给机器人带来更通用和泛化的大脑,让人们看到了未来机器人与人类能够并肩交流、协作的可能。这也是宇树科技创始人、CEO 王兴兴从几年前坚决不做人形机器人,到现在宇树已经推出两款人形机器人的原因。

现在,「o1」模型有自我反思、验证的能力,逻辑能力也大大提升,未来可以预见的是,一定能够提升机器人与人的交互能力和机器人的任务拆分的能力。

不过,大语言模型包括最新「o1」所代表的技术新范式,解决的仍是大脑问题。如果真的想要进入具身智能的时代,机器人本体控制,也就是「小脑问题」,仍待解决。

上周,创新工场联合首席执行官、管理合伙人汪华对具身智能时代未解决的问题也做了总结:一是硬件本身,包括传感器,依然有很多的瓶颈。具身智能的本体,是不是人形、有没有下肢、怎么做等也尚未达成共识。

二是可泛化的运动控制。现在机器人都是基于物理计算,或者是基于单项任务的模拟仿真、强化学习。而人的动作是非常复杂的,可以抓、拧、掏、抠,现在其实还没有一个在运动控制上的 GPT。

问题都是现实的,但是有了一旦有了明确的技术前进路径,从科学问题变成了工程问题,这也就到了创业者们可以发挥作用的时代。

 

03 巨头的进取心「归位」

技术在涨、场景在解锁,对底层基础设施的需求也在变化。

在跟创业者交流的过程中,他们调侃当前做大模型和 AI 应用时对算力的「复杂情感」时称,讲卡伤感情、没卡没感情、用卡费感情。尤其是「o1」带来新的技术线后,推理端的算力直接决定算法和产品创新的可能性。所有行业,都需要性能更强、规模更大、更适应 AI 需求的基础设施。

吴泳铭在这方面的思考非常本质,他指出,生成式 AI 让世界有了一个统一的语言——Token。它可以是任何文字、代码、图像、视频、声音,或者是人类千百年来的思考。AI 模型可以通过对物理世界数据的 Token 化,理解真实世界的方方面面,比如人类行走、奔跑、驾驶车辆、使用工具,绘画、作曲、写作、表达、教学、编程的技巧,甚至是开公司创业。理解之后,AI 就可以模仿人类去执行物理世界的任务。这将带来新的产业革命。

当 Token 成为统一语言后,未来几乎所有的软硬件都会具备推理能力,它们的计算内核将变成 GPU AI 算力为主、CPU 传统计算为辅的计算模式。

从阿里云客户的需求分布来看,这一变化正在加速演进,阿里云超过 50% 的新需求由 AI 驱动产生。生成式 AI 对数字世界和物理世界的重构,正在让计算架构发生根本性变化。

18 个月的时间里,阿里云这样的基础设施巨头,看起来对未来的进取心明确「归位」了——正在以前所未有的强度投入 AI 技术研发和基础设施建设。

在 2024 杭州云栖大会上,阿里云展现了围绕 AI 时代的新基建,其中单网络集群已拓展至十万卡级别,正在从芯片、服务器、网络、存储到散热、供电、数据中心等方方面面,重新打造面向未来的 AI 先进基础设施。

基础设施之上,阿里云也升级了在 AI 模型与应用的最新产品。其中,通义大模型迎来了年度重磅发布。基础模型升级,性能媲美 GPT-4o。

这种「进取心归位」也体现在对开源路线的明确态度上。这次可以清晰看出阿里云继续秉承了成为「AI 时代最开放的云」的使命,最强开源模型 Qwen2.5 系列,同时上架了语言、音频、视觉等 100 多款全模态模型。通义开源模型累计下载量已经突破 4000 万,通义原生模型和衍生模型总数超过 5 万,模型生态全球第二了,仅次于美国 Llama 的世界级模型群。

提高自研模型能力和坚持开源是一方面,帮助更多大模型创业公司生长则是阿里云在大模型布局的另一面。去年以来,阿里云先后向月之暗面、Minimax、智谱 AI、百川智能和零一万物等 AI 公司注资数十亿美元,成为国内最激进支持大模型创业公司的互联网大厂。这也反应了阿里云明确了自己在 AI 时代的定位,不是要什么都做,而是在新时代继续成为最好的基础设施,用开放的态度,做最有利于推动变革进程的事情。

大模型所带来的第三次云计算浪潮不同以往,当前的 AI 技术日新月异,技术栈远未收敛。跟阿里云在 2009 年力排众议立项第一台云计算操作系统「飞天」时不同,尽管当时也是从 0 到 1,但大体上技术栈是明确的。彼时,阿里云成功地带来了云计算,让阿里巴巴有了自己的技术引擎,改变了互联网,为商业、社会、为人,带来了新变化。

从目前阿里云的一系列布局中,我强烈地感受到阿里云的决心,就是建设「一张遍布全球的、理想的 AI 云计算网络」。今天所有发布的、在研的,都是在围绕这样一个理想的 AI 云计算网络打造,让开发者、生态伙伴、客户能够随时方便取用这张网络。

根据阿里云创始人王坚的定义,人工智能给中国云计算的发展带来了「第三次浪潮」:其中,第一次浪潮,出现在十年前,出现了以 Netflix、米哈游为代表的云原生企业,中国的云计算业务在这个阶段起步,但由于国内市场成熟得太慢,便落后于海外;第二次浪潮,出现在传统企业采用云计算之时,但并没有将中国的云计算拉上正确的发展轨道;第三次浪潮,正发生在当下,由生成式人工智能带来机遇,数据、模型、和算力的组合,正在让 AI 云计算成为 AI 时代的基础设施。

就像「飞天」操作系统的诞生为第一次云计算浪潮带来了像米哈游一样的原住民。一张遍布全球的理想的 AI 云计算网络上,也会长出新一代「AI 云原生」的新商业力量,而且些力量不再是先从手机屏幕中的数字世界诞生,再慢慢延展到物理世界的企业生产力进步,而有可能是把信息化、数字化、智能化三步并一步,被智能生产力的供给侧革命所推动,形成跳跃。

所以数字世界的 App 们在「明修栈道」,物理世界的企业也在「暗度陈仓」。而阿里云这样的基础设施,也只有这个进程里才能最终因为创造更大价值,而收获更大价值。这个目标,才能配得上今天「先干为敬」的进取心和投入。

所以,从 AGI 技术客观上的加速进展,到技术革命的共识从数字世界延伸到了更大的物理世界,再到阿里云这样的巨头完成进取心明确,开始「先干为敬」……这些客观上的变化,可以看作对过去 18 个月的总结。这也应该成为对 AI 技术革命未来信心的基础。

这能改变整个社会以及资本环境今天对 AI 的「信心回调」吗?理性的看,估计作用有限。

但看清这些,对做事的人,意义重大。因为绝对的共识往往对做事的人都没什么价值,而保持一定的「非共识」才是对 Doer 最好的环境。归根结底,每个人都应该走出 FOMO,完成「进取心归位」。

 

浏览量: 64

预训练的 Scaling Law 正在走入死胡同,o1 让更多创业公司重新复活

北京时间 9 月 13 日凌晨,OpenAI 在官网发布了其最新一代模型,没有延续过去 GPT 系列的名称,新模型起名为 o1,当前可以获取 o1-Preview 和 o1-mini 这两个版本。

当天,Sam Altman 在社交平台上兴奋地称,「『o1』系列代表新范式的开始」。

但这可能是第一次,外界比 OpenAI 的掌舵人 Sam Altman 本人,更加兴奋地期待 OpenAI 的新品发布。这份期待里,无关对赛道第一名的艳羡,更多是同呼吸、共命运的决定性瞬间。下一代模型是否有惊人的进展?能否为 AGI 的浪潮和梦想完成信仰充值?

今年,你可能也对 AI 这个字眼麻木了,去年有多狂热,今年就有多麻木。原因无他,在 AI 的落地应用上,看不到信心二字。截止目前,仍未出现颠覆性的 AI 应用;Inflection.ai、Adept.ai、Character.AI 等最头部的明星公司接连被大厂纳入麾下;科技巨头们在财报周被反复拷问 AI 的巨额资本支出何时看到回报……

这些情绪背后,都指向同一个问题,那个所谓的第一性原理「Scaling Law」可以通向 AGI 吗?以今年十万卡、百亿美金投入,换取模型性能线性增长、乃至对数级增长的门槛来看,这注定是一场玩不起的游戏。不少人开始质疑它的合理性,这波 AI 不会就这样了吧?

这是「o1」诞生的时代性。

在 OpenAI 交出答卷后,AI 创业者表示「又行了」。不同于预训练的 Scaling Law,一条在推理阶段注入强化学习的路径成为明确的技术新方向,徐徐展开。

极客公园「今夜科技谈」直播间也在第一时间邀请极客公园创始人 & 总裁张鹏,和创新工场联合首席执行官/管理合伙人汪华、昆仑万维首席科学家&2050 全球研究院院长颜水成,一起聊了聊 o1 所代表的新范式及创业者脚下的路。

以下是直播沉淀文字,由极客公园整理。

 

01「o1」释放了明确的技术信号,但更期待下一个里程碑

张鹏:从去年传出「Q*项目」到现在,OpenAI的强推理模型「o1 系列」终于发布了。实际用下来,「o1」的发布符合你们的预期效果吗?

颜水成:我用 o1 做的第一件事情是,把我女儿做的数学题输进去看结果,o1 的表现令人惊喜。它解题的逻辑顺序、总结的 CoT(Chain of Thoughts,思维链)信息,让人觉得很不一般。

如果是用 GPT-4 或 GPT-4o,只是做下一个 token(词元)的预测,其实我们心里会打鼓、会怀疑:只是做下一个词元的预测,是不是就能实现复杂推理过程。

但 o1 相当于在回答问题之前,先引入用 CoT(思维链)表示的思考过程,把复杂问题先用 planning(规划)的方式将任务拆解,再根据规划的结果一步步细化,最后把所有结果做总结,才得到最终结果。

一个模型的好与不好,关键在于它是不是直觉上能解决问题。GPT-4 和 GPT-4o 还是一种快思考,这种快思考不太适合解决复杂推理问题;但是 o1 是一种慢思考的过程,像人一样思考,更可能解决一个问题,尤其是跟数学、编程或者逻辑有关的问题。o1 所代表的技术路径未来会走得非常远,带来非常大的想象空间。

汪华:我觉得 o1 是一个非常好的工作,水到渠成,符合预期。符合预期是说这个时间点该有成果了,为更高的未来预期打开了通路,但并不 surprise,没有超出预期。

因为这个工作其实从去年就已经有一系列的线索,包括 OpenAI、DeepMind 出的一系列的论文像 Let』s Verify Step by Step (OpenAI, 2023),以及其他像 Quiet-STaR 和 in-contest reinforce learning 中都有迹可循。

大家用强化学习、包括用合成数据去串 Reward Model(奖励模型)或 Critic Model(评判模型),或者后来用各种各样结构化的推理来提高模型正确率。事实上,无论是 OpenAI、Meta,还是其他大厂,大家现在都已经在做类似的工作,这个方向其实是大家的一个共识。

不光 OpenAI,很多其他模型在数学、编程、推理上都已经有了很大进步,就是因为或多或少用了一部分这方面的技术,但 OpenAI 发布的 o1 是集大成,并且工作做得非常好,而且里面应该有它独特的工程探索。

图片来源:OpenAI 官网

张鹏:预期之内,但还不够惊喜。

汪华:对,整个框架还是在预期范围之内,没有像 GPT-4 或者 GPT-3.5 发布一样带来很大的惊喜。

你会发现 o1 针对推理等各方面性能的增强,还是在一些有明确对与错和封闭结果的领域。比如 o1 展现的代码、学术解题,包括数据分析能力其实都属于有明确信号的领域。

哪怕是在明确领域,比如数学编程的问题,它在做得好的问题上表现非常好,但在一些问题上也做得不太好。也就是说,可能它在训练 Critic Model(评判模型)或者 Reward Model(奖励模型)的时候,对于下游任务的泛化,可能还是遵循物理规律。如果对下游任务覆盖得好,它就做得好;如果覆盖得不好、下游任务没见过这些数据,或者 reward model 没法很好地给予 reward 的时候,它泛化也不一定真的能泛化过去,所以从这个角度来讲,o1 没有特别的超出常识的部分。

我还测了一些更加通用推理的场景,在这些领域,o1 增强得还不太多,很多也没有带来增强的效果。

实际上对 OpenAI 抱持更高的期待是,希望它下一步能做到,把推理泛化到通用领域。

当然现在端出这么一个非常完善的工作,把这件事给做出来,OpenAI 这点还是非常厉害的。而且在跟 OpenAI 的同学聊天时,能感觉到他们在做更难的事情,朝着通用推理的方向在做,只是可能现在还不成熟,所以先放出来对于 signal(技术信号)更明显的阶段性成果,在代码、数学方面的工作。所以我也非常期待,什么时候 OpenAI 能把下一个里程碑也克服了。

 

02 强化学习不新鲜,「o1」在用强化学习上有创新

张鹏:o1 已经能在一些领域展现出复杂推理的能力,其中很重要的原因是,强化学习在 o1 系列模型里扮演了非常重要的作用。怎么理解强化学习在新一代模型里起的作用?

颜水成:强化学习是一个存在时间蛮长的方向,把这个技术用得最好的团队应该是谷歌 DeepMind,他们一开始就是从这个角度出发,去解决真实世界的实际问题。

我个人觉得强化学习在 o1 里最核心的点,不在于使用强化学习,因为强化学习在 GPT-3.5 里就已经用了PPO(一种强化学习算法),用一个奖励函数去指导 PPO,进而优化模型参数。

强化学习优化一个描述长期累计 rewards 的目标函数,而原先传统算法只是求解损失函数。相当于,在优化 policy action(策略动作)的时候,需要考虑未来所有奖励的总和。

具体来说,像在围棋博弈中,它会用 self-play(自我博弈)的形式去收集 action-status 序列,这个过程自动生成一个奖励值,而不是说去学一个奖励函数。它是直接自动产生出奖励,或者说人工可以定义奖励,用这些奖励就可以把策略学出来,然后逐步提升策略。它最大的特点是整个过程不需要人类干预,不是像 RLHF(根据人类反馈的强化学习),有很多的步骤需要人去反馈。

我觉得其实 o1 跟原来的强化学习有一个最本质的差别。有人认为,o1 的原理可能与斯坦福大学团队 (E Zelikman et al, 2024) 发表的 Quiet-STaR 研究成果最相关。Quiet- STaR 的一个特点是从 CoT(思维链)的角度出发,但是 CoT 并不是一开始就存在。

要做推理问题,原本有最初的文本存在,如果在文本里面再插入一些 CoT 的信息,它就能提升推理效果。

但当我们希望去解决通用的、复杂的推理问题时,大部分的情况下 CoT 是不存在的。那么在强化学习的 pipeline(流程管道)里面,如何把这些 CoT 的信息一步一步生成出来是非常困难的。

这就要问 o1 的模型架构是什么?是一个模型它既可以去做规划,又可以根据规划去生成 CoT,又可以做自我反思(self-reflection),又可以做验证,最后做一个总结,这些所有的事情。还是说其实是好几个模型,一个模型根据信息生成 CoT,另外一个模型做反馈,两个模型相互交互,逐步把结果生成。目前 o1 还不是特别清楚,两种可能都能做,单一模型可能会让整个过程更优雅。第二种可能实现起来会更容易一些。

如何用合适的方式把 CoT(思维链)生成,我觉得这是 o1,跟其他的强化学习区别最大的地方。这里的细节还不是很清楚,如果清楚的话,o1 的黑盒问题可能就解决了。

张鹏:怎么把强化学习运用到这一代推理模型里?是一个单体的超级智能、还是一个集体决策,这些还没有被公开。

颜水成:上一代的强化学习,可能更像下围棋,通过别人已有的棋局,先学了一些东西以后再接着往前走。我觉得要做通用、复杂推理的话,它就会碰到很多从零开始(zero start),可能一开始根本没有 CoT 的数据,这种情况大概怎么去做学习,有待探索。

2015 年,DeepMind 推出了 AlphaGo,这是第一个击败围棋世界冠军的计算机程序,通过强化学习,其后继者 AlphaZero 和 MuZero 基于自我对弈与强化学习的方式,变得越来越通用,能够解决许多不同的游戏以及复杂的现实世界问题,从压缩视频到发现新的更高效的计算机算法。|图片来源:DeepMind

张鹏:为什么把强化学习放到模型里,成为接下来发展的共识?这个共识是怎么达成的?核心都是要解决什么样的问题?

汪华:技术上有颜老师在。从商业角度,大家还是在讨论模型的智能上限这样一个问题。

举个例子,哪怕是一个员工的应用场景,小学生能干的工种,跟中学生、大学生能干的工种,差别还是非常大的。所以模型的幻觉,或者说模型的复杂指令遵循能力、模型的长链路规划和推理能力,已经制约了模型的进一步商业化,哪怕我不是为了实现 AGI(通用人工智能)。

所以大家早就已经有这个说法了,一开始就有「系统-1」「系统-2」的说法(快思考和慢思考)。基本上预训练相当于知识的压缩,它本身就跟人的直觉一样,没法进行复杂的推理,所以必然要找到一个方法来实现「系统-2」。

在实现「系统-2」的时候,用各种各样的结构化推理,包括用各种各样的强化学习,有一个正好的规划,更稳定的模型输出,更好的指令遵循,包括让模型不光是学会知识本身,包括按什么样的 pipeline(流程管道)去使用知识。比如人类在解决问题 A 时会用思维框架一,解决问题 B 时会用思维框架二。像这些问题怎么来做?大家手里的武器库,其实除了 LLM,就是强化学习。

而且我特别同意颜老师刚刚的说法,具体实现上用了一个模型还是两个模型,只是一个工程问题,但 CoT 的数据从哪里来?包括怎么来实现一些真实世界的模拟和对抗,这个反而是大家一直在试图攻克的难点。代码和数学之所以能被很快地解决,是因为它的信号非常明确,对就是对,错就是错,而且它的步骤合成,合成它的推理 CoT 数据其实是相对比较容易的,奖励或者 Critics(评判)也是相对比较明晰。

颜水成:就相当于说奖励能直接获得。

汪华:更难的就是代码和数学之外,世界上那种复杂的、复合的,甚至开放结果的,没有明确的、绝对对错的,甚至没有唯一执行路径的这些问题怎么办。我觉得把这个问题给解了,难度要比一个模型和两个模型其实要难得多。

颜水成:o1 这个框架里面我觉得应该还是有一个奖励函数存在的,不然就没办法推演到通用的复杂推理。

 

03「o1」发展下去,更接近一个「超级智能体」张鹏:o1 跟跟此前的 GPT 系列相比,是两个技术方向,可以这么理解吗?

颜水成:对,o1 表现出来的行为不再是下一个 token 的预测了,而更像是一个超级智能体的样子,未来可以处理多模态、可以处理工具,可以处理存储记忆,包括短期和长期的语义记忆。

《思考,快与慢》,诺贝尔经济学奖得主丹尼尔·卡尼曼经典之作,介绍了大脑的两种思维系统:系统 1 快速直觉、系统 2 缓慢理性|图片来源:视觉中国

我个人是认为 o1 这个技术方向肯定是对的,从 GPT-4 到 o1 的话,其实就是从「系统-1」到「系统-2」的一个转变。今年 5 月我做过一个演讲,AGI 的终局可能是什么东西,当时提到了两个概念,一个概念叫做 Global Workspace(全局工作空间),一个叫超级智能体。

Global Workspace(全局工作空间)在心理学和神经科学领域里的一个理论,是说大脑里除了专用的子系统,比如视觉、语音,触觉等子系统之外,可能还存在一个区域叫做 Global Workspace。

如果「系统-2」,就是多步和多模型的形式一起来完成的话,现在 CoT(思维链)产生的结果,它非常像 Global Workspace 的工作原理。用一个注意力的模型,把文本的、未来多模态的、工具等信息都拉到这个空间,同时也把你的目标和存储的记忆(memory)都拿到这个空间里进行推理,尝试新的策略、再做验证、尝试新的可能性……不停的往前推理,演绎的结果就是最终得到分析的结果。推理时间越长,就相当于在 Global Workspace 里的推演过程越长,最终得到的结果也会越好。

对于复杂的任务无法用「系统-1」(快思考)一竿子到底,就用「系统-2」(慢思考)的 Global Workspace,把信息逐步分解、推演,同时又动态地去获取工具,动态地去获取存储记忆,最后做总结,得到最后的结果。

所以我觉得 o1 发展下去,可能就是「系统-2」(慢思考)的 Global Workspace 的 AI 实现方式,如果用 AI 的语言来描述的话,其实它就像是一个超级智能体。也就是说,o1 发展下去,可能就是一个超级智能体。

 

04 LLM+RL 的模式,是否可以通向泛化推理?

汪华:强化学习相关的共识其实很早就有,但大家一直也没解决好问题。当年强化学习也很火,还被视作 AGI 的一个通路,包括机器人领域也都是用强化学习,但当时就遇到了这个难题:对于非常明确的任务,奖励函数很好建、任务的模拟器也很好建;但一旦扩展到真实世界的泛化任务时,就没法泛化,或者没法建立能完整模拟真实世界各种各样、复杂奇怪的任务模拟器,也没法去建立对它很好的奖励函数。

您觉得按现在这条 LLM(大语言模型)加上 Reinforcement Learning(强化学习)的模式,不止是在有明确信号的领域比如代码、数学,如果要往泛化推理走的话,要怎么走?

颜水成:一个最大的差别就是,原来的强化学习,它的泛化性能不好。每次可能是专门针对一个游戏、或者一组类似的游戏去学一个策略。但是现在它要做通用的复杂推理,面对所有问题都要有能产生 CoT 的能力,这就会变成是一个巨大数据的问题和工程的问题。

我非常认同汪华的观点,在数学、编程、科学这些问题上,可能比较容易去造一些新的 CoT 数据,但是有一些领域,想要无中生有地生成这些 CoT 数据,难度非常高,或者说还解决得不好。

要解决泛化的问题,数据就要足够多样,但在通用场景的推理泛化问题上,这种 CoT 的数据到底怎么生成?

或者也有可能根本就没有必要,因为那个问题可能已经解决得很好了,你再加 CoT 可能也没有意义,比如说在有一些问题上,可能感觉 o1 没有带来本质的效果提升,可能因为那种问题本来就已经解决得非常不错了。

张鹏:强化学习在下一代的模型里要扮演更重要的作用,会带来什么影响?

汪华:如果大规模采纳这个方案,算力会更短缺,推理会变得更重要。

因为之前说推理成本将来会降 100 倍,现在如果往强化学习的方向发展,推理成本就更需要降了,因为解决问题要消耗更多的推理 token。降低推理价格其实等效于推理速度提升,需要把推理所需的时间压缩下来,很多应用才会变得可用。

第二,模型大小也要变得非常精干,因为如果无限的扩张基模尺寸的话,推理速度会变得更慢、也更昂贵,从商业上来讲就更加不可行了,因为采纳结构化推理,可能要消耗 100 倍的 token 来解决同一个问题。

张鹏:你怎么看 LLM+RL 的前景,推理泛化的路径是清晰的吗?

汪华:o1 之后 AI 的未来怎么发展,其实我相对比较保守,什么事情都做两种打算。

第一种是,我们在很长段时间内没有找到泛化的方法。但即使是这样,我个人认为依然是一个巨大的进步。因为这虽然意味着很多开放的、复合的、非常复杂、模糊的问题上,我们没办法用这个方式来提升,但是商业场景下有大量的问题,比如法律、金融领域,很多问题是封闭的、明确的。在这些问题上可以通过这条路径,去合成数据、去做奖励模型、判别模型(critic model),极大地提高垂直领域的性能,甚至把性能提升从 Copilot(辅助驾驶)提升到 Autopilot(自动驾驶)的地步,这就是一个飞跃性的改变。

无人驾驶汽车|图片来源:视觉中国

这个场景有点像回到 AI 1.0,但比 AI 1.0 好,因为会针对垂直领域会做出一个个垂直的模型或者一套体系,从商业角度上来说已经是个巨大进步了。现在大家天天忙着做 copilot,没法做 autopilot,就是因为模型不擅长做长推理,一做复杂问题就出错,产生幻觉等问题。

第二种,如果能实现通用模型的话,影响就比较大了。哪怕不一定带来 AGI,它的泛用性、泛化性差、解决问题依然比人差,正确率没有高的,但只要高过普通人的平均水平,那也可以给世界上 70% ~ 80% 的事情带来自动化。你要知道我们很多成年人也做不对奥数题,而且我们自己也有「幻觉」。

 

05 建立真实世界模拟器:能读万卷书,也能行万里路

张鹏:在今天这个节点看得见希望,但是可能一颗红心两种准备。哪怕不能够完全泛化,今天也能解决很多问题了,比如在专用领域里可以做到通用能力达标。

汪华:对,能不能实现推理泛化,我个人觉得关键在于能否构造一套泛化的「真实世界模拟器」。构建这个真实世界模拟器,可能难点在于数据加上算法等一系列的因素。

因为模型跟人互动,解决这些开放问题的时候,本质上是在跟真实世界互动,真实世界就是那个奖励函数或者判别函数(Critic Model),能不能建立一套新的方法论,能真实地模拟这个真实世界的反馈,而且能脱离人类反馈。

之前的 SFT(精调),包括之前的强化学习本质上是基于人类的反馈(RLHF),这就像 AlphaGo 只是跟着人类棋谱学习,而不能左右互搏,效果肯定是有限的。

构建这个「真实世界模拟器」,可能难点在于数据加上算法等一系列的因素。这个模拟器一旦建立了,模型会产生无限的数据,就像 AlphaGo 互相下棋,它可以下 100 万盘、 1000 万盘、1 亿盘,而且它来判阵输赢,通过输赢的判断去模拟棋道真谛。

张鹏:有点像它是要创造一个真正有效的世界,AI 在里面能「解万道题」,甚至「行万里路」,而不只像原来那样「读万卷书」,这个东西其实最终才能通向更广泛化的意义,而不受限于人类的反馈、等着人类师傅带,成本很高、泛化也很难。

汪华:而且这里面其实在我看来分两个阶段。第一阶段就是 LLM(大语言模型)的阶段,预训练的阶段就是压缩知识,学习人类的知识,而 RL(强化学习)的阶段是练习和摸索思维方式。两个阶段培养两种能力,最后都压缩到这个 LLM 里面的 Latent Space(潜在空间,深度学习中一种数据的低维表示形式)里面。

Sam Altman 在 X 平台称,OpenAI o1 是新范式的开始|截图来源:X.com

 

06 Sam Altman 所谓「新范式的开始」,有几分可信

张鹏:作为这次 OpenAI 发的新模型,「o1」不再延续过去 GPT 系列的叫法,比如 GPT 四点几,而是开启了 o 系列新模型代号。同时 Sam Altman 称这是一次新范式的开始。我们怎么理解这个所谓的新范式?

颜水成:如果按照 Global Workspace 这套理论去对照「系统-2」(慢思考)和「系统-2」(快思考),o1 和 GPT-4 是有本质差别的,其中最大的差别在于,它会在解决问题的过程中产生 CoT(思维链)。

一年前有人说 Ilya Sutskever (OpenAI 联合创始人) 在「草莓模型」(o1 之前的代号叫草莓)里发现了一些让人震惊的、可怕的事情。今天可以大概推测,他当时到底在草莓模型里面发现了什么东西。我觉得他发现的就是 AI 的学习过程,RL(强化学习)和 CoT(思维链)相结合,他发现系统具备自己挖掘 CoT(思维链)的能力。

我个人认为,CoT 的过程,不是纯粹从已有的知识里去提取知识。CoT 的过程跟人类的思考过程一样,会展开不同的分析组合,包括验证、自我反思等。CoT 过程结束之后,其实一个新的知识就产生了,因为你其实会对以前的知识进行再加工,可以认为这是一个新知识。

当模型具备自动产生 CoT 的能力,意味着它有知识发现和知识增长的能力,新的知识可以重新完善(refine)模型,也会注入(inject)到模型自我的知识里,AI 就可以实现自我提升(self-improving)的能力。

从这个角度看,o1 如果能够自动地去做挖掘 CoT,它真的就是一个新范式的开始。它不只是提取已有的知识,而是不断地产生新的知识,是一个知识增长的过程,是一个用算力去挖矿的过程,挖掘出新的知识。知识就会越来越多,AI 就能做研究者能做到的很多事情。

张鹏:要这么说的话,人类的科学发展进程也是人类不断产生 CoT 的过程,现在发现模型具备了 CoT 能力,自己能够获得更多知识,也能基于这个知识再优化自己,有了「自我进化」的能力。这可能是新范式代表的含义,当我们要需要模型更有效地解决问题,有赖于它自主产生 CoT 的能力,并能够自我进化。

颜水成:所以有可能,OpenAI 把所有大家问的问题、信息全部都存下来,然后再拿这部分东西训练模型,就可以把模型的能力进一步提升。相当于全世界的人用自己的钱、用他的算力去进行了知识的扩展,然后扩展出来的 CoT 结果,又可以使模型变得越来越强。如果从这个角度来说的话,确实是一种新的范式的开始。

擅长布道和公关的「融资大师」Sam Altman|图片来源:视觉中国

张鹏:直播间里有观众说得很直接,说 Sam Altman 口中的「新范式」就等于「OpenAI 融资难了,需要有一些新的话术」。你觉得他说的新范式,是一个给大家提高预期、一个信仰充值的东西,还是说会再开启一个所谓的新范式?

汪华:从投资人的角度来讲,现在中美投资人,已经初步过了「为了科学突破而感到激动」要投钱的时间点了,都在忙着看商业化,会看这个东西到底解决什么问题。虽然投资人可能比较俗气,但是过去一年多毕竟也是砸了那么多钱进去,千亿美金的算力、Infra 等都投进去了。

对创业公司或者大语言模型的发展来讲,我个人认为是一个新范式,而且是大家已经期待的新范式。过去的 Scaling Law 每次都要 100 倍的算力(扩张),指数级别的算力增长,然后只得到线性的模型性能提升。这会带来两个问题,第一,怎么再继续扩张(scaling)下去。第二,对于创业公司、研究机构,包括新的 idea 的出现,是一个绝对的扼杀,因为最后只有少数的帝王级企业,才有资格去做这件事。

但「o1」代表的范式,把很多东西拉回来了,世界可以更多元化了。不是说不要 Scaling Law  了,可能新范式下依然是模型越大效果越好。但有了「o1」所代表的新范式,Scaling Law 可以从更小的模型做,而可能这个模型算力提升 10 倍就能看到原先百倍的效果,而不是要指数级别的提升才能看到很多进步,包括对于各种各样的商业化也更友好了。

所以从商业角度来讲,我个人觉得「新范式」是有潜力发生的,而且是必须的。按原来那条 Scaling Law 是一条死路,都不说再 Scaling Law 下去全世界的数据够不够用这个问题,在 Scaling Law 下,全世界还有多少人能做这件事都是问题。

 

07「o1」打破了预训练的 Scaling Law 瓶颈,商业上解锁了新的可能

颜水成:所以其实最近有不少公司,也基本上觉得纯粹的基础模型的预训练意义已经不大了,因为基本上是 10 亿美金级了。

汪华:而且你就算训练得起,你用得起吗?AI 如果真的要给整个世界带来广泛的进步,本身就需要范式改变,光靠推理成本的下降是撑不住的。

另外从学术的角度来说,我觉得这个范式有的地方变了,有的地方还是没变。现在 o1 模型里的很多问题,包括规划、推理,其实它在产生 CoT 的过程依然还是在做下一个 token 的预测。

生成式 AI 的创业门槛,算力是绕不开的巨额成本|图片来源:视觉中国

颜水成:因为有很多过程,比如有的在做规划,有的是一小节一小节在做 CoT,有的是在做自我反思(self reflection)。这个过程到底是怎么实现,现在还不是特别清楚。如果就是说按照一个固定的流程,都按照下一个 token 的预测来做,那么 CoT 就是一个 new data 的问题了,但是我是觉得可能不只是一个 new data 的问题。

汪华:对,因为没有细节不知道,但是我在测试模型的时候,还是发现它的推理步骤会有幻觉,中间会有奇怪的推理步骤,但错误的推理步骤却得到了正确的结果,正确的推理步骤下的推理,又飞到天上去了。

我个人觉得新范式是从学术上、科学角度来讲,范式是改变了,但说不定还需要改变更多。

我认同颜老师的观点,知识是 data,推理过程和思维方式其实也是 data。下一个 token 的预测,这个方法也不一定是错的,也不是说一定要摆脱,但是学习关于推理过程和思维方式的 data,是不是有更进一步的一些范式的改变。

张鹏:受限于之前的模型技术,一度觉得很多事都干不了了,现在 o1 之后,又感觉未来有很多事可干,作为一个技术研究者,你觉得有哪些下一步值得探索的方向?

颜水成:以前用 GPT-4 或者 GPT-4o,虽然说能产生出不错的结果、能做不少事情,但是其实在直觉上会感觉,下一个 token 的预测,这个东西好像没有这个能力,或者应该不具备这种能力。所以这个条件下,我们会在 GPT-4o 的基础上,再搭一个 agent,用 agent 去调用大模型、调用现成工具的形式。

虽然 Agent 有潜在可能性去解决这个问题,但是进展不是特别好,因为它还是没有一个比较完美的框架来解决问题,不像刚才提的 Global Workspace 的过程。后者是把信息全合在一起,在这个过程中去做演绎、去做推理、去做验证、去做自我反思。

但是现在有了 o1 就合理了,要得到最后结果,其中有一个思考过程,这个思考过程其实并不是原来常规的大模型,就直接能生成出来。有了这一套范式之后,你给我任何一个问题,我直觉上应该是能用这种方式解决的,无论是复杂推理还是其他,所以会有很多事情可以做。

另外,有了这套范式,那种超级大的模型有可能变得不是那么重要,模型可以做得比较小,但它就能做成一个,模型参数并不是特别大的一个网络架构,但它在推理的时候,能够做得更加复杂。

这种情况下,就不会像以前的 Scaling Law 一样,到了只有 10 万张 H100,才能够真真正正的进入到第一梯队。你可能有几千张卡,就能在一些维度能做到非常好的效果。

原来的 Scaling Law,可能在摧毁很多的创业公司,那么现在可能又会让一波的创业公司要重新的复活,去做各种各样的事情。所以无论是从可行性,还是创业的角度,我觉得机会都比以前要更好,没有进入到一个死胡同。

 

08 当「o1」通向 autopilot,AI 应用该怎么做?

张鹏:从「o1」模型里看到新的可能性,会对接下来的创业、产品、解决真实世界的问题,带来什么样新的挑战或者机遇?比如一个问题是,「o1」推理的进程肯定比原来拉长了,原来像 GPT-4o 以快为美。

汪华:我觉得这不会成为问题。因为「系统-1」和「系统-2」是共存的关系,并不是说 o1 出来了,GPT-4o 就没有用了。人类在大部分时间其实也是处于「系统-1」(快思考)而不是「系统-2」(慢思考)。

具体还是要看应用类型。比如像 AI 搜索、Character.ai、写作辅助这些应用,大部分场景其实用原来的模型、速度够快就行。产品上也好解决,可以通过意图识别的分类模型,把不同任务分给不同模型。

长期看,如果「o1」更加完满了之后,GPT-4o 所代表的「系统一」和「o1」代表的「系统二」实际上是在两个不同的流水线上。

举个例子,为什么要追求推理速度快?因为我们现在大部分应用是 Copilot。Copilot 的应用当然要快,人就在旁边等着呢。但是如果「o1」未来做得足够好,能带来更高准确度、能解决复杂问题、能很好地实现 agent,它执行的任务可能是 autopilot(自动驾驶)级别的任务的话,你管它多久完成呢。我给同事分派一个任务,也是这个礼拜布置任务,下个礼拜看结果,不会要他立即交。所以如果是 autopilot 的场景,重要的实际上是模型、是这个模式做出来的性能,而不是低时延,更何况推理速度正在进一步提升。

第二,这是一个自适应的问题,如果将来「o1」模型训练得更完满,它的强化学习做得足够充分时,它会根据问题的复杂度和类型,有合适的延迟(latency)和推理时间、和 token 的消耗的。

张鹏:之前 GPT 系列在 Copilot 场景继续发挥优势,反应更快、交互自然,但同时 o1 带来了通向 autopilot 的可能性,以前觉得很难做到的场景,随着强化学习、模型能力的继续优化,有更大概率实现。

图片来源:视觉中国

汪华:对,再具体一点说,「o1」首先能解锁的就是大量企业级应用。

现在哪怕在 SaaS 生态和 AI 进展更成熟的美国,很多企业级应用增长得很快,但目前摘的也都是低垂的果实,应用类型依然跟中国差不多,比如员工的写作辅助、智能搜索,企业知识库、销售支持客服等智能助手类应用。更关键的生产性任务和更复杂的任务,不是企业不想用 AI 来完成,是之前的模型做不到。

第二,也会给 C 端交互类应用带来影响。

在 C 端的交互革命里面,80% ~ 90% 可能都是原来的快速的模型,可能只有 10% 的任务需要调 CoT 模型。所以这个是会有很明确的分野。比如,Meta 的雷朋眼镜如果将来加了多模态,其实大部分的任务也都不是深思熟虑的,而是我看到什么东西它直接给我辅助,执行我的命令。

ToB、ToC,生产力任务、娱乐任务、交互任务其实都是会有 copilot 和 autopilot 明确的分野的,而且会协同。

举个例子,比如说让 C 端应用帮我订张机票,在我和它的交互对话、它向我展示漂亮景点的过程,后台已经帮我比价、调用各种资源做旅行计划了,后台可能就在用新一代推理模型。有时延也没关系,前台多模态的模型跟我聊天、糊弄我、延长我的等待时间,后面的模型在那里勤勤恳恳做 CoT,调用 agents 做推理演绎。收集你的信息,还能给你情绪反馈、提供情绪价值。

张鹏:产品设计的空间,可创新的东西打开了,这其实是让人真正兴奋的。

 

09「o1」模型可以提升机器人大脑,但具身智能还有自己的卡点

张鹏:o1 的模型对于机器人的能力未来会不会有很大提升?比如像这种 CoT 的能力,未来会对具身智能产生什么样的影响?

颜水成:我觉得会,因为具身智能需要有比较强的推理能力,一次推理,或者一次 CoT 出来的结果可能并不能满足条件,所以它能自我反思或者自我验证非常重要。

例如行走的机器人去完成某些任务,如果它有「系统-2」的过程,输出会更加准确、更加可靠。同时在一些场景,其实让他先想一想,再去做交互,用户也是能接受的。

未来当「o1」拥有多模态能力,它用在具身智能场景会变得更好。

图片来源:视觉中国

汪华:具身智能,现在有三件事都是它的瓶颈。

第一是硬件,硬件本身,包括传感器,依然有很多的瓶颈。

第二是可泛化的运动控制。现在机器人都是基于物理计算,或者是基于单项任务的模拟仿真、强化学习。而人的动作是非常复杂的,可以抓、拧、掏、抠,我们现在其实没有一个在运动控制上的 GPT。

第三,也是现在「o1」能解决的,大脑的问题,运动控制相当于小脑的问题,机器人「大脑」现在也能做,但是「o1」会极大地提高大脑对于运动规划的准确性、可控性、可靠性。

这三个问题要都解决,具身智能才能实现。如果只突破「o1」,没有可泛化的运动控制,依然会受很多限制,因为机器人能进行的动作会非常有限。

另外,我个人觉得这两件事说不定都有同样的瓶颈被卡着,可泛化的运动控制大家也试图用强化学习、模拟学习(Imitation Learning)来做,也缺少大量的数据,就像缺少 CoT 数据一样,缺少大量的真实世界各种各样的运动控制数据,只是:一个是要解决可泛化的运动控制,一个是要解决可泛化的推理。

因为没有一个人在手上带着传感器、脑袋上顶着摄像头,也没有几千万人天天做这些动作,贡献一个互联网级别的一个数据集,所以大家在用模拟器、用强化学习在做。但说不定在一件事情上找到了一些解决方法,另外一件事可以用类似的方法来解决同一个问题。

颜水成:感觉还是不一样,这种数据产生的流程和「o1」产生 CoT 的流程还是有很大差别,可能要当做一个垂域的问题去思考。

汪华:我特别期待强化学习本身的方法论发生一次超进化,把现在强化学习,对于奖励模型泛化的限制取消。

颜水成:因为强化学习本身的算法就比 GPT-4 的优化更难一些。比如强化学习的曲线的损失(loss),基本上一直在剧烈的震荡,但是像 GPT 模型,或者 AI 1.0 时代的判别式模型,曲线基本上非常稳定,所以强化学习做起来的难度或者说要求的领域 know-how 更多。

中国本身做这块的人就蛮少,现在慢慢好一些,但是相比国外做的时间和积累还是要少一些。

张鹏:为什么中国的强化学习这条线会弱一些?上一代 AI,其实就看到了强化学习这个路线。

汪华:强化学习其实各种各样的 paper 都在外面,中国聪明的人也很多,之前之所以做得不好,不是学术上做不出来,而是工程上和累积上,我们投入太低的问题。客观地讲,会有点功利化。之前强化学习(RL)在各个领域里的效果都不是特别明显。

即使是在大模型时代,OpenAI 做了 PPO(一种强化学习算法、由 OpenAI 在 2017 年提出),做了 RL(强化学习),但实际上对于大部分国内的大模型公司来讲,做好 SFT,做好 DPO,其实效果已经跟 RL 非常接近了,提供的增益也不大。

而 RL 做起来很难,非常耗工程,对于算力消耗也是非常明确的,所以在这种对于收益不明确的地方,国内大家的投入还是相对比较保守和谨慎。

保守和谨慎就导致资源的投入,没有足够多的卡,没有足够多的实验,没有足够多的算力让大家去浪费,那这方面的人才就没法积累经验。因为有些东西不写在 paper 里,而是你在训练时一次次训崩的 knowhow。

中国在顶尖科研上的确存在系统性问题——别人探出路来了之后,我们会很有信心去投入资源去趟,但当初不明确的时候,我们不愿意投入。

 

10 如果 Scaling Law 玩不起,「o1」又是谁要下注的比赛

张鹏:「o1」其实让大家看到一个明确的方向,这是不是意味着大家要在这个方向上更深入地探索?

颜水成:我个人稍微悲观一点,主要原因是有一些细节不像 Sora 出来的时候,从它的技术文档上你就能看得很清楚,它的路线是什么东西。

第二,还是类比 Sora,当时 Transformer,以及后面的 DIT(一种文生视频架构)、扩散模型,是在开源的生态上往前走,创业公司只要去思考数据和工程的问题就可以。

但是这次强化学习,客观上来说,我觉得中国公司里,在大规模场景下,自己有代码库(code base)跑通的就很少,而且没有足够开源社区的支持。吸引人才其实也没有真正有一手经验的人。

所以这两个因素,一是没有大规模 RL 场景和好的 code base 做支撑,二是很多 know-how 的细节不清楚,可能会让追赶的速度比较慢,会比我们追上 GPT-4 所需要的时间更长一些,我觉得哪怕是在美国,优秀的公司要追上的话,也可能是以年为单位。

图片来源:视觉中国

张鹏:你正好提醒我,从 ChatGPT 出来,到国内出现类似 ChatGPT 的应用,大概经历了四五个月的时间,追 GPT-4 可能大概是半年左右,Sora 可能也是经过了大概半年,大概的追赶周期是半年。但追上 o1 这样的能力,可能是要以年为计的难度。汪华怎么看?

汪华:我倒没有那么悲观。

之前那种往上 scaling(扩展)模型尺寸的方法,国内真的追不起,哪怕几家拿到很多投资的创业公司,追到一定程度也就追不动了。哪怕是大厂,我觉得追到一定程度也不见得往下追了,因为国内的目前经济和资本环境也没有那么好。

而且实际上,GPT-4o 其实不好追。虽然 GPT-4o 的模型尺寸比 GPT-4(1.8 万参数)要小很多,但多模态的数据和训练是非常消耗资源的,很吃算力。所以训练 GPT-4o 只会比 GPT 4 更贵。我倒不觉得国内是因为工程原因和学术原因做不出 GPT-4o。

那「o1」会有什么样的一个特点呢?就是它其实「吃」(大量消耗)很多的研究,也「吃」很多的实验,也「吃」很多的探索和 idea 的东西,包括数据的一些构造的技巧等,但「o1」其实不太吃算力。并且它可是可以通过比较小的模型,去实验和模拟的。

我个人觉得,中国公司玩得起,而且 o1 出来了之后,开源社区也玩得起,开源社区不太玩得起 GPT-4o。我觉得,不光是中国公司,开源社区和学术界也会试图在小尺寸的模型上,用各种各样的方法去实现类似的效果,包括一些开源框架。所以中国公司也并不是只是孤单地说我对抗全世界,相当于是中国公司和开源社区一起追赶 OpenAI 的这件事。

张鹏:听起来中国的大模型的创业公司真的辛苦,过去一段时间已经连续铺开好几条阵线,很多东西还在 pipeline 里打磨中,但现在「o1」出来之后要去再去做,资源可能会如何分配?

汪华:客观地讲,不会所有的公司都去追的。有些大模公司会坚持方向,有些大模型公司会转型成产品公司,有些大模型公司可能会选择某个方向做突破口,但首先大厂应该都会去追。

张鹏:也许像 DeepSeek,这种比较「神」的公司也有可能。

汪华:大厂都会去追。创业模型公司里有一部分会去追。

而且,大家在实验的角度应该都会追,因为你要说做出一个特别大的产品模型,那不会做,但在相当于 mini 级别的尺寸里面去夯实强化学习能力,去做这方面的实验,是必然要做的事,只是不一定大家都能做到生产级别。

颜水成:其实有一点,比如说像 GPT-3.5 的时候,PPO 就基本上有很大的收益。其实开源社区也在想办法去复现一些东西,但是并没有谁开源出一个真正意义的 code base(代码库)能被中国公司直接使用。所以我觉得在 RL 上,门槛还是会比想象的要大一点。

汪华:我觉得有两方面原因。

第一,我个人觉得 PPO 的确是工程门槛要高很多。跑 PPO,同时多个模型跑,对算力的要求也消耗也很大,学术界也跑不太动。

还有一部分原因,开源社区当时很大的精力都放在「青春平替版」,发明了 DPO 等一系列东西去做开源平替。开源平替基本上 online PPO,Offline PPO 的确也做到了基本上 90% 的效果。

颜水成:这里面奖励函数非常关键,当年 GPT-3.5 的时候,其实他们是拿 GPT-4 的模型去训练奖励模型,才能保证 PPO 做得比较好。所以如果说模型在强化学习这里,如果要用奖励模型,这个东西本身也是一个瓶颈,不是小模型出来的东西就可以用。

汪华:是的,但开源社区并不仅只有创业公司。

张鹏:有 Meta、阿里,看起来开源领域还是有一些巨头的,如果他们有坚定的目标要给群众发枪,我觉得也 make sense。

汪华:可能的确不会那么快,但是技术扩散是必然的。随着更多的公司,包括国内的大厂,海外的开源社区,学术界去花更多的精力去做 RL(强化学习),其实过去几年在大模型之前,RL 已经非常冷了,无论是 PhD 还是工业界、学术界,其实选择做 RL 方向的人已经很少了,这也是一部分的原因。

如果大家突然觉得这个事靠谱的话,很快大家都用算力,各方面人才就会逐渐地多起来。包括技术扩散也会慢慢地发生,但的确这个门槛要高得多。

颜水成:我原先做 RL 研究的时候,当时一个最大的问题,就是最前沿的算法,code base 都是基于 DeepMind 的 TPU 代码,基于 GPU 的实现当时比较缺乏。现在稍微好一些,很多东西基于 GPU 的东西已经多起来了。

汪华:我甚至觉得 Nvidia、微软都会试图去做这件事,然后甚至是开源他们的框架运营或者投认去做这方面的框架,因为对他们来说最重要的是把算力卖出去。

 

11「o1」之后,创业者的选择

张鹏:现在创业者经常在谈的一个话题是:技术发展太快,怎么能够随着技术水涨船高,而不是被水漫金山?换句话说,技术涨对我有利,而不要技术一涨我就变得没价值。「o1」出来之后,你会怎么回答这个问题?

颜水成:昆仑万维做大模型的方式还是以产品先行,目前大概有五六个产品,比如说像 AI 搜索、AI 音乐、AI 陪伴、AI 短剧创作和 AI 游戏,有这些具体的产品在前面做牵引,带动我们做基础模型的研发。有一些模型是通用的,有一些模型其实是垂域的,比如说音乐大模型就是垂域的。

我个人觉得,这一波「o1」出来之后,通用模型在原有的模型基础上,增加 RL + CoT 的方式,应该能把性能提升得更好,这肯定要做。

另外,可能更聚焦一些场景,比如精度优先会变得非常重要。举个例子,我们有一个产品是做 AI for research,在天工 APP 里面。有了 CoT 技术,它就能够帮助研究者去思考,在他的研究方向上指明哪一些课题可以探索,而是不是像以前只是给论文做总结、修改语法错误。

最近有人做了一个工作叫「AI scientist」,有了「o1」的这种范式,这种功能就有可能提炼出来了。因为以前是直接一次性生成的,结果是否具有创新性和可行性,不知道,它不能够做任何的分析,现在,在「o1」范式下,有可能把这件事情能做得更好。

图片来源:视觉中国

汪华:因为 o1 也刚刚出来,我也还在测试它的能力。对做模型的同学来说,看到「o1」心里可能会打鼓,但对做应用的同学来说,出了「o1」之后,只可能有增益,不可能有损失,因为又多了一个东西可以用。

另外,我觉得不被「水漫金山」的话,核心还是一点:我们是做 AI 应用的创业者,应用本身、场景本身是主语,AI 只是定语,「水漫金山」往往是把 AI 当主语,没有花很多时间深耕场景、需求和自身的禀赋、优势。

做应用还是场景优先,同时随时观测技术进展,可能没法像 Google 一样自己去开发技术栈,但实际上很多的事情是有迹可循的。哪怕是「o1」的发布,其实之前在 DeepMind 的研究里这条路径是有迹可循的。

在跟技术前沿保持沟通的同时,做重大的工程决策要特别谨慎,因为这跟当年做移动互联网应用不一样,移动互联网时代做应用时,所有的技术栈都是成熟的,关键是能不能找到一个场景的问题。只要找到场景,拉一个产品经理、拉一个工程师,几个大学生也能做出一个爆款应用出来。

坚持快速 PMF 的原则,尽量使用市场上现有的模型来快速完成 PMF,而不是用复杂的工程。如果一个简单的模型要加复杂工程才能做 PMF 的话,那还不如一开始用最贵的、最好的模型去做 PMF,因为 PMF 消耗不了多少 token。在一开始阶段能用 prompt 解决的,就不要用 SFT,能用 SFT 解决的就不要用后训练。不到万不得已,千万不要用针对模型的缺陷去做一个非常复杂的工程 pipeline(流程管道)的补丁去弥补当前的模型缺陷。

张鹏:要穿就穿新衣服,尽量少打补丁,如果真要打补丁,也不要打复杂的补丁,要打简洁的补丁,这可能在早期阶段就变得很重要。而且很重要一点,其实是你要解决的问题才是你的竞争力。只是围着技术非要找个场景落地,可能就本末倒置,思路一定要回到要解决的场景和问题上,这样「水涨船高」的可能性就更大。

 

浏览量: 87

文章分页

上一页 1 … 123 124 125 … 145 下一页

Copyright © 2024 51蛙吖蛙 – 3D社交空间