复旦大学教授张奇:认清大语言模型能力边界非常关键

9月25日上午,“解码未来:全球数智趋势”专题论坛在上海浦东成功举办。论坛由工业和信息化部工业文化发展中心、上海市经济和信息化委员会、上海市浦东新区人民政府主办。

本次专题论坛是工业文明国际论坛的分论坛之一。主论坛以“工业文明·中国力量”为主题,设一个主论坛和三个分论坛,来自多个国家的政府代表和专家、企业家,聚焦工业文明变迁、人工智能和在线新经济、新能源和智能网联汽车、先进材料、生物医药、产城人文、工业博物馆等热点议题展开讨论。

在“解码未来:全球数智趋势”专题论坛上,复旦大学计算机科学技术学院教授张奇以“大语言模型能力边界与发展思考”为题发表了主题演讲。张奇认为,围绕长上下文建模、多任务学习、跨语言迁移性、文本生产能力这些核心能力,与场景做结合,将有巨大的价值。对于未来的大模型,清晰认知它的能力边界非常重要。如果对能力边界有共识,对于未来投资的力度和方向就有很好的把握。但是可能还需要一定的时间,或许一年、两年的时间才能完成确认(认知能力边界)。

张奇发表主旨演讲 图片来源:主办方供图

张奇提到,2023年,大家认为大模型无所不能,所有的地方都可以使用,可以写code(代码),可以做医疗,能够做很多东西。但是干了一年后,大家发现,大模型落地总是差那么一口气。

他举例,去问大模型一句诗的下一句是什么,它可以做得很好,但是如果让它回答一句诗的前面一句是什么,或者一个成语的中间一个字是什么,结果会变得非常差。这也就让我们思考,为什么大模型会出现这些情况,它能做什么,不能做什么。

对于微调阶段,张奇认为,这和前一阶段的训练数据非常相关,想让它有什么样的能力,就得准备什么样的训练数据,而且是非常精心地准备,这和自然语言处理的逻辑非常不同。过去可以大量加训练数据,现在完全不是。

关于大模型能力边界,张奇认为,目前可以确认的大模型的能力是上下文建模、多任务学习、跨语言迁移性、文本生成能力。

文本生产能力方面,张奇称,在ChatGPT之前,自然语言处理研究者是不敢做自然语言生成的,因为难度非常大。模型大到现在这种程度之后,自然语言生成就可以做得非常好了。

张奇表示,可确认的就是这四个能力。“但是推理怎么样,我觉得OpenAI还是做了非常值得研究的过程,去年我们也做了很多过程型的推理,但是它的泛化能力怎么样,以及未来是什么,我觉得还需要非常仔细地研究。”张奇说道。

每日经济新闻

主题测试文章,只做测试使用。发布者:读懂财经,转转请注明出处:https://www.cnust.com/25/14/16473.html

(0)
读懂财经的头像读懂财经
上一篇 2024 年 9 月 25 日
下一篇 2024 年 9 月 25 日

相关推荐

  • 未来商业早参|阿里、京东上半年业绩出炉;美的2.5万家专卖店将入驻美团

    |2024年8月16日 星期五| NO.1 阿里发布2025财年一季度业绩:收入2432.36亿元,同比增长4% 8月15日,阿里巴巴集团发布的2025财年一季度(自然年2024年二季度)财报显示,本季度阿里巴巴集团实现收入2432.36亿元,同比增长4%。经调整EBITA利润450.35亿元,超市场预期。本季度,淘天集团线上GMV保持稳定增长,订单量同比双…

    行业 2024 年 8 月 16 日
    3900
  • 小米三折叠手机专利曝光:三摄像头水平排列

    新浪科技讯 9月18日下午消息,国家知识产权局9月3日公布的专利显示,小米公司获得了一项“手机及其主体”的外观设计专利,展示了小米三折叠手机设计。 信息显示,小米于2022年12月21日提交了该设计专利,展示了两种设计方案,专利权人为北京小米移动软件有限公司。此外,专利草图显示,小米三折叠手机背面采用水平放置的摄像头方案,水平放置了 3 个摄像头,并配有一个…

    行业 2024 年 9 月 18 日
    1700
  • 微信鸿蒙原生版今日开启内测邀请

    中国经济网北京10月8日讯(记者 李方) 10月8日,微信鸿蒙原生版正式开始邀请内测,已升级至HarmonyOS NEXT的用户,可在收到邀请后抢先体验。 目前,微信鸿蒙原生版已包含基础社交通讯、音视频通话、朋友圈、微信支付的二维码收/付款等功能。微信团队表示,微信鸿蒙原生版各项功能在不断适配中,将在后续版本中陆续更新完善。 据了解,微信鸿蒙原生版的邀请范围…

    行业 2024 年 10 月 8 日
    2400
  • 疯狂的英伟达:8天上涨31%市值增加7650亿美元,涨出一个特斯拉!黄仁勋净资产1140亿美元,全球第11大富豪

    黄仁勋 凤凰网科技讯 北京时间8月21日,今年8月7日,英伟达股价收盘跌破了100美元关口。但是自那之后,英伟达股价累计飙升了逾30%,短短在八个交易日内市值就增加了7650亿美元,比特斯拉的总市值还高。 从今年8月7日到8月19日,英伟达股价累计上涨了31%,几乎是纳斯达克100指数同期11%涨幅的三倍,创下了自去年5月以来的最大八个交易日涨幅。2023年…

    行业 2024 年 8 月 21 日
    2300
  • A股收评:指数分化沪指涨0.09%,养殖影视板块强势!超4300股下跌,成交6022亿;机构:关注高股息及科特估

    7月15日消息,三大指数全天分化,沪指低开高走收盘微涨,创指、深成指持续调整。板块方面,贵金属板块震荡走高,玉龙股份(601028)涨停封板;养殖板块全天强势,罗牛山(000735)、湘佳股份双双涨停;影视院线板块集体活跃,幸福蓝海(300528)20cm涨停,金逸影视(002905)盘中涨停;医疗股全线走低,医疗服务方向领跌,博济医药(300404)跌幅居…

    行业 2024 年 7 月 15 日
    3700

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信