2023WAIC观察:大模型勿成“脱缰野马” 人工智能何以“上善若水”?
中新网上海7月7日电 题:大模型勿成“脱缰野马” 人工智能何以“上善若水”?
中新网记者 郑莹莹
【资料图】
勿以恶小而为之,勿以善小而不为。对于正在飞速发展的人工智能,人类期待它为善去恶。
正在上海举办的2023世界人工智能大会(WAIC)上,大模型发展之热、人工智能发展之安全,备受业界关注。
2023世界人工智能大会于7月6日至7月8日在上海举办,伴随人工智能发展,机器人越来越“聪明”,通用人工智能的发展备受期待。中新网记者 汤彦俊 摄不能让大模型成为“脱缰野马”
“大模型要监管和发展兼顾,我们不能盲目发展,让大模型变成脱缰的野马。”复旦大学教授、上海市数据科学重点实验室主任肖仰华7日在2023世界人工智能大会“数据要素与隐私计算高峰论坛”上说。
他指出,大模型的负面影响已经显现,比如对隐私的侵犯,“我们还是要建立大模型发展的安全底线、伦理标准和一些规范。”
另一方面,他也指出,我们不能因为有隐私方面的顾虑而放弃对大模型的应用,“从某种程度上说,大模型是一种先进生产力,是个人和企业都要积极拥抱的。我们要正视隐私问题,但也要积极应用大模型。”
如何在应用的同时保护用户隐私?他表示,需要建立系统性的防范体系。
一方面,我们要建立起用户对大模型隐私的安全意识,用户要意识到:在使用大模型过程当中,数据有可能被服务方收集。
另一方面,提供大模型服务的厂商要提升服务的规范性,给用户充分的知情权,要在用户完全授权的情况下,在合理范围内收集用户数据。
肖仰华说,大模型,尤其是生成式大模型发展起来后,对隐私带来了前所未有的挑战,“生成式大模型往往是一种概率化的生成,是从海量的语料中拼接式生成的,所以传统意义上的一些隐私侵犯认定在大模型时代就会失效,识别上困难,保护上更加困难。”
但在大模型领域,可以“用魔法打败魔法”。
肖仰华表示,在大模型隐私保护方面,除了技术、法规方法,我们还有一条很重要的路径——利用大模型自身的能力来保护我们的隐私,“其实大模型能力很强,可以识别出语料当中哪些内容是可能侵犯隐私的,我们已经有那么多大模型,我们可以把它用在保护隐私的场景。”
2023世界人工智能大会于7月6日至7月8日在上海举办,今年的主题是“ 智联世界 生成未来”。 中新网记者 郑莹莹 摄人工智能何以“上善若水”?
“即使通用人工智能真正‘上善若水’,人与人工智能是否可以和谐共生,最终取决于人如何行为,而不是人工智能。”中国科学院自动化研究所研究员、人工智能伦理与治理研究中心主任曾毅7日在2023世界人工智能大会“聚焦·大模型时代AIGC新浪潮可信Al论坛”上说。
他将“人工智能与人类”“人类与蚂蚁”作了类比,指出:当我们的人工智能是人类,就像人类是现在的蚂蚁时,如果人类还在破坏环境、破坏其他生命,超级智能为什么要给人类生存的权利?人类没有给超级智能更多的理由。
他说这是一个开放性的问题,是一个科学问题,是一个社会问题,更是一个历史问题。
在曾毅看来,最开始的人工智能,当它没有接受任何人类数据的时候,它是一个无善无恶的算法。当它接触到了社会和人类的数据的时候,它变得有善有恶,这个时候它还不能明辨善恶。当与人类价值观校准、与环境价值观校准的时候,它变得知善知恶。
“我们最终希望的是人工智能可以为善去恶。”他说。
他还指出,人工智能的伦理道德既不应该仅由研究人工智能的工程师来定义,更不应该在实验室里主观臆想,而是需要群体智慧,需要更多公众参与定义。(完)
关键词:
您可能也感兴趣:
为您推荐
俄罗斯驱逐9名芬兰外交官 到底是怎么回事?
《地狱潜者2》新爆料+《野狗子》开发日记+《咒》预告
巴西经济学家:过度依赖美元伤害拉美经济
排行
最近更新
- 2023WAIC观察:大模型勿成“脱缰野马” 人工智能何以“上善若水”?
- 英法德三国发表联合声明指责伊朗违反伊核全面协议 中方回应
- 肥皂加什么可以有效驱蚊?
- 钢铁肥皂的原理是什么,钢铁肥皂的制作方法详解
- 房地产行业市场月报:6月供应增34%而成交再降 地市缩量但溢...
- 有色金属行业深度研究报告:关键战略金属供需情况梳理
- 湖人准备捡漏,解放浓眉+班巴顶替者,这是老詹最喜欢的球员类型
- 苹果Shazam音乐识别功能升级:能识别TikTok、YouTube等应用中的歌曲
- 顺丰同城发盈利预告 料2023年上半年将扭亏为盈
- 知识城(广州)10亿元超短债将兑付 利率1.92%
- 深城交:联想北京拟减持不超过3%
- 陈梦3-1朱芊曦,与王曼昱进女单8强,早田横扫美和,日两将遭淘汰
- 开启新征程!马竞官方:阿斯皮利奎塔将会身披3号球衣出战
- 86年前的7月7日,我们永远不能忘记!
- 野猪不再是国家保护野生动物,如何找准保护与猎捕平衡点?
- 乌克兰已正式申请加入CPTPP,日本:“必须仔细评估”
- 玉米步入顶部区间 风险明显大于机会
- 流动的烟火气 经济的加速器 粤港澳铁路等基础设施互联互通...
- 天津2023年港产城融合发展将重点推进三方面工作
- 保险业首份AIGC应用图谱发布
- 南农大宿迁研究院培育“枸杞番茄” 江苏首种成功挂果
- 名校智脑汇聚助企腾飞 青山区中国研究生教育长江论坛专场对...
- 11中高考喜报(11中)
- 上海一男子每天划船上下班:单程6公里,耗时1小时
- 致尚科技龙虎榜:机构包揽卖出前5 净卖出共1.06亿元
- 上海外滩附近有哪些好玩的景点?
- 飞鹤回应女婴刚出生喝了过期奶粉 已销毁过期产品但母婴店没...
- Adobe宣布平台AI生成的图片遇纠纷可获全额补偿
- 【小里帮忙】财富中心拖欠商铺业主租金,回应:只能慢慢还
- 【追忆·淞沪支队】1944年的今天,在奉贤和南汇交界河发生的战斗