6月4日消息,随着人工智能技术的快速发展和普及,很多行内人士担心不加限制的人工智能可能会导致人类灭亡。但专家们表示,人工智能带来的最大负面影响不太可能是科幻电影中的核战场面,反而更有可能是虚假信息、操纵用户等造成的社会环境不断恶化。
以下是翻译内容:
近几个月来,业内愈发担心人工智能。就在本周,300多名行业领袖发表了一封联名公开信,警告人工智能可能导致人类灭绝,对待人工智能应该像“疫情和核战”那样加以严肃对待。
(资料图片仅供参考)
像“人工智能末日”这种术语总会让人联想到科幻电影中机器人统治世界的画面,但实际上任由发展的人工智能会带来哪些后果?专家们说,现实可能不像电影情节那样跌宕起伏,不会是人工智能启动核弹,而是社会基础环境逐渐恶化。
加州大学伯克利分校人工智能安全计划主任杰西卡·纽曼(Jessica Newman)说:“我不认为人们该担心人工智能会变坏,或者人工智能会有某种恶意欲望。”“危险来自一些更简单的东西,那就是人们可能会给人工智能编程,让它做有害的事情,或者我们最终会把天生不准确的人工智能系统整合到越来越多的社会领域,从而造成伤害。”
这并不是说我们不应该担心人工智能。即便末日场景不太可能发生,强大的人工智能也有能力用错误信息问题不断加剧、操纵人类用户以及给劳动力市场带来巨大变化等形式破坏社会稳定。
虽然人工智能技术已经存在了几十年时间,但像ChatGPT这种语言学习模型的普及加剧了人们长期以来的担忧。纽曼说,与此同时,科技公司争先恐后将人工智能应用到他们的产品中,相互开展激烈竞争,带来了一堆麻烦事。
她说:“我非常担心我们眼下走的道路。”“对于整个人工智能领域来说,我们正处于一个特别危险的时期,因为这些系统虽然看起来很特别,但仍然非常不准确,并且存在固有漏洞。”
接受采访的专家们表示,他们最担心的有不少方面。
错误和虚假信息
许多领域早已经启动了所谓的人工智能变革。机器学习技术支撑着社交媒体新闻推送算法,长期以来,人们一直指责这种技术加剧了固有偏见和错误信息等问题。
专家们警告说,随着人工智能模型的发展,这些尚未解决的问题只会进一步加剧。最糟糕的情况可能影响到人们理解事实真相和有效信息,从而导致更多基于谎言的事件发生。专家们表示,错误和虚假信息的增加可能引发进一步的社会动荡。
“可以说,社交媒体的崩溃是我们第一次遇到真正愚蠢的人工智能。因为推荐系统实际上只是简单的机器学习模型,”数据科学平台Anaconda首席执行官兼联合创始人Peter Wang说。“我们真的彻底失败了。”
Peter Wang补充说,这些错误可能导致系统陷入永无止境的恶性循环,因为语言学习模型也是在错误信息的基础上进行训练,为未来模型创造的又是有缺陷的数据集。这可能会导致“模型自相残杀”效应,未来模型会因为过去模型的输出放大偏差,并永远受到影响。
专家们称,不准确的错误信息和容易误导人们的虚假信息都被人工智能放大了。像ChatGPT这种大语言模型很容易出现所谓的“幻觉”现象,反复捏造杜撰虚假信息。新闻行业监督机构NewsGuard的一项研究发现,几十个完全由人工智能撰写材料的在线“新闻”网站中有许多内容都存在不准确之处。
NewsGuard联合首席执行官戈登·克罗维茨(Gordon Crovitz)和史蒂文·布里尔(Steven Brill)表示,这种系统可能会被坏人利用,故意大规模传播错误信息。
克罗维茨说:“一些恶意的行为者可以制造虚假陈述,然后利用这个系统的倍增效应来大规模传播虚假信息。”“有人说人工智能的危险被夸大了,但在新闻信息领域,它正在产生惊人影响。”
全球非营利性机构Partnership on AI的丽贝卡·芬利(Rebecca Finlay)表示:“就更大规模的潜在危害而言,错误信息是人工智能最有可能对个人造成伤害的方面、风险也最高。”“问题是我们如何创造一个生态系统,让我们能够理解什么是真实的?”“我们又该如何验证我们在网上看到的东西?”
恶意操纵用户
虽然大多数专家都表示,错误信息是最直接和最普遍的担忧,但关于这项技术可能会在多大程度上对用户的思想或行为产生负面影响,还存在不少争议。
事实上,这些担忧已经带来了不少悲剧。据报道,比利时一名男子在得到聊天机器人的鼓动后自杀身亡。还有聊天机器人告诉用户和他的伴侣分手,或者让有饮食失调问题的用户减肥。
纽曼说,从设计上讲,因为聊天机器人是以对话的形式与用户交流,可能会产生更多的信任感。
“大语言模型特别有能力说服或操纵人们在潜移默化中改变他们的信念或行为,”她说。“孤独和心理健康已经是全世界的大问题,我们需要观察聊天机器人会对世界产生何种认知影响。”
因此,专家们更担心的不是人工智能聊天机器人会获得感知能力并超越人类用户,而是它们背后的大语言模型可能会操纵人们给自己造成原本没有的伤害。纽曼说,那些以广告盈利模式运作的语言模型尤为如此,它们试图操纵用户行为,从而尽可能长时间地使用平台。
纽曼表示:“在很多情况下,给用户造成伤害也不是因为他们想要这样做,而是系统未能遵循安全协议造成的后果。”
纽曼补充说,聊天机器人的类人特性使用户特别容易受到操纵。
她说:“如果你和一个使用第一人称代词的东西交谈,谈论它自己的感受和所处情境,即使明知道它不是真实的,仍然更有可能引发一种它像人类的反应,让人们更容易想要相信它。”“语言模型让人们愿意信任它,把它当成朋友,而不是工具。”
劳动力问题
长期存在的另一个担忧是,数字自动化将取代大量人类工作。一些研究得出结论,到2025年,人工智能将在全球范围内取代8500万个工作岗位,未来将取代超过3亿个工作岗位。
受人工智能影响的行业以及岗位非常多,有编剧也有数据科学家。现如今,人工智能可以像真正的律师那样通过律师考试,还能比真正的医生更好回答健康方面的问题。
专家们发出警告,人工智能的崛起可能会导致出现大规模失业,从而造成社会不稳定。
Peter Wang警告说,大规模裁员在不久将来就会发生,“许多工作岗位都面临风险”,而且几乎没有任何计划应对后果。
他说:“在美国,没有关于人们失业时如何生存的框架。”“这将导致很多混乱和动荡。对我来说,这是由此产生的最具体、最现实的意外后果。”
未来怎么办
尽管人们越来越担心科技行业和社交媒体带来的负面影响,但在美国,监管科技行业和社交媒体平台的措施却很少。专家们担心人工智能也是如此。
Peter Wang说:“我们许多人担心人工智能发展的原因之一是,在过去的40年时间里,作为一个社会,美国基本上放弃了对科技的监管。”
尽管如此,近几个月来美国国会已经有了一番积极动作,举行听证会,让OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)就应该实施的监管措施作证。芬利表示,她对这些举措感到“鼓舞”,但在制定人工智能技术规范以及如何发布方面,还需要做更多工作。
她说:“很难预测立法和监管部门的反应能力。”“我们需要对这种水平的技术进行严格审查。”
尽管人工智能的危害是行业内大多数人最关心的问题,但并非所有专家都是“末日论者”。许多人也对这项技术的潜在应用感到兴奋。
Peter Wang说:“实际上,我认为新一代人工智能技术真的可以为人类释放出巨大的潜力,让人类社会以更大规模繁荣起来,要超出过去100年甚至200年的水平。”“实际上,我对它的积极影响非常非常乐观。”(辰辰)
关键词:
(责任编辑:黄俊飞)推荐内容
- 人工智能会导致人类灭亡吗?专家称更担心
- 电饼铛做西葫芦饼可以吗? 全球观天下
- 观察:万水千山只等闲只等闲的意思_七律
- 天天最新:国家统计局:5月下旬生猪(外
- 儒家道家佛家区别是什么_儒家道家佛家区别
- 任务栏输入法不显示了怎么办(任务栏输入
- 试车日志 | 不到15万就让我找到了简单
- 全球短讯!西媒:巴黎想免签门兴前锋小图
- 【新视野】嗓子痒是怎么回事吃什么药好_
- 每日观察!第四季好声音汪峰考核_中国好声
- 淋漓尽致的夜晚视频素材高清_淋漓尽致-当
- 全球即时:新兴媒体融合发展_新兴媒体
- 等额本息是什么意思 等额本金是什么意思
- 全球速递!批判精神的演讲_批判精神
- 环球快资讯丨年轻女子地铁站内抽搐倒地
- 今日报丨台州这条“高架快速路”首桩开钻
- 天天视点!空调内风机接线图4线_空调内风
- 【天天热闻】航天员如何安全返回地球?这
- 塔克拉玛干沙漠腹地最大集中式光伏电站正
- 天平街道社区卫生服务中心走深走实健康促
- 起始价35.83亿元 郑州拟挂牌出让6宗宅地
- *ST慧辰:业务开拓、产品研发和项目交付
- 厦门市气象台发布暴雨黄色预警信号
- 总经办部门职责 总经办
- 热门:琼海市公安局关于2023年全国普通高
- 迪士尼乐园有望落户武汉?官方回应:正在
- 京津冀通用内河船员证,天津发出第一张!
- 永福政务办新时代讲习所志愿服务队_关于
- 中央气象台:东海将有5~7级风 当前热议
- 环球即时看!午评:沪指冲高回落跌0.71%
- 焦点精选!vaga包 vagaa 绿色
- 萧华:过去6年总决赛6组不同对决 竞争力
- 阿里国际站王添天:数字化重构跨境贸易跑
- 福建省福州市2023-06-02 08:42发布高温橙色预警
- 竹溪“政府采购合同融资”经验在全省交流
- 股票行情快报:华自科技(300490)6月2日
- 大众途锐大降价!45.88万起!比奥迪Q5L还
- 世界快消息!我主良缘婚介公司怎么样(我
- 强信心·走进百企|河北保定:“中国电谷
- 或将6月15日上市 领克09大五座版预告图
- 姚晨与凌潇肃为什么离婚_观天下
- 滚动:为什么北海道下雪不冷 一月多在北
- 华电国际:积极探索虚拟电厂和新型储能等
- 两部门:从2023至2025年,每年培养支持50
- 女生婚纱照被盗用造谣反遭网暴?当事人及
- 2023世界女排联赛中国女排战胜德国队-世
- 天天头条:白银有色(601212)6月2日主力
- 卫兰演唱会2014_卫兰演唱会
- 观点:恒盛能源(605580)盘中异动 股价
- 天津崔庄古冬枣园申报全球重要农业文化遗
- 广州住房公积金无房(租房)提取额度提高
- 来去之间差三倍,1400多没提前告知? 全
- 短篇运动会加油稿例文荟萃 全球通讯
- 弘业期货:铁合金弱势震荡-前沿热点
- 吸取教训?图片报:诺伊尔将为夏天复出做
- 魔兽世界怀旧服抽水泵结构图怎么做(wowt
- 什么电影美女多黄点多
- 北菜南销深挖增收潜力_全球热点
- 无线路由器设置界面登不上去_无线路由器
- 今日热闻!民间音乐在魏晋南北时期被称为_
- 起始价35.83亿元 郑州拟挂牌出让6宗宅地
- *ST慧辰:业务开拓、产品研发和项目交付
- 厦门市气象台发布暴雨黄色预警信号
- 总经办部门职责 总经办
- 热门:琼海市公安局关于2023年全国普通高
- 迪士尼乐园有望落户武汉?官方回应:正在
- 京津冀通用内河船员证,天津发出第一张!
- 永福政务办新时代讲习所志愿服务队_关于
- 中央气象台:东海将有5~7级风 当前热议
- 环球即时看!午评:沪指冲高回落跌0.71%
- 焦点精选!vaga包 vagaa 绿色
- 萧华:过去6年总决赛6组不同对决 竞争力
- 阿里国际站王添天:数字化重构跨境贸易跑
- 福建省福州市2023-06-02 08:42发布高温橙色预警
- 竹溪“政府采购合同融资”经验在全省交流
- 股票行情快报:华自科技(300490)6月2日
- 大众途锐大降价!45.88万起!比奥迪Q5L还
- 世界快消息!我主良缘婚介公司怎么样(我
- 强信心·走进百企|河北保定:“中国电谷
- 或将6月15日上市 领克09大五座版预告图
- 姚晨与凌潇肃为什么离婚_观天下
- 滚动:为什么北海道下雪不冷 一月多在北
- 华电国际:积极探索虚拟电厂和新型储能等
- 两部门:从2023至2025年,每年培养支持50
- 女生婚纱照被盗用造谣反遭网暴?当事人及
- 2023世界女排联赛中国女排战胜德国队-世
- 天天头条:白银有色(601212)6月2日主力
- 卫兰演唱会2014_卫兰演唱会
- 观点:恒盛能源(605580)盘中异动 股价
- 天津崔庄古冬枣园申报全球重要农业文化遗
- 广州住房公积金无房(租房)提取额度提高
- 来去之间差三倍,1400多没提前告知? 全
- 短篇运动会加油稿例文荟萃 全球通讯
- 弘业期货:铁合金弱势震荡-前沿热点
- 吸取教训?图片报:诺伊尔将为夏天复出做
- 魔兽世界怀旧服抽水泵结构图怎么做(wowt
- 什么电影美女多黄点多
- 北菜南销深挖增收潜力_全球热点
- 无线路由器设置界面登不上去_无线路由器
- 今日热闻!民间音乐在魏晋南北时期被称为_
- 全球微头条丨泰格斯官网_泰格斯
- 环球速递!东平国家森林公园官网官方门票
- 被强迫变装带塞(强迫变装小说变装之家)
- 侧边的麻花辫怎么画(麻花辫怎么画) 环
- 天天亮点!韩剧传说中的故乡之九尾狐观看
- 预售13.98万起 北京现代沐飒将于6月中旬
- 人民币兑换比索是多少_人民币兑换比索
- 安图县气象台发布冰雹黄色预警【III级/较
- “第一高楼”被拍卖与代建再签约 世茂集
- 快资讯丨赶集日办、“就近办”办、综合办
- 【天天速看料】《公诉》谁出席了惠权高层
- 穆里尼奥赛后激励全队:今晚整个欧洲都看
- 政企同向发力 共谋合作发展_全球速讯
- 怒江官方回应村副主任疑与未成年婚外情:
- 揭秘神舟十六号载人飞船上的航天科技-视点
- π等于多少度_π等于多少
- 电脑鼠标箭头不见了 电脑鼠标
- 今日聚焦!储能中标丨比亚迪预中标郑州航
- 算好保护生态环境这本全局账_世界热头条
- 工地周转材料有哪些(工地周转材料包括哪