欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

马斯克等千人签署公开信,人工智能开发危及“文明控制权”?

时间:2023-06-28 17:47:32 | 浏览:168

中新网3月30日电 美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会

中新网3月30日电 美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。

他们的担忧从何而来?人工智能开发会否危及人类的“文明控制权”?AI的发展是否已来到需要按下“暂停键”的转折点?

一封公开信,四问AI风险

近期,美国亿万富翁埃隆•马斯克和人工智能领域顶尖专家、图灵奖得主约书亚•本吉奥(Yoshua Bengio)等人联名签署了一封公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。

呼吁暂停巨型AI训练的公开信。图片来源:“未来生命研究所”网站

这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张,在开发强大的AI系统之前,应先确认其带来影响是积极的、风险是可控的。

信中详述了具有人类水平智能的AI系统可能对社会和人类带来极大的风险,称“这一点已经得到大量研究和顶级AI实验室的认同”,并连续抛出四个疑问:

- 我们是否应该让机器用宣传和谎言淹没我们的信息渠道?

- 我们是否应该让所有的工作自动化,包括那些令人满意的工作?

- 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维?

- 我们应该冒着失去对我们文明控制的风险吗?

公开信指出,如果不能迅速实施此类暂停,政府应当介入并采取措施。此外,“AI实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督”。信中还呼吁开发人员和政策制定者合作,大幅加快强大的AI治理系统的开发。这其中至少应当涉及监管机构、审计和认证系统、监督和追踪高性能AI系统、人工智能造成伤害后的责任问题、为AI技术安全研究提供公共资金等方面。

公开信在最后提到,如今,我们的社会已经暂停其他可能造成灾难性影响的技术,对于人工智能也应该如此,“让我们享受一个漫长的‘AI之夏’,而不是毫无准备地进入秋天”。

技术、伦理、利益,呼吁放慢脚步为哪般?

从这些内容中不难看出,比起技术,公开信的支持者更在意的,是人工智能可能出现的“野蛮生长”,以及它的发展可能带来的社会和伦理难题。

公开信中提到,此番暂停并不意味着从总体上暂停人工智能的开发,而是从危险竞赛中“后退一步”。人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统变得更加准确、安全、可解释、透明、稳健、一致、可信且可靠。

纽约大学教授加里•马库斯所人为,“这封信并不完美,但精神是正确的”,他认为,人们需要放慢脚步,直到可以更好地理解这一切带来的后果。

目前,该公开信已获上千人签署,其中不乏开源人工智能公司Stability AI首席执行官莫斯塔克(Emad Mostaque)、谷歌母公司Alphabet旗下人工智能企业DeepMind研究人员、计算机科学家斯图亚特•罗素(Stuart Russell)等专家学者和科技公司高管。

资料图:马斯克。

发布公开信的“未来生命研究所”则主要由马斯克基金会、硅谷社区基金会等资助。特斯拉首席执行官马斯克正在将人工智能应用于自动驾驶系统,他也一直坦率表达自己对人工智能的担忧。

路透社还称,欧洲刑警组织(Europol)日前也表达了对ChatGPT等先进人工智能在伦理和法律方面的担忧,警告此类系统可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外,英国政府也公布了关于建立AI监管框架的提议。

在网络上,这封信也引起热烈讨论,有网友表示认同,人们需要知道发生了什么,“仅仅因为我们知道可以建造它,并不意味着应该建造”。

但也有人怀疑马斯克的动机,“马斯克之所以会签署它,因是为他想用自己的人工智能来赚钱。”

还有人分析,“这很可怕,但我认为有些项目不需要停止。技术正在发展迅速,负责任的创新也是必要的。”

关于人类和AI关系的思考,从技术诞生之初就没有停过。著名物理学家霍金也曾说过,“成功创造了人工智能,很可能是人类文明史上最伟大的事件。但如果我们不能学会如何避免风险,那么我们会把自己置于绝境”。

如今,从通过资格考试,到进行艺术“创作”,AI能做的事越来越多,朝着“智能”的方向越走越远。但同时,利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。

不同于物理世界技术创新成果转化的漫长周期,AI技术突破往往会通过互联网一夜之间散播全球。在人类未能就AI伦理、监管等找到妥善解决之道前,这些讨论和担忧并不多余。

来源: 中国新闻网

相关资讯

马斯克等千人签署公开信,人工智能开发危及“文明控制权”?

中新网3月30日电 美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会

马斯克约架扎克伯格#AI人工智能

马斯克与扎克伯格的"笼中之战",揭示了现实版的资产阶级斗争。6月22日,特斯拉首席执行官马斯克突然在推特上宣布,他将与Mate公司首席执行官扎克伯格进行一场"笼中之战",引起了广泛关注。扎克伯格随后在Mate旗下的社交平台上回应:"给我发位

联名叫停“失控”的人工智能竞赛,马斯克和业内大佬们在担心什么?

在人们对人工智能(AI)的颠覆性发展感到兴奋的同时,担忧和恐惧情绪也在蔓延:AI的飞速发展是否可能失控?人类会被AI取代,甚至被统治吗?29日,一封公开联名信在业内外引发热议。这封在生命未来研究所(Future of Life Instit

与马斯克唱反调,风投大佬呼吁放飞人工智能:AI只是机器 永远不会有生命

在特斯拉CEO埃隆·马斯克等人呼吁加强人工智能监管之际,美国著名风险投资家马克·安德森(Marc Andreessen)却唱起了反调,称允许人工智能不受束缚地发展才是充分利用这项技术的潜力来拯救世界的关键。安德森在周二发表的一篇长篇博客文章

马斯克进军AI?人工智能涨欢了!多位选手收益“狂飙”,快来参赛角逐大奖!

每经编辑:吴永久粉丝朋友们,周三上午,A股亮点较多,人工智能板块表现火热,AI服务器的浪潮信息涨停,CPO的锐捷网络大涨17.85%。五一节不远了,影视传媒板块多只个股飙升,如中国电影大涨7%。消息面上,据澎湃新闻4月12日消息,马斯克最近

马斯克创建人工智能公司X.AI,与OpenAI展开正面竞争

·熟悉马斯克想法的人士表示,他的新AI企业可以使用推特内容作为数据来训练语言模型,并利用特斯拉的计算资源。推特首席执行官马斯克此前曾警告过人工智能技术的风险,并主张对其进行监管。根据一份州备案文件,特斯拉和推特首席执行官埃隆·马斯克在美国内

人类要小心! 马斯克对:人工智能(AI)发出警告!AI将改变什么?

在6月16日法国科技盛会Vivatech一场活动中,美国特斯拉公司首席执行官埃隆·马斯克再度就人工智能(AI)技术发出警告。他认为先进的人工智能技术或将是“有史以来最具破坏性的技术”,将会‬给公众带来风险,他呼吁对人工智能行业发展进行相应监

马斯克:AI可能是有史以来最具颠覆性的技术,人类要小心

(观察者网讯)在6月16日法国科技盛会Vivatech一场活动中,美国特斯拉公司首席执行官埃隆·马斯克再度就人工智能(AI)技术发出警告。他认为先进的人工智能技术或将是“有史以来最具破坏性的技术”,将给公众带来风险,他呼吁对人工智能行业发展

AI大模型是否是人工智能的拐点?人工智能还会有哪些突破?

随着计算能力的不断提高和数据规模的扩大,人工智能尤其是深度学习领域取得了显著的进展。近年来,AI大模型,如GPT系列、BERT等,在自然语言处理、计算机视觉等领域取得了令人瞩目的成果,引发了人们对人工智能发展的关注。AI硅基小助手【AI硅基

【AI自动写作12天】【人工智能专栏】人工智能的定义和基本概念

人工智能,简称AI,是指利用计算机模拟人类的智能行为,实现智能化的一种技术和应用。它是信息技术领域的前沿科技,涵盖了机器学习、自然语言处理、计算机视觉等多个领域。人工智能的定义可以从不同角度进行解释。从技术上讲,人工智能是一种通过模拟人类智

几句话给您讲明白人工智能是啥玩意?#人工智能#有ai就...

人工智能是计算机科学领域的一门技术,旨在开发能够模拟人类智能的计算机系统。它的目标是使计算机具备感知、理解学习、推理决策和交互的能力,从而完成各种任务。接下来,让我们详细了解人工智能的感知与理解能力。人工智能致力于让计算机能够感知和理解各种

什么是人工智能、如何应用人工智能技术?这场讲座给出了答案

极目新闻记者 国倩通讯员 余紫滨5月9日,荆州学院举办“荆院楚风”学术论坛讲座第五讲,本次会议采取“线上+线下”相结合的形式举行,长江大学计算机科学学院教授陈琳担任主讲人。学术讲坛会场“什么是人工智能?”——即能够和人一样进行感知、认知、决

“人工智能教父”为何反对人工智能:AI会伤害甚至毁灭人类?

近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)

什么是人工智能? AI与人工智能

众所周知,刷脸认证、自动驾驶、大数据推送、智能音箱、手术机器人……人工智能被广泛应用于各个领域,由此引起的数据伪造、算法瓶颈、隐私安全、伦理困境等问题也日益凸显。“AI 基础设施建设亟需从自身底层能力增强出发,以内生驱动力突破算法关、数据关

美国开发战机AI系统,人工智能将取代飞行员,成为未来空战主角?

《军武次位面》作者:太白 近日,美国宣布,已经同意欧洲盟友提出的向乌克兰提供美制F-16战斗机的请求。美国以及欧洲国家将会在未来的一年或者数年内,向乌克兰提供一大批F-16战斗机,以帮助乌克兰重建空军。本次牵头向乌克兰提供F-16战斗机的不

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈周星驰影迷网袁大头银元收藏U盘装机学习网真人cs基地大全极限漂流运动网丛林穿越运动今日佳木斯武术培训网电视机品牌网速滑谷爱凌联想电脑评测网八泉峡旅游攻略新东方西点学习网漯河新闻头条网电脑组装教程网
特斯拉美股行情-马斯克公司股票代码、特斯拉股票代码TSLA、特斯拉TSLA美股实时行情、特斯拉股票发行价、特斯拉股票历史最高价、特斯拉股价历史走势、特斯拉汽车价格表、特斯拉三大缺点、特斯拉车型大全、特斯拉汽车官网、特斯拉汽车股票、特斯拉汽车之家论坛。
特斯拉美股行情 balele.cn ©2022-2028版权所有