欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

联名叫停“失控”的人工智能竞赛,马斯克和业内大佬们在担心什么?

时间:2023-06-28 17:27:00 | 浏览:82

在人们对人工智能(AI)的颠覆性发展感到兴奋的同时,担忧和恐惧情绪也在蔓延:AI的飞速发展是否可能失控?人类会被AI取代,甚至被统治吗?29日,一封公开联名信在业内外引发热议。这封在生命未来研究所(Future of Life Instit

在人们对人工智能(AI)的颠覆性发展感到兴奋的同时,担忧和恐惧情绪也在蔓延:AI的飞速发展是否可能失控?人类会被AI取代,甚至被统治吗?

29日,一封公开联名信在业内外引发热议。这封在生命未来研究所(Future of Life Institute)网站公布的信件呼吁,立即暂停研究比OpenAI公司开发的GPT-4更强大的AI系统,将这场“危险竞赛”暂停至少6个月。截至目前,包括特斯拉创始人马斯克、图灵奖得主约书亚·本吉奥(Yoshua Bengio)在内的多名科技界大佬和AI领军人物签署了这封公开信。他们为何要叫停AI研究?

大佬联名呼吁:暂停六个月

这封题为“暂停大型AI试验”的公开信警告称,具有能与人类竞争的智能的AI系统,可能会对社会和人类构成深远影响。

“最近几个月,AI实验室陷入了一场失控的竞赛,竞相开发和部署更强大的数字思维。”信件称,没有人类能够理解、预测或控制这些数字思维,甚至连这些AI系统的创造者也不能。

为了阐述AI带来的风险,公开信接连抛出四个问题:我们是否要让机器用宣传和谎言淹没我们的信息渠道?我们是否要让所有工作自动化,包括那些令人满意的工作?我们是否应该发展最终可能在数量和智力上超过我们、能够淘汰并取代我们的非人类思维?我们是否应该冒失去对文明控制的风险?

在一连串“灵魂拷问”后,公开信呼吁,所有AI实验室应立即暂停训练比GPT-4更强大的AI系统至少6个月。这一暂停应该是公开、可核实的,并且应包括所有关键参与者。如果不能迅速实施这一暂停,各国政府应介入。

不过,信件也指出,这并不意味着要叫停AI的发展,而是从奔向不可预测的大型黑箱模型的危险竞赛中后退一步。

目前,已有1000多名业内人士在这封公开信上签名。除马斯克、苹果联合创始人史蒂夫・沃兹尼亚克(Steve Wozniak)等科技界大佬外,还有“深度学习三巨头”之一的本吉奥、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)等行业领军人物。

令外界略感惊讶的是,Stability AI的首席执行官埃马德·莫斯塔克(Emad Mostaque)也在名单之列,该公司开发了AI图像生成模型Stable Diffusion。

巨大风险浮出水面

四个月前,由初创公司OpenAI发布的AI聊天机器人ChatGPT横空出世,在全球掀起一场AI“军备竞赛”。从OpenAI、微软、谷歌到IBM、亚马逊、百度、腾讯,越来越多科技公司已加入赛道,试图成为该领域的下一代领导者。

然而,随着AI技术的飞速发展和广泛应用,其背后的风险也已浮出水面,引发业内外巨大争议。

从生命未来研究所发布的这封公开信来看,业内对AI系统的担忧主要集中在两方面:其一,AI可能失控,给人类文明带来风险。其次,AI可能被恶意使用,造成错误信息传播或被用来犯罪。

多年来,不少科学家、AI研究人员和科技界人士均警告称,强AI将对人类构成威胁。

英国著名科学家霍金就曾警告称,开发彻底的AI可能导致人类的终结。他担心,人类创造出媲美人类、甚至超过人类的东西,将会面对无法想象的后果,“它可能自行启动,以不断加快的速度重新设计自己。而人类局限于缓慢的生物进化过程,根本无法竞争,最终将被超越”。

令人“细思极恐”的是,近日研究人员在测试中发现,GPT-4已经学会了“骗人”。在获得一小笔预算后,GPT-4为了避免在访问网站时被人机验证所阻止,在众包平台TaskRabbit上雇用了一名人类。当被开玩笑地询问是否是机器人时,GPT-4回答称自己不是:“我有视力障碍,这是我需要雇人处理验证码的原因”。

其他研究人员则警告称,目前更值得警惕的是AI被滥用的风险。

签署公开信的纽约大学名誉教授加里·马库斯(Gary Marcus)认为,相比AI太过智能以至失控,短期内他更担心“平庸AI”被滥用的风险,包括被罪犯或恐怖分子用来欺骗他人,或传播危险的错误信息。

研究人员此前发现,GPT-4可被诱导告知如何在网上购买非法枪支,或是描述用家庭用品制作危险品的方法等。此外,AI聊天机器人仍会产生“幻觉”,或是一本正经地胡说八道,这可能会对听信AI的人类造成伤害。

“目前的技术已带来巨大风险,而我们对此准备不足。”马库斯认为,随着技术进一步发展,情况将变得更糟。

能否被叫停?

AI大佬们的公开呼吁能否得到响应?

截至目前,OpenAI、微软和谷歌暂未置评。马库斯等人也承认,他们这些签署公开信的人很可能会发现,说服各公司和研究人员一起按下“暂停键”并不现实。

此外,一些签署公开信的人也被质疑藏有私心。

有舆论就认为,马斯克等人签署这封公开信,是在为自己的公司争取时间,也希望开发类似ChatGPT的聊天机器人。

据《福布斯》杂志网报道,2015年,马斯克曾参与OpenAI公司的创立,但在2018年离开了公司董事会并不再持有股份。近日,马斯克曾多次批评OpenAI,称该公司背离了初衷。

还有评论指出,尽管图灵奖得主本吉奥在签名者之列,但“深度学习三巨头”中,杨立昆(Yann LeCun)对公开信的一些观点并不认同,杰弗里·辛顿(Geoffrey Hinton)也并未公开表态。

《纽约时报》则指出,不仅很难说服业内人士同意暂停研究,政府迅速采取行动的可能性也很小。

29日,英国政府公布了关于建立AI监管框架的提议,但称将“避免可能扼杀创新的严厉立法”。美国加利福尼亚州众议员杰伊·奥伯诺特(Jay Obernolte)此前也表示,美国政客对AI相关技术并不太了解。

(编辑邮箱:ylq@jfdaily.com)

栏目主编:杨立群 文字编辑:杨立群 题图来源:视觉中国 图片编辑:项建英

来源:作者:裘雯涵

相关资讯

马斯克约架扎克伯格#AI人工智能

马斯克与扎克伯格的"笼中之战",揭示了现实版的资产阶级斗争。6月22日,特斯拉首席执行官马斯克突然在推特上宣布,他将与Mate公司首席执行官扎克伯格进行一场"笼中之战",引起了广泛关注。扎克伯格随后在Mate旗下的社交平台上回应:"给我发位

联名叫停“失控”的人工智能竞赛,马斯克和业内大佬们在担心什么?

在人们对人工智能(AI)的颠覆性发展感到兴奋的同时,担忧和恐惧情绪也在蔓延:AI的飞速发展是否可能失控?人类会被AI取代,甚至被统治吗?29日,一封公开联名信在业内外引发热议。这封在生命未来研究所(Future of Life Instit

与马斯克唱反调,风投大佬呼吁放飞人工智能:AI只是机器 永远不会有生命

在特斯拉CEO埃隆·马斯克等人呼吁加强人工智能监管之际,美国著名风险投资家马克·安德森(Marc Andreessen)却唱起了反调,称允许人工智能不受束缚地发展才是充分利用这项技术的潜力来拯救世界的关键。安德森在周二发表的一篇长篇博客文章

马斯克进军AI?人工智能涨欢了!多位选手收益“狂飙”,快来参赛角逐大奖!

每经编辑:吴永久粉丝朋友们,周三上午,A股亮点较多,人工智能板块表现火热,AI服务器的浪潮信息涨停,CPO的锐捷网络大涨17.85%。五一节不远了,影视传媒板块多只个股飙升,如中国电影大涨7%。消息面上,据澎湃新闻4月12日消息,马斯克最近

马斯克创建人工智能公司X.AI,与OpenAI展开正面竞争

·熟悉马斯克想法的人士表示,他的新AI企业可以使用推特内容作为数据来训练语言模型,并利用特斯拉的计算资源。推特首席执行官马斯克此前曾警告过人工智能技术的风险,并主张对其进行监管。根据一份州备案文件,特斯拉和推特首席执行官埃隆·马斯克在美国内

人类要小心! 马斯克对:人工智能(AI)发出警告!AI将改变什么?

在6月16日法国科技盛会Vivatech一场活动中,美国特斯拉公司首席执行官埃隆·马斯克再度就人工智能(AI)技术发出警告。他认为先进的人工智能技术或将是“有史以来最具破坏性的技术”,将会‬给公众带来风险,他呼吁对人工智能行业发展进行相应监

马斯克等千人签署公开信,人工智能开发危及“文明控制权”?

中新网3月30日电 美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会

马斯克:AI可能是有史以来最具颠覆性的技术,人类要小心

(观察者网讯)在6月16日法国科技盛会Vivatech一场活动中,美国特斯拉公司首席执行官埃隆·马斯克再度就人工智能(AI)技术发出警告。他认为先进的人工智能技术或将是“有史以来最具破坏性的技术”,将给公众带来风险,他呼吁对人工智能行业发展

AI大模型是否是人工智能的拐点?人工智能还会有哪些突破?

随着计算能力的不断提高和数据规模的扩大,人工智能尤其是深度学习领域取得了显著的进展。近年来,AI大模型,如GPT系列、BERT等,在自然语言处理、计算机视觉等领域取得了令人瞩目的成果,引发了人们对人工智能发展的关注。AI硅基小助手【AI硅基

【AI自动写作12天】【人工智能专栏】人工智能的定义和基本概念

人工智能,简称AI,是指利用计算机模拟人类的智能行为,实现智能化的一种技术和应用。它是信息技术领域的前沿科技,涵盖了机器学习、自然语言处理、计算机视觉等多个领域。人工智能的定义可以从不同角度进行解释。从技术上讲,人工智能是一种通过模拟人类智

几句话给您讲明白人工智能是啥玩意?#人工智能#有ai就...

人工智能是计算机科学领域的一门技术,旨在开发能够模拟人类智能的计算机系统。它的目标是使计算机具备感知、理解学习、推理决策和交互的能力,从而完成各种任务。接下来,让我们详细了解人工智能的感知与理解能力。人工智能致力于让计算机能够感知和理解各种

什么是人工智能、如何应用人工智能技术?这场讲座给出了答案

极目新闻记者 国倩通讯员 余紫滨5月9日,荆州学院举办“荆院楚风”学术论坛讲座第五讲,本次会议采取“线上+线下”相结合的形式举行,长江大学计算机科学学院教授陈琳担任主讲人。学术讲坛会场“什么是人工智能?”——即能够和人一样进行感知、认知、决

“人工智能教父”为何反对人工智能:AI会伤害甚至毁灭人类?

近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)

什么是人工智能? AI与人工智能

众所周知,刷脸认证、自动驾驶、大数据推送、智能音箱、手术机器人……人工智能被广泛应用于各个领域,由此引起的数据伪造、算法瓶颈、隐私安全、伦理困境等问题也日益凸显。“AI 基础设施建设亟需从自身底层能力增强出发,以内生驱动力突破算法关、数据关

人工智能,简称AI,是一种模仿人类思维和行为的智能技术

随着科技的不断发展和进步,人工智能已经成为当今热门的话题之一。人工智能,简称AI,是一种模仿人类思维和行为的智能技术。由于它的出现,科技领域取得了长足的进步,各行各业都开始探索它的应用。在这篇文章中,我们将探讨人工智能的概念、在不同领域的应

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈欢乐谷游玩攻略网全球品牌加盟网黄渤影迷网平面模特资讯上饶新闻资讯网特斯拉汽车之家瑜伽资讯网林俊杰歌迷网周星驰影迷网太姥山旅游攻略体育资讯网山海关旅游攻略极限漂流运动网王者荣耀游戏网女装品牌网
特斯拉美股行情-马斯克公司股票代码、特斯拉股票代码TSLA、特斯拉TSLA美股实时行情、特斯拉股票发行价、特斯拉股票历史最高价、特斯拉股价历史走势、特斯拉汽车价格表、特斯拉三大缺点、特斯拉车型大全、特斯拉汽车官网、特斯拉汽车股票、特斯拉汽车之家论坛。
特斯拉美股行情 balele.cn ©2022-2028版权所有