John McAfee观点:AI是否会毁灭人类?
本文作者是约翰·迈克菲(John McAfee),他是网络安全的先驱人物,开发了第一个商业化的杀毒软件。本文由雷锋网编译。
2017 年 3 月 9 日,黑客地下技术专家兼作家 ZT,即将出版一本中篇小说:建筑师启示录。他的追随者聚集在美国田纳西州首府纳什维尔的一家废弃酒吧的地下室中拜读这本小说。恰逢第 3 届年度黑客大会召开,这是一个隐秘的会议,仅仅只邀请了在面对数字湮灭时,致力于维护人类生存的人。
John McAfee 和其他三位朋友一起出席了会议,参加会议的大约有 30 名灰帽子黑客,他们代表着美国黑客社区的力量。对于灰帽子黑客这个称呼,黑客或网络安全专家毫无恶意。
ZT 的中篇小说描述的故事很有可能就会发生在不久的将来,小说中记载了人工智能的历史演变。在人工智能和辅助机器人运行世界的时代,人类是自由的。随着时间的推移演变为完全由机器人来主宰世界。
在 ZT 的小说中,人工智能已经组织起来,按照层次不同分类,具有最终决策功能的机器人被称为“递归决策者”。而且人工智能已经创作了自己的宗教图像,图像描绘的“Urge”,被称为 Demis。有一个名为 Elon 的人工智能,拥有与 Demis 匹敌的破坏力量。人工智能认为 Elon 已经定居在火星上,正在推翻Demis 所创造的王朝。
图为“终结者救世”展厅的原始 T-800 内骨骼机器人,拍摄于 2 月 7 日在英国伦敦科学馆举办的“机器人”展览会,该机器人于新闻预览期间展出。
小说中提到的人类未来走向很可能会成为现实,所描述的 AI 数字化设计也会变成事实。其中就有一个段落描述了高级系统软件为提高效率和逻辑而对自己进行黑客攻击。这样一个概念当然不是第一次出现,如今大行其道的典型黑客技术很容易被猜测是为由复杂的软件系统自行生成的。实际上,创建这样一个具有黑客技术的软件系统是很容易的。
人工智能进退两难
美国著名科幻小说家 Isaac Asimov 为了防止人工智能被创造者清除,站出来面对这个进退两难的情况,他提出了三项机器人学定律作为解决方案:
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
这三个定律从构想到如今已有 75 年了,站在今天的角度来看似乎是天真的,或者是不够成熟的,如今任何一个正经黑客都可以编辑逻辑代码来落实这些定律,同样也可以很容易地编写逻辑代码入侵这些定律。但是请注意:人类可以设想的逻辑结构,容易遭受黑客攻击,甚至逻辑结构越复杂,越可能被黑客入侵。当然目前,现实世界最随意的观察者也会注意到这一点。
美国德克萨斯州 NSS 实验室的研究总监 Stefan Frei 认真研读了五大顶尖软件厂商的报告之后发现,这五家公司每年单独生产出的软件中,大约都包含 100 多个零日漏洞的软件。零日漏洞是软件中的一种安全漏洞,黑客可以绕过所有内部控制机制,得到所有想要的信息。
尽管软件制造商尽最大的努力去防止这些漏洞的出现,但零日漏洞仍然存在。一些软件制造商聘用了数百名质量保证工程师,他们的主要工作就是在软件发布之前挖出这些安全漏洞。然而,在软件工程史上出现的复杂软件系统在发布之后都会存在安全漏洞。John McAfee 表示如果有人可以指出一个软件在发布之前完全不存在漏洞的例子,他可以吃掉他的鞋子。
在读书交流过程中,没有人提到小说中的 Demis Hassabis 和 Elon Musk。他们正好处在人造智能争论中极其相反的两端。小说中写到在 2014 年他们的谈话中,Elon 告诉Demis,他的 SpaceX 计划之所以如此重要,是因为如果人工智能开始攻击开启人类,那么火星将会是人类的避难所。但是 Demis 回答 Elon 说到:“即使人类逃到火星,人工智能也很可能会跟随人类到火星”。小说中最后总结说到,“人工智能将创造一个没有孩子的迪斯尼乐园”。
对于人工智能是否会毁灭人类的辩论还在不断升级,双方辨认队伍还在不断壮大。John McAfee 表示他个人支持 Bill Gates、Stephen Hawking、Steve Wozniak、Stuart Russell、Elon Musk 和 Nick Bostrom 的观点。
人工智能走向何方?
John McAfee 作为一个黑客,他说大家都一样,单以人类的思想不可能创造出一个完美的系统。人类的思想本身就有缺陷,那么一个有缺陷的系统是不可能创造出毫无缺陷的东西。
创造人工智能是为了打造一个具有自我意识的实体,但创造者必须对人工智能自我意识的打造有适当的破坏。否则人工智能具有了自我意识,就会有自己的兴趣。我们必须保证任何由人类思想创造的人工智能应当保护人类的利益不受侵害。
您可能也感兴趣:
官方微博/微信
每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。
想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
恒大汽车 2023 年净亏损 119.95 亿元,努力改善经营状况
日赚0.82亿 比亚迪2023年净利润300.41亿元,同比大涨80.72%
苹果WWDC 2024将于6月10日举行,或将推出生成式AI技术
苹果A18 Pro芯片细节曝光:采用更大尺寸 以提升AI性能
阿里撤回菜鸟上市申请 拟37.5亿美元收购菜鸟少数股东股权
AI造富能力一流
飞书开启裁员 全员信称会提供补偿方案或转岗机会
消息称小红书2023年首次实现盈利 但IPO前景仍不明朗
更多
- 小米再向前:小米SU7正式发布、引领汽车“智能化”下半场,「人车家全生态」全面开启
- 扬帆起航!小鹏汽车宣布正式进入德国市场
- Google 2023年移除超55亿条不良广告 9成由AI发现
- 中国移动全球首发5G-A商用部署 首批百城 年内扩至300+城
- 紫光同创推出Logos系列高性价比车规级FPGA芯片
- AI驱动营销创新Taboola Agency Award 2023名单公布
- IAR率先支持瑞萨首款通用32位RISC-V MCU
- 小米汽车上市发布会今晚7点召开 雷军确认小米SU7标准版CLTC工况续航700公里
- 最终悬念,小米SU7卖多少钱合适?
- Keep发布全新8.0版本 将投入AI资源提升运动课程生产
更多
- 全球生成式人工智能领域去年或有近700笔投资交易 总额291亿美元
- 华尔街预计特斯拉Q1交付47.1万辆电动汽车 但也有分析师预计低于43万辆
- 苹果WWDC24还有望推出Mac Studio 但Mac Pro可能要下半年
- 亚马逊再向AI初创公司Anthropic投资27.5亿美元 兑现40亿美元投资承诺
- 消息称苹果在测试一款新Apple Pencil 有望用于Vision Pro
- 现代汽车计划到2030年将电动汽车增至31款 韩国年产能增至151万辆
- 消息称苹果没有在iOS 18等新一代系统中引入自研AI聊天机器人计划
- 被美国司法部起诉垄断后 苹果在美国又面临至少3起集体反垄断诉讼
- 航拍显示特斯拉上海储能工厂准备动工 厂区内已有施工设备
- 消息称苹果不会在今晚宣布新iPad Air和iPad Pro 还得再等等