比思論壇

標題: 霍金预言人工智能堪比第三次世界大战 [打印本頁]

作者: p30900 時間: 2024-6-26 11:08
標題: 霍金预言人工智能堪比第三次世界大战
ChatGPT绝对是近期媒体报道热点中的热点。生命未来研究所（Future of Life Institute）日前在他们的网站上贴出了一封“公开信”，一石激起千层浪。
“公开信”呼吁“所有人工智能实验室至少暂停6个月比ChatGPT-4更强大的人工智能系统的训练”，说法这么具体，体现了人类对于ChatGPT发展速度带来的挑战的深深担忧。人类对于自己开发的ChatGPT，不能接受伤到自己的巨大可能。人类需要停顿一下，给自己一点时间进行思考，找到有效对策。
ChatGPT底层的学习方式是“单字接龙”原理，即只允许用上文预测下一个字。ChatGPT把机器学习中的极端训练模式都用到了。直到ChatGPT3.5，先后经历了这三阶段，即无监督学习的“开卷有益”、有监督学习“模板规范”、强化学习的“创意引导”。通过这三个阶段的训练后得到“大语言模型”(Large Language Model，LLM)，能够对海量互联网信息，文本、语音、图片进行学习，扩充模型的词汇量，语言表达，世界的信息与知识，最终形成“单字接龙”。
ChatGPT的核心模型结构，在2017年有了“开卷有益”；到2020年，又从“模板规范”到“创意引导”，技术模型的发展离不开从古至今，科研乃至各行业人员的成果信息之不断积累于互联网，将信息进行归纳总结和学习，得出回答。
ChatGPT能够将语言符号和指代对象关联起来，并与现实对应起来，这方面具有重大的里程碑意义。它让人类都看到了LLM的可行性、革命性。所以真正对人类社会带来冲击的，不是ChatGPT本身，而是它身后的改变社会发展方向的推动力。
自然语言处理(Natural Language Processing，NLP)技术也被誉为人工智能“皇冠上的明珠”。NLP是LLM的一种，它优势突出，可以不间断处理海量语言内容，处理速度快、效率高。ChatGPT的NLP是LLM中的佼佼者。LLM将变得更好用、更快速、更便宜。可以预测，相关产品也会如雨后春笋般普及。
大语言模型对社会的影响范围将和当初电脑的影响范围一样，即全社会。美国前国务卿基辛格认为这项技术的进步将带来新的认知革命，将重新定义人类知识，将加速我们现实结构的改变，并将重组政治和社会。
人类能通过群体协作创造知识、继承知识、运用知识。这三个环节，全都是依靠语言来实现。LLM的发明，允许人类将“海量”个体所获得的认识及载体统筹起来，在极短时间“掌握”过去与未来，能带来很多行业生产效率的大幅提升。
然而，ChatGPT也可能会威胁到全人类。ChatGPT操纵控制用户的能力会逐渐加强。欧洲警察组织警告说，像ChatGPT这样的LLM是危险的，因为它们使犯罪分子更容易采取行动。外媒还表示，ChatGPT可以用来了解大量了不解的潜在犯罪领域，从如何闯入住宅，到恐怖主义、网络犯罪和儿童性虐待方面均存在极大风险。欧洲刑警组织指出，ChatGPT可能被滥用来产生虚假的社交媒体，成为犯罪分子和大规模犯罪工具。美国哲学教授（Aumann）发现，学生提交的论文是由ChatGPT写的，因为论文的语法等各方面“过于”完美，而且论文是群体性的。
ChatGPT的“大语言模型”通过互联网掌握一个人几辈子都没法读完资料，会随意联想，有能力回答各种问题，但我们却很难指挥它，这是人类担心的关键所在。
霍金警告过，“人工智能（Artifical Intelligence，AI）将堪比第三次世界大战”。AI能控制接入全球互联网，能把世界上每一寸士地都通过卫星摄像头监控到，然后当他的算力足够强大的时候可以精确计算到每个人。GPT-5完成后，即将读取全人类的知识报道，训练视频数高达20亿GB，ChatGPT进化速度过快了。对一个算力发达，甚至可以想像到无限的当代，有网友假设了地球已经变成“乒乓球”，被“攥在”在恐怖分子的“手心”里。“恐怖分子利用AI，通过ChatGPT下达了一个消灭全人类的指令”。人类需要6个月的短暂时间思考，并找到切实有效的措施，防止ChatGPT被坏人利用。

歡迎光臨比思論壇 (http://108.170.5.74:8080/)