|簡體中文

比思論壇

 找回密碼
 按這成為會員
搜索



查看: 358|回復: 0
打印 上一主題 下一主題

人工智能威胁论

[複製鏈接]

3396

主題

1

好友

1萬

積分

教授

Rank: 8Rank: 8

  • TA的每日心情
    奮斗
    2024-5-26 10:37
  • 簽到天數: 451 天

    [LV.9]以壇為家II

    推廣值
    0
    貢獻值
    25
    金錢
    12
    威望
    16771
    主題
    3396
    樓主
    發表於 2021-10-1 14:24:22
    人工智能威胁论是否是无稽之谈

      科学家预言,未来很有可能在人脑中加入人工智能成分,以此来增强它的性能,如更高的记忆、更快的计算速度等等,甚至有可能通过基因工程技术来改变人类的DNA,并且以此来改变人类的外表和行为。人类可能会拥有可以生长、繁殖、分化、可移动、自我装配、自我测试、自我修复等的人工细胞,生物学和技术将融合在一起。

      美国作家雷蒙德·科兹威尔曾提出观点:2045年,人类将会通过与计算机结合而获得“永生”,计算机智能将取代人脑,永久改变人类的命运。届时,人类和计算机智能将无法区分,人类也将不再是人类,而是“与机器融合成为另一种物种”--听起来这有点像科幻小说中的情节,但是,越来越多的人开始认真假想这种可能性。

      人工智能研究者也已经模拟过了所谓“AI盒子实验”:一个人扮演AI,另一个人扮演守卫,仅仅是同级别的智力,AI就已经有很大的几率能说服人类开门了。

      现代人类对于科技的依赖已经越来越严重,未来人工智能是否会像鸦片一样给人短暂快感的同时还带来更长期的毒害?显然,各方数据和预测表明,这种可能性是存在的。如果真有这样的可能,我们又该如何避免其发生呢?诚如霍金说的,只有务必确保机器人是站在人类这边,即能受控于人类,我们才能相信未来他们不会威胁人类的生活和生存。

      人工智能是否真的会威胁人类

      科学家警告人类警惕人工智能

      “听好,我们的时间所剩无几!我们需要告诉Siri,不要思考太多问题,只需要听话就好。当然,偶尔来上一点段子也无伤大雅,重要的是,我们必须确保Siri的立场与我们的一致。”这段话是霍金在Zeitgeist大会上有感而发的。显然,我们现在就需要确保这一点,之后便可以坐等计算机的智能超过我们自身的。然而,我们很难预测,具备智能的计算机会走向何方?

      或许有人会质疑,机器人是人类所生产出来的,里面的编程也都是由人类写出来的,其说白了就是一个“死物”,那么“死物”怎么可能比活着的人更加聪明?

      此前,霍金就曾发出警告称人工智能可能会终结人类。霍金说:“现在不是担心谁控制人工智能的时候,而应该担心人工智能是否能被完全控制住。我们的未来取决于技术不断增强的力量和我们使用技术的智慧之间的赛跑。”

      其实早在今年年初,霍金也曾与特斯拉CEO伊隆·马斯克(Elon Musk)共同发表公开信,他们认为人工智能的发展应该受到控制。两人在信中警告科学家们,应警惕人工智能将抹杀人类。

      去年11月份,马斯克也提出警告,最少只需5年智能机器可能就会带来极端危险。他认为,人工智能就像“召唤恶魔”。马斯克在麻省理工学院发表演讲时,将人工智能描述为人类“最大的生存威胁”。他说:“我认为我们对人工智能应该保持高度警惕。如果让我猜测人类生存的最大威胁,那可能就是人工智能。”  人工智能概念频出现

      机器人时代已经拉开了序幕,截止到2007年末,全球已经有410万家用服务机器人走进了人们的生活。我国还把家庭智能机器人作为国家“十一五”规划的扶植要点。

      目前机器人仍在人类可控范围内,不过,在不远的将来,通过意念控制另一个人并非不可能。2013年8月28日,华盛顿大学首次实现了两个人脑之间的远程控制,一名实验者通过特殊仪器“控制”了另一个实验者的行动。

      人工智能是否真的会威胁人类?

      近日百度表示,已在备受瞩目的人工智能基准测试中取得了全球最佳成绩。而其成功的秘密武器,就是超级计算机Minwa。

      近日也有报道称未来人工智能或许会帮助人类研发半机器人,即一种一半是人一半是机器的生物。2月《时代》周刊杂志中,封面故事也为我们描绘了人类的未来--2045年,人类将会通过与计算机结合而获得“永生”,计算机智能将取代人脑,永久改变人类的命运。

      人工智能不仅仅是机器人,“刷脸”支付、指纹识别、智能语音等生物识别技术也属于人工智能的范畴,目前,这种技术正随着云存储技术逐渐渗透我们的日常生活。

      国外媒体报道,经过几十年发展,人工智能已经从科幻小说里的一个概念,变成了当今科技发展的主流。苹果的语音控制系统Siri、亚马逊的智能助手Alexa、IBM的沃森超级电脑、谷歌大脑等等,能够理解这个世界并且给出高效反馈的智能机器似乎就在眼前。

      强大的互联网接入和计算机运算法则让机器在理解人类语音、视频信息的方面取得了飞跃性的进步,也逐渐向真正的人工智能迈进。AI(Artificial Intelligence),可实现自动响应的人工智能产品距离我们还远吗?如何让他们保持不断自我更新升级但是依然保持人类可控范围内?

      这个问题给人们带来普遍的担心和焦虑。“我认为人工智能的发展最终会导致人类族群的灭绝,”物理学家斯蒂芬·霍金接受BBC的采访给出了这样的观点。特斯拉的创始人埃隆·马斯克把AI称为“人类最大的潜在威胁”。微软前总裁比尔·盖茨也表示过类似的担忧。

      有多少担忧是必要的?问题有多紧迫?我们聚集了多位工业、科研、政策决策领域的专家,一起评估人工智能的发展风险。参加此次话题讨论的包括Skype创始人之一、人类未来发展潜在风险研究院的智库成员——Jaan Tallinn,IBM的沃森超级电脑研究院负责电脑认知研究的专家——Guruduth S. Banavar,帕多瓦大学计算机系教授、哈佛大学拉德克利夫高级研究所研究院和聚集最多AI研究者的国际人工智能研究协会主席——Francesca Ross。
    重要聲明:本論壇是以即時上載留言的方式運作,比思論壇對所有留言的真實性、完整性及立場等,不負任何法律責任。而一切留言之言論只代表留言者個人意見,並非本網站之立場,讀者及用戶不應信賴內容,並應自行判斷內容之真實性。於有關情形下,讀者及用戶應尋求專業意見(如涉及醫療、法律或投資等問題)。 由於本論壇受到「即時上載留言」運作方式所規限,故不能完全監察所有留言,若讀者及用戶發現有留言出現問題,請聯絡我們比思論壇有權刪除任何留言及拒絕任何人士上載留言 (刪除前或不會作事先警告及通知 ),同時亦有不刪除留言的權利,如有任何爭議,管理員擁有最終的詮釋權。用戶切勿撰寫粗言穢語、誹謗、渲染色情暴力或人身攻擊的言論,敬請自律。本網站保留一切法律權利。

    手機版| 廣告聯繫

    GMT+8, 2024-11-1 06:49 , Processed in 0.012933 second(s), 16 queries , Gzip On, Memcache On.

    Powered by Discuz! X2.5

    © 2001-2012 Comsenz Inc.

    回頂部