网页
资讯
视频
图片
知道
文库
贴吧
地图
采购
进入贴吧
全吧搜索
吧内搜索
搜贴
搜人
进吧
搜标签
日
一
二
三
四
五
六
签到排名:今日本吧第
个签到,
本吧因你更精彩,明天继续来努力!
本吧签到人数:0
一键签到
可签
7
级以上的吧
50
个
一键签到
本月漏签
0
次!
0
成为超级会员,赠送8张补签卡
如何使用?
点击日历上漏签日期,即可进行
补签
。
连续签到:
天 累计签到:
天
0
超级会员单次开通12个月以上,赠送连续签到卡3张
使用连续签到卡
09月02日
漏签
0
天
太空探索技术公司吧
关注:
7,556
贴子:
349,582
看贴
图片
吧主推荐
游戏
5
回复贴,共
1
页
<返回太空探索技...吧
>0< 加载中...
关于强人工智能猜想
只看楼主
收藏
回复
库洛罗极TX
百次复用
7
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
根据哥德尔不完备定理,如果未来出现强人工智能,那一定是自洽不完备的,即无法解释人工智能是怎么思考的
送TA礼物
IP属地:广东
1楼
2024-01-25 23:25
回复
vok_predacon
小吧主
14
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
这,,,
我觉得完全是两回事嘛,
除非你能证明这个问题。
哈哈。。。
IP属地:四川
2楼
2024-01-26 00:42
回复
收起回复
vok_predacon
小吧主
14
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
不过,这里有一个研究。
cnBeta.COM
最新研究指出人工智能的根本性弱点:不可能开发出始终稳定的算法
哥本哈根大学的研究人员在世界上首次用数学方法证明,除了简单的问题之外,不可能开发出始终稳定的人工智能算法。ChatGPT 和类似的基于机器学习的技术正在兴起。然而,即使是最先进的算法也面临着局限性。
哥本哈根大学的研究人员有了一个突破性的发现,他们用数学方法证明,除了基本问题之外,不可能开发出始终稳定的人工智能算法。这项研究可以为改进算法测试协议铺平道路,凸显机器处理与人类智能之间的内在差异。
描述该成果的科学文章已获准在国际领先的理论计算机科学会议上发表。
机器能比医生更准确地解读医学扫描图像,翻译外语,不久还能比人类更安全地驾驶汽车。然而,再好的算法也有弱点。哥本哈根大学计算机科学系的一个研究小组试图揭示这些弱点。
以自动驾驶汽车读取路标为例。如果有人在路标上贴了标签,这不会分散人类驾驶员的注意力。但机器可能会很容易分心,因为现在的路标与它接受过训练的路标不同。
"我们希望算法是稳定的,即输入稍有变化,输出几乎保持不变。"该小组负责人阿米尔-耶胡达约夫(Amir Yehudayoff)教授说:"现实生活中存在着各种各样的噪音,人类习惯于忽略这些噪音,而机器却会感到困惑。"
讨论弱点的语言
作为世界首例,该研究小组与其他国家的研究人员一起用数学方法证明,除了简单的问题外,不可能创建始终稳定的机器学习算法。描述这一成果的科学文章已被批准在计算机科学理论的主要国际会议之一《计算机科学基础》(FOCS)上发表。
"我想指出的是,我们并没有直接研究过自动驾驶汽车的应用。不过,这似乎是一个过于复杂的问题,算法不可能始终保持稳定性。"阿米尔-耶胡达约夫说,并补充说,这并不一定意味着会对自动驾驶汽车的发展造成重大影响:如果算法只在极少数情况下出错,这很可能是可以接受的。但如果它在大量情况下都出错,那就是坏消息了"。
业界无法利用这篇科学文章来识别其算法中的漏洞。教授解释说,这并不是他的本意:
"我们正在开发一种讨论机器学习算法弱点的语言。这可能会导致制定描述如何测试算法的指南。从长远来看,这可能会再次促进更好、更稳定算法的开发。"
从直觉到数学
一个可能的应用是测试保护数字隐私的算法。
"有些公司可能声称已经开发出绝对安全的隐私保护解决方案。首先,我们的方法可能有助于确定解决方案不可能绝对安全。其次,它还能找出弱点,"Amir Yehudayoff 说。
不过,科学文章首先要对理论有所贡献。他补充说,尤其是数学内容具有开创性:"我们凭直觉就能理解,一个稳定的算法在受到少量输入噪声影响时,应该能像以前一样正常工作。就像贴了贴纸的路标一样。但作为理论计算机科学家,我们需要一个确定的定义。我们必须能够用数学语言来描述这个问题。如果我们要承认算法是稳定的,那么算法究竟必须能够承受多少噪音,输出又应该有多接近原始输出?这就是我们提出的答案"。
牢记局限性很重要
这篇科学文章引起了理论计算机科学领域同行的极大兴趣,但科技行业却没有。至少目前还没有。
阿米尔-耶胡达约夫笑着补充说:"你总是应该预料到,在新的理论发展和应用人员的兴趣之间会有一些延迟:而有些理论发展将永远不被关注"。
不过,他认为这种情况不会发生:"机器学习的发展日新月异,但重要的是要记住,即使是在现实世界中非常成功的解决方案也有其局限性。机器有时看似能够思考,但毕竟不具备人类的智慧。这一点必须牢记。"
IP属地:四川
3楼
2024-01-26 00:45
回复
收起回复
vok_predacon
小吧主
14
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
我一直坚信,
对于强人工智能,
能够使用的,不符合要求,
符合要求的,无法使用。
这关系到是否有自由意志的问题。
所有哪些讨论“对齐”问题的人,
愚蠢而又邪恶。
尤其是那个山姆·奥特曼,真是让人大失所望。
IP属地:四川
4楼
2024-01-26 00:54
回复
收起回复
spacex
在轨加注
11
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
科技的尽头是玄学
IP属地:河北
来自
iPhone客户端
5楼
2024-01-26 07:03
回复
收起回复
引心公子3
吧主
14
该楼层疑似违规已被系统折叠
隐藏此楼
查看此楼
不懂帮顶
IP属地:四川
来自
Android客户端
6楼
2024-01-26 22:50
回复
收起回复
登录百度账号
扫二维码下载贴吧客户端
下载贴吧APP
看高清直播、视频!
贴吧热议榜
1
黑神话悟空惊现磕药流
1710090
2
WBG战胜JDG晋级S14
1580413
3
全开麦唱歌挑战赛 报名开启!
1235108
4
郑钦文进美网8强
874962
5
官方回应iPhone16不支持微信
791050
6
黑神话玩家为刷差评买游戏
642025
7
路虎打人女司机已被正式拘留
460992
8
第二部国产3A大作已在开发
391874
9
玛露西尔解包数据公开
317020
10
伊朗总统坠机事故原因公布
293391
贴吧页面意见反馈
违规贴吧举报反馈通道
贴吧违规信息处理公示